ISO/IEC 23894

ISO/IEC 23894 הוא תקן של ארגון התקינה הבינלאומי והנציבות הבינלאומית לאלקטרוטכניקה (IEC) בתחום של ניהול סיכונים. התקן עוסק בסיכונים לארגונים הממפתחים מערכות בינה מלאכותית או משתמשים בהן. המהדורה הראשונה של התקן פורסמה בשנת 2023

סקירה כללית

התקן מספק הנחיות על האופן בו ארגונים מפתחים, מייצרים, מיישמים ומשתמשים במוצרים, מערכות ושירותים המשתמשים בבינה מלאכותית, צריכים לנהל סיכונים המתייחסים באופן ספציפי לבינה מלאכותית.
בנוסף מספק התק הנחיותן לביצוע אינטגרציה של ניהול סיכונים עם הפעילויות והפונקציונליות שלהם בתחום הבינה המלאכותית. הוא מתאר תהליכים לצורך יישום ואינטגרציה של ניהול סיכוני בינה מלאכותית.
התקן מספק מסגרת (Framework) לניהול סיכונים הקשורים במערכות בינה מלאכותית בכל מחזור החיים שלהן. הגישה בתקן שונה מהגישה המסורתית בניהול סיכונים בכך שהיא מכירה בסיכונים הייחדיים של מערכות בינה מלאכותית, הנובעים מהיכולות של מערכות AI ללמוד, להסתגל ולקבל החלטות אוטונומיות.

סיכונים ייחודיים של מערכות בינה מלאכותית

מערכות בינה מלאכותית משולבות במידה הולכת וגדלה בפונקציות ותהליכים עסקיים קריטיים. שילוב זה עלול לצור סיכונים ייחודיים שהעיקרים ביניהם מופיעים להלן:

• הטיות באלגוריתמים לקבלת החלטות
• פגיעה בפרטיות
• דילמות של אתיקה
• בעיות באבטחת מידע במערכות בינה מלאכותית
• השלכות לא מכוונות של פעילות אוטונומית של מערכות בינה מלאכותית.

עקרונות

1. גישה הוליסטית
סיכוני מערכות בינה מלאכותית הם בהקשר הכולל של סיכונים לארגון.
2. סיכונים בבכל מעגל החיים של מערכות בינה מלאכותית
מהפיתוח ועד השימוש
3. שיפור מתמיד
4. מעורובת של בעלי תפקידים בארגון (Stakeholders)
5. שקיפות ויכולת להסביר העקרונות הם הבסיס לאינטגרציה של התקן עם מערכות ניהול סיכונים אחרות הקיימות בארגון.

מסגרת (Framework)

המרכיבים העיקריים במסגרת לניהול סיכוני AI הם:

• זיהוי סיכונים
• הערכת סיכונים
• טיפול בסיכונים
• תהליך דינאמי מתמשך של מעקב ובחינה..

ראו גם

• ניהול סיכונים
• הערכת סיכונים
• ISO 31000
• ISO/IEC 31010
• ISO/IEC 27005

קישורים חיצוניים

• ISO/IEC Information technology — Artificial intelligence — Guidance on risk management 23894:2023,ISO
• ISO/IEC 23894 Explained: Unlocking the Essentials of AI Risk Management for Your Organisation,Stendard

הערות שוליים

הערך באדיבות ויקיפדיה העברית, קרדיט,
רשימת התורמים
רישיון cc-by-sa 3.0

ISO/IEC 2389440993377