עידן ה-AI בסקטור הפיננסי: מהתאוריה – למסגרת רגולטורית

הדו"ח הסופי שפרסם לאחרונה הצוות הבין-משרדי לבחינת השימוש בבינה מלאכותית (AI) בסקטור הפיננסי ("הדו"ח") מסמן נקודת מפנה רגולטורית: מעולם של חוסר ודאות – למסגרת כללים ברורה בסקטור הפיננסי. הדו"ח מאמץ גישה מודרנית, גמישה ומבוססת-סיכון, המותאמת לאסדרה המקובלת בעולם, ומעודדת שימוש ב-AI, לצד קביעת עקרונות ברורים להתמודדות עם הסיכונים הרלוונטיים לפעילות.

להערכתנו, ובשים לב לאופי הדו"ח, בטווח הנראה לעין צפויים המאסדרים לפרסם הוראות מחייבות בנושא שיתבססו על המלצותיו, ולכן מומלץ לגופים פיננסיים להיערך לכך מבעוד מועד.

לא כל AI נולד שווה

הדו"ח מאמץ מודל דיפרנציאלי: האמצעים שיינקטו ביחס למערכות בינה מלאכותית יהיו מותאמים לסוג הפעילות, ולרמת הסיכון הטמונה בשימוש הספציפי ב-AI.

"הקופסה השחורה" נפתחת

גופים פיננסיים יידרשו להבין את מערכות ה-AI שבשימושם, לחשוף ללקוחות את עצם השימוש בהן, ולהסביר את אופן הפעולה של המערכת, או את ההחלטות עצמן, בהתאם לחשיבותן ולרמת האוטונומיה של המערכת.

האחריות נשארת אצלכם – גם בעידן של ספקי טכנולוגיה

הדו"ח מחדד: גם כאשר ה-AI מסופק או מופעל ע"י צד ג' – האחריות הרגולטורית והצרכנית נשארת אצל בעל הרישיון. ניתן להסדיר חלוקת אחריות חוזית, אך לא ניתן לגרוע מאחריות כלפי הלקוח והרגולטור.

ממשל AI

הדו"ח מפרט את הציפיות בנושא ממשל AI הכוללת בין היתר: מדיניות ונהלים לאורך מחזור חיי המערכת, הקצאת אחריות ארגונית, תיעוד החלטות, מנגנוני ניטור ותיקוף, היערכות למצבי קיצון ופיקוח ייעודי על ספקי צד ג'.

 Human in the Loop – מתי אסור להשאיר את זה למכונה

יש החלטות שהן פשוט חשובות מדי בשביל להשאיר רק לאלגוריתם. בהחלטות מהותיות עם סיכון גבוה ללקוח, מוצע לדרוש מעורבות אנושית בזמן אמת. המכונה עוזרת, אבל האדם מחליט.

איכות הנתונים ומניעת אפליה אלגוריתמית

הדו"ח מדגיש את חשיבות איכות הנתונים המוזנים למודל החל משלב האימון ועד ליישום, ומזהיר מפני "אפליה אלגוריתמית". המשמעות: הגופים הפיננסיים נדרשים לנטרל משתנים מפלים המוזנים למערכת וליישם בקרה שוטפת על מאגרי המידע.

מה עושים עכשיו?

עבור גופים פיננסיים, זה הזמן:

• למפות שימושים קיימים ומתוכננים ב-AI.
• לבחון הוראות רגולטוריות שקיימות כבר היום ביחס לשימושי AI מסוימים (כגון הוראת שירותים מקוונים מכוח חוק הייעוץ, וחוק הגנת הפרטיות ותקנותיו).
• לסווג את השימושים השונים בהתאם למידת הסיכון שהם מציבים.
• לבחון היבטים כגון: הסברתיות, מעורבות אנושית, איכות נתוני המערכות עיבוד מידע של לקוחות וחובות גילוי.
• לעדכן מסמכי שיווק, גילוי, מדיניות פרטיות והסכמי לקוחות.
• להטמיע מסגרת ממשל AI ארגונית, שתעמוד בסטנדרט הרגולטורי המתהווה.

השורה התחתונה למשרדנו ניסיון ומומחיות בליווי גופים פיננסיים בהיבטי רגולציה (לרבות רגולציה של טכנולוגיה), ציות והטמעת טכנולוגיות מתקדמות, ונשמח לסייע בניתוח הדו"ח, בהיערכות רגולטורית וביישום מעשי של דרישותיו.

* מסמך זה נעשה בסיוע של AI

בברכה.