בית השקעות בינוני המנהל נכסים בהיקף של כ-40 מיליארד דולר ופועל בארצות הברית, בבריטניה ובאיחוד האירופי. צוות הציות, כ-25 קצינים, בדק תקשורת מול לקוחות - הודעות דואר אלקטרוני, תמלילי צ'אט וחומרי שיווק מוכנים - מול מסגרת רגולטורית המשתרעת על SEC, FCA, ESMA והמדיניות הפנימית. המסגרת התרחבה מהר מכפי שהצוות הספיק, הפיגור בבדיקות גדל מימים לשבועות, וזמנם של הבכירים נבלע בשחרור בדיקות מדרג ראשון שאפשר היה לסגור ביישום עקבי של כללים קיימים.
ראש מערך הציות הזמין בדיקה: האם עוזר AI יכול להאיץ את הבדיקה הראשונית תוך שמירה על שרשרת ביקורת מלאה, ייחוס מקור לכל הכרעה והיררכיית ההסלמה הקיימת? האילוץ שלא היה נתון למשא ומתן: שום הכרעה שהפיק ה-AI אינה עומדת בלי חתימה של קצין ציות אנושי ששמו נקוב. ה-AI הוא מאיץ, לא מקבל החלטות.
הכרעה שגויה של ה-AI שקצין ציות חתם עליה בלי בדיקה הייתה התוצאה הגרועה ביותר האפשרית. המערכת הייתה צריכה להציג את ההנמקה שלה בבהירות מספקת כדי שהקצין יבחין מתי ה-AI טועה, ולא רק להיות משכנעת מספיק כשהיא צודקת.
כל הכרעה של ה-AI הייתה צריכה להיות ניתנת לשחזור גם חודשים אחר כך: איזו רגולציה צוטטה, איזו גרסה של איזו מדיניות, איזו הכרעה פנימית קודמת, מה היה חלון ההקשר של המודל ומה הייתה התשובה. שמירת יומנים רגילה לא הספיקה לכך.
קציני ציות, מעצם הכשרתם המקצועית, מקבלים שכר כדי לא להאמין לטענה שאין מאחוריה ראיה. מערכת שמפיקה תשובות בלי מקור או עם ראיה חלשה הייתה נזנחת בתוך שבוע מההשקה.
משך ההתקשרות הכולל: 18 שבועות לשלבים 1 עד 3, בתוספת ליווי שלב 4 עד העלייה לאוויר.
ההיקף צומצם לבדיקה ראשונית של תקשורת מול לקוחות מול תת-קבוצה מוגדרת של כללים רגולטוריים: בדיקת טענות שיווקיות, בדיקת נמענים מוגבלים וסימון שפה מבטיחה או בעייתית בטון. מחוץ להיקף: כל מעורבות של AI בפיקוח על מסחר או באיסור הלבנת הון, ששניהם סווגו כסיכון גבוה לפי EU AI Act והיו מחייבים משטר ממשל אחר. מדד הבסיס: ממוצע בדיקות לקצין ליום, שנמדד ברבעון הקודם ועמד על 18 בדיקות ליום.
אחזור מועשר המעוגן בספריית המדיניות של הבית, בטקסט הרגולטורי הרלוונטי (כללי השיווק של SEC, תקני ההתנהגות של FCA, הנחיות ESMA) ובשלוש שנים של הכרעות פנימיות קודמות. מודל השפה פועל במתחם פרטי אצל הספק (Azure OpenAI) בפריסה המנוהלת בידי הבית, כדי לעמוד בדרישות מיקום הנתונים בכל אזור. מבנה התשובה חייב פלט מובנה: הכרעה (תקין, לסימון, להסלמה), רמת ביטחון, ציטוטי מקור עם הפניה לפסקה מדויקת, ותקציר הנמקה בשפה שקצין ציות משתמש בה.
בסיס 12 הבקרות הותאם לצורכי ביקורת רגולטורית. הבקרה הייחודית כאן: יומן בלתי ניתן לשינוי לכל שאילתה, הלוכד את חלון ההקשר המלא, את גרסת המודל, את התשובה, את החלטת הקצין לקבל או לדחות ואת חותמות הזמן. היומנים נשמרו במאגר ביקורת נפרד עם שמירה של 7 שנים, בהתאם למדיניות השמירה של הבית. סיווג הסיכון לפי EU AI Act: סיכון מוגבל, כלומר חובות שקיפות ולא המשטר המלא של סיכון גבוה. האחריות הוטלה בשם מפורש על ראש מערך הציות, עם מנהל הסיכונים הראשי כגורם הסלמה.
הפיתוח פוצל: את רכיבי ה-AI (אחזור, תזמור המודל ואכיפת מבנה התשובה) בנה שותף מימוש מתמחה, ואת השילוב בכלי העבודה הקיים של מערך הציות בנה צוות ה-RegTech הפנימי. נאכפו שלוש בדיקות ממשל: הראשונה בשבוע 4 (אימות נתונים ובקרות גישה), השנייה בשבוע 8 (שלמות יומן הביקורת ואי-שינויו), והשלישית בשבוע 11 (כיול ספי הביטחון מול מערך זהב של הכרעות היסטוריות).
גידול פי 3.1 לקצין ליום, מ-18 בקו הבסיס לחציון של 56 בדיקות ביום בתהליך הנתמך ב-AI. הפיגור נסגר בתוך 7 שבועות מהשקת הפיילוט.
ללא שינוי מול קו הבסיס. וזה העיקר: ה-AI לא הגדיל את ההסלמות, מה שמוכיח שהוא יישם את הכללים באופן עקבי עם הדרך שבה הדרג הבכיר יישם אותם - אות האיכות החשוב ביותר בתחום הזה.
100% מההכרעות נשלחו עם ציטוט מדויק אחד לפחות. בממוצע 2.3 ציטוטים להכרעה. בדיקה מדגמית של הביקורת העמידה את הדיוק על 98%.
11% במצב יציב. בתוך טווח היעד של 8 עד 15%: גבוה מספיק כדי להוכיח שהקצינים מפעילים שיקול דעת, ונמוך מספיק כדי להראות ערך מעבר לבדיקה ידנית בלבד.
שליפת מדגם נבדקה ב-60 שניות. שאילתות מדגם של הרגולטור החזירו רשומה מלאה הניתנת לשחזור לכל שאילתה, כולל גרסת המודל ותצלום חלון ההקשר.
23 מתוך 25 קצינים פעילים מדי יום בתוך 8 שבועות מההשקה. שני מי שלא אימצו היו בתהליך מעבר מתפקידם מסיבות שאינן קשורות, ואף קצין ציות שנשאר בתפקיד לא סירב להשתמש בכלי.
כיול ספי הביטחון בשלב 3 נשען על מערך זהב של 200 הכרעות שהורכב מהחלטות היסטוריות. כעבור חודשיים הבין הצוות שמערך הזהב מייצג בחסר מקרי קצה שמופיעים לעיתים רחוקות אך משמעותיים כשהם מופיעים, בעיקר תרחישי שיווק החוצים תחומי שיפוט. הרחבת מערך הזהב הייתה צריכה להיות תוצר של שלב 1: גדול יותר מראש, לא מורחב בדיעבד.
כשקצינים דחו את הכרעת ה-AI, הממשק הראשוני תיעד את עצם הדחייה אך לא את סיבתה. הוספת תיעוד מובנה של סיבת הדחייה בחודש השלישי הייתה מאפשרת שיפור מוקדם יותר של המודל ושל ההנחיות. בהתקשרויות הבאות, תיעוד סיבת הדחייה הוא חלק מחוויית ההשקה ולא תוספת.
הבית תדרך את ה-FCA מרצונו על ארכיטקטורת המערכת עוד לפני ההטמעה. התדרוך הזה התברר כמהותי כשחצי שנה מאוחר יותר שוק ה-RegTech הרחב משך תשומת לב רגולטורית, והפנייה המוקדמת נחשבה ראיה ליישום בתום לב. בהתקשרויות בתעשיות מפוקחות אנחנו ממליצים מאז על פנייה יזומה לרגולטור כתוצר של שלב 3.
יצרן תעשייתי אירופי, חילוץ מסמכי בקרת איכות של ספקים, 78% מעובדים אוטומטית מקצה לקצה.
קראו את מקרה הבוחן
מודל הבשלות ובסיס 12 הבקרות שיושמו במקרה הבוחן הזה.
לעמוד ממשל ה-AI
סקירת ארכיטקטורה מזהה את רמת הפיקוח הרגולטורי, את החלטת הארכיטקטורה המסוכנת ביותר, ואם היוזמה שווה המשך מעבר לשלב הגילוי.