כיוונון עדין
התאמת weights של LLM ל-domain spec. עקביות בסקאלה; מוסיפים אחרי RAG.
הזיה
פלט שוטף אך שגוי. מתבסס דרך RAG, ציטטה, confidence rejection.
הזרקת פרומפט
מתקפה דרך תוכן retrieved. הגנה: יחס ל-content כ-data, sandbox לכלים.
שושלת נתונים
תיעוד מקור, transformations וגישה לכל data. נדרש ב-production.
סטיית מודל
שינוי שקט בהתנהגות מודל. Vendor drift או data drift. מזוהה ע\"י monitoring.
Risk Management Framework של NIST 2023. 4 פונקציות: Govern, Map, Measure, Manage.
תקן ISO/IEC 42001
תקן בינלאומי AI management system, certifiable, מותאם ל-ISO 27001.
רגולציית EU 2025-2026. 4 דרגות סיכון. High-risk: risk mgmt + governance + oversight + monitoring. Checklist
אדם בתוך הלולאה (HITL)
החלטות high-stakes עוברות human review. נדרש ע\"י EU AI Act.
נתיב ביקורת
Append-only log חתום של כל החלטה. נדרש ע\"י GDPR Art. 22 + EU AI Act.
בשלות ממשל AI
5 ממדים: inventory, risk classification, controls, monitoring, accountability. הערכה
מסד נתונים וקטורי
אחסון embedding vectors. pgvector ברירת מחדל; Qdrant/Weaviate/Milvus ל-scale. השוואה
אמבדינג
ייצוג וקטור high-dimensional של טקסט. מודל embedding משפיע על RAG accuracy יותר מבחירת LLM.
חלוקה למקטעים
פיצול מסמכים לקטעים לפני embedding. Chunk size + overlap = הגיבורים הלא-נראים של RAG.
הערכת LLM
3 שכבות: regression offline, sampling online, incident rate.
רולבאק / מפסק השבתה
מנגנון בדוק לחזרה לגרסה קודמת או השבתה. 'בדוק' = הוצא לפועל בדריל.
דחייה בסבירות נמוכה
AI מסרב לענות מתחת לסף. עוזר ש-survives audit יודע מה שלא יודע.
מעקות הגנה
Pre/post processing layers. חוסמות prompt injection ו-PII, content violations. הכרחי, לא מספיק.
תצפיתיות AI
Prompt/output/retrieval logging, latency, cost, errors, feedback. כשלים obvious ב-observability לפני user complaints.
סוכן AI
AI עם גישה לכלים. עובר מ'עונה' ל'מבצע פעולות' - risk profile שונה לחלוטין.
שימוש בכלים
LLM מפעיל פונקציות חיצוניות. כל כלי שנחשף = expansion של attack surface.
חלון הקשר
מקסימום tokens שמודל מעבד בבת אחת. גדול = פחות retrieval, עלות גבוהה, attention degradation.
אי-שמירת נתונים (ZDR)
התחייבות vendor ש-prompts לא נשמרים. נדרש לעיבוד data רגיש דרך commercial APIs.