RAG
LLM получает релевантные документы во время запроса. Стартовая архитектура корпоративного AI. Сравнение с fine-tuning
Fine-tuning
Настройка весов LLM на доменном датасете. Устойчивое поведение в масштабе; добавляется после RAG.
Hallucination
Беглый, но фактически неверный вывод. Ограничивается через RAG, citation, confidence rejection.
Prompt injection
Атака через retrieved content. Защита: content как data, sandbox для tools.
Data lineage
Учёт источников, transformations и доступа ко всем data. Обязательно в production.
Model drift
Тихое изменение поведения модели. Vendor drift или data drift. Обнаруживается monitoring.
Risk Management Framework от NIST 2023. 4 функции: Govern, Map, Measure, Manage.
ISO/IEC 42001
Международный стандарт AI management system, сертифицируемый, совместим с ISO 27001.
EU регуляция 2025-2026. 4 уровня риска. High-risk: risk mgmt + governance + oversight + monitoring. Checklist
HITL
High-stakes решения проходят human review. Требуется EU AI Act.
Audit trail
Append-only подписанный лог каждого решения. Требуется GDPR Art. 22 + EU AI Act.
AI governance maturity
5 измерений: inventory, risk classification, controls, monitoring, accountability. Оценка
Vector database
Хранилище embedding векторов. pgvector default; Qdrant/Weaviate/Milvus для scale. Сравнение
Embedding
High-dimensional векторное представление текста. Выбор embedding модели влияет на RAG accuracy больше, чем выбор LLM.
Chunking
Разбиение документов перед embedding. Chunk size + overlap = невоспетые герои RAG.
LLM eval
3 слоя: regression offline, sampling online, incident-rate tracking.
Rollback / kill switch
Протестированный механизм возврата к stable версии или отключения. 'Протестированный' = отрабатывали в drill.
Low-confidence rejection
AI отказывается отвечать ниже порога. Ассистент, переживающий audit, знает, чего не знает.
Guardrails
Pre/post processing слои. Блокируют prompt injection и PII, content violations. Необходимо, недостаточно.
AI observability
Prompt/output/retrieval logging, latency, cost, errors, feedback. Сбои очевидны в observability до user complaints.
AI agent
AI с доступом к инструментам. Переход от 'отвечает' к 'выполняет действия' меняет risk profile.
Tool use
LLM вызывает внешние функции. Каждый exposed tool = расширение attack surface.
Context window
Максимум токенов на обработку за раз. Большой = меньше retrieval, выше стоимость, attention degradation.
Zero data retention (ZDR)
Обязательство vendor не сохранять prompts. Требуется для обработки чувствительных данных через commercial APIs.