Испытание: объясни как работает AI
Финальный босс — проверяем что действительно понял, а не запомнил
Финальный экзамен мира «Под капотом». Здесь нужно связать всё в одну картину: предсказание токена, токены и окно, сэмплирование, роли в чате, system, CoT/few-shot и RAG.
ОДИН ПРИНЦИП — МНОГО НАБЛЮДЕНИЙ
LLM предсказывает следующий токен. Отсюда: галлюцинации (вероятно ≠ верно), лимит контекста, счёт в API, temperature, streaming, польза CoT и смысл RAG как «подложить факты в контекст».
- Механика: токенизация → attention → выбор токена (greedy / temperature / top-p)
- Интеграция: system + история + user; stateless API
- Промптинг: few-shot для формата, CoT для логики
- Знания: RAG когда данных не было в обучении
?Проверь себя
