Почему для языка нужны именно нейросети, а не просто ML
В уроке «AI, ML, DL — в чём разница?» ты запомнил три круга: AI ⊃ ML ⊃ DL. Здесь — как обучение на данных превращается в ChatGPT и почему для языка нужны именно глубокие нейросети.
В «Первом контакте» ты видел матрёшку AI → ML → DL. Здесь углубимся: как обучение на данных превращается в ChatGPT, и почему для языка нужны именно глубокие нейросети.
AI — широкое «умное поведение». ML — система учится на примерах, а не по жёстким правилам. DL — ML на нейросетях с множеством слоёв. ChatGPT, Claude, Gemini — всё это DL-модели, обученные предсказывать текст.
Старый подход: программист прописывает правила. «Если в письме слово „выиграли" — спам». Проблема: правил бесконечно много, мир меняется. ML: показываешь 10 000 писем с метками «спам / не спам» — алгоритм сам находит закономерности. Никто не писал правило про «выиграли» вручную.
Текст — сложная структура: смысл зависит от контекста, порядка слов, оттенков. Простые ML-алгоритмы (деревья решений, линейные модели) с языком справляются плохо. Нейросети с миллиардами настраиваемых чисел (параметров) умеют улавливать тонкие паттерны — поэтому современные LLM строят на DL.
Параметры — числа внутри сети, подстроенные при обучении. Их миллиарды. В них «зашиты» паттерны языка. Больше параметров обычно = больше способностей, но дороже запуск.
Модель тысячи раз видит кусок текста и пытается угадать следующее слово. Ошибается — слегка подкручивает параметры. Миллиарды таких шагов — и из шума вырастает умение писать связно.
?Проверь себя
Нажми утверждение слева, затем подходящий ответ справа — они соединятся.