Когда нейросеть стоит дообучать, а когда хватит хорошего запроса

Компания платит за дообучение модели несколько сотен тысяч, ждёт месяц — а на выходе бот отвечает не лучше, чем после смены одного абзаца в запросе. Так бывает чаще, чем кажется. Разберём, где проходит граница: когда модель правда нужно дообучать, а когда задачу решает грамотно собранный запрос — в разы дешевле и за пару дней.

Две разные кнопки: промпт и дообучение

Промптинг — это когда вы объясняете готовой модели задачу словами прямо в запросе: роль, тон, правила, пара примеров. Сама модель не меняется, меняется инструкция, которую вы даёте ей каждый раз. Дообучение (файнтюнинг) — это когда вы прогоняете через готовую модель сотни или тысячи своих примеров, чтобы она сдвинула поведение внутри и закрепила ваш стиль или формат. Первое похоже на то, как вы объясняете новому сотруднику задачу на словах. Второе — как отправить его на курсы.

Что происходит под капотом

При промптинге модель каждый раз читает вашу инструкцию заново и держит её в голове только на время ответа. Закрыли чат — она всё забыла. При дообучении вы буквально немного переписываете саму модель: показываете на большом наборе примеров «вот так у нас принято отвечать», и она начинает выдавать нужный формат уже без длинных пояснений. Знаний о мире это почти не добавляет — меняется манера и навык под узкую задачу.

Когда хватает промпта — а хватает часто

Большинство бизнес-задач закрывается вообще без дообучения. Ответы на типовые вопросы, письма, черновики постов, разбор входящих заявок, тон «вежливо и по делу» — всё это задаётся инструкцией и пятью примерами. Если же модель путается в фактах о вашей компании, файнтюнинг тут не спасёт: нужно не дообучение, а подключение ваших документов, чтобы модель отвечала строго по ним. Правило простое: сначала выжимаете максимум из запроса и из своих данных, и только когда упёрлись — думаете про дообучение.

Когда дообучение реально оправдано

Есть задачи, где промпт не тянет. Жёсткий формат на выходе, который надо выдавать стабильно тысячи раз подряд. Узкий стиль, который трудно описать словами, но легко показать примерами — скажем, разметка однотипных документов или ответы в фирменном тоне, который не ловится инструкцией. Огромный поток обращений, где длинная инструкция в каждом запросе выходит дороже, чем один раз дообучить модель и слать ей короткий запрос. Вот здесь файнтюнинг экономит и деньги, и нервы, и даёт стабильность.

Подводные камни

Дообучение — не «сделал и забыл». Нужны чистые примеры: мусор на входе даёт мусор на выходе, причём закреплённый намертво. Разработчик выпустил новую версию модели — ваше дообучение, возможно, придётся повторять. Заточенная под одну задачу модель хорошо делает своё, но заметно глупеет на всём, что выходит за рамки. И это дороже: разметка данных, само обучение, дальнейшая поддержка. Ошибиться с выбором легко — отсюда и сожжённые бюджеты.

Что это меняет для бизнеса

Понимание этой развилки экономит буквально сотни тысяч. Часто компания приходит с запросом «дообучите нам нейросеть», а по факту задача решается точным промптом и подключением её же базы знаний — за несколько дней вместо месяца. Бывает и наоборот: там, где на потоке нужен железный формат, экономия на дообучении оборачивается вечными правками руками. Верный порядок почти всегда один — начать с дешёвого и простого, а тяжёлую артиллерию доставать по факту.

Вывод

Дообучение — мощный инструмент, но не первый в очереди. Сначала промпт и ваши данные; файнтюнинг — когда задача узкая, поток большой, а формат обязан быть железным. Тем, кто путает эти два пути, внедрение ИИ обходится в разы дороже, чем могло бы. МАВИИ как раз помогает бизнесу выбрать дешёвый путь там, где он работает, и не переплачивать за лишнее.