Дообучать модель или переписать промпт: развилка, на которой легко сжечь бюджет

Компания хочет, чтобы нейросеть отвечала клиентам «в фирменном стиле» и знала их прайс. Первый порыв — «давайте обучим свою модель». Звучит солидно, стоит от сотен тысяч рублей и недель работы. А в девяти случаях из десяти ту же задачу закрывает грамотный промпт и подключение к базе знаний — за вечер и почти бесплатно. Разница между этими путями — это разница между «переписать инструкцию сотруднику» и «отправить его на полгода переучиваться». Разберём, где проходит граница.

Промпт меняет поведение здесь и сейчас, файнтюнинг — навсегда

Промптинг — это когда вы объясняете готовой модели задачу словами прямо в запросе: кто она, что делает, каким тоном отвечает, что запрещено. Модель при этом не меняется — вы каждый раз даёте ей свежую инструкцию. Файнтюнинг (дообучение) — это когда модель прогоняют через тысячи ваших примеров «вопрос — правильный ответ», и её внутренние веса перестраиваются. После этого нужное поведение «зашивается» внутрь: модель уже не нужно уговаривать промптом, она отвечает так по умолчанию.

Как устроено дообучение на уровне картинки

Представьте менеджера, который отлично говорит по-русски, но не знает вашего продукта. Промпт — это шпаргалка, которую вы кладёте ему на стол перед каждым разговором. Файнтюнинг — это стажировка: вы показываете ему 3000 реальных диалогов с клиентами, он сам выводит закономерности и начинает отвечать в нужной манере без шпаргалки. Модели не «загружают факты» — ей показывают образцы поведения, и она подстраивает миллионы внутренних коэффициентов, чтобы новые ответы были похожи на эти образцы. Отсюда два следствия: нужен большой набор чистых примеров и вычислительные мощности.

Почему в большинстве задач хватает промпта

Тон общения, роль, структура ответа, набор запретов, пошаговый сценарий разговора — всё это отлично задаётся текстом инструкции. Поменять поведение можно за минуту: отредактировал абзац — и агент уже общается иначе. Ошиблись — откатили назад без последствий. Современные модели держат в «рабочей памяти» десятки страниц контекста, поэтому туда влезает и подробная инструкция, и кусок регламента. Для колл-центра, чат-бота поддержки, помощника по документам промптинг закрывает задачу целиком.

А знания подключают отдельно — через базу, а не через дообучение

Частая ошибка — думать, что «модель должна выучить наш прайс и базу договоров». Для актуальных фактов дообучение как раз плохо подходит: цены поменялись — и переучивать модель заново? Здесь работает другой приём: RAG, когда агент перед ответом лезет в вашу базу знаний, находит нужный документ и отвечает по нему. Обновили файл — ответы поменялись сразу, без всякого дообучения. Промпт задаёт, КАК отвечать; база знаний даёт, ЧЕМ отвечать; файнтюнинг остаётся для случаев, где не хватает ни того, ни другого.

Когда дообучение действительно оправдано

Есть задачи, где промпт упирается в потолок. Первое — узкий формат, который трудно объяснить словами, но легко показать на тысячах примеров: разметка юридических документов по своей схеме, извлечение полей из нестандартных актов, специфический стиль, который «на пальцах» не формализуешь. Второе — экономия: если через агента проходят миллионы запросов, дообученная компактная модель отвечает так же, но дешевле и быстрее, потому что ей не нужен каждый раз длинный промпт. Третье — узкая отрасль со своим языком (медицина, промышленность), где базовая модель путается в терминах. Общий признак один: вы уже выжали максимум из промпта и базы знаний, и только тогда упёрлись в стену.

Подводные камни, о которых молчат

Дообучение — не кнопка «сделать умнее». Нужен качественный размеченный набор данных: мусор на входе — предвзятые и кривые ответы на выходе. Модель можно «переучить» так, что она станет хуже в общих вопросах, зациклившись на ваших примерах. Каждое обновление базовой модели у вендора — и ваше дообучение приходится повторять. Плюс расходы на инфраструктуру и хранение. Промпт правится за минуту и ничего не ломает; дообучение — это отдельный проект с поддержкой, версиями и рисками.

Что это меняет для бизнеса

Правильный порядок экономит бюджеты. Сначала — промпт: он решает большинство задач автоматизации. Не хватает знаний о вашем деле — подключаем базу знаний. И только когда обе опции упёрлись в потолок по качеству, формату или цене на больших объёмах — считаем экономику дообучения. Тех, кто начинает с «обучите нам свою модель», часто ждёт счёт на сотни тысяч за то, что решалось абзацем текста. МАВИИ на старте как раз помогает бизнесу пройти эту развилку трезво — и не платить за дообучение там, где оно не нужно.

Вывод

Промпт меняет поведение модели, база знаний даёт ей ваши факты, а файнтюнинг перестраивает саму модель под узкую задачу. Начинайте с дешёвого и обратимого, к дорогому и постоянному переходите, только когда доказали, что иначе никак. Вопрос не «дообучать или нет», а «что мы уже попробовали до того, как решили дообучать».

Источник