Промптинг, RAG и fine-tuning: когда что использовать

Многие команды сразу думают о дообучении, хотя задача решается грамотным промптом. Разница принципиальна: промптинг управляет поведением через текст, RAG добавляет знания, а fine-tuning меняет веса. Ниже — практическое дерево решений, кейсы и скрытые расходы, чтобы выбрать подход без лишних затрат.

Промптинг: сначала пробуем текст

Промптинг — это способ настроить систему через инструкции, примеры и контекст. Вы не меняете саму модель, а задаёте рамки здесь и сейчас. Хороший промпт может включать роль, формат ответа, ограничения и few-shot примеры.

Что даёт промптинг на старте:

• Почти бесплатно: вы уже платите за инференс.
• Быстро: изменения занимают секунды.
• Обратимо: неудачный промпт стоит только потраченных токенов.
• Гибко: разные промпты для разных задач.

Когда использовать: задача новая или низкообъёмная, нужен быстрый результат, вы ещё не исчерпали few-shot, chain-of-thought и тяжёлые промпты.

RAG: промежуточный слой знаний

Если система не знает ваших продуктов, регламентов или свежих данных, промптинг не спасёт. RAG подключает поиск: вы находите релевантные фрагменты и подставляете их в контекст. Поведение остаётся прежним, но ответы опираются на внешнюю базу.

Ключевое правило: добавляйте RAG перед fine-tuning, когда проблема в знаниях, а не в поведении. Это дешевле и быстрее, чем дообучение, если нужно просто расширить фактуру. Модель уже отвечает адекватно — ей не хватает вашей документации.

Fine-tuning: хирургия для поведения

Fine-tuning меняет веса модели на ваших примерах. Это не способ добавить факты, а способ закрепить стиль, формат, логику решений или реакцию на типовые ситуации. Если промпты «уплывают» после нескольких ответов, дообучение может дать стабильность.

Четыре сценария, где fine-tuning побеждает:

• Стабильный стиль или формат, который промпты не удерживают. Например, голос бренда.
• Уменьшение размера и стоимости инференса: маленькая дообученная модель с коротким промптом.
• Поведение, которому базовая система сопротивляется: отказы, излишняя осторожность в домене.
• Паттерны, а не факты: таксономия, стиль общения, логика решений.

Если нужно добавить факты — это RAG. Если нужно изменить поведение — fine-tuning. Не путайте эти задачи, иначе бюджет уйдёт не туда.

Сравнение и дерево решений

Сравним подходы по скорости, стоимости, обратимости и объёму данных. Это помогает выбрать метод до старта разработки.

Пошаговое дерево решений:

1. Попробуйте промптинг: few-shot, chain-of-thought, жёсткий формат.
2. Не хватает знаний — добавьте RAG.
3. Промптинг и RAG не дают нужного поведения, консистентности или скорости — рассмотрите fine-tuning.
4. Перед дообучением проверьте, есть ли сотни примеров желаемого поведения.

Кейсы и скрытые расходы

• Кейс 1. Чат-бот поддержки. Промптинг даёт 95% правильных вызовов API. Нужно 99% — fine-tuning на диалогах помогает закрыть разрыв.
• Кейс 2. Контент в стиле бренда. Промпт на три страницы не удерживает голос. Дообучение на примерах решает проблему.
• Кейс 3. Ответы по внутренней документации. Система не знает ваших продуктов — нужен RAG, а не fine-tuning.

Скрытые расходы fine-tuning:

• Обучающий прогон.
• Сбор и разметка данных.
• Хранение весов для каждой задачи.
• Переобучение при выходе новой базовой версии.

Ошибки при выборе подхода: начинать с fine-tuning, не исчерпав промптинг; использовать дообучение для фактов; недооценивать тяжёлые промпты; игнорировать стоимость поддержки дообученной модели.

Заключение

Правило простое: сначала промптинг, потом RAG, потом fine-tuning. Большинство задач решаются первыми двумя подходами. Fine-tuning — хирургический инструмент для узкого круга задач, где важны стабильность, скорость или точность на высоких объёмах.

Что сделать дальше: соберите 10-20 типовых запросов, протестируйте few-shot и chain-of-thought, измерьте точность. Если не хватает знаний — подключите RAG. И только потом считайте бюджет fine-tuning. Так вы сэкономите недели и деньги, а решение будет опираться на данные, а не на моду. Начните с аудита промптов на этой неделе — и вы быстро поймёте, нужен ли вашему проекту RAG или дообучение.