OpenAI открыла возможность дообучать модель GPT-3.5 Turbo для конкретных задач

 neurohive.io

OpenAI открыла возможность дообучать модель GPT-3.5 Turbo для конкретных задач, что позволит разработчикам максимально раскрыть потенциал модели. Тонкая настройка (finetuning) позволит разработчикам совершенствовать производительность и точность вывода модели в своих сферах применения. Первые тесты показывают, что дообученная GPT-3.5 Turbo соответствует или превосходит базовые метрики GPT-4 при решении конкретных задач.

Тонкая настройка повышает способность модели последовательно форматировать ответы — важный аспект для приложений, требующих определенного формата вывода: завершение кода, составление вызовов API или преобразования запросов пользователей в формат JSON. При составлении маркетинговых материалов модель сможет обучиться придерживаться форматирования текста и tone of voice, присущих бренду.

Цена вопроса:
- Во время тренировки: $0.008 / 1K токенов
- Стоимость ввода во время инференса вашей кастомной модели: $0.012 / 1K токенов
-  Стоимость генерации: $0.016 / 1K Tokens.

В общем, для

babbage-002

кастомная модель обойдется в 4 раза дороже,
а для

davinci-002

в 6 раз дороже чем базовая. Оно, конечно,  понятно - нужно же  отдельную ноду поднять и зарезервировать GPU под вашу индивидуальную модель.
@F_S_C_P