Использование правильных подсказок для вашего чатбота
Если вы по наивности отправите запросы этим моделям без некоторого контекста и форматирования, ответы вас разочаруют. Это связано с тем, что данные модели очень универсальны. Они могут помочь не только в создании чат-ботов, но и во многих других приложениях, таких как ответы на вопросы, обобщение, перефразирование, классификация, извлечение сущностей, генерация описания продукта и многое другое. Итак, первое, что вам нужно сделать, это указать модели, какой "режим" она должна принять.
Вот пример запроса, который вы можете отправить:
This is a discussion between a [human] and an [ai].
The [ai] is very nice and empathetic.
[human]: I broke up with my girlfriend...
[robot]:
В этом примере можно отметить две вещи.
Сначала мы добавили простое форматирование, чтобы модель поняла, что она находится в разговорном режиме: ([human], [ai], ...).
Во-вторых, мы добавили немного контекста в верхней части, чтобы помочь модели понять, что она делает, и какой тон ей следует использовать.:
Чтобы упростить этот процесс, OpenAI и NLP Cloud предлагают специальные конечные точки API чатботов, которые позаботятся о форматировании за вас.
Иногда одного контекста недостаточно. Например, представьте, что вы хотите создать чатбота с очень специфическим тоном и характером. В этом случае вам потребуется тонкая настройка собственной генеративной модели. Вы можете настроить свой собственный чатбот на основе генеративного ИИ в OpenAI и на NLP Cloud.
Другой сценарий - создание чат-бота, который будет отвечать на вопросы, связанные с конкретными знаниями в области. В этом случае тонкая настройка не подходит. Вместо этого нужно создать собственную систему расширенного поиска (retrieval augmented generation, RAG) на основе семантического поиска.
См. нашу статью о RAG и семантическом поиске здесь.
