Извлечение сущностей с помощью малоинформативного обучения
Теперь мы выполним извлечение сущностей благодаря обучению по методу нескольких кадров.
Допустим, вы хотите извлечь названия должностей с веб-сайтов. Просто приведите пару примеров извлечения названий должностей, прежде чем делать запрос:
Extract job titles from the following sentences.
Sentence: John Doe has been working for Microsoft for 20 years as a Linux Engineer.
Job title: Linux Engineer
###
Sentence: John Doe has been working for Microsoft for 20 years and he loved it.
Job title: none
###
Sentence: Marc Simoncini | Director | Meetic
Job title: Director
###
Sentence: Franck Riboud was born on 7 November 1955 in Lyon. He is the son of Antoine Riboud, who transformed the former European glassmaker BSN Group into a leading player in the food industry. He is the CEO at Danone.
Job title: CEO
###
Sentence: Damien is the CTO of Platform.sh, he was previously the CTO of Commerce Guys, a leading ecommerce provider.
Job title:
Результат будет следующим:
Extract job titles from the following sentences.
Sentence: John Doe has been working for Microsoft for 20 years as a Linux Engineer.
Job title: Linux Engineer
###
Sentence: John Doe has been working for Microsoft for 20 years and he loved it.
Job title: none
###
Sentence: Marc Simoncini | Director | Meetic
Job title: Director
###
Sentence: Franck Riboud was born on 7 November 1955 in Lyon. He is the son of Antoine Riboud, who transformed the former European glassmaker BSN Group into a leading player in the food industry. He is the CEO at Danone.
Job title: CEO
###
Sentence: Damien is the CTO of Platform.sh, he was previously the CTO of Commerce Guys, a leading ecommerce provider.
Job title: CTO
Как вы заметили, мы должны с умом подходить к созданию наших примеров. Может случиться так, что ни одно название должности вообще не будет найдено, поэтому мы создали пример, возвращающий значение "none" (это позволяет избежать ложных срабатываний). Может быть, вы хотите извлечь несколько названий должностей одновременно? В этом случае важно создать примеры, возвращающие несколько названий должностей (например, названия должностей, разделенные запятыми).
Вы получите еще лучшие результаты, если добавите еще больше примеров. И важно, чтобы ваши примеры были как можно ближе к вашему реальному окончательному запросу. Например, если вы знаете, что собираетесь анализировать целые абзацы, а не просто предложения, лучше создать примеры с абзацами.
Если у вас нет доступа к модели GPT, вы можете просто использовать NLP Cloud API. Доступно несколько клиентов (Python, Go, Node.js, Ruby, PHP...). Приведем пример использования GPT-J с клиентом Python:
import nlpcloud
client = nlpcloud.Client("gpt-j", "your API token", gpu=True)
client.generation("""Extract job titles from the following sentences.
Sentence: John Doe has been working for Microsoft for 20 years as a Linux Engineer.
Job title: Linux Engineer
###
Sentence: John Doe has been working for Microsoft for 20 years and he loved it.
Job title: none
###
Sentence: Marc Simoncini | Director | Meetic
Job title: Director
###
Sentence: Franck Riboud was born on 7 November 1955 in Lyon. He is the son of Antoine Riboud, who transformed the former European glassmaker BSN Group into a leading player in the food industry. He is the CEO at Danone.
Job title: CEO
###
Sentence: Damien is the CTO of Platform.sh, he was previously the CTO of Commerce Guys, a leading ecommerce provider.
Job title:""",
top_p=0.1,
length_no_input=True,
remove_input=True,
end_sequence="###",
remove_end_sequence=True
)
Результат будет: CTO
Позвольте мне дать вам небольшое пояснение по поводу параметров генерации текста, которые мы только что использовали.
Мы установили очень низкое верхнее значение p, потому что не хотим, чтобы GPT-J создавал слишком оригинальные результаты: мы просто хотим, чтобы он придерживался того, что увидел в вашем запросе.
"length_no_input" означает, что максимальное значение длины не должно учитывать входной текст.
"remove_input" означает, что вводимый текст должен быть удален из результата.
"end_sequence" означает, что когда модель встретит этот символ, она должна прекратить генерацию текста. Поскольку в наших примерах мы добавили "###" в конце каждого ответа, модель автоматически сгенерирует "###" после генерации ответа и на этом остановится.
"remove_end_sequence" означает, что мы хотим удалить "###" из ответа.
Более подробную информацию вы можете найти в документации NLP Cloud: посмотреть здесь.
Аннотационная иллюстрация