少数点学習による固有表現抽出
ここで、数撃ちゃ当たるの学習により、エンティティ抽出を行う。
例えば、Webサイトから職種名を抽出したいとします。実際に依頼する前に、いくつかの職種名抽出の例を挙げるだけでよいのです。
Extract job titles from the following sentences.
Sentence: John Doe has been working for Microsoft for 20 years as a Linux Engineer.
Job title: Linux Engineer
###
Sentence: John Doe has been working for Microsoft for 20 years and he loved it.
Job title: none
###
Sentence: Marc Simoncini | Director | Meetic
Job title: Director
###
Sentence: Franck Riboud was born on 7 November 1955 in Lyon. He is the son of Antoine Riboud, who transformed the former European glassmaker BSN Group into a leading player in the food industry. He is the CEO at Danone.
Job title: CEO
###
Sentence: Damien is the CTO of Platform.sh, he was previously the CTO of Commerce Guys, a leading ecommerce provider.
Job title:
という結果になります。
Extract job titles from the following sentences.
Sentence: John Doe has been working for Microsoft for 20 years as a Linux Engineer.
Job title: Linux Engineer
###
Sentence: John Doe has been working for Microsoft for 20 years and he loved it.
Job title: none
###
Sentence: Marc Simoncini | Director | Meetic
Job title: Director
###
Sentence: Franck Riboud was born on 7 November 1955 in Lyon. He is the son of Antoine Riboud, who transformed the former European glassmaker BSN Group into a leading player in the food industry. He is the CEO at Danone.
Job title: CEO
###
Sentence: Damien is the CTO of Platform.sh, he was previously the CTO of Commerce Guys, a leading ecommerce provider.
Job title: CTO
お気づきのように、数撃ちゃ当たるの例を作るには頭を使わなければなりません。職種が全く見つからないこともあり得るので、「none」を返す例を作成しました（誤検出を避けるためです）。同時に複数の職種を抽出したい場合はどうすればよいでしょうか。その場合は、複数のジョブタイトルを返す例も作成することが重要です（たとえば、カンマで区切られたジョブタイトルなど）。
さらに多くの例を追加することで、さらに良い結果を得ることができます。そして、例題は実際の最終的なリクエストにできるだけ近いものにすることが重要です。例えば、単なる文章ではなく、段落全体を分析することがわかっている場合は、段落のある例を作成するのがベストです。
GPTモデルを利用できない場合は、単純にNLPクラウドAPIを利用することができます。いくつかのクライアントが利用可能です（Python, Go, Node.js, Ruby, PHP...）。ここでは、PythonクライアントでGPT-Jを使う例を紹介します。
import nlpcloud
client = nlpcloud.Client("gpt-j", "your API token", gpu=True)
client.generation("""Extract job titles from the following sentences.
Sentence: John Doe has been working for Microsoft for 20 years as a Linux Engineer.
Job title: Linux Engineer
###
Sentence: John Doe has been working for Microsoft for 20 years and he loved it.
Job title: none
###
Sentence: Marc Simoncini | Director | Meetic
Job title: Director
###
Sentence: Franck Riboud was born on 7 November 1955 in Lyon. He is the son of Antoine Riboud, who transformed the former European glassmaker BSN Group into a leading player in the food industry. He is the CEO at Danone.
Job title: CEO
###
Sentence: Damien is the CTO of Platform.sh, he was previously the CTO of Commerce Guys, a leading ecommerce provider.
Job title:""",
top_p=0.1,
length_no_input=True,
remove_input=True,
end_sequence="###",
remove_end_sequence=True
)
という結果になります。 CTO
先ほどのテキスト生成のパラメータについて、簡単に説明します。
GPT-Jがあまり独創的な結果を作らないように、非常に低いトップp値を設定しました。
"length_no_input" は、最大長の値に入力テキストを考慮しないことを意味します。
"remove_input" は、入力テキストを結果から削除することを意味します。
"end_sequence "は、モデルがこの文字に出会ったとき、テキストの生成を停止することを意味します。数撃ちゃ当たるの例では、各回答の最後に「##」を追加したので、モデルは回答生成後に自動的に「##」を生成し、そこで停止することになります。
"remove_end_sequence" は、レスポンスから "###" を削除したいことを意味します。
詳細は、NLPクラウドのドキュメントで確認できます。 はこちらでご覧ください。
アノテーションイラスト