汎用言語分散表現モデル「BERT」を使用した要約モデルの研究 ～自然言語解析の高度化～

AIによる自然言語処理は、大規模テキストデータの解析や機械翻訳、音声対話システムなどに使用され、マーケティングやビジネスシーンのほか、日常生活の利便性を高めるあらゆる分野で活用されています。 当社はこれまで自然言語処理AIの処理精度向上と高速化を目的として、汎用言語分散表現モデル「BERT」を研究してまいりました。本稿ではその研究成果を紹介いたします。 BERT研究の目的2018年にGoogleから発表された自然言語処理の言語モデルであるBERTは、ファインチューニング（※