講演「SCSKのLLM活用戦略 – 特化型LLM開発と展望」～HPE HPC & AI フォーラム 2024 オンライン～【前編】
2024年9月26日、「HPE HPC & AI フォーラム 2024 オンライン」が開催されました。本フォーラムに、SCSKの技術戦略本部 先進技術部 主任研究員の中本が登壇し、当社グループのLLM（大規模言語モデル）活用戦略について講演しました。
本稿では当日の講演内容を前後編にわたりご紹介します。
中本 裕大
SCSK株式会社 技術戦略本部 先進技術部
学生時代は人工知能研究室に所属し、画像キャプション生成モデルや単語埋め込み技術の研究に取り組む。2021年にSCSKへ入社後、研究開発部署のAIチームで自然言語処理の研究開発を行う。日本語BERTモデルへの知識グラフ適用による意味理解性能向上の研究や社内向け生成AI（SCSK-GAI）の導入・開発および生成AI関連のPoCに従事。RAGの検索精度向上に向けた研究や、生成AIの業務活用にあたって利用ニーズに最適化した特化型LLMの開発に取り組んでいる。
イベント概要
「HPE HPC & AI フォーラム 2024 オンライン」は、日本ヒューレット・パッカード合同会社が主催するセミナーであり、ハイパフォーマンスコンピューティング（HPC）とAIソリューションの最先端情報を提供することを目的に開催されています。
近年、LLMの進展に伴うHPC & AIの需要増やシステムの消費電力に起因するコスト増の問題を背景に、ハードウェア・ソフトウェア両面に対する効率性向上に応える必要性が出てきました。2024年のセミナーでは、これらの課題を解決し得る最新のテクノロジーや事例、AI開発を効率化するソフトウェア基盤、サステナブルな水冷ソリューションなどが紹介されました。
HPE HPC & AI フォーラム 2024 オンライン
https://www.hpe.com/jp/ja/events/hpcai2024.html
講演「SCSKのLLM活用戦略 – 特化型LLM開発と展望」
SCSKでの先進技術の取り組み方針
SCSKは既存技術と先進技術を融合し、お客様の価値向上に貢献することを目指しています。短期的な取り組みとしては、AI/IoT技術による当社事業の差別化を目指しています。具体的には、AI技術の現場実装として、当社製品やお客様のシステムをスマート化すること。そして大規模データ活用技術として、特に生成AI活用に注力しています。中期的には、サイバーフィジカルと分散型世界への対応を強化し、次世代ビジネス基盤であるWeb3やメタバース分野での活躍を目指します。そして長期的には、次世代大規模データ活用技術の開発に注力していきます。
社内における生成AI利用を促進。精度向上を目指しドキュメント参照（RAG）に取り組む）
生成AIは、生成されるコンテンツによって、主にテキスト生成系、画像生成系、動画生成系、音声生成系の4つに大別できます。これらに加えて画像やテキストなど複数のモダリティ・コンテンツを扱うようなマルチモーダルな生成AIも存在します。
特にビジネスシーンで広く利用されているのがテキスト生成系AIであり、大量のテキストによって多数のパラメータを持つモデルを学習したLLMが基礎となっています。テキスト生成系AIのユースケースとしては、チャットボット、情報検索・業務効率化・自動化など、ビジネスや様々なシーンで、生成AIが活用されているかと思います。
SCSKの生成AI活用の取り組み
SCSKでも生成AIを積極的に取り入れる方針のもと、2023年度に生成AIの導入を推進し、ガイドラインの整備や社内環境の構築を行いました。
その後、社内情報などの非公開情報を基に回答する質疑応答システムをRAGにより実装し検証を開始しました。社内においては、問い合わせ対応の効率化や製品サービスの付加価値創造を目的とした生成AIの活用が進められており、この質疑応答システムを問い合わせ対応効率化やFAQ自動化、技術文書の問い合わせに利用しています。また、設計書からコードやテスト仕様書を自動生成する取り組みや、Azure Open AIサービスの導入支援も行っています。
プレスリリース：
生成系AI 「SCSK Generative AI」を全役職員が業務利用開始
生成AI「SCSK-GAI」を活用した質疑応答支援システムの概念検証を開始
「Azure OpenAI Service」導入支援サービスの提供開始
生成AI活用に際する4つのステップ
SCSKでは生成AIの導入ステップを大きく4つの段階で考えており、2023年度は汎用LLMの利用と、LLMに対する指示の与え方の工夫(プロンプトチューニング)を行うステップ1と、汎用LLMに対し非公開情報をもとに回答させる「RAG」技術を活用するステップ2を推進してまいりました。
全社利用を推進する中で、生成AIの利用ガイドラインを整備に加えて、Teamsの専用チャネルでの情報共有や、業務活用アイデア創出の支援策実施なども全社的に行い、2024年9月時点ではグループ会社も含め約20,000名の社員（※パートナー社員を含む）が、生成AIの業務活用を行なっています。
まとめ
前編では、SCSKのLLM活用方針と2023年度の取り組みについてご紹介しました。後編では、2024年度におけるLLMのさらなる精度向上を目指した追加学習とモデル生成の取り組みについてご紹介します。
【後編】https://tech.scsk.jp/n/n0631c370765a
先進デジタル技術の最大活用による事業構造の変革や生成AI活用による飛躍的な生産性向上の実現を目指す、SCSK技術戦略「技術ビジョン2030」を公開しました。詳細は、下記リンクからご覧いただけます。
https://www.scsk.jp/sp/technology_strategy/index.html
また、SCSKでは共に活躍していただける高度デジタル人材を募集しています。詳細は各採用サイトをご覧ください。
新卒採用サイト
https://www.scsk.jp/recruit/saiyo/
キャリア採用サイト
https://www.scsk.jp/recruit/career/