ネットワンシステムズ、自社LLMシステム「NELMO」を運用開始

～業務フローへ生成AI技術を適用し、LLMOpsによる継続した回答精度向上を実現～

　ネットワンシステムズ株式会社（本社：東京都千代田区、代表取締役 社長執行役員：竹下 隆史） は、業務の効率・品質向上、新たなビジネスモデル創出、お客様への価値提供の最大化を目指し、当社独自の生成AIを活用した、netone LLMシステム「NELMO」を開発し、運用を開始しました。

　「NELMO」開発により、工数が多くかかっていた業務が生成 AIで効率化され、特に、社内で年間数千件発生している技術的な質問・回答業務のうち、対象メーカーについては対応工数を約22%削減することができました。また、一部機能に RAG（※1）やプロンプトエンジニアリング（※2）を実装することによって、利用者が機能を利用すればするほど、生成AIの問い合わせに対する回答の精度が向上する仕組みになっています。

■netone LLMシステム「NELMO」開発の背景
　当社が長年培ってきたネットワーク領域の様々なナレッジを取り込んだ生成AIチャット環境を整備するなど、昨年度から、エンジニアリング業務効率化のためのトライアルを実施してきました。
　「NELMO」開発に着手するにあたり、トライアルを踏まえ自社の業務分析を実施し、期待効果や優先度を洗い出しました。その結果、日々の社内外での打ち合わせの際に発生する議事録作成や、社内で年間数千件の問い合わせが発生しているエンジニアの技術的な質問・回答業務（社内技術Q&A）を生成AIで効率化できると判断し、機能開発への取り組みを開始しました。

■開発の特徴
　生成AIの業務適用においては、自社のビジネスに適したかたちでの企業データ資産の活用が重要です。そのため、「NELMO」にRAGやプロンプトエンジニアリングを実装し、生成AIの精度を向上させました。
　Virtual Agent(社内技術Q&A支援)機能において、過去ナレッジが存在しない質問については、従来通り人が対応するフローを残しつつ、その回答を新たにRAGに取り込む実装としています。これにより、機能を利用すればするほど、回答精度が高まる仕組みとなっています。
　また、今回の開発にあたっては、生成AI開発に関してナレッジを多く持つ、データ&AIカンパニーDatabricks Inc.（本社：米国カリフォルニア州サンフランシスコ、CEO：アリ・ゴディシ、以下 Databricks社）の開発支援サービス「Delivery Solution Architect」、「Professional Services」を利用しました。業務への効果が高い順に実装計画をたて、設計、実装およびLLMOps（大規模言語モデル運用）の仕組みづくりをDatabricks社の「データ・インテリジェンス・プラットフォーム」上で行ったことにより、わずか3ヶ月で本番環境として社内リリースを実現しました。

■「NELMO」の主な機能について

Virtual Agent(社内技術Q&A支援)機能

　当社では、エンジニアから技術に関する質問を受け付け、これまで社内で蓄積したナレッジから回答し、該当する回答がなければメーカーへ問い合わせるなどのやり取りが、年間数千件発生しており、質問者、回答者ともに非常に多くの工数が掛かっていました。
　そのため、エンジニアにとって多くの工数が割かれているこの社内技術Q&A業務を、Virtual Agent（質問に基づいて回答や指示を提供する機能）で自動化しました。
問い合わせ数が多いメーカー1社から実装を開始し、この機能を既存業務フローに組み入れました。これにより、問い合わせのために別システムにアクセスするという手間を減らし、かつ利用者が生成AIを意識することなく、従来の業務の中で自然に利用できるようにしました。この開発により、一部業務についてはエンジニアの工数を約22%削減することができました。



[画像1]https://digitalpr.jp/simg/173/92806/700_690_2024080211052666ac3ee6771fd.png




議事録生成機能

　Web会議などの録画データをアップロードすることで、文字起こし、要約、結論、課題などを出力します。従来、人が作成する際には1時間ほどかかっていましたが、本機能を利用することにより、1分程度で出力できるため、大幅な工数削減が実現されています。議事録生成機能は営業、技術、事務職など、職種に関係なく利用できる汎用機能であり、毎日約30件の議事録が本機能を利用して作成されており、多くの利用者の生産性向上に役立っています。

■今後の展望
　今後も「NELMO」開発は継続し、適用する業務範囲を拡大することで更なる生産性向上に繋げていきます。今回開発したVirtual Agent(社内技術Q&A支援)機能は、今後、対応メーカーを増やすことで、工数削減効果を最終的には50%にすることを目指す他、2024年度中には保守サービスにも「NELMO」を活用し、過去の社内技術Q＆Aナレッジ、メーカーのBug情報等から、生成AIによる切り分けの迅速化、品質向上に繋げます。
　さらに、ますます社会基盤としての重要性が高まる、ネットワークインフラの自律化、省人化、運用高度化において、当社の知見をもとに、ネットワーク設計等の提案書や設計書のドキュメント生成、機器コンフィグの生成および IaC（ Infrastructure as Code）と連動する自動検証・デプロイなど、ネットワーク運用フェーズにおいても「NELMO」を活用していく予定です。

※1 RAG（Retrieval-Augmented Generation）
　　検索拡張生成の略称で、生成AIに独自の情報や専門的な情報を付与し、その情報を基に精度の高い回答をさせる技術です。
※2 プロンプトエンジニアリング
　　生成AIに対して、質問や指示（プロンプト）を与え、AIの役割を明確にする技術です。

ネットワンシステムズ株式会社について
ネットワンシステムズ株式会社は、優れた技術力と価値を見極める能力を持ち合わせる ICT の目利き集団として、その利活用を通じ、社会価値と経済価値を創出するサービスを提供することで持続可能な社会への貢献に取り組む企業です。常に世界の最先端技術動向を見極め、その組み合わせを検証して具現化するとともに、自社内で実践することで利活用ノウハウも併せてお届けしています。

※記載されている社名や製品名は、各社の商標または登録商標です