【検証事例・ビッグローブ株式会社】業務負担となっているプロジェクト報告書類の自動生成を目指して

今回のPoCはビッグローブ株式会社にて行われたもので、同社の担当者である加藤 剛史氏、ワークステーションの提供元となる株式会社 日本HPの大津山氏および勝谷氏、AI活用アドバイザーに株式会社Workstyle Evolutionの池田 朋弘氏、システム開発として株式会社WEELの田村 洋樹氏と萩原 佳太氏を迎えて、中間報告会を開催した。ビッグローブの中での生成AIのローカル活用はどのように進んだのか、レポートしたいと思う。

取材：中山 一弘

作業負荷の高い業務をAIで自動化

2023年から生成AI活用の模索がはじまり、2024年からは正式に「AI活用プロジェクト」が発足。現在では生成AI活用タスクフォースや各種ワーキンググループも起ちあがり、社内外でのAI活用の実践を目指した活動を続けているビッグローブ。「AIは新しい技術ですから、まずは基本的なことから知ろうということで毎月勉強会を実施し、Workstyle Evolutionの池田さんにファシリテーションをご依頼していました。その中で、池田さんからローカルLLMに知見がある企業として、WEELさんとお繋ぎいただきました」とこれまでの経緯を語るビッグローブの加藤氏。そのような背景がある中、WEELはHPによるPoCを提案。今回のプロジェクトが稼働することになった。

「当初は、既存のクラウドサービスを利用していくことで検討を続けていましたが、私個人としてはローカルLLMに注目していました。弊社は会員ビジネスをしていますから、扱うデータに機密性の高い情報も含まれています。それらを扱っていくにはセキュアなローカルLLMも候補の一つだと考えていたからです。今回のPoCでは、どのような活用ができ、どのようなメリットがあるかを知る良い機会だと思いました。ちょうど課題としてプロジェクトリーダーやマネージャーが作成しなくてはならない各種書類作成業務への負担が大きいことが挙げられていたので、それへの対応に使えないかということでシステム構築を考えていきました」と今回のPoCに参加した背景を語る加藤氏。

「いただいた課題解決を目標としてシステム構築を考えていきましたが、ビッグローブ様では報告書類以外にもたくさんの種類のデータをお使いです。今回のPoCだけでなく、他の業務にも応用していけるようなシステム開発をするよう心掛けました。Difyをローカル上に配置して、そこに各LLMモデルを入れれば、モデルを差し替えての検証がやりやすくなると考えました」と池田氏は語る。

「業務内容を伺ううちにプロジェクトチームごとにおこなっているGoogleチャットでのやり取りから日報作成に必要な情報が抽出できそうなことが分かりました。中でも精度の高いLLMモデルを探すこともPoCの内容に含めたので、試行錯誤していく中で最適なモデルを精査していきました」と田村氏。

つまり、アーキテクチャの全体像をある程度作っておき、LLMモデルのみを差し替えていくのだ。これにより、どのモデルが今回の課題解決に最適かを調べることもPoCの目標として組み込んだのだ。

ワークステーションで構築するローカルLLM

PoCで構築してシステムを稼働させるプラットフォームには「HP Z6 G5 A Workstation」がチョイスされた。「強力なパフォーマンスを提供する AMD Ryzen™ Threadripper™ PRO プロセッサが搭載可能で、96コアという圧倒的な物理コアを持つ7995WXも選択可能です。さらに NVIDIA® のGPUカードを最大3基まで運用できるので、サーバクラスに匹敵するパフォーマンスを持たせることもできるパワフルなモデルです」と語るHP 勝谷氏。

「ただし、PoCでは課題解決方法の確認から無理なく実用システムにつなげていくことが重要なので、リッチになりすぎないように16コアの7955WX、グラフィックスには NVIDIA® のGPUカードを1基のみ搭載したエントリーモデルをご提供しました。この仕様ならPoCが完了したのち、スケールさせる際にも無駄な投資をせずに済むはずです」とHPの大津山氏も説明を続ける。

「実際にシステムを構築していく中で感じたのは、 NVIDIA® RTX 5000 Ada でもVRAMは32GBあるのでパラメーター数が多いモデルの動作でも安定していましたし、コンピューターの中核をなす、 AMD Ryzen™ Threadripper™ PRO プロセッサの潜在能力が非常に高いので、あらゆる演算をしていく中でもストレスを感じさせず、常に安定していたのが印象的でした」と田村氏。

「試行させる各モデルのオフロード（負荷軽減）が今回のテストでは重要でした。その場合はプロセッサの周波数が大切になるのですが、今回のワークステーションは5.3GHzと高速なうえ、32あるマルチスレッドを有効活用できたので処理は非常に高速でした」と環境構築を担当した萩原氏は解説する。

ローカルLLMのシステムの中枢となるコンピューターにワークステーションを活用しても十分な結果が得られることがここでも証明されたかたちだ。

社内実装を目指して更なる利便性を追求

今回の中間報告において重要なLLMモデルの検証についてどのような結果が得られたのだろう。「PoCを続ける中でブラッシュアップしながら、常に改善を進めていきました。例えば日報をまとめさせようとした場合、当日分のデータだけではどのモデルも良い出来にはならず、数日分のコンテキスト情報をベースにすると精度があがるといった傾向があることもわかってきました。日報の精度が上がれば週報もよくなりますし、当然月報もすばらしいものができあがります。改善するごとにシステム全体がよくなっていきましたね」と田村氏は振り返る。

「現時点では学習まではさせていませんが、今後は進捗情報の作成などにおいて、KPIを含めてどのように取り込んで生成・活用させるのかも課題だと思っています。現時点では『gemma3:27b』や『Phi-4』『Phi-4 :reasoning-plus』などが安定したモデルと評価されています。特にgemmaは安定しており、今回のPoCにおいては、一番精度が高かった印象があります。各種報告書の作成に関してはいずれも10～15秒で作成が完了できているので、結果からみてもPoCは順調に進んでいると思います」と手応えを語る萩原氏。

「これまで日報や週報の作成は業務が終わった後の面倒な作業でした。ワークステーションとローカルLLMで業務終了後に自動的に処理でき、翌朝出社すれば出力もされているとなれば、社員の負担は軽減できます。今回のPoCでは十分にその手応えを感じさせてくれています。同時にプロジェクト毎に存在しているチャットには社内の財産になるような情報も含まれています。情報の整理に生成AIを利用することで、個人によるバイアスが存在しない状態で情報を取り出せるのもメリットだと考えます」と加藤氏も評価する。

「今回のシステムは様々なインターフェイスを持つものなので、あらゆる可能性を秘めているといえます。AIを使った処理体系という中に今回はローカルLLMを使った処理を選択肢として加えているという形になるので、外部のAIをどこかに繋いで使うなど、まだまだ拡張できると思います。せっかく優れたワークステーションがあるわけなので、どんどん活用していただきたいと思います」と池田氏は総評する。

「弊社のスタッフ職には生成AIやコンピュータースキルが十分でない要員もいますので、今取り掛かっている日報作成の自動化を含めて、複雑なインターフェイスを押し付けるわけにはいきません。特に意識をしなくてもWindowsパソコンを使っている中で自然とAIが動いているというのが理想です。今回のPoCはその世界を実現するための最初のステップとして、とてもよい体験をさせていただいていると思います。今後もPoCは続きますが、これからも試行錯誤を重ねてより良い結果を出していきたいですね」と最後に加藤氏は語ってくれた。HPは今後もビッグローブ、Workstyle Evolution、WEELらが中心となって進めているPoCのサポートを続ける。

※このコンテンツには日本HPの公式見解を示さないものが一部含まれます。また、日本HPのサポート範囲に含まれない内容や、日本HPが推奨する使い方ではないケースが含まれている可能性があります。また、コンテンツ中の固有名詞は、一般に各社の商標または登録商標ですが、必ずしも「™」や「®」といった商標表示が付記されていません。