2024年7月11日、日本HPが主催するAI活用イベント、「HP Future Ready AI Conference 2024 with HP Partner Communication」が開催された。2023年に大きな話題となった生成AI「ChatGPT」を始め、生成AIによる業務効率化、生産性向上を実現する企業が急増している。今や、待ったなしといわれるほど、DXに欠かせない存在となった生成AIをどのように取り込んでいけばいいのか、本イベントでは各界の著名人やAI時代をリードするベンダーが一堂に会し、AI活用の現在、そして将来を語った。ここでは、最新のAI導入情報を聞くことができたパネルディスカッションを紹介したい。

取材：中山 一弘

スピーカー：池田 朋弘 氏
株式会社 Workstyle Evolution CEO
生成AI/ChatGPT研究家

ファシリテーター：田村 洋樹 氏
株式会社 WEEL
生成AI事業部 統括リーダー

生成AIのビジネス転用はどこまで進んだ？

壇上に呼ばれたのは、田村氏と池田氏。AI開発の最先端で活躍している両氏は、ビジネスのAI活用の現状をもっともよく知る人物といえる。このプログラムはパネルディスカッション形式なので、以降のリポートは対談形式で紹介したいと思う。

池田氏：ここでは自分のPCで使える生成AIの最新状況やその使われ方についてお話を進めていきたいと思います。

例として見ていただきたいのは、Microsoft のスモールランゲージモデルの「Phi-3」です。 このAIには、今回のイベントで何を話せばよいかを考えてもらいました。Webサイトからイベントの情報をもらいつつ、十分なスピードで回答しています。情報入手後はオフラインとなっている自分のパソコンでの作業になりますが、回答も十分実用的な精度だといえます。こうした、ローカルでの生成AI活用はほかにどのようなケースがあるのでしょう。

田村氏：ローカルで生成AIを実行するメリットは、データが外へ出ていかないところにあると思います。そういう意味では、セキュリティ要件や法律などの制約によって、自社データを動かせない企業にはとても意義がある使い方だと思います。例えば、設計データや研究論文、あるいは第三者に個人情報を提供できない、医療、金融、保険業界などは、ローカルで動く生成AI以外は考えられないでしょう。

Phi-3「アイデア出し」

Phi-3「要約」

Phi-3「タグ付け」

生成AI活用事例も豊富に出てきている

池田氏：コストメリットもありますよね。最近私がお受けしたご相談では、社内で交わされるチャットの文章から、意味があるキーワードを抽出してどのようなトピックがあるのかを分析し、デイリーで報告して欲しいというものがありました。

実際にこれをやるとなると、膨大な数の処理が要求され、クラウド上で実行してしまうと、トークン数や利用料が大きくなります。

これをオンプレミスで実行させた場合、性能のいいパソコンを購入してあとはひたすら実行するだけで結果が得られます。もちろん電気代や購入費はありますが、クラウド利用と比較すれば、はるかに低いラインニングコストで使い続けることが可能です。

また、他の事例として、ある病院では患者さんの個人情報やカルテデータなどを、病院内のローカルPC上のLLMで要約させたり、情報を整理したりする実証実験をしています。

スタート直後はミスや修正が多々あり、実用化は難しいのかと思われていたそうですが、2か月後になるとチューニングが効いてきて、かなり使い勝手がよくなったという評価に変わったそうです。今後、実際の効率化の数値なども公開されていくとのことで、期待できる事例です。

田村氏：私の知っているのは、ある保険関係の会社様です。全社規模でオンプレミス環境での生成AI活用をご希望されていましたが、初期コストが高額になったため、一部の部門を対象に、サーバではなく、ワークステーションで実行する方向を選択されました。

生成AIも進化していますし、ハードウェアも大きく進化しています。大規模サーバ群でなくても、高性能なワークステーションでも十分機能しますし、導入コストは比較にならないほどの差があります。結果として、オンプレミス環境でも十分満足のいく性能が確認されています。

また、べつの企業では、社外秘、部外秘の情報が多いため「RAG」を構築したいというケースがありました。こちらもオンプレミス環境でのご活用をお考えでしたが、ここでもハイエンドPCを導入することで実現させることができています。クラウドに毎月多額のコストを支払うことを考えれば、十分コストメリットのあるシステム構築は可能になっているのが現状です。

企業ではどのようなシステムで生成AIを使っているのか

池田氏：オンプレミスで環境構築というと「専用のサーバルームを作る」という非常に重いアクションを考えがちでしたが、現在はずいぶん環境が変わったということですね。

田村氏：まったくその通りです。ただし、注意点として同時接続数やセッション数には制限があるので、そこが自社の要望にマッチするのか、要件定義しておく必要があります。また、拠点ごとに要件が異なるケースもあるでしょうから、それぞれの環境にマッチしたシステム構築が大切になってきます。例えば、会社の部門単位、チーム単位に分割して、パーソナライゼーションしていくといった動きが主流になっているように感じます。

池田氏：その場合、生成AIはオープンソースを利用していくのか、独自に開発するのか、どちらを選ぶ企業が多いのですか？

田村氏：基本的にはオープンソースですね。もちろん、環境に合わせたチューニングは必要になりますが、現在では目的特化型の生成AIも多いので、自社の目的に合致していれば、それを導入することも考えられます。

今後、企業のAI活用はどのように進んでいくのか

池田氏：生成AIを取り巻く環境は日々変化していますが、オンプレミスやローカルでどこまでできるものなのでしょうか？

田村氏：ChatGPTのように、汎用的に何でもやらせたいという目的よりは、自社の特化した目標のために使いたいというニーズのために使うことをおすすめします。簡単に言えば、「この業務をAIがやってほしい」というような場合に向いているといえます。

現時点に限ったことですが、自律型AIをローカルで利用するのはまだ厳しいというのが実感です。ただし、生成AIの進歩は非常に早いため、「今、できないこと」に関しても、数か月後には実行可能になっていることもよくあるので、情報収集はマメにやっておくとよいですね。

池田氏：クラウド型の生成AIと比較して、オンプレミス、ローカルの生成AIは機能的に劣るという声もあります。

田村氏：確かに現状では、そのような指摘が当たっている場面もあるかも知れません。しかし、これから、AI PCも普及していくでしょうし、性能もどんどん向上していくと思います。高性能なAI PCやワークステーションを活用することで、パラメーター数で勝負するような環境も作りやすくなっていくと考えています。

池田氏：オンプレミスやローカルだけで完結しなければならないということもありません。場面に合わせて、クラウドとローカルを組合せたハイブリッドな活用が今後必要になります。

別の議論になりますが、生成AIを活用していく場合と、これまでのプログラムのルール・ベースのようなものを組み合わせることもメリットがあるということでしたが、オンプレでの検証を行う際にもこれらの組み合わせを試していくということになるのでしょうか。

田村氏：生成AIを利用する場合に鍵となってくるのが「曖昧さ」です。これがあるために、出力には幅がでてきます。ルール・ベースの場合には、一定の範囲での出力が出せるため、ここは使い分けが必要なところだと思います。どこまでAIを活用して、どこをルール・ベースでやっていくのかというような検証も必要になってくると思います。AIが進歩していくなかで、このそれぞれの組み合わせの範囲というものも常に変化していくところだと思います。

AIにとにかく全部を任せようとすると、現時点では「魔法の杖」のようなものになってしまい、いろいろとごっちゃになってしまってうまくいかない印象があります。生成AIといままでの機械学習AIの組み合わせなども含めて、最適解を探した方がよいと思います。オンプレであれば、こういうこともやりやすいのではないでしょうか。

最近の事例なのですが、オンプレのサーバ内であれば、利用料金や接続時間などを考えることなく、ずっとAIを動かし続けることも可能になります。例えば退社するときにでも、生成AIにいろいろな素材を与えたうえで、ビジネス企画を立案するというタスクを与えたとします。24時間ずっと使い続けても問題ないので、翌朝にはスライドに落とし込んだ資料を作っておいてもらう、といったことも可能になります。

これをワークステーションでやることも可能で、朝イチから同じような指示をして「廻しっぱなし」の環境にしておいて、夕方には資料が完成しているということもできるでしょう。同じことをクラウドでやるとすれば、トークン数や容量の消費も激しいものになります。

いま、AI PCやワークステーションの波が来ているのは間違いないので、ここにみんなで乗って進化させていければと考えています。

ここでパネルディスカッションは時間となり終了。非常に濃い内容のセッションとなり、多くの企業にとって、生成AIの現状を知るための情報を数多く持ち帰ることができたと思う。壇上を降りる両者には大きな拍手が送られていた。

※このコンテンツには日本HPの公式見解を示さないものが一部含まれます。また、日本HPのサポート範囲に含まれない内容や、日本HPが推奨する使い方ではないケースが含まれている可能性があります。また、コンテンツ中の固有名詞は、一般に各社の商標または登録商標ですが、必ずしも「™」や「®」といった商標表示が付記されていません。