AIを巡るコンプライアンス――対策を考える新組織「AISI」

企業がAIを活用する際、コンプライアンスに配慮することが必要です。業務に利便性が高いAIであっても、利用されているデータが不正なものである場合、そのAIを利用している企業自身の姿勢が問われる可能性があるからです。だからこそ、企業はAIを選択する際に、信頼できるものを選択する必要があります。また、企業独自のデータを組み合わせ利用する場合には、そのデータが本当に利用して良いものなのかどうかを確認する必要があります。

特にグローバルで事業展開を行っている企業は、グローバルでAIを巡るコンプライアンスが地域によって異なるので注意が必要です。

しかし、これだけ急速にAI利用が進む中、どんな基準でAIを使っていけばいいのかと迷う企業も多いのではないでしょうか。思い起こせば、セキュリティについてもどんな指針でセキュリティ対策をとっていけばいいのか多くの企業が悩んでいた時期がありました。現在ではNIST（National Institute of Standards and Technology,＝米国基準技術研究所）が発表したサイバーセキュリティフレームワークを自社セキュリティの指針としている企業が多くなっています。同じように多くの企業が採用するAIを利用する際のコンプライアンスの指針となるフレームワークのようなものがあれば良いのですが、2024年時点ではこれぞ決定打といえるようなものはないのが実状です。

ただ、日本でも急速にAI技術が進化し、対策が必要であると多くの人が考えていることから、2024年2月14日、内閣府は「AIセーフティ・インスティテュート（略称＝AISI）」を設立したことを発表しました。元日本IBMのAI研究者で、現在は損保ジャパンCDO（チーフ・デジタル・オフィサー）である村上 明子氏が所長に就任し、IPA（独立行政法人情報処理推進機構）下に組織が置かれました。

主な業務として、「安全性評価に係る調査、基準等の検討」、「安全性評価の実施手法に関する検討」、「他国の関係機関（英米のAIセーフティ・インスティテュート等）との国際連携に関する業務」の3つが予定されています。

具体的な活動や成果が出てくるのはこれからのことになりますが、まさに企業が求めているAIを活用する際の指針となるような基準の策定や、グローバル展開を行う企業には有効になると思われる他国の関係機関との連携が期待されます。

注目すべきは関係省庁として、内閣府以外に内閣官房、警察庁、デジタル庁、総務省、外務省、文部科学省、経済産業省、防衛省が名を連ねていることです。AIが及ぼす影響力の大きさ、それを懸念する省庁が多いことの証左といえるのではないかと思います。

今後はAISIの活動をチェックしていくと共に、企業でAIを活用する場合には、何をしたかの記録として「きちんとログを残すことを社内で徹底すべき」とAI関連の技術者は指摘します。「知らない間に、社内で違法なデータを使ったAIが使われていた」という事態を防ぐために、利用状況、使っているAIの中身を細かくチェックできる体制を作っておくことが望ましいということです。全社的にこの点を周知しておくことがトラブルのないAI活用の第一歩といえそうです。

クリックして拡大表示

日本に誕生した信頼できるAIを推進する機関AISI
出典：AISIホームページより

※このコンテンツには日本HPの公式見解を示さないものが一部含まれます。また、日本HPのサポート範囲に含まれない内容や、日本HPが推奨する使い方ではないケースが含まれている可能性があります。また、コンテンツ中の固有名詞は、一般に各社の商標または登録商標ですが、必ずしも「™」や「®」といった商標表示が付記されていません。

※2024年5月20日時点の情報です。内容は変更となる場合があります。