株式会社NTTデータグループ（以下、NTTデータグループ）、株式会社NTTデータ（以下、NTTデータ）、NTTデータ先端技術株式会社（以下、NTTデータ先端技術）は、お客さまのAIガバナンス強化を支援する「AIガバナンスコンサルティングサービス」の提供を2024年秋以降に開始します。本サービスでは、AI活用に伴うセキュリティーリスクだけでなく、法規制や倫理問題などのリスクも含め多角的に評価し、さらにその対策の計画・実行・運用に至るまでトータルで支援します。

急速にAIの普及が進む中、AIのリスクを適切にマネジメントしつつ、AIがもたらすその価値を最大化するためには、AI活用推進とAIガバナンスの徹底を両輪で進めていくことが求められています。3社はこれまでAI活用およびAIリスクマネジメントに関する取り組みを推進しており、そこで得られた豊富な専門知識を活用していきます。

今後は、国内外の企業と連携を拡大し、グローバルな推進体制を構築します。国内のみならずグローバル全体へ本サービスを展開し、お客さまの安心・安全なAI活用を支援します。

【背景】

AI活用が急速に進み、日々の業務が効率化されるなどさまざまなメリットがある一方で、AI技術の利用範囲および利用者の拡大に伴いAIによるリスクも増大しています。特に、近年利用が急拡大している生成AIにより、意図しない差別的な表現やバイアスの介入、著作権侵害、虚偽情報の出力など、多岐にわたるリスクが指摘されています。それにより、社会的・倫理的な観点で、AI活用に関する評価が一層厳しくなっています。

このようなAI活用におけるリスクに対応するため、国内外でAIガバナンスの在り方が議論され、法規制やガバナンスを強化する動きが加速しています。2023年にG7広島サミットでの結果を踏まえて立ち上がった「広島AIプロセス」により国際指針と行動規範が整備され、日本では2024年にAIガバナンスの統一的な指針を示す「AI事業者ガイドライン」が制定されました。同年、EUでもAIのリスクに応じてAIシステムを規制するAI規制法案が可決されるなど、世界各国や国際機関でガバナンスに関する検討が進んでいます。

安全かつ効果的にAIを活用するためには、 AIのリスクを適切にマネジメントしつつ、AIがもたらす価値を最大化する必要があり、AI活用の推進とAIガバナンスの徹底を両輪で進めていくことが求められます。(図1)AIリスクを適切に捉え、それに応じた対策を継続的に計画・実行・運用していくことが重要です。このようなAIガバナンスの実行には、AIの技術的視点や各国の法規制などの広範な知見が必要であり、高い専門性が求められます。

NTTデータグループは、2019年に「NTTデータグループAI指針」を策定(注1)、2021年にはAIアドバイザリーボードを創設(注2)、2023年にはAIガバナンス室(注3)を設立し、AIリスクマネジメントに関する取り組みを進めてきました。NTTデータは、AIガバナンスに関する活動に取り組んでいるほか、AIの中でも特にリスクが高いとされる生成AIを専門に活用を推進する国内市場向けの組織を設置しています。NTTデータ先端技術は、AI技術への長年の取り組みや、各種ITシステムに対するアセスメントやセキュリティー診断サービスの提供実績があり、AIリスクについて知見を深めてきました。

【取り組み概要・特長】

2024年秋以降、お客さまのAIガバナンスを強化し安全かつ効果的なAI活用をサポートするため「AIガバナンスコンサルティングサービス」を提供します。3社は、AIリスクに関する知見を有し、AIガバナンスの実行に早期から取り組んでおり、これまで培った豊富な専門知識を生かした支援が可能です。リスクの評価から対策の計画・実行・運用に至るまで、一貫した支援を提供するトータルソリューションです。

１. AIリスク検知・診断

AIモデルにおけるセキュリティーや誤った出力をするハルシネーションなどのリスクを網羅的に抽出するAIモデルアセスメントや、AIプロジェクトにおけるリスクを可視化し低減を図るAIプロジェクトアセスメント、AIリスク管理体制やプロセスを評価するAIリスクマネジメントアセスメントなど、AIプロジェクトと会社・組織の両面においてAIリスクを検知・診断します。また、AIモデルの品質やリスク管理プロセスの評価だけでなく、AIの利用方法を包括的に解析し、法規制や倫理的視点を考慮した多角的な評価を通じて、潜在的なAIリスクを洗い出します。これらにより、対策が必要なリスクとリスク低減のための改善案を明らかにします。

２. AIリスクへの対策実行

AIシステムやモデルが期待通りに動作しているか、問題が発生していないかを監視するモニタリングツールの導入や、AIシステムの動作を適切に制御しリスクが発生することを防ぐガードレールツールの導入を支援します。そのほかにも、AIリスクを管理しガバナンスを強化するための行動目標や、実践例を示したAIガバナンスガイドラインの作成、組織全体でAIガバナンスを実現するための組織整備支援を実施するなど、具体的なリスク対策の実行も幅広く対応します。

【今後について】

「AIガバナンスコンサルティングサービス」は、NTTデータグループ、NTTデータ、NTTデータ先端技術の3社により構成されるAIガバナンス専門チームにて運営します。今後、国内外の企業との連携拡大も行い、国内をはじめグローバル全体へ本サービスを展開していきます。AIガバナンスにおける豊富な専門知識とグローバルな協業体制により、お客さまの安心・安全なAI活用を支援します。

注釈

注1  NTTデータグループのAI指針を策定（2019年5月29日）

https://www.nttdata.com/jp/ja/news/release/2019/052900/

注2  安心・信頼できるAI提供に向けたAIアドバイザリーボードの設置について（2021年4月19日）

https://www.nttdata.com/jp/ja/news/release/2021/041901/

注3  AIのリスクマネジメント強化を目的とした「AIガバナンス室」の新設（2023年3月23日）

https://www.nttdata.com/global/ja/news/release/2023/032301/

＊文章中の商品名、会社名、団体名は、各社の商標または登録商標です。