AIを安全かつ効果的に活用するために必要なことは何か？

米国では最近、AIが及ぼす悪影響から社会を保護することを目的とするAI権利章典 (AI Bill of Rights)*が発表されました。AIモデルの開発者と利用者は、AIモデルやAI戦略に安全策を組み込む必要がある点について、この機会に改めて考える必要があります。AI TRiSMの厳格な適用が求められているのです。

*内閣府ホームページによるAI権利章典 (AI Bill of Rights)についてのPDF資料
*米国科学技術政策局による「Blueprint for an AI Bill of Rights」の公表 (英語)

ガートナーは、AI TRiSMを、AIモデルのガバナンス、信頼性、公平性、確実性、堅牢性、有効性、プライバシーをサポートする枠組みと定義しています。AI TRiSMには、モデルの解釈可能性と説明可能性、プライバシー、モデルの運用、敵対的な攻撃に対する抵抗に関する、顧客／企業向けのソリューション、手法、プロセスが含まれます。

ガートナーのアナリストでディスティングイッシュト バイス プレジデントのアビバ・リタン (Avivah Litan) は、次のように述べています。「ITリーダーは、AI TRiSMのサポートに時間とリソースを費やす必要があります。それによって、導入、ビジネス目標、社内外のユーザーの受け入れの面で、AIの成果を向上できます。AIの脅威や侵害 (悪意の有無は問わず) は絶え間なく発生し、常に進化しています。したがって、AI TRiSMにも、その場限りではなく継続的に取り組む必要があります」

2026年までに、AIの透明性／信頼性／セキュリティを運用化する組織は、AIモデルの50%で、導入／ビジネス目標／ユーザー受け入れの成果を向上させるようになると、ガートナーでは予想しています。

AIの普及が進んでいます。しかし、ガートナーの調査結果によると、組織はITリーダーが説明も解釈もできない数百、数千のAIモデルも導入している場合のあることが明らかになりました。

知識不足や理解不足は、深刻な結果を招きます。AIモデルの誤動作による影響は、依存性が高まることで増幅されます。

AIのリスクを管理していない組織では、AIによるネガティブな成果や侵害を経験する可能性が各段に高くなります。意図したようにモデルが動作しない問題や、セキュリティ／プライバシーの事案、金銭的損失や評判の低下、個人への被害といった問題が発生します。AIの誤った利用は、ビジネス上の不適切な意思決定を下す要因にもなりかねません。

今すぐダウンロード (英語)：2021-2023 Emerging Technology Roadmap

AIの規制は増えていますが、保護の義務化に先立って、信頼性、透明性、顧客保護を確実にするための監査可能なプラクティスを導入することが重要です。ITリーダーは、モデルの確実性、信頼性、プライバシー、セキュリティを保証するために、AI TRiSMの新しい能力を適用する必要があります。

モデルの本番稼働が始まった後にAI TRiSMを適用するのでは、プロセスを潜在的リスクにさらすことになります。ITリーダーは、侵害の形態について理解を深め、AI TRiSMソリューション・セットを使用してAIを適切に保護すべきです。

AI TRiSMは、部門横断的な連携を必要とします。法務、コンプライアンス、セキュリティ、IT、データ・アナリティクスのチームからスタッフが参加すべきです。可能であれば専任チーム (難しい場合はタスク・フォース) を立ち上げることで、最良の結果を実現できます。各AIプロジェクトにビジネス部門から適切なメンバーが関与することも重要です。

Avivah Litan は、ガートナーのアナリストでディスティングイッシュト バイス プレジデントであり、現在はITL AIチームのメンバーとしてAIとブロックチェーンを担当しています。ブロックチェーン・イノベーションのあらゆる側面のほか、AI TRiSM (AIの信頼性／リスク／セキュリティ管理) を専門としています。サイバーセキュリティ／不正行為の分野に関して、AIの統合を含む広範な経験を有しています。