Trustmarqueの最近のレポートは、多くの組織が人工知能システムの開発と展開中にAI固有のリスクに対処できないことを明らかにしています。

モデルのバイアス、透明性の欠如、幻覚など、AIが導(dǎo)入する獨自の課題にもかかわらず、ビジネスリーダーは、これらの新たな脅威を管理するのに適していない従來のソフトウェア開発フレームワークに依存し続けています。

レポートは、組織の93％がすでに何らかの形でAIを使用しているが、AI関連の脆弱性を処理するために既存のプロセスを適応させた人はほとんどいないことを強調(diào)しています。驚いたことに、ガバナンス構(gòu)造を完全に実裝しているのは7％のみであり、半分以上がガバナンスなしまたは非常に限られた監(jiān)視のいずれかで動作します。

さらに、AIガバナンスをソフトウェア開発ライフサイクル（SDLC）に統(tǒng)合したのはわずか8％であり、ほとんどが部門間で斷片化または矛盾していると説明しています。

AIモデルには、偏った出力や幻覚など、事実として提示された強化された応答など、固有の危険があります。多くの企業(yè)はセキュリティチェックを?qū)g行したり、異常を監(jiān)視したりしますが、開発中にバイアスを積極的にテストするのは28％だけで、わずか22％がモデルの解釈可能性を評価しています。

1つの大きな障害は、不十分なインフラストラクチャです。大規(guī)模なAIイニシアチブをサポートするために、データと技術(shù)環(huán)境が完全に裝備されていると言っている組織は4％のみです。重要なのは、モデルレジストリ、監(jiān)査証跡、バージョン制御などの必須コンポーネントが手動で処理されるか、まったく処理されるか、まったく処理されないことがよくあります。

「AIの採用は明らかにガバナンスを上回っています」と、TrustmarqueのAI責(zé)任者であるSeb Burrell氏は述べています。 「AIを使用している組織の93％が包括的なガバナンスを備えているのは7％だけであるため、重要な切斷があります。イノベーションはシステムよりも速く動いており、サポート構(gòu)造が追いつくことができます?！?/p>

彼は、「開発チームには必要なツールとインフラストラクチャが欠けており、これは強力なガバナンスフレームワークを構(gòu)築するためのリーダーシップサポートが不十分であることによって悪化しています?！?/p>

説明責(zé)任は拡散のままであり、回答者の9％のみがITリーダーシップとガバナンスの責(zé)任との整合性を示しています。完全に19％が、AIガバナンスの指定所有者がいないと報告しています。

ほとんどのガバナンスイニシアチブは、企業(yè)全體の戦略によって推進されるのではなく、部門レベルで主導(dǎo)されます。継続的な監(jiān)視はまれです。18％の組織がKPIを使用して、時間の経過とともにAIのパフォーマンスとコンプライアンスを追跡します。

官能的なコラボレーションも不足しています。法的、倫理、およびHRチームは、AIの意思決定（40％）でたまにしか相談されず、20％しか正式では多様性の多様性ガバナンス団體を確立しています。

報告書によると、この斷絶と実裝の間の切斷は、今日のAIを活用している企業(yè)にとって最大のハードルを表しています。著者は、AIイニシアチブをコアビジネス目標に合わせて、ガバナンスを開発ワークフローに直接組み込み、技術(shù)インフラストラクチャと労働力の両方に投資することを推奨しています。

彼らはまた、沈黙した責(zé)任ではなく、機能全體で共有された説明責(zé)任の必要性を強調(diào)しています。

「組織は、それを管理できるよりも速く生成的AIを展開しており、リスクは具體的です」とバレルは警告しました。 「適切な監(jiān)視がなければ、プライバシー違反、運用上の失敗、倫理的失効、利害関係者の信頼の侵食への暴露の増加が見られます。これらは単なる規(guī)制上の懸念ではなく、長期的なビジネスの安定性と信頼性に対する基本的な脅威です?！?/p>

以上が組織は、AIガバナンスをめぐるタイムボムに直面していますの詳細內(nèi)容です。詳細については、PHP 中國語 Web サイトの他の関連記事を參照してください。