Trustmarque最近的一份報告顯示，許多組織在人工智能係統(tǒng)的開發(fā)和部署過程中未能解決AI特定的風險。

儘管AI引入了獨特的挑戰(zhàn)，例如模型偏見，缺乏透明度和幻覺，業(yè)務領導者繼續(xù)依靠傳統(tǒng)的軟件開發(fā)框架，這些框架不適合管理這些新興威脅。

該報告強調，雖然93％的組織已經以某種形式使用了AI，但很少有人對其現有流程進行了調整以處理與AI相關的漏洞。令人震驚的是，只有7％的人完全實施了治理結構，超過一半的人沒有治理或極有限的監(jiān)督。

此外，只有8％的人成功地將AI治理納入了其軟件開發(fā)生命週期（SDLC），大多數人將他們的努力描述為各個部門的分散或不一致。

AI模型帶來了固有的危險，包括偏見的產出和幻覺，這是事實。儘管許多公司進行了安全檢查或監(jiān)視異常情況，但只有28％的人在開發(fā)過程中積極測試偏見，而僅22％的模型可解釋性。

一個主要的障礙是基礎設施不足。只有4％的組織表示他們的數據和技術環(huán)境完全有能力支持大規(guī)模AI計劃。至關重要的是，基本組件（例如模型註冊表，審核跟蹤和版本控制）通常是手動或根本無法處理的。

Trustmarque AI負責人Seb Burrell說：“ AI的採用顯然超過了治理?！?“由於有93％的組織使用AI，但只有7％的組織擁有全面的治理，因此存在很大的脫節(jié)。創(chuàng)新的移動速度比系統(tǒng)更快，並且支持結構可以跟上?！?/p>

他補充說：“開發(fā)團隊缺乏必要的工具和基礎設施，而領導力支持不足來建立強大的治理框架，這使情況惡化了?！?/p>

問責制仍然分散，只有9％的受訪者表明IT領導與治理責任之間的一致性。全部有19％的人報告沒有指定的AI治理所有者。

大多數治理計劃都在部門層面領導，而不是由企業(yè)範圍的戰(zhàn)略驅動。連續(xù)監(jiān)控很少見，只有18％的組織使用KPI來跟蹤AI的性能和隨著時間的合規(guī)性。

還缺乏跨職能合作。法律，道德和人力資源團隊僅在AI決策（40％）中進行諮詢，而只有20％的人建立了正式的多部門治理機構。

根據該報告，野心和實施之間的這種脫節(jié)是當今利用AI的企業(yè)的最大障礙。作者建議將AI計劃與核心業(yè)務目標保持一致，將治理直接嵌入開發(fā)工作流程中，並投資於技術基礎設施和勞動力能力。

他們還強調了跨職能的共同責任的必要性，而不是孤立的責任。

Burrell警告說：“組織的生成AI速度比管理的速度更快，而且風險是明顯的。” “如果沒有適當的監(jiān)督，我們會看到增加對隱私侵犯，運營失敗，道德失誤和利益相關者信任的侵蝕的增加。這些不僅是監(jiān)管問題，而且對長期業(yè)務穩(wěn)定性和信譽的基本威脅?！?/p>

以上是組織面對AI治理的時間炸彈的詳細內容。更多資訊請關注PHP中文網其他相關文章！