Laporan baru-baru ini oleh Trustmarque mendedahkan bahawa banyak organisasi gagal menangani risiko khusus AI semasa pembangunan dan penggunaan sistem kecerdasan buatan.

Walaupun cabaran yang unik AI memperkenalkan-seperti model kecenderungan, kekurangan ketelusan, dan halusinasi-pemimpin perniagaan terus bergantung kepada kerangka pembangunan perisian tradisional, yang tidak sesuai untuk menguruskan ancaman yang muncul ini.

Laporan ini menyoroti bahawa sementara 93% organisasi sudah menggunakan AI dalam beberapa bentuk, sangat sedikit telah menyesuaikan proses mereka yang sedia ada untuk mengendalikan kelemahan yang berkaitan dengan AI. Mengejutkan, hanya 7% telah melaksanakan struktur tadbir urus sepenuhnya, dan lebih separuh beroperasi sama ada tanpa tadbir urus atau pengawasan yang sangat terhad.

Lebih -lebih lagi, hanya 8% telah berjaya mengintegrasikan tadbir urus AI ke dalam kitaran hayat pembangunan perisian mereka (SDLC), dengan kebanyakan menggambarkan usaha mereka sebagai berpecah atau tidak konsisten di seluruh jabatan.

Model AI membawa bahaya yang wujud, termasuk output berat sebelah dan halusinasi -tindak balas yang dibentangkan sebagai fakta. Walaupun banyak syarikat melakukan pemeriksaan keselamatan atau memantau anomali, hanya 28% secara aktif menguji kecenderungan semasa pembangunan, dan hanya 22% menilai interpretasi model.

Satu halangan utama adalah infrastruktur yang tidak mencukupi. Hanya 4% organisasi yang mengatakan data dan persekitaran teknikal mereka dilengkapi sepenuhnya untuk menyokong inisiatif AI berskala besar. Komponen penting seperti pendaftaran model, laluan audit, dan kawalan versi sering dikendalikan secara manual atau tidak sama sekali.

"Adopsi AI jelas melampaui tadbir urus," kata Seb Burrell, ketua AI di Trustmarque. "Dengan 93% organisasi yang menggunakan AI tetapi hanya 7% yang mempunyai tadbir urus yang komprehensif, terdapat sambungan yang signifikan. Inovasi bergerak lebih cepat daripada sistem dan struktur sokongan yang dapat dijaga."

Beliau menambah, "Pasukan pembangunan tidak mempunyai alat dan infrastruktur yang diperlukan, dan ini semakin teruk oleh sokongan kepimpinan yang tidak mencukupi untuk membina kerangka tadbir urus yang kuat."

Akauntabiliti masih meresap, dengan hanya 9% responden yang menunjukkan penjajaran antara kepimpinan IT dan tanggungjawab tadbir urus. 19% penuh dilaporkan tidak mempunyai pemilik yang ditetapkan untuk tadbir urus AI.

Kebanyakan inisiatif tadbir urus diketuai di peringkat jabatan dan bukannya didorong oleh strategi seluruh perusahaan. Pemantauan yang berterusan adalah 18% daripada organisasi menggunakan KPI untuk menjejaki prestasi dan pematuhan AI dari masa ke masa.

Kerjasama lintas fungsi juga kurang. Pasukan undang-undang, etika, dan HR hanya kadang-kadang dirujuk dalam membuat keputusan AI (40%), dan hanya 20% telah menubuhkan badan tadbir urus formal, pelbagai jabatan.

Menurut laporan itu, cabut ini antara cita -cita dan pelaksanaan merupakan halangan terbesar bagi perusahaan yang memanfaatkan AI hari ini. Penulis mengesyorkan menyelaraskan inisiatif AI dengan matlamat perniagaan teras, membenamkan tadbir urus terus ke aliran kerja pembangunan, dan melabur dalam kedua -dua infrastruktur teknologi dan keupayaan tenaga kerja.

Mereka juga menekankan perlunya akauntabiliti bersama di seluruh fungsi, dan bukannya bertanggungjawab.

"Organisasi melancarkan AI generatif lebih cepat daripada yang dapat menguruskannya, dan risiko -risiko itu nyata," kata Burrell. "Tanpa pengawasan yang betul, kami melihat peningkatan pendedahan kepada pelanggaran privasi, kegagalan operasi, kelewatan etika, dan hakisan kepercayaan pihak berkepentingan.

Atas ialah kandungan terperinci Organisasi menghadapi timebomb yang berdetik atas tadbir urus AI. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!