Dalam pendekatan inovatif ini, model AI tidak semata-mata memberikan pandangan-mereka bertindak sebagai pembuat keputusan. Mereka menganalisis, bertindak balas, dan kadang -kadang beroperasi secara bebas. Peralihan ini memerlukan penilaian semula lengkap tentang bagaimana kita melihat risiko, mewujudkan kepercayaan, dan perisai infrastruktur digital.

Dari logik ke pembelajaran: rangka kerja telah beralih

Secara tradisinya, perisian perusahaan dibina dalam lapisan: infrastruktur, data, logik, dan persembahan. Sekarang, lapisan baru telah muncul dalam seni bina -lapisan model. Ia dinamik, probabilistik, dan semakin penting untuk bagaimana aplikasi melaksanakan.

Jeetu Patel , EVP dan GM Keselamatan dan Kerjasama di Cisco , menjelaskan transformasi ini semasa perbincangan baru -baru ini: "Kami berusaha untuk mewujudkan aplikasi perusahaan yang sangat diramalkan di atas timbunan yang tidak dapat diramalkan."

Ketidakhadiran ini bukan kecacatan -ciri -ciri model bahasa besar dan AI generatif. Walau bagaimanapun, ia merumitkan anggapan keselamatan konvensional. Model tidak secara konsisten menghasilkan output yang sama dari input yang sama. Tindakan mereka boleh berbeza-beza dengan data baru, penalaan halus, atau rangsangan alam sekitar. Variabiliti ini menjadikan mereka lebih mencabar untuk melindungi.

AI adalah kelemahan baru

Memandangkan AI menganggap peranan yang lebih besar dalam proses permohonan, ia juga menjadi sasaran yang lebih menarik. Pelakon ancaman sudah mengeksploitasi kelemahan melalui suntikan segera, jailbreaks, dan pengekstrakan segera sistem. Dengan model yang dilatih, dikongsi, dan disesuaikan dengan kelajuan yang belum pernah terjadi sebelumnya, langkah-langkah keselamatan sukar untuk dipertahankan.

Patel menekankan bahawa kebanyakan perusahaan memerlukan enam hingga sembilan bulan untuk mengesahkan model, namun model sendiri mungkin hanya terpakai selama tiga hingga enam bulan. Pengiraan tidak ditambah.

Selain itu, percambahan model menghasilkan peningkatan ketidakkonsistenan -masing -masing dengan ambang keselamatan, tingkah laku, dan perlindungan yang berbeza. Selimut perlindungan ini meninggalkan jurang. Patel berpendapat bahawa laluan tunggal ke hadapan adalah "substrat bersatu untuk keselamatan dan keselamatan di semua model, ejen, aplikasi, dan awan."

Kekangan runtime dan pengesahan algoritma

Memandangkan halaju dan kerumitan ancaman kontemporari, amalan QA tradisional jatuh pendek. Patel menegaskan bahawa pasukan merah mesti berubah menjadi sesuatu yang automatik dan algoritma. Keselamatan mesti beralih dari penilaian sporadis kepada pengesahan tingkah laku yang berterusan.

Dia menggambarkan satu kaedah seperti "permainan 1,000 soalan" -di teknik pertanyaan automatik yang meneliti tindak balas model untuk petunjuk kompromi. Jenis penyamaran merah penyesuaian ini mendedahkan bagaimana model mungkin dimanipulasi ke dalam kelakuan yang tidak selamat melalui petunjuk tidak langsung atau menipu. "Kami berjaya melanggar Deepseek 100% masa dengan penanda aras 50 teratas," katanya, "sementara Openai berjaya memecahkan 26% dari masa itu."

Risiko pembezaan sedemikian menggariskan keperluan untuk rangka kerja standard, rentas model untuk penguatkuasaan runtime. Model tidak boleh dianggap sebagai kotak hitam -mereka mesti diperhatikan, disahkan, dan diarahkan dalam masa nyata.

Ejen AI: Apabila model beroperasi sendiri

Bahaya melampaui output. Dengan kemunculan ejen AI -di mana model -model tugas yang lengkap secara autonomi, hubungi API, dan berinteraksi dengan ejen lain -kerumitan menguatkan. Keselamatan kini harus mempertimbangkan sistem autonomi yang membuat pilihan, berkomunikasi, dan melaksanakan kod tanpa pengawasan manusia.

Patel memberi amaran bahawa komunikasi antara agen memperkenalkan laluan ancaman baru, sebagai model bertukar data dan arahan di antara mereka. Tanpa pengawasan, pertukaran ini dapat meningkatkan kelemahan atau menutupi aktiviti jahat.

Kemajuan ini mempercepatkan. Menjelang tahun depan, kami mungkin menyaksikan penggunaan agen yang meluas yang melaksanakan aliran kerja pelbagai langkah dengan input manusia yang minimum. Mengamankan sistem ini akan menuntut campuran penglihatan, heuristik tingkah laku, dan penguatkuasaan masa nyata-pada skala sektor tidak pernah ditemui sebelum ini.

"Ketika AI tumbuh lebih pintar dan berdikari, kepentingan untuk mengekalkan peningkatan keselamatannya dengan ketara. Kita mesti mengubah perspektif kita terhadap risiko dan bertindak lebih cepat daripada sebelumnya," kata Russell Fishman , Pengarah Kanan, Ketua Pengurusan Produk Global untuk AI dan beban kerja moden di NetApp . "Ini melibatkan tumpuan rapat dengan garis keturunan data-yang kita mempunyai kejelasan, perlindungan, dan kepercayaan dalam data yang digunakan untuk menyempurnakan dan melatih semula model, serta maklumat yang mendorong kesimpulan masa nyata.

Kes bagi Infrastruktur Bersepadu dan Kerjasama Terbuka

Patel memberi amaran bahawa jika setiap model, platform, dan perniagaan menggunakan kerangka keselamatannya yang berbeza, kami menuju ke gangguan. Apa yang diperlukan adalah infrastruktur bersatu -asas yang neutral dan interoperable untuk keselamatan AI yang merangkumi awan, vendor, dan model.

Mengakui ini, Cisco melancarkan pengenalan Yayasan AI di RSAC 2025 -langkah penting ke arah demokrasi keselamatan AI.

Yayasan AI dipasarkan sebagai model penalaran sumber terbuka pertama yang dibuat secara eksplisit untuk meningkatkan aplikasi keselamatan. Dengan membuat model ini boleh diakses secara terbuka, Cisco berhasrat untuk memupuk strategi yang didorong oleh masyarakat untuk mendapatkan sistem AI, kerjasama inspirasi di seluruh industri untuk menangani cabaran rumit yang ditimbulkan oleh integrasi AI.

Pelancaran Yayasan AI melambangkan kecenderungan industri yang lebih luas ke arah kerjasama terbuka dalam keselamatan AI. Dengan mengambil bahagian dalam komuniti sumber terbuka, Cisco bukan sahaja menangani kebimbangan keselamatan segera yang terikat kepada AI tetapi juga mewujudkan preseden bagi entiti lain untuk diikuti dalam memupuk ketelusan dan penyelesaian masalah bersama di era AI.

Unsur Manusia: Penghakiman tetap penting

Walaupun dengan kehebatan AI, ia tidak menggantikan intuisi manusia. Patel menekankan bahawa walaupun model maju mendapati sukar untuk meniru naluri, kehalusan, dan penalaran bukan lisan. "Kebanyakan perkara yang anda dan saya terlibat," katanya, "melibatkan beberapa tahap data -tetapi kemudian banyak penghakiman."

Sistem terbaik adalah mereka yang melengkapkan kepakaran manusia, tidak menggantikannya. Kami masih memerlukan individu untuk menimbulkan persoalan yang betul, mentafsirkan isyarat yang betul, dan membuat keputusan yang tepat -terutamanya apabila cadangan AI menceburkan diri ke wilayah yang samar -samar.

Sama seperti menggunakan GPS di bandar yang sudah anda ketahui, manusia mesti mengekalkan keupayaan untuk mengesahkan, mengatasi, dan memperbaiki cadangan mesin. AI harus menjadi juruterbang bersama, bukan autopilot.

Mentakrifkan semula kepercayaan pada era kecerdasan

Sebagai organisasi mengintegrasikan kecerdasan lebih jauh ke dalam sistem mereka, mereka juga harus menanamkan kepercayaan. Ini memerlukan membina model yang bertanggungjawab. Ini bermakna mengesahkan tingkah laku secara konsisten, bukan hanya pada pelancaran. Dan ini bermakna perniagaan, perniagaan, dan platform yang berkolaborasi -untuk memastikan bahawa AI menguatkan keselamatan tanpa menjadi liabiliti sendiri.

Fishman menyimpulkan, "Pemantauan masa nyata, penjaga gawang yang lebih bijak, dan kerjasama rentas sektor-dengan ketelusan di setiap peringkat-penting untuk membina kepercayaan di AI dan melindungi dunia digital kita."

AI sudah membentuk semula landskap keselamatan siber. Pertanyaannya adalah sama ada kita dapat menguatkan transformasi dalam masa. Lapisan kecerdasan ada di sini. Ia kuat. Dan ia mudah terdedah.

Sekarang adalah saat untuk mengulangi semula keselamatan apa ketika kecerdasan berada di mana -mana.

Atas ialah kandungan terperinci Mengapa AI adalah Battleground Cybersecurity Baru. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!