この革新的なアプローチでは、AIモデルは単に洞察を提供するだけでなく、意思決定者として機(jī)能します。彼らは分析し、反応し、時(shí)には獨(dú)立して動(dòng)作します。この移行には、リスクをどのように認(rèn)識(shí)し、信頼を確立し、デジタルインフラストラクチャを保護(hù)するかについての完全な再評(píng)価が必要です。

ロジックから學(xué)習(xí)まで：フレームワークがシフトしました

従來(lái)、エンタープライズソフトウェアは、インフラストラクチャ、データ、ロジック、プレゼンテーションのレイヤーで構(gòu)築されていました?，F(xiàn)在、アーキテクチャ、つまりモデルレイヤーに新しい層が現(xiàn)れています。それはダイナミックで確率的で、アプリケーションのパフォーマンスにとって徐々に重要です。

CiscoのセキュリティとコラボレーションのEVPでありGMであるJeetu Patelは、最近の議論の中でこの変革を説明しました。

この予測(cè)不可能性は欠陥ではなく、大規(guī)模な言語(yǔ)モデルと生成AIの特徴です。ただし、従來(lái)のセキュリティの推定を複雑にします。モデルは、同じ入力から一貫して同一の出力を生成しません。それらの行動(dòng)は、新しいデータ、微調(diào)整、または環(huán)境刺激によって異なる場(chǎng)合があります。この変動(dòng)性により、それらは保護(hù)するのがより困難になります。

AIは新しい脆弱性です

AIは申請(qǐng)プロセスでより大きな役割を引き受けるため、より魅力的なターゲットにもなります。脅威アクターは、迅速な注入、脫獄、およびシステムの迅速な抽出を介して、すでに弱點(diǎn)を悪用しています。モデルが前例のない速度で訓(xùn)練、共有、微調(diào)整されているため、セキュリティ対策はペースを維持するのが難しいと感じています。

Patelは、ほとんどの企業(yè)がモデルを検証するのに6?9か月を必要としているが、モデル自體は3?6か月間しか適用できないと強(qiáng)調(diào)した。計(jì)算は合計(jì)されません。

さらに、モデルの急増により、矛盾が増加します。この保護(hù)のキルトはギャップを殘します。 Patelは、前方の唯一の経路は「すべてのモデル、エージェント、アプリケーション、およびクラウドのセキュリティと安全性のための統(tǒng)一された基質(zhì)」であると主張しました。

ランタイムの制約とアルゴリズム検証

現(xiàn)代の脅威の速度と複雑さを考慮すると、従來(lái)のQAの実踐は不十分です。 Patelは、赤いチームが自動(dòng)化されたアルゴリズムに進(jìn)化しなければならないと強(qiáng)調(diào)しました。セキュリティは、散発的な評(píng)価から継続的な行動(dòng)検証に移行する必要があります。

彼は、「1,000の質(zhì)問(wèn)のゲーム」などの方法を描寫(xiě)しました。これは、妥協(xié)の兆候に対するモデルの応答を精査する自動(dòng)化された問(wèn)い合わせ手法です。このタイプの適応レッドチームは、間接的または欺cept的なプロンプトを通じてモデルを危険な行動(dòng)に操作する方法を明らかにします。 「トップ50のベンチマークプロンプトで、DeepSeekに100％の時(shí)間に違反しました」と彼は言いました。

このような異なるリスクは、ランタイム施行のための標(biāo)準(zhǔn)化されたクロスモデルフレームワークの必要性を強(qiáng)調(diào)しています。モデルはブラックボックスとして扱うことはできません。それらは、リアルタイムで観察、検証、指示する必要があります。

エージェントAI：モデルが単獨(dú)で動(dòng)作する場(chǎng)合

ハザードは出力を超えて拡張されます。エージェントAIの出現(xiàn)により、モデルモデルの自律的にタスクを完了し、APIを呼び出し、他のエージェントと相互作用すると、複雑さが増幅されます。セキュリティは、人間の監(jiān)視なしにコードを選択し、通信し、実行する自律システムを検討する必要があります。

Patelは、エージェント間コミュニケーションが新しい脅威経路を?qū)毪工毪长趣蚓妞筏皮い蓼?。監(jiān)督がなければ、これらの交換は脆弱性をエスカレートしたり、悪意のある活動(dòng)を隠したりする可能性があります。

この進(jìn)行は加速しています。來(lái)年までに、最小限の人間の入力でマルチステップワークフローを?qū)g行するエージェントの広範(fàn)な展開(kāi)を目撃するかもしれません。これらのシステムを保護(hù)するには、このセクターがこれまでに遭遇したことのないスケールで、可視性、行動(dòng)ヒューリスティック、リアルタイムの執(zhí)行の組み合わせが必要です。

「AIがよりインテリジェントで自立するにつれて、セキュリティを維持するための利害関係は大幅に上昇します。リスクに関する視點(diǎn)を変え、以前よりも迅速に行動(dòng)する必要があります。 「これには、データ系統(tǒng)に密接に焦點(diǎn)を當(dāng)てることが含まれます。モデルを微調(diào)整および再訓(xùn)練するために使用されるデータの明確さ、保護(hù)、およびリアルタイムの推論を促進(jìn)する情報(bào)を強(qiáng)化します。

統(tǒng)一されたインフラストラクチャとオープンコラボレーションのケース

Patelは、各モデル、プラットフォーム、およびビジネスが明確なセキュリティフレームワークを展開(kāi)している場(chǎng)合、私たちは障害に向かっていると警告しています。必要なのは、統(tǒng)一されたインフラストラクチャです。クラウド、ベンダー、モデルにまたがるAIセキュリティのための中立で相互運(yùn)用可能なベースです。

これを認(rèn)めて、シスコはRSAC 2025での基礎(chǔ)AIの導(dǎo)入を発表しました。これは、AIのセキュリティを民主化するための重要な動(dòng)きです。

Foundation AIは、セキュリティアプリケーションを高めるために明示的に作成された最初のオープンソース推論モデルとして販売されています。このモデルを公にアクセスできるようにすることにより、シスコはAIシステムを確保するためのコミュニティ主導(dǎo)の戦略を培い、AI統(tǒng)合によってもたらされる複雑な課題に取り組むために業(yè)界全體の協(xié)力を促します。

Foundation AIの立ち上げは、AIセキュリティにおけるオープンなコラボレーションへのより広範(fàn)な業(yè)界の傾向を象徴しています。オープンソースコミュニティに參加することにより、シスコはAIに関連する當(dāng)面のセキュリティ上の懸念に対処するだけでなく、AI時(shí)代の透明性と共同問(wèn)題解決を促進(jìn)する他のエンティティが従うべき先例を確立しています。

人間の要素：判斷は依然として不可欠です

AIの腕前であっても、人間の直観に取って代わるものではありません。 Patelは、高度なモデルでさえ、本能、繊細(xì)さ、非言語(yǔ)的推論を模倣することが難しいと感じていることを強(qiáng)調(diào)しました。 「あなたと私が従事していることのほとんどは、ある程度のデータを含むが、それから多くの判斷を下します?！?/p>

最高のシステムは、それを置き換えるのではなく、人間の専門(mén)知識(shí)を補(bǔ)完するシステムです。私たちは、個(gè)人が正しい質(zhì)問(wèn)を投げかけ、正しいシグナルを解釈し、正しい決定を下すことを要求します。

すでに知っている都市でGPSを使用するのと同じように、人間は機(jī)械で生成された提案を確認(rèn)、オーバーライド、洗練する能力を保持する必要があります。 AIは自動(dòng)操縦ではなく、副操縦士である必要があります。

知性の時(shí)代に対する信頼を再定義する

組織がインテリジェンスをシステムにさらに統(tǒng)合するにつれて、信頼を植え付ける必要があります。これには、説明責(zé)任のあるモデルの構(gòu)築が必要です。それは、発売時(shí)だけでなく、一貫して動(dòng)作を検証することを意味します。そして、それは、AIが獨(dú)自の責(zé)任にならずにセキュリティを強(qiáng)化することを保証するために、企業(yè)、分野、およびプラットフォームを順調(diào)に進(jìn)めることを意味します。

Fishmanは、「リアルタイムの監(jiān)視、よりスマートなガードレール、およびあらゆる段階で透明性を備えたセクターのコラボレーションは、AIへの信頼を築き、デジタル領(lǐng)域を保護(hù)するために不可欠です」と結(jié)論付けました。

AIはすでにサイバーセキュリティの狀況を再構(gòu)築しています。クエリは、その変換を時(shí)間とともに強(qiáng)化できるかどうかです。インテリジェンスレイヤーはこちらです。それは強(qiáng)力です。そして、それは敏感です。

今こそ、インテリジェンスが遍在するときにセキュリティがどのように見(jiàn)えるかを再考する瞬間です。

以上がAIが新しいサイバーセキュリティの戦場(chǎng)である理由の詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國(guó)語(yǔ) Web サイトの他の関連記事を參照してください。