2024年後半、テキサス州司法長官のケン?パクストンは、ダラスに拠點を置くヘルステクノロジーのスタートアップであるピーステクノロジーズとの畫期的な和解を明らかにしました。

しかし、州による調(diào)査では、會社の主張は確固たる証拠によってサポートされていないことがわかりました。當(dāng)局は、ピースが病院を誤解してツールが実際に提供されなかった信頼性で患者の記録を正確に要約できると信じていると判斷しました。

患者は負(fù)傷しておらず、罰則は課されませんでしたが、精度、リスク、適切な使用に関する明確な開示に同意しました。これは、理論的パフォーマンスが実際の効果に相當(dāng)しないことを示唆する重要な法的先例です。

認(rèn)知科學(xué)者やAI批評家のゲイリー?マーカスなどの専門家は、現(xiàn)在の大規(guī)模な言語モデルが本質(zhì)的に制約されていると長い間警告してきました。彼が述べているように、これらのシステムは、真の言語理解ではなく「言語使用の近似」であり、汎用モデルが高度に専門的な設(shè)定で適用され、実際の作業(yè)がどのように展開されるかを把握できない場合に特に危険になる重要な違いです。

Twofold Healthの共同設(shè)立者兼CEOであるGal Steinbergによると、多くのAIの欠點の根源は欠陥のあるアルゴリズムではありません。それは文脈の欠如です。 「「モデル」は意図ではなくパターンを検出するからです」と彼は説明しました。 「AIは、高精度で単語またはクリックを予測できますが、クリニックまたはすべての組織を定義する規(guī)制、ワークフロー、および書かれていないルールを盲目にしたままです。最適化がこれらの現(xiàn)実を無視すると、AIはKPIを満たしますが、ポイントを逃します?！?/p>

コンテキスト：目に見えないフレームワーク

Steinbergは、コンテキストを「スプレッドシートが省略しているすべてのもの、目的、境界、専門用語、感情的なトーン、コンプライアンス要件、タイミング」と定義しています。

AIシステムがパフォーマンスが低下している場合、処理能力が不十分であることはめったにありませんが、狀況認(rèn)識が不十分です。彼らは、人間の専門家が自然に吸収するという文化的知識、ドメイン固有の微妙さ、または時間依存の理解を欠いています。たとえば、治療セッションでの90秒の沈黙は、苦痛を示す可能性があります。 AIトランスクリプトジェネレーターにとって、それはただ空のスペースです。金融監(jiān)査では、略すことが欠けていると欺きを示す可能性があります。幅広いインターネットテキストで訓(xùn)練されたモデルにとって、それは些細(xì)な頭字語のように思えるかもしれません。

だから、2つの健康狀態(tài)で、チームは3つの基本的な質(zhì)問をすることから始めます。誰が関與しているのですか？彼らは何を達(dá)成しようとしていますか？そして、AIが間違っている場合、結(jié)果は何ですか？

Steinberg氏は、もう1つの重要な問題は、ほとんどの組織がコンテキストを1回限りのセットアップタスクとして扱うことです。しかし、環(huán)境は進(jìn)化します。ポリシーシフト。変革が必要です。 「プロンプトを継続的に改良してモデルを再訓(xùn)練しないと、AIはドリフトします」と彼は言いました。

これが、非常に多くの初期のAIイニシアチブが現(xiàn)在放棄されている理由です。 Rand Corporationは、AIプロジェクトの80％以上が失敗または失速していると報告しています。テクノロジーが機能しないためではなく、それらが訓(xùn)練されたコンテキストが運用上の現(xiàn)実を反映しなくなったためです。結(jié)果？紙の上では正しいように見えるが、実際には失敗するAIは、間違った段階で行を暗唱する俳優(yōu)などです。

エンジニアリング現(xiàn)実世界の知能

スタインバーグは、この修正は、よりスマートなモデルを構(gòu)築するだけでなく、より深い環(huán)境意識を備えたモデルを埋め込むと主張しています。 「これは、AI開発プロセスにドメインの専門家を直接関與させることから始めます。2つの臨床醫(yī)（エンジニアではなく、仕事の重要な部分を?qū)Гい皮坤丹?。彼らは、生きた経験を通じて醫(yī)療言語、倫理的境界、規(guī)制の枠組みについてAIに教えます」と彼は言いました。

次に、見落とされがちな、魅力的でない労働がめったにありません。どのまれなケースが重要であるかを判斷したり、非公式のスピーチを標(biāo)準(zhǔn)化したり、フォームのレイアウトが含まれているデータよりも重要であることを認(rèn)識します。これらの選択肢は軽微に見えるかもしれません。體系的なエラーにカスケードするまでです。

以前の調(diào)査では、幅広いデータセットでトレーニングされたAIモデルが、ニッチな環(huán)境に配置されたときに予測不可能に動作することが多いことが示されています。これは、ドメインシフトとして知られる課題です。よく知られている研究では、GoogleとStanfordの科學(xué)者は、現(xiàn)代の機械學(xué)習(xí)モデルは頻繁に「統(tǒng)一されていない」ことを意味します。

決定が法的責(zé)任を負(fù)うヘルスケアや金融のようなハイステークス分野では、小さな不正確さでさえも受け入れられません。そのギャップは制定の訴訟です。

メタのチーフAI科學(xué)者であるYann Lecunでさえ、実際の領(lǐng)域に接地することなく、大規(guī)模なモデルを展開するラッシュを公然と批判しました。 2025年4月にシンガポール國立大學(xué)で講演したLecunは、より大きなモデルがよりスマートなAIに等しいという広範(fàn)な仮定に挑戦しました。

彼は、スケーリングが基本的なタスクに役立つ一方で、実生活の複雑さ、つまり農(nóng)業(yè)性、適応、および推論は解決しないことを強調(diào)しました。代わりに、彼は「人間のように環(huán)境を計畫、推論、理解できるAIシステム」を求めました。

しかし、Ciscoの2024 AI Readiness Indexによると、ビジネスリーダーの98％が、明確な指標(biāo)、監(jiān)視、または説明責(zé)任構(gòu)造なしでAIを採用する圧力の増加を報告しました。このような気候では、文脈が後付けになったことは驚くことではありません。

それは、Steinbergが強調(diào)したい危険です。AIが誤った情報を生成するだけでなく、組織內(nèi)の誰も責(zé)任を負(fù)う準(zhǔn)備ができていないということです。 「私たちは精度に集中しすぎており、所有権に少なすぎます」と彼は言いました。 「コンテキストは正しい答えを知っているだけではありません。答えが間違っているときに誰がダメージに対する答えを誰が答えているのかを知っています。最初に説明責(zé)任の連鎖を確立します。

現(xiàn)実にAIを固定します

コンテキストは、さらにパラメーターまたはGPUパワーを追加することによって作成されません。これは、AIを継続的な人間の指導(dǎo)を必要とする動的システムとして扱うことから來ています。最初のトレーニングだけでなく。そして、それはフィードバックループの中で人々を配置することから生じます。

AIは本質(zhì)的に欠陥はありません。しかし、文脈がなければ、それはまるでそうであるかのように動作します。答えは盲目的な信頼ではありません。より良い栄養(yǎng)、定期的な監(jiān)視、そしてAIが自信過剰になったときに誰かが常に見ていることを保証します。

「ターゲットに衝突したが目的を逃すモデルは無駄ではないからです。危険です」とスタインバーグは言いました。

以上が文脈に飢えているAIは、それが最も重要な場所で失敗していますの詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國語 Web サイトの他の関連記事を參照してください。