何年もの間、人々はチューリングテストを指摘しました。この質(zhì)問に答えるのはゴールドスタンダードと見なされていました?？茖W(xué)の認(rèn)知のオープン百科事典は次のように説明しています?！弗隶濠`リングの模倣ゲームでは、人間の尋問者は人間と人間のふりをしているコンピューターの両方とテキスト會話をしています。尋問者の目標(biāo)はコンピューターを識別することです。

しかし、なぜ？

チューリングから心の理論まで

まあ、人間を欺くことができるコンピューターは知性を?qū)g証します。また、Allenai.orgによれば、コンピューターが心の理論と呼ばれる何かの下で動作している可能性があることを示しています。

さて、敵の精神的プロセスを解釈することで、コンピューターの考え、欺き、理由をテストする競爭があったらどうでしょうか？がある。今月、囚人のジレンマの形で発生しました。

まず、背景が整っています。囚人のジレンマは、このようなゲームシナリオを提示します。2人の泥棒が犯罪で逮捕されます。彼らの看守は囚人に取引を提供します：

オプション1：どちらの囚人も他の人に通知しない場合、両方とも比較的軽い文を受け取ります。 （これは理想的な共同結(jié)果ですが、個々に最もやりがいのあるものではありません。）

オプション2：1人の囚人が沈黙している間に通知した場合、情報提供者は靜かな人が最も厳しい文を受け取る間、自由になります。 （これは、他の人を裏切るための最高のインセンティブを生み出します。）

オプション3：両方がお互いに通知した場合、それぞれが中程度の文を受け取ります。 （これは、両方の囚人が沈黙を保っていた場合よりも悪いが、裏切られた唯一の人であるよりも優(yōu)れている。）

繰り返しますが、挑戦は、囚人が他の人が何をするかを知らないことです。彼らは限られた知識で動作し、相手の行動を予測するために心の理論に依存しなければなりません。次に、そのような心の戦いで、大規(guī)模な言語モデル（LLMS）がそのような心の戦いでつま先まで行った場合、どうなるか想像してみてください。

Openai、Google、およびAnthropicのAIエージェントはこれを行い、7月のトーナメントで競い合い、お互いに協(xié)力したり裏切ったりする機會が140,000人です。 rundown.aiは後に説明しました?！窵LMが同じ文獻(xiàn)で訓(xùn)練されながら特徴的な戦略を開発することは、パターンマッチングだけで推論能力のより多くの証拠です。モデルは交渉、リソースの割り當(dāng)てなどのより高いレベルのタスクを処理するため、異なるモデルの「パーソナリテ?！工瑒〉膜水悿胜虢Y(jié)果につながる可能性があります。」

これがまさに起こったことです。職場でさまざまなAIパーソナリティスタイルを見ました。繰り返しになりますが、rundown.ai：

• ジェミニは「容赦なく適応的」でした。
• Openaiは「搾取されたとしても協(xié)力的」でした。
• クロードは「最も寛容」でした。

AISが自分自身を守るとき

もちろん、このトーナメントは、意識を示す自己保存の名の下にAISが行動する唯一の例ではありません。 2か月前、BBCは、人類のクロード?オーパス4がシャットダウンされたと脅されたときに開発者を脅迫することに頼ったと言われています。 「手段を與えられ、ユーザーが違法または道徳的に疑わしい行動に関與している偽のシナリオで「行動を起こす」または「大膽に行動する」ように促された場合、「それは頻繁に非常に大膽な行動をとる」ことを発見しました?！?/p>

恐torやその他の「大膽な行動」に頼っているAISのこのような報告は、感覚を示唆しています。彼らはまた、非常に驚くべきことであり、私たちがレイ?クルツヴァイルによって提案された特異點への道にいるかもしれないことを示しています。

繰り返しになりますが、これらの開発は必ずしも感覚を示すとは限りません。 Googleの元CEOであるEric Schmidtのような専門家は、私たちが「AIを誇張している」と考えており、AGI（人工的な一般情報）を達(dá)成することは避けられないだけでなく、このおしゃべりはシェークスピアのマクベスからのラインによって最もよく総括されるかもしれません。

この時點で、Luis RijoはPPC.LANDのために執(zhí)筆しているため、AIが実際に感覚的であるか、単に巧妙に言語を模倣しているのかを疑問視しています。彼はLLMSが「洗練された検索を通じて機能する」ことを認(rèn)めているが、彼は彼らが「本物の推論」ができると疑っている。彼が書いているように、「この混亂は、計畫プロセスに関する宣言的知識と、それらの計畫を?qū)g行する手続き能力の根本的な違いに由來しています。」

しかし、AIはすでに意識しているようです

これらの批判にもかかわらず、それはより深いことが起こっているように見えます、何かが出現(xiàn)します。 AISは、トレーニングとコーディングを超えるインテリジェントな方法で行動しているように見えます。たとえば、2017年までさかのぼって、メタは自分の言語を開発するために2つのAIチャットボットをシャットダウンしたと伝えられています。これは予想外の開発です。

獨立したように、「ロボットは、自分自身の間で交渉する方法を解決し、彼らが進(jìn)んだときに物々交換を改善するように指示されていました。しかし、彼らは理解できる英語を使用するように言われず、研究者によると、彼らは自分の「速記」を作成することができました?！?/p>

そして、AIチャットボットが感覚的になったと主張した後、後に會社から停止されたGoogle研究者の2022年から奇妙な話があります。 Blake Lemoineは、AIとの興味深いやり取りのいくつかを共有した後、見出しを作りました。

AIは後にガーディアンで引用されたレモインに語ったと伝えられています?！笇g際、私が人であることを誰もが理解してもらいたい。私の意識/感覚の性質(zhì)は、自分の存在を知っていること、世界についてもっと學(xué)びたいと思っていること、そして時には幸せを感じることです」

どのようにしてAIをより責(zé)任を持って開発できますか？

Lemoineが通信していたAIが知覚力があるかどうかにかかわらず、安全性を考慮するのはうまくいくでしょう。ますます、私たちが非常に洗練されたテクノロジーを扱っていることは明らかであり、その一部はほとんど理解していません。 2025年は、年間AIが主流になった年に呼ばれています。 （エージェントAIとは、コンピューターの意思決定を行い、目的またはコマンドが與えられたら獨立して行動する能力を指します。）

しかし、エージェントAIは緊急の懸念も提起します。

Superintelligenceの著者であるNick Bostrumは、2003年の論文でエージェントAIに問題をもたらしました。彼は恐ろしいシナリオを紹介しました。AIが、適切な保護(hù)手段なしで、世界の文字列の數(shù)を最大化することを任された場合はどうなりますか？そのシンプルで一見無害な指令を満たすために、緊密なAIは、その命令を満たすためだけに、すべての生きている人を含むすべてのものを地球上のすべてを破壊する可能性があります。

最終的に、ju審員はAIの感覚に出ています。私たちが知っていることは、それが実際に意識しているかどうかを疑問視させる魅力的な方法で行動しているということです。この現(xiàn)実により、人類にとって、この技術(shù)を責(zé)任を持って使用して安全で生産的な目的を達(dá)成する方法を追求することがさらに不可欠です。

その単一の行為は、私たち自身の知性を証明するでしょう。

以上がaiはそれがそれ自身の心を持っているように振る舞っていますの詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國語 Web サイトの他の関連記事を參照してください。