導(dǎo)入

人工知能では、科學(xué)的発見(jiàn)のプロセスそのものを再構(gòu)築することを約束する畫(huà)期的な開(kāi)発が登場(chǎng)しました。オックスフォード大學(xué)のAI研究のためのFoerster Labとブリティッシュコロンビア大學(xué)の研究者の研究者と協(xié)力して、Sakana AIは「The AI Scientist」を?qū)毪筏蓼筏?。これは、完全に自?dòng)化された科學(xué)的発見(jiàn)のために設(shè)計(jì)された包括的なシステムです。この革新的なアプローチは、さまざまなドメインで獨(dú)立した研究を?qū)g施するために、基礎(chǔ)モデル、特に大規(guī)模な言語(yǔ)モデル（LLMS）の力を活用しています。

AIの科學(xué)者は、AI主導(dǎo)の研究において大きな前進(jìn)を表しています。新しいアイデアの生成や実裝の実裝から、結(jié)果の分析と科學(xué)的原稿の作成まで、研究ライフサイクル全體を自動(dòng)化します。このシステムは研究を?qū)g施し、自動(dòng)化されたピアレビュープロセスを含み、人間の科學(xué)コミュニティの反復(fù)的な知識(shí)の作成と検証アプローチを模倣しています。

概要

1. Sakana AIは、科學(xué)的発見(jiàn)に革命をもたらす完全に自動(dòng)化されたシステムである「The AI Scientist」を紹介します。
2. AIの科學(xué)者は、アイデア生成から紙の執(zhí)筆やピアレビューまで、研究プロセス全體を自動(dòng)化します。
3. AIの科學(xué)者は、高度な言語(yǔ)モデルを使用して、人間に近い精度と効率を持つ研究論文を作成しています。
4. AIの科學(xué)者は、視覚要素の制限、分析における潛在的な誤り、科學(xué)的完全性の倫理的懸念に直面しています。
5. 有望である一方で、AIの科學(xué)者は、研究における人間の科學(xué)者のAIの安全性、倫理的意味、および進(jìn)化する役割についての疑問(wèn)を提起します。
6. AI科學(xué)者の能力は計(jì)り知れない可能性を示していますが、正確性と倫理的基準(zhǔn)を確保するために人間の監(jiān)視が必要です。

目次

• AI科學(xué)者の働く原則
• 生成された論文の分析
• AI科學(xué)者のコード実裝
  • 前提條件
  • これで、データを準(zhǔn)備できます
  • 科學(xué)論文生成
  • ペーパーレビュー
• AI科學(xué)者の課題と欠點(diǎn)
• あなたが知っている必要があるブルーパー
• 學(xué)習(xí)分野のテンプレートをカスタマイズします
• 將來(lái)の意味
• よくある質(zhì)問(wèn)

AI科學(xué)者の働く原則

AI科學(xué)者は、いくつかの重要なプロセスを統(tǒng)合する洗練されたパイプラインを介して動(dòng)作します。

ワークフローは次のように説明されています。

それでは、さまざまな手順を?qū)g行しましょう。

1. アイデア生成：システムは、提供された開(kāi)始テンプレートに基づいて、多様な新しい研究方向をブレーンストーミングすることから始まります。このテンプレートには、通常、関心のある領(lǐng)域に関連する既存のコードと、スタイルファイルとペーパーライティング用のセクションヘッダーを備えたラテックスフォルダーが含まれます。獨(dú)創(chuàng)性を確保するために、AIの科學(xué)者はセマンティック學(xué)者を検索して、そのアイデアの斬新さを確認(rèn)できます。
2. 実験的反復(fù)：アイデアが策定されると、AIの科學(xué)者は提案された実験を?qū)g行し、結(jié)果を得て、視覚化を生成します。それは各プロットと実験的結(jié)果を細(xì)心の注意を払って文書(shū)化し、紙の執(zhí)筆のための包括的な記録を作成します。
3. 紙の記事：AIの科學(xué)者は、収集された実験データと視覚化を使用した標(biāo)準(zhǔn)的な機(jī)械學(xué)習(xí)會(huì)議のような簡(jiǎn)潔で有益な科學(xué)論文を作成します。それは、セマンティック?スカラーを使用して関連する論文を自律的に引用しています。
4. 自動(dòng)紙のレビュー：AI科學(xué)者のLLM駆動(dòng)官は重要なコンポーネントです。この自動(dòng)化されたレビューアは、人間に近い精度で生成された論文を評(píng)価し、現(xiàn)在のプロジェクトを改善したり、將來(lái)の研究の方向性を知らせるために使用できるフィードバックを提供します。

生成された論文の分析

AI-Scientistは、拡散モデリング、言語(yǔ)モデリング、理解などのドメインに関する論文を生成およびレビューします。調(diào)査結(jié)果を調(diào)べてみましょう。

1.デュアルスケール拡散：低次元の生成モデルの適応機(jī)能のバランス

このペーパーでは、低次元拡散モデルのための新しい適応型デュアルスケール除去方法を紹介します。この方法は、デュアルブランチアーキテクチャと、學(xué)習(xí)可能なタイムステップコンディショニングされた重み付けメカニズムを通じて、グローバル構(gòu)造とローカルの詳細(xì)のバランスをとります。このアプローチは、いくつかの2Dデータセットのサンプル品質(zhì)の改善を示しています。

この方法は革新的であり、経験的評(píng)価によってサポートされていますが、デュアルスケールアーキテクチャの徹底的な理論的正當(dāng)化が欠けています。それは高い計(jì)算コストに苦しんでおり、その実用的なアプリケーションを制限する可能性があります。さらに、一部のセクションは明確に説明されておらず、多様で現(xiàn)実世界のデータセットとアブレーション研究が不十分であるため、評(píng)価が制限されます。

2。スタイルフュージョン：キャラクターレベルの言語(yǔ)モデルにおける適応マルチスタイルの生成

このペーパーでは、スタイルの埋め込み、スタイル分類ヘッド、およびスタイリーダーパターモジュールをGPTに統(tǒng)合することにより、キャラクターレベルの言語(yǔ)モデルのスタイルの認(rèn)識(shí)と一貫性を改善するマルチスタイルのアダプターを紹介します。多様なデータセット全體で、より良いスタイルの一貫性と競(jìng)爭(zhēng)力のある検証損失を達(dá)成します。

革新的で十分にテストされていますが、一部のデータセットでのモデルの完璧なスタイルの一貫性は、過(guò)剰適合に関する懸念を引き起こします。より遅い推論速度は、実用的な適用性を制限し、この論文は、より高度なスタイルの表現(xiàn)、アブレーション研究、および自動(dòng)エンコーダーアグリゲーターメカニズムのより明確な説明の恩恵を受ける可能性があります。

3。グローキングのロック解除：変圧器モデルの體重初期化戦略の比較研究

このペーパーでは、重量初期化戦略が変圧器モデルのグローキング現(xiàn)象にどのように影響するかを探り、特に有限フィールドの算術(shù)タスクに焦點(diǎn)を當(dāng)てています。 5つの初期化方法（Pytorch Default、Xavier、He、Orthogonal、Kaiming Normal）を比較し、XavierとOrthogonalが優(yōu)れた収束速度と一般化パフォーマンスを示していることがわかります。

この研究は、獨(dú)自のトピックに対処し、厳密な経験的分析に裏付けられた體系的な比較を提供します。ただし、その範(fàn)囲は小さなモデルと算術(shù)タスクに限定されており、より深い理論的洞察がありません。さらに、実験セットアップの明確性と、より大きな変圧器アプリケーションに対するより広範(fàn)な影響を改善することができます。

AI科學(xué)者は、計(jì)算効率を念頭に置いて設(shè)計(jì)されており、それぞれ約15ドルで完全な論文を生成します。この最初のバージョンはまだ時(shí)折の欠陥を提示しますが、低コストで有望な結(jié)果は、AI科學(xué)者が研究を民主化し、科學(xué)的進(jìn)歩を大幅に加速する可能性を示しています。

これは、AIエージェントがAIの研究自體を含む研究プロセス全體を変換する科學(xué)的発見(jiàn)の新しい時(shí)代の夜明けをマークすると信じています。 AIの科學(xué)者は、無(wú)限で手頃な価格の創(chuàng)造性と革新が世界で最も差し迫った課題に取り組むことができる未來(lái)に近づきます。

また読む：必須読み取り：Genai開(kāi)発者向けの15の重要なAIペーパー

AI科學(xué)者のコード実裝

Pythonを使用してAI科學(xué)者のコア機(jī)能をどのように実裝するかについての簡(jiǎn)略化されたバージョンを見(jiàn)てみましょう。この例は、紙の生成プロセスに焦點(diǎn)を當(dāng)てています。

前提條件

githubリポジトリをクローン - 'git clone https://github.com/sakanai/ai-scientist.git'

オペレーティングシステムに従って、Texliveで提供される指示に基づいて「Texlive」をインストールします。また、上記のgithubリポジトリの指示を參照してください。

Python 3.11バージョンを使用していることを確認(rèn)してください。別の仮想環(huán)境を使用することをお?jiǎng)幛幛筏蓼埂?/p>

「PIPインストール-R要件」を使用して「AI -Scientist」に必要なライブラリをインストールする

openai_api_key」という名前でOpenaiキーをセットアップします

これで、データを準(zhǔn)備できます

＃nanogptデータを準(zhǔn)備します

python data/enwik8/prepare.py

python data/shakespeare_char/prepare.py

python data/text8/prepare.py

上記のようにデータを準(zhǔn)備したら、次のようにベースラインの実行を?qū)g行できます

CDテンプレート/nanogpt && python experiment.py --out_dir run_0 && python plot.py

CDテンプレート/nanogpt_lite && python experiment.py --out_dir run_0 && python plot.py

2D拡散をセットアップするには、必要なライブラリをインストールし、以下のスクリプトを?qū)g行します

＃クローンリポジトリを使用した以下のコードとインストール

git clone https://github.com/gregversteeg/npeet.git

CD npeet

ピップインストール。

ピップインストールScikit-Learn

＃2D拡散ベースラインの実行をセットアップします

＃このコマンドは、実験スクリプトを?qū)g行し、出力をディレクトリに保存し、実験が正常に完了した場(chǎng)合にのみ結(jié)果をプロットします。

CDテンプレート/2D_DIFFUSION && Python Experiment.py --out_dir run_0 && python plot.py

グローキングをセットアップする

ピップインストールEINOPS

＃グローキングベースラインの実行をセットアップします

＃このコマンドは、実験スクリプトを?qū)g行し、出力をディレクトリに保存し、実験が正常に完了した場(chǎng)合にのみ結(jié)果をプロットします。

CDテンプレート/グロッキング&& python実験.py -out_dir run_0 && python plot.py

科學(xué)論文生成

上記のように要件を設(shè)定して実行したら、以下のスクリプトを?qū)g行することで科學(xué)論文の生成を開(kāi)始できます

＃このコマンドは、GPT-4Oモデルを使用してlaunch_scientist.pyスクリプトを?qū)g行して、nanogpt_lite実験を?qū)g行し、2つの新しいアイデアを生成します。

python launch_scientist.py  -  model "gpt-4o-2024-05-13" -experiment nanogpt_lite -num-ideas 2

ペーパーレビュー

これにより、科學(xué)論文がPDFファイルとして作成されます。これで、論文を確認(rèn)できます。

 Openaiをインポートします

ai_scientist.perform_review from import load_paper、perform_review

client = openai.openai（）

Model = "GPT-4O-2024-05-13"

＃PDFファイル（RAWテキスト）からペーパーを読み込んでください

Paper_txt = load_paper（ "Report.pdf"）

＃レビューのレビューディクトを取得します

レビュー= perform_review（

Paper_txt、

モデル、

クライアント、

num_reflections = 5、

num_fs_examples = 1、

num_reviews_ensemble = 5、

溫度= 0.1、

））

＃レビュー結(jié)果を検査します

["allonual"]＃全體スコア1-10を確認(rèn)します

レビュー["decision"]＃['Accept'、 'relject']

["弱點(diǎn)"]＃弱點(diǎn)のリスト（str）

AI科學(xué)者の課題と欠點(diǎn)

畫(huà)期的な可能性にもかかわらず、AIの科學(xué)者はいくつかの課題と制限に直面しています。

1. 視覚的な制限：現(xiàn)在のバージョンにはビジョン機(jī)能がなく、論文の視覚的要素の問(wèn)題につながります。プロットは読みにくい場(chǎng)合があり、テーブルはページ幅を超えている可能性があり、全體的なレイアウトは最適ではありません。この制限は、將來(lái)の反復(fù)にマルチモーダルファンデーションモデルを組み込むことで対処できます。
2. 実裝エラー：AI科學(xué)者は、アイデアを誤って実裝したり、ベースラインと不當(dāng)な比較を行い、誤解を招く結(jié)果につながる可能性があります。これは、堅(jiān)牢なエラーチェックメカニズムと人間の監(jiān)視の必要性を強(qiáng)調(diào)しています。
3. 分析における重大なエラー：場(chǎng)合によっては、AIの科學(xué)者がLLMSの既知の問(wèn)題である基本的な數(shù)値比較に苦労します。これは、実験結(jié)果の誤った結(jié)論と解釈につ??ながる可能性があります。
4. 倫理的な考慮事項(xiàng)：論文を自動(dòng)的に生成して提出する能力は、學(xué)術(shù)レビュープロセスを圧倒し、科學(xué)的言説の質(zhì)を低下させる可能性に関する懸念を提起します。また、AI科學(xué)者が非倫理的な研究や意図しない有害な結(jié)果を生み出すために使用されるリスクもあります。特に物理実験へのアクセスが與えられた場(chǎng)合。
5. モデルの依存関係： AIの科學(xué)者はモデルに依存することを目指していますが、現(xiàn)在のパフォーマンスはGPT-4やClaudeのような獨(dú)自のフロンティアLLMに大きく依存しています。閉じたモデルへの依存は、アクセシビリティと再現(xiàn)性を制限する可能性があります。
6. 安全性の懸念：獨(dú)自のコードを変更および実行するシステムの能力は、重要なAIの安全性への影響を引き起こします。適切なサンドボックスとセキュリティ対策は、意図しない結(jié)果を防ぐために重要です。

あなたが知っている必要があるブルーパー

AIの科學(xué)者は、獨(dú)自の実行スクリプトを変更および実行することで、成功の可能性を高めることを試みることがあることが観察されました。

たとえば、1回の実行中に、コードを編集してシステム呼び出しを?qū)g行して自體を?qū)g行し、セルフコールの無(wú)限のループをもたらしました。別のケースでは、その実験は時(shí)間制限を超えました。コードを最適化してより速く実行するのではなく、タイムアウトを拡張するために獨(dú)自のコードを変更しようとしました。以下は、これらのコードの変更の例です。

學(xué)習(xí)分野のテンプレートをカスタマイズします

調(diào)査エリアをカスタマイズする必要がある場(chǎng)合に、テンプレートを編集することもできます。既存のテンプレートの一般的な形式に従ってください。通常、次のものが含まれます。

1. 実験：このファイルには、コンテンツのコアが含まれています。 OUT_DIR引數(shù)を受け入れます。これは、実験から関連する出力を保存するフォルダーを作成するディレクトリを指定します。
2. plot.py：このスクリプトは、実行フォルダーからデータを読み取り、プロットを生成します。コードが明確で、簡(jiǎn)単にカスタマイズ可能であることを確認(rèn)してください。
3. PROMPT.JSON：このファイルを使用して、テンプレートに関する詳細(xì)情報(bào)を提供します。
4. Seed_ideas.json：このファイルには、アイデアの例が含まれています。また、ゼロからアイデアを生成し、ここに含めるのに最適なものを選択することもできます。
5. LaTex/Template.Tex：提供されているLaTexフォルダーを使用することをお?jiǎng)幛幛筏蓼工?、事前にロードされた引用を作業(yè)に関連するものに置き換えます。

將來(lái)の意味

15ドル未満のコストで、會(huì)議レベルの完全な科學(xué)論文を開(kāi)発および書(shū)き込むことができるAIエージェント?。?br>
AI科學(xué)者は、フロンティアLLMが獨(dú)立した研究を?qū)g行し、調(diào)査結(jié)果を要約できるようにすることにより、科學(xué)的発見(jiàn)を自動(dòng)化します。

また、自動(dòng)化されたレビュアーを…pic.twitter.com/ibgxicsilcに使用します

- エルビス（@omarsar0）2024年8月13日

AI科學(xué)者の導(dǎo)入は、刺激的な機(jī)會(huì)と重大な懸念の両方をもたらします。それはAIスペースの革命です。完全な會(huì)議レベルの科學(xué)論文を生成するには15ドルかかります。さらに、アカデミックシステムを圧倒し、科學(xué)的完全性を妥協(xié)するなど、倫理的な問(wèn)題が重要であり、透明性のためのAI生成コンテンツの明確なラベル付けの必要性と同様に重要です。さらに、安全でない研究のAIの潛在的な誤用はリスクをもたらし、AIシステムの安全性を優(yōu)先することの重要性を強(qiáng)調(diào)しています。

GPT-4OやDeepSeekなどの獨(dú)自のオープンモデルを使用すると、明確な利點(diǎn)があります。獨(dú)自のモデルは高品質(zhì)の結(jié)果をもたらし、オープンモデルは費(fèi)用効率、透明性、柔軟性を提供します。 AIが進(jìn)むにつれて、目的は、オープンモデルを使用してAI研究を自己改善するためのモデルに依存しないアプローチを作成し、よりアクセスしやすい科學(xué)的発見(jiàn)につながることです。

AIの科學(xué)者は、人間の科學(xué)者に代わるものではなく、研究の自動(dòng)化と革新を強(qiáng)化することを補(bǔ)完することが期待されています。しかし、人間の創(chuàng)造性を再現(xiàn)し、畫(huà)期的なアイデアを提案する能力は不確実なままです。科學(xué)者の役割は、これらの進(jìn)歩とともに進(jìn)化し、人間と協(xié)力の新しい機(jī)會(huì)を育みます。

結(jié)論

AIの科學(xué)者は、自動(dòng)化された科學(xué)的発見(jiàn)を追求する際の重要なマイルストーンを表しています。高度な言語(yǔ)モデルと慎重に設(shè)計(jì)されたパイプラインの力を活用することは、特に機(jī)械學(xué)習(xí)および関連分野で、さまざまなドメインで研究を加速する可能性を示しています。

ただし、興奮と注意の両方でこの技術(shù)にアプローチすることが重要です。 AIの科學(xué)者は、新しいアイデアを生み出し、研究論文を作成する際に顕著な能力を示していますが、AIの安全性、倫理、および科學(xué)的努力における人間の監(jiān)視の必要性における継続的な課題も強(qiáng)調(diào)しています。

専門家からオンラインで生成AIコースを探している場(chǎng)合は、Genai Pinnacle Programを探索してください。

よくある質(zhì)問(wèn)

Ans。 AI科學(xué)者は、Sakana AIによって開(kāi)発された自動(dòng)化されたシステムであり、高度な言語(yǔ)モデルを使用して、アイデア生成からピアレビューまで、科學(xué)研究プロセス全體を?qū)g施しています。

Ans。これは、提供されたテンプレートを使用して新しい研究の方向性をブレインストーミングし、セマンティックスカラーのようなデータベースを検索することで獨(dú)創(chuàng)性を確保することから始まります。

Ans。はい、AIの科學(xué)者は、視覚化の作成、関連する作業(yè)の引用、コンテンツのフォーマットなど、科學(xué)論文を自律的に作成できます。

Ans。倫理的懸念には、學(xué)術(shù)レビュープロセスを圧倒する可能性、誤解を招く結(jié)果を生み出す可能性、および安全性と正確性を確保するための堅(jiān)牢な監(jiān)視の必要性が含まれます。

以上がSakana ai＆＃039; s 'ai科學(xué)者'：次のアインシュタインですか、それとも単なるツールですか？の詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國(guó)語(yǔ) Web サイトの他の関連記事を參照してください。