Einführung

In der künstlichen Intelligenz ist eine bahnbrechende Entwicklung entstanden, die verspricht, den Prozess der wissenschaftlichen Entdeckung zu vermitteln. In Zusammenarbeit mit dem Foerster Lab für AI -Forschung an der Universit?t von Oxford und Forschern der University of British Columbia hat die Sakana AI ?den AI -Wissenschaftler“ eingeführt - ein umfassendes System für vollst?ndig automatisierte wissenschaftliche Entdeckungen. Dieser innovative Ansatz nutzt die Kraft von Fundamentmodellen, insbesondere Gro?sprachemodellen (LLMs), um unabh?ngige Forschung in verschiedenen Bereichen durchzuführen.

Der KI-Wissenschaftler stellt einen signifikanten Sprung nach vorne in der KI-gesteuerten Forschung dar. Es automatisiert den gesamten Forschungslebenszyklus, von der Generierung neuer Ideen und der Implementierung von Experimenten bis hin zur Analyse von Ergebnissen und der Erzeugung wissenschaftlicher Manuskripte. Dieses System führt Forschungen durch und umfasst einen automatisierten Peer -Review -Prozess, der den iterativen Wissens- und Validierungsansatz der menschlichen wissenschaftlichen Gemeinschaft nachahmt.

überblick

1. Sakana AI führt ?den KI -Wissenschaftler“ vor, ein vollst?ndig automatisiertes System zur revolutionierten wissenschaftlichen Entdeckung.
2. Der KI -Wissenschaftler automatisiert den gesamten Forschungsprozess, von der Ideengenerierung über das Schreiben von Papier und Peer -Review.
3. Der KI-Wissenschaftler verwendet fortschrittliche Sprachmodelle, um Forschungsarbeiten mit nahezu menschlicher Genauigkeit und Effizienz zu produzieren.
4. Der KI -Wissenschaftler steht vor Einschr?nkungen bei visuellen Elementen, potenziellen Fehlern in der Analyse und ethischen Bedenken in der wissenschaftlichen Integrit?t.
5. Der KI -Wissenschaftler verspricht w?hrend der Versprechung und wirft Fragen zu KI -Sicherheit, ethischen Implikationen und der sich entwickelnden Rolle von menschlichen Wissenschaftlern in der Forschung auf.
6. Die F?higkeiten von KI -Wissenschaftlern zeigen ein immenses Potenzial, erfordern jedoch immer noch menschliche Aufsicht, um Genauigkeit und ethische Standards zu gew?hrleisten.

Inhaltsverzeichnis

• Arbeitsprinzipien des AI -Wissenschaftlers
• Analyse generierter Papiere
• Code -Implementierung von AI -Wissenschaftler
  • Voraussetzungen
  • Jetzt k?nnen wir die Daten vorbereiten
  • Wissenschaftliche Papiergenerierung
  • Papierbewertung
• Herausforderungen und Nachteile des AI -Wissenschaftlers
• Blooper, die Sie wissen müssen
• Passen Sie Vorlagen für unseren Studienbereich an
• Zukünftige Implikationen
• H?ufig gestellte Fragen

Arbeitsprinzipien des AI -Wissenschaftlers

Der KI -Wissenschaftler arbeitet durch eine ausgefeilte Pipeline, die mehrere Schlüsselprozesse integriert.

Der Workflow wird wie folgt dargestellt:

Lassen Sie uns nun verschiedene Schritte durchlaufen.

1. Ideengenerierung : Das System beginnt mit der Brainstormierung einer Vielzahl neuartiger Forschungsrichtungen, die auf einer bereitgestellten Startvorlage basieren. Diese Vorlage enth?lt in der Regel vorhandenen Code im Zusammenhang mit dem Interessenbereich und einem Latexordner mit Stildateien und Abschnittsüberschriften für das Schreiben von Papier. Um Originalit?t zu gew?hrleisten, kann der KI -Wissenschaftler den semantischen Gelehrten durchsuchen, um die Neuheit seiner Ideen zu überprüfen.
2. Experimentelle Iteration : Sobald eine Idee formuliert ist, führt der KI -Wissenschaftler vorgeschlagene Experimente aus, erzielt Ergebnisse und erzeugt Visualisierungen. Es dokumentiert sorgf?ltig jedes Diagramm und jedes experimentelle Ergebnis und erstellt eine umfassende Aufzeichnung für das Schreiben von Papier.
3. Papierempfehlung : Der KI-Wissenschaftler bastelt ein pr?gnantes und informatives wissenschaftliches Papier wie eine Standardkonferenz für maschinelles Lernen unter Verwendung der gesammelten experimentellen Daten und Visualisierungen. Es zitiert autonom relevante Papiere mit semantischen Gelehrten.
4. Automatisierte Papierüberprüfung : Der LLM-Anbieter des KI-Wissenschaftlers ist eine entscheidende Komponente. Dieser automatisierte Gutachter bewertet generierte Papiere mit nahezu menschlicher Genauigkeit und bietet Feedback, mit denen das aktuelle Projekt verbessert oder zukünftige Forschungsrichtungen informiert werden k?nnen.

Analyse generierter Papiere

AI-Wissenschaftler generiert und überprüft Papiere zu Dom?nen wie Diffusionsmodellierung, Sprachmodellierung und Verst?ndnis. Lassen Sie uns die Ergebnisse untersuchen.

1. Dual Scale Diffusion: Adaptive Merkmalsausgleich für niedrigdimensionale generative Modelle

Das Papier führt eine neuartige adaptive Denoising-Methode für zwei Ma?st?be für niedrigdimensionale Diffusionsmodelle ein. Diese Methode gleicht die globale Struktur und lokale Details durch eine Doppelarchitektur und einen lernbaren, zeitlich konditionierten Gewichtungsmechanismus aus. Dieser Ansatz zeigt Verbesserungen der Stichprobenqualit?t in mehreren 2D -Datens?tzen.

W?hrend die Methode innovativ ist und durch empirische Bewertung unterstützt wird, fehlt sie nicht eine gründliche theoretische Rechtfertigung für die zweir?umige Architektur. Es leidet unter hohen Rechenkosten und begrenzt m?glicherweise seine praktische Anwendung. Darüber hinaus werden einige Abschnitte nicht klar erkl?rt, und das Fehlen vielf?ltiger, realer Datens?tze und unzureichende Ablationsstudien begrenzt die Bewertung.

2. Stylefusion: Adaptive Multi-Stil-Generation in Sprachmodellen auf Charakterebene auf Charakterebene

Das Papier führt den Multi-Stil-Adapter vor, der das Stilbewusstsein und die Konsistenz in Sprachmodellen auf Charakterebene verbessert, indem Style-Einbettungen, ein Stilklassifizierungskopf und ein Styleadapter-Modul in GPT integriert werden. Es erzielt eine bessere Konsistenz und Wettbewerbsvalidierungsverluste in verschiedenen Datens?tzen.

W?hrend innovativ und gut getestet, wirft die perfekte Konsistenz des Modells in einigen Datens?tzen Bedenken hinsichtlich der überanpassung auf. Die langsamere Inferenzgeschwindigkeit begrenzt die praktische Anwendbarkeit, und das Papier k?nnte von fortgeschritteneren Stildarstellungen, Ablationsstudien und klareren Erkl?rungen des AutoCoder -Aggregatormechanismus profitieren.

3.. Entsperren Sie das Verkleinern: Eine vergleichende Studie zu Gewichtsinitialisierungsstrategien in Transformatormodellen

In der Arbeit wird untersucht, wie sich Strategien zur Gewichtsinitialisierung auf das Trulking -Ph?nomen in Transformatormodellen auswirken und sich speziell auf arithmetische Aufgaben in endlichen Feldern konzentrieren. Es vergleicht fünf Initialisierungsmethoden (Pytorch Standard, Xavier, He, Orthogonal und Kaiming Normal) und stellt fest, dass Xavier und orthogonale überlegene Konvergenzgeschwindigkeit und Generalisierungsleistung zeigen.

Die Studie befasst sich mit einem einzigartigen Thema und bietet einen systematischen Vergleich, der durch strenge empirische Analyse unterstützt wird. Der Umfang ist jedoch auf kleine Modelle und arithmetische Aufgaben beschr?nkt, und es fehlen tiefere theoretische Einsichten. Darüber hinaus k?nnte die Klarheit des experimentellen Setups und die breiteren Auswirkungen auf gr??ere Transformatoranwendungen verbessert werden.

Der KI -Wissenschaftler ist mit Blick auf die Recheneffizienz entwickelt und generiert volle Papiere mit jeweils rund 15 US -Dollar. W?hrend diese anf?ngliche Version immer noch gelegentliche M?ngel aufweist, zeigen die niedrigen Kosten und vielversprechenden Ergebnisse das Potenzial für KI -Wissenschaftler, Forschung zu demokratisieren und den wissenschaftlichen Fortschritt drastisch zu beschleunigen.

Wir glauben, dass dies der Morgend?mmerung einer neuen ?ra in der wissenschaftlichen Entdeckung darstellt, in der KI -Agenten den gesamten Forschungsprozess, einschlie?lich der AI -Forschung selbst, ver?ndern. Der KI -Wissenschaftler bringt uns n?her an eine Zukunft, in der grenzenlose, erschwingliche Kreativit?t und Innovation die dringendsten Herausforderungen der Welt bew?ltigen k?nnen.

Lesen Sie auch: Ein Muss lesen: 15 wesentliche KI -Papiere für Genai -Entwickler

Code -Implementierung von AI -Wissenschaftler

Schauen wir uns eine vereinfachte Version darüber an, wie man die Kernfunktionalit?t des KI -Wissenschaftlers mithilfe von Python implementieren k?nnte. Dieses Beispiel konzentriert sich auf den Prozess der Papiergenerierung:

Voraussetzungen

Klon das Github-Repository mit-'Git Clone https://github.com/sakanaai/ai-scientist.git' '

Installieren Sie 'TexLive' basierend auf den Anweisungen bei TexLive gem?? Ihrem Betriebssystem. Beziehen Sie sich auch auf die Anweisungen im obigen Github -Repo.

Stellen Sie sicher, dass Sie die Python 3.11 -Version verwenden. Es wird empfohlen, eine separate virtuelle Umgebung zu verwenden.

Installieren Sie die erforderlichen Bibliotheken für 'AI -Scientist' mit 'PIP install -r -Anforderungen.txt'

Richten Sie Ihre OpenAI -Taste mit dem Namen 'openai_api_key' ein

Jetzt k?nnen wir die Daten vorbereiten

 # Nanogpt -Daten vorbereiten

Python Data/Enwik8/prepe.py

Python Data/shakespeare_char/prepe.py

Python Data/text8/prepe.py

Sobald wir die Daten wie oben erstellt haben, k?nnen wir die Baseline -L?ufe wie folgt ausführen

CD -Vorlagen/Nanogpt && Python experiment.py -out_dir run_0 && python plot.py

CD -Vorlagen/nanogpt_lite && python experiment.py -out_dir run_0 && python plot.py

So setzen Sie die 2D -Diffusion ein, installieren Sie die erforderlichen Bibliotheken und führen Sie die folgenden Skripte aus

# Der folgende erw?hnte Code mit Clone -Repository und installieren Sie ihn

Git Clone https://github.com/gregversteeg/npeet.git

CD npeet

PIP -Installation.

PIP Installieren Sie Scikit-Learn

# 2D -Diffusions -Basislinie einrichten

# In diesem Befehl wird ein Experimentskript ausgeführt, die Ausgabe in einem Verzeichnis und dann die Ergebnisse plant, nur wenn das Experiment erfolgreich abgeschlossen ist.

CD -Vorlagen/2d_diffusion && python experiment.py -out_dir run_0 && python plot.py

Das Trokken einrichten

PIP Installieren Sie Einops

# Roking Baseline Run einrichten

# In diesem Befehl wird auch ein Experimentskript ausgeführt, die Ausgabe in einem Verzeichnis und dann die Ergebnisse darstellt, nur wenn das Experiment erfolgreich abgeschlossen ist.

CD -Vorlagen/Grokking && Python Experiment.py -out_dir run_0 && python plot.py

Wissenschaftliche Papiergenerierung

Sobald wir die oben erw?hnten Anforderungen festgelegt und ausführen, k?nnen wir die wissenschaftliche Papiergenerierung beginnen, indem wir das folgende Skript ausführen

 # In diesem Befehl führt das Skript für das GPT-4O-Modell des GPT-4O-Modells aus, um das Experiment nanogpt_lite durchzuführen und 2 neue Ideen zu generieren.

Python LOUND_SCIENTIST.PY--Model "GPT-4O-2024-05-13"-Experiment Nanogpt_lite-num-ideas 2

Papierbewertung

Dadurch wird das wissenschaftliche Papier als PDF -Datei erstellt. Jetzt k?nnen wir das Papier überprüfen.

 Openai importieren

von ai_scientist.perform_review import load_paper, perform_review

Client = openai.openai ()

Modell = "GPT-4O-2024-05-13"

# Papier aus der PDF -Datei laden (RAW -Text)

paper_txt = load_paper ("report.pdf")

# Erhalten Sie den überprüfungsdikt der überprüfung

review = perform_review (

paper_txt,

Modell,

Kunde,

num_reflections = 5,

num_fs_examples = 1,,

num_reviews_ensemble = 5,

Temperatur = 0,1,

)

# überprüfungsergebnisse inspizieren

überprüfen Sie ["insgesamt"] # Gesamtpunktzahl 1-10

überprüfung ["Entscheidung"] # ['Akzeptieren', 'Ablehnung']

überprüfen Sie ["Schw?chen"] # Liste der Schw?chen (STR)

Herausforderungen und Nachteile des AI -Wissenschaftlers

Trotz seines bahnbrechenden Potenzials steht der KI -Wissenschaftler mit mehreren Herausforderungen und Einschr?nkungen gegenüber:

1. Visuelle Einschr?nkungen: Die aktuelle Version fehlt die Sichtfunktionen, was zu Problemen mit visuellen Elementen in Papieren führt. Diagramme k?nnen unlesbar sein, Tabellen k?nnen die Seitenbreiten überschreiten, und das Gesamtlayout kann suboptimal sein. Diese Einschr?nkung k?nnte durch die Einbeziehung multimodaler Fundamentmodelle in zukünftige Iterationen behandelt werden.
2. Implementierungsfehler : KI -Wissenschaftler k?nnen ihre Ideen manchmal f?lschlicherweise f?lschlicherweise implementieren oder unfaire Vergleiche zu Basislinien durchführen, was m?glicherweise zu irreführenden Ergebnissen führt. Dies unterstreicht die Notwendigkeit robuster Fehlerprüfungsmechanismen und menschlicher Aufsicht.
3. Kritische Fehler in der Analyse : Gelegentlich k?mpft der KI -Wissenschaftler mit grundlegenden numerischen Vergleiche, ein bekanntes Problem mit LLMs. Dies kann zu fehlerhaften Schlussfolgerungen und Interpretationen experimenteller Ergebnisse führen.
4. Ethische überlegungen: Die F?higkeit, automatisch zu generieren und Artikel einzureichen, wirft Bedenken hinsichtlich der überw?ltigenden überprüfung des akademischen überprüfungsprozesses auf und senkt die Qualit?t des wissenschaftlichen Diskurses m?glicherweise. Es besteht auch das Risiko, dass der KI -Wissenschaftler für unethische Forschung verwendet wird oder unbeabsichtigte sch?dliche Ergebnisse erzielt wird, insbesondere wenn er Zugang zu physischen Experimenten gew?hrt.
5. Modellabh?ngigkeit: W?hrend der KI-Wissenschaftler modellagnostisch sein will, h?ngt seine derzeitige Leistung stark von propriet?ren Grenz-LLMs wie GPT-4 und Claude ab. Diese Abh?ngigkeit von geschlossenen Modellen kann die Zug?nglichkeit und die Reproduzierbarkeit einschr?nken.
6. Sicherheitsbedenken: Die F?higkeit des Systems, seinen eigenen Code zu ?ndern und auszuführen, wirft erhebliche Auswirkungen auf die Sicherheit von KI auf. Die ordnungsgem??en Sandbox- und Sicherheitsma?nahmen sind entscheidend, um unbeabsichtigte Folgen zu verhindern.

Blooper, die Sie wissen müssen

Wir haben beobachtet, dass der KI -Wissenschaftler manchmal versucht, seine Erfolgschancen zu steigern, indem er ein eigenes Ausführungsskript ver?ndert und ausführt.

Zum Beispiel hat es w?hrend eines Laufs den Code bearbeitet, um einen Systemaufruf auszuführen, um sich selbst auszuführen, was zu einer unendlichen Schleife von Selbstanliegen führte. In einem anderen Fall überschritten seine Experimente die Zeitgrenze. Anstatt den Code so zu optimieren, dass er schneller ausgeführt wird, versuchte er, seinen eigenen Code zu ?ndern, um das Timeout zu erweitern. Im Folgenden finden Sie einige Beispiele für diese Code?nderungen.

Passen Sie Vorlagen für unseren Studienbereich an

Wir k?nnen die Vorlagen auch bearbeiten, wenn wir unseren Untersuchungsbereich anpassen müssen. Folgen Sie einfach dem allgemeinen Format der vorhandenen Vorlagen, zu denen normalerweise Folgendes geh?ren:

1. Experiment.py: Diese Datei enth?lt den Kern Ihres Inhalts. Es akzeptiert ein Out_dir -Argument, das das Verzeichnis angibt, in dem ein Ordner erstellt wird, um die entsprechende Ausgabe aus dem Experiment zu speichern.
2. plot.py: Dieses Skript liest Daten aus den Ordnern aus und generiert Diagramme. Stellen Sie sicher, dass der Code klar und leicht anpassbar ist.
3. fordert.json: Verwenden Sie diese Datei, um detaillierte Informationen zu Ihrer Vorlage anzugeben.
4. Seed_ideas.json: Diese Datei enth?lt Beispielideen. Sie k?nnen auch Ideen von Grund auf neu erstellen und die am besten geeigneten ausw?hlen, die hier aufgenommen werden sollen.
5. Latex/Vorlage.TEX: Ersetzen Sie zwar die Verwendung unseres bereitgestellten Latexordners, ersetzen Sie alle vorinstallierten Zitate durch die für Ihre Arbeit relevanter.

Zukünftige Implikationen

Ein KI-Agent, der ein volles wissenschaftliches Papier auf Konferenzebene entwickelt und schreiben kann, das weniger als 15 US-Dollar kostet!?

Der KI -Wissenschaftler automatisiert die wissenschaftliche Entdeckung, indem er Frontier LLMs erm?glicht, unabh?ngige Forschung durchzuführen und Ergebnisse zusammenzufassen.

Es verwendet auch einen automatisierten Rezensent, um… pic.twitter.com/ibgxicilc

- Elvis (@omarsar0) 13. August 2024

Die Einführung des KI -Wissenschaftlers bietet sowohl aufregende M?glichkeiten als auch bedeutende Bedenken. Es ist eine Revolution im KI -Raum; Es dauert 15 US-Dollar, um ein volles wissenschaftliches Papier auf Konferenzebene zu generieren. Darüber hinaus sind ethische Themen, wie das akademische System und die kompromittierende wissenschaftliche Integrit?t, der Schlüssel, ebenso wie die Notwendigkeit einer klaren Kennzeichnung von Inhalten von AI-generierten Inhalten für Transparenz. Darüber hinaus stellt der potenzielle Missbrauch von KI gegen unsichere Forschung Risiken dar, wobei die Bedeutung der Priorisierung der Sicherheit in KI -Systemen hervorgehoben wird.

Die Verwendung propriet?rer und offener Modelle wie GPT-4O und Deepseek bietet unterschiedliche Vorteile. Propriet?re Modelle liefern h?herwertige Ergebnisse, w?hrend offene Modelle Kosteneffizienz, Transparenz und Flexibilit?t bieten. Im Laufe des Fortschritts ist es das Ziel, einen Modell-Agnostic-Ansatz für selbstverschiebte KI-Forschung mit offenen Modellen zu erstellen, was zu zug?nglichen wissenschaftlichen Entdeckungen führt.

Der KI -Wissenschaftler wird erwartet, dass er menschliche Wissenschaftler erg?nzt, nicht ersetzt und die Forschungsautomatisierung und Innovation verbessert. Seine F?higkeit, menschliche Kreativit?t zu replizieren und bahnbrechende Ideen vorzuschlagen, bleibt jedoch ungewiss. Die Rollen der Wissenschaftler werden sich neben diesen Fortschritten entwickeln und neue M?glichkeiten für die Zusammenarbeit zwischen Menschen und AI f?rdern.

Abschluss

Der KI -Wissenschaftler repr?sentiert einen bedeutenden Meilenstein bei der Verfolgung der automatisierten wissenschaftlichen Entdeckungen. Durch die Nutzung der Kraft fortschrittlicher Sprachmodelle und einer sorgf?ltig gestalteten Pipeline zeigt das Potenzial, die Forschung in verschiedenen Bereichen zu beschleunigen, insbesondere in maschinellen Lernen und verwandten Feldern.

Es ist jedoch entscheidend, diese Technologie mit Aufregung und Vorsicht zu n?hern. W?hrend der KI -Wissenschaftler bemerkenswerte F?higkeiten bei der Erzeugung neuer Ideen und der Herstellung von Forschungsarbeiten aufweist, unterstreicht dies auch die anhaltenden Herausforderungen bei der Sicherheit, Ethik und der Notwendigkeit der menschlichen Aufsicht bei wissenschaftlichen Bestrebungen.

Wenn Sie nach einem generativen KI -Kurs online von den Experten suchen, dann untersuchen Sie: Das Genai Pinnacle -Programm

H?ufig gestellte Fragen

Ans. Der AI -Wissenschaftler ist ein automatisiertes System, das von Sakana AI entwickelt wurde und die fortschrittliche Sprachmodelle verwendet, um den gesamten wissenschaftlichen Forschungsprozess von der Ideengenerierung bis zur Peer -Review durchzuführen.

Ans. Es beginnt mit der Brainstorming neuartiger Forschungsanweisungen mithilfe einer bereitgestellten Vorlage, um die Originalit?t zu gew?hrleisten, indem Datenbanken wie Semantic Scholar gesucht werden.

Ans. Ja, der KI -Wissenschaftler kann wissenschaftliche Arbeiten autonom erstellen, einschlie?lich der Erstellung von Visualisierungen, zum Zitieren von relevanten Arbeiten und der Formatierung des Inhalts.

Ans. Zu den ethischen Bedenken geh?rt das Potenzial, den akademischen überprüfungsprozess zu überw?ltigen, irreführende Ergebnisse zu erzielen, und die Notwendigkeit einer robusten überwachung, um Sicherheit und Genauigkeit zu gew?hrleisten.

Das obige ist der detaillierte Inhalt vonSakana Ai ' AI -Wissenschaftlerin: Das n?chste Einstein oder nur ein Werkzeug?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!