Made in Korea, von Grund auf entwickelt

Viele lokale Sprachmodelle sind fein abgestimmte Versionen gr??erer internationaler Frameworks. Nicht dieser. Das Team von SK Telecom hat AX 3.1 Lite vollst?ndig intern erstellt und es auf 1,65 Billionen mehrsprachigen Token mit einem starken Schwerpunkt auf koreanischen Sprachinhalten trainiert. Das Projekt wurde auf SKTs Titan -Supercomputern durchgeführt, und jedes Level wurde vom Unternehmen vom Tokenizer bis hin zu Inferenz verwaltet.

Das Ergebnis? Ein System, das Daten im Land h?lt und die Abh?ngigkeit von ausl?ndischer Technologie minimiert.

"Basierend auf der koreanischen LLM-Entwicklungsexpertise, die wir stetig aufgebaut haben, werden wir die Unabh?ngigkeit des AI-?kosystems verbessern und zur Steigerung der KI-Wettbewerbsf?higkeit des Landes beitragen", sagte Kim Tae-yoon, Foundation Model Manager bei SK Telecom.

Die Technologie hinter dem Modell

Sieben Milliarden Parameter scheinen nach 2025 Standards nicht gro? zu sein, aber das ist die Absicht. Kleinere Modelle laden schneller, verbrauchen weniger Strom und sind erschwinglicher für die Feinabstimmung-Einbeziehung für mobile Apps, kleine Unternehmen und Forschungslabors.

Um dieses Gleichgewicht zu erreichen, entwickelten die Ingenieure von SKT einen 32-Schicht-Transformator mit 32 Aufmerksamkeitsk?pfen, eine 4,096-dimensionale versteckte Gr??e und eine Kontextl?nge von 32.768 Token. Kurz gesagt: Es ist effizient, schnell und funktioniert gut.

Die Ergebnisse best?tigen dies. Auf dem KMMLU -Multitasking -Benchmark für Koreanisch erzielte AX 3.1 Lite 61,7, etwa 96% des gr??eren AX 4.0 -Lite -Modells von SKT. Bei dem Click Cultural Intelligence Test übertraf es sein gr??eres Gegenstück: 71.22 gegenüber 69,97. Und auf Kobalt-700, einem breiteren koreanischen QA-Benchmark, erzielte er 27,43 und passte Modelle um ein Vielfaches an.

Es erzeugt auch Antworten, die ungef?hr ein Drittel weniger als ?hnliche GPT -Modelle für koreanische Eingabeaufforderungen verwenden. Dies führt zu einer verringerten Latenz und einer verl?ngerten Lebensdauer der mobilen Akkulaufzeit.

Das Modell ist Open Source, zug?nglich auf Github und umarmtes Gesicht unter einer Apache 2.0 -Lizenz.

Bereits verwendet

SK Telecom experimentiert nicht nur mit AX 3.1 Lite in einer Laboreinstellung. Es bewirbt bereits den A.DOT -Sprachassistenten des Unternehmens, der Anrufe in Echtzeit zusammenfassen kann. Entwickler k?nnen diese Technologie in übersetzungs -Apps, Kundendienstwerkzeuge oder Offline -Chat -Schnittstellen integrieren, ohne sich auf Rechenzentren oder externe APIs zu verlassen.

Für gro? angelegte Implementierungen bietet SKT auch eine API- und Docker-basierte Containeroptionen an, die vor Ort eingesetzt werden k?nnen. Dies ist besonders wichtig für Banken, Krankenh?user und ?ffentliche Stellen, die sensible Informationen innerhalb der nationalen Grenzen behalten müssen.

Eine doppelte Strategie: Lite und Full-Sized

SKTs Plan folgt einem Dual-Path-Ansatz. Die AX 3 -Serie wie 3.1 Lite ist vollst?ndig von Grund auf neu gebaut und konzentriert sich auf Souver?nit?t, Kompaktheit und Geschwindigkeit. Im Gegensatz dazu ist die 4er viel gr??er und optimiert für die Leistung durch fortgesetzte Vorbereitung.

Dies gibt koreanischen Organisationen eine Wahl: Verwenden Sie die schnellen, leichten Lite -Modelle für t?gliche Aufgaben oder skalieren Sie sie mit den leistungsst?rkeren AX 4 -Serien, ohne die Anbieter zu wechseln.

AX 3.1 Lite ist auch nicht die endgültige Version. SKT beabsichtigt, eine 34-Milliarden-Parameter-Version zu ver?ffentlichen, die bis Ende August 2025 intern ebenfalls entwickelt wurde. Dieses Modell soll das kreative Schreiben und die Codierungsgenerierung verbessern und gleichzeitig die koreanische Effizienz beibehalten.

Südkoreas Hauptbewegung in Richtung KI -Unabh?ngigkeit

Die Initiative von SK Telecom ist Teil einer breiteren nationalen Bemühungen. Die südkoreanische Regierung hat Milliarden von Won in die Entwicklung ihrer eigenen grundlegenden KI -Modelle investiert. Ein Vertrag ist im Gange, und SKT wird zusammen mit den Wettbewerbern Naver und Kakao voraussichtlich dafür konkurrieren.

Das Ziel? Reduzieren Sie die Abh?ngigkeit von ausl?ndischen APIs und Modellen, indem Sie Tools erstellen, die die Sprache Koreas widerspiegeln - sowohl sprachlich als auch politisch.

Diese Bewegung ist nicht exklusiv für Korea. Die franz?sische Mistral AI trainiert Modelle lokal mit einem 18.000-GPU-Supercomputer. Das Technology Innovation Institute der VAE hat Falcon 180b und einen leichteren Falcon 3er ver?ffentlicht, beide vollst?ndig offen. In Indien unterstützt Bharatgpt, der mit Unterstützung von Google Cloud entwickelt wurde, über ein Dutzend regionaler Sprachen. Saudi-Arabien finanziert Humain, ein arabischsprachiges Modell, das vom souver?nen Verm?gensfonds des K?nigreichs unterstützt wird.

Die Nachricht ist klar: Souver?n KI ist nicht mehr nur ein Schlagwort.

Für SKT ist AX 3.1 Lite nicht nur ein anderes Produkt. Es ist ein Meilenstein, der beweist, dass Südkorea f?hige, wettbewerbsf?hige Sprachmodelle intern entwickeln und sie auf Ger?ten betreiben kann, die Menschen bereits in der Tasche tragen.

Das obige ist der detaillierte Inhalt vonSK Telecom ver?ffentlicht eine koreanische souver?ne LLM, die von Grund auf neu gebaut wurde. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!