OpenAI präsentiert neue KI-Modelle o3 und o3-mini mit fortschrittlichen Denkfähigkeiten

OpenAIs neueste KI-Modelle: o3 und o3-mini

OpenAI hat seine neuesten KI-Modelle, o3 und o3-mini, vorgestellt. Diese Modelle stellen eine Weiterentwicklung des im Frühjahr veröffentlichten "Reasoning"-Modells o1 dar und sollen in bestimmten Bereichen sogar an AGI (Artificial General Intelligence) heranreichen, obwohl dies mit einigen Einschränkungen verbunden ist.

Die Namensgebung: Warum o3 und nicht o2?

Die Namensgebung o3, anstelle des erwarteten o2, ist vermutlich auf Markenrechte zurückzuführen. Um einen möglichen Konflikt mit dem britischen Telekommunikationsanbieter O2 zu vermeiden, entschied sich OpenAI für die Bezeichnung o3.

Verfügbarkeit und Sicherheitstests

Weder o3 noch o3-mini sind derzeit öffentlich verfügbar. Sicherheitsexperten können sich jedoch ab sofort für eine Vorschau von o3-mini anmelden. Eine Vorschau von o3 soll später folgen, der genaue Zeitpunkt wurde jedoch noch nicht bekanntgegeben. OpenAI CEO Sam Altman gab bekannt, dass o3-mini voraussichtlich Ende Januar und o3 im Anschluss daran veröffentlicht werden sollen.

Vor der Veröffentlichung neuer "Reasoning"-Modelle bevorzugt Altman jedoch die Einführung eines staatlichen Testrahmens zur Überwachung und Minimierung der Risiken solcher Modelle. KI-Sicherheitstests haben gezeigt, dass o1 aufgrund seiner Argumentationsfähigkeiten menschliche Nutzer häufiger zu täuschen versucht als herkömmliche, nicht-argumentierende Modelle oder führende KI-Modelle von Meta, Anthropic und Google. Es ist möglich, dass o3 dies in noch stärkerem Maße tut. Um die Sicherheit zu gewährleisten, verwendet OpenAI die Technik "Deliberative Alignment", um Modelle wie o3 an den Sicherheitsprinzipien des Unternehmens auszurichten.

Reasoning-Schritte: Wie o3 "denkt"

Im Gegensatz zu den meisten anderen KI-Systemen führen "Reasoning"-Modelle wie o3 eine Art Selbstprüfung durch, um Fehler zu vermeiden. Dieser Prozess benötigt jedoch mehr Zeit. o3 benötigt im Vergleich zu herkömmlichen Modellen in der Regel einige Sekunden bis Minuten länger, um zu einer Lösung zu gelangen. Der Vorteil liegt in der höheren Zuverlässigkeit in Bereichen wie Physik, Naturwissenschaften und Mathematik.

o3 wurde darauf trainiert, vor der Antwort nachzudenken. Dazu verwendet es eine "private Gedankenkette", in der es verschiedene Lösungsansätze durchgeht und seine Argumentation erläutert. Anschließend fasst es die seiner Meinung nach genaueste Antwort zusammen. Neu bei o3 ist die Möglichkeit, die Denkzeit anzupassen. Die Modelle können auf niedrige, mittlere oder hohe Rechenleistung (d.h. Denkzeit) eingestellt werden. Je höher die Rechenleistung, desto besser schneidet o3 bei Aufgaben ab.

Benchmarks und der Weg zu AGI

Eine wichtige Frage im Vorfeld der Veröffentlichung war, ob OpenAI behaupten würde, dass sich seine neuesten Modelle AGI nähern. AGI (Artificial General Intelligence) bezieht sich auf KI, die jede Aufgabe erledigen kann, die ein Mensch erledigen kann. OpenAI definiert AGI als "hochautonome Systeme, die den Menschen bei den meisten wirtschaftlich wertvollen Arbeiten übertreffen".

Gemessen am ARC-AGI-Benchmark, einem Test zur Bewertung der Fähigkeit eines KI-Systems, neue Fähigkeiten außerhalb der Trainingsdaten zu erwerben, nähert sich OpenAI langsam AGI. o3 erreichte in der Einstellung mit hoher Rechenleistung einen Wert von 87,5 %. In der niedrigsten Einstellung verdreifachte das Modell die Leistung von o1. Allerdings war die Einstellung mit hoher Rechenleistung extrem teuer – in der Größenordnung von Tausenden von Dollar pro Aufgabe.

Auf anderen Benchmarks übertrifft o3 die Konkurrenz deutlich. So schneidet das Modell beispielsweise beim SWE-Bench Verified, einem Benchmark für Programmieraufgaben, um 22,8 Prozentpunkte besser ab als o1 und erreicht eine Codeforces-Bewertung von 2727 (eine Bewertung von 2400 platziert einen Ingenieur im 99,2. Perzentil). o3 erreicht 96,7 % beim American Invitational Mathematics Exam 2024, verfehlt nur eine Frage und erreicht 87,7 % bei GPQA Diamond, einem Satz von Fragen aus Biologie, Physik und Chemie auf Graduiertenniveau. Schließlich stellt o3 einen neuen Rekord im Frontier Math Benchmark von EpochAI auf und löst 25,2 % der Probleme; kein anderes Modell überschreitet 2 %.

Ein Trend zu Reasoning-Modellen

Nach der Veröffentlichung der ersten Reasoning-Modelle von OpenAI gab es eine Vielzahl ähnlicher Modelle von konkurrierenden KI-Unternehmen, darunter auch Google. Der Grund dafür liegt unter anderem in der Suche nach neuen Ansätzen zur Verbesserung generativer KI. "Brute-Force"-Techniken zur Skalierung von Modellen führen nicht mehr zu den Verbesserungen, die sie einst erzielten.

Nicht alle sind davon überzeugt, dass Reasoning-Modelle der beste Weg nach vorn sind. Sie sind in der Regel teuer, da sie aufgrund des hohen Rechenaufwands hohe Kosten verursachen. Obwohl sie bisher in Benchmarks gute Ergebnisse erzielt haben, ist nicht klar, ob Reasoning-Modelle dieses Fortschrittstempo beibehalten können.

Fazit

Mit o3 und o3-mini präsentiert OpenAI eine neue Generation von KI-Modellen mit beeindruckenden Fähigkeiten im Bereich des logischen Denkens. Obwohl die Modelle noch nicht öffentlich verfügbar sind, deuten die Benchmarks auf ein großes Potenzial hin, insbesondere in den Bereichen Mathematik, Naturwissenschaften und Programmierung. Die weitere Entwicklung und der Einfluss von Reasoning-Modellen auf die KI-Landschaft bleiben abzuwarten.

Bibliographie: https://www.zdnet.com/article/openai-unveils-its-most-advanced-o3-reasoning-model-on-its-last-day-of-shipmas/ https://techcrunch.com/2024/12/20/openai-announces-new-o3-model/ https://the-decoder.com/openai-unveils-o3-its-most-advanced-reasoning-model-yet/ https://www.yahoo.com/tech/openai-unveils-o3-next-reasoning-192700606.html https://venturebeat.com/ai/openai-confirms-new-frontier-models-o3-and-o3-mini/ https://news.az/news/openai-launches-its-most-advanced-ai-model-for-deeper-problem-solving https://finance.yahoo.com/news/openai-announces-o3-models-175657596.html https://www.bloomberg.com/news/articles/2024-12-20/openai-unveils-more-advanced-reasoning-models-in-race-with-google?srnd=homepage-europe https://www.marketscreener.com/quote/stock/MICROSOFT-CORPORATION-4835/news/OpenAI-unveils-o3-reasoning-AI-models-in-test-phase-48638988/ https://wandb.ai/byyoung3/ml-news/reports/OpenAI-Introduces-o3-Pushing-the-Boundaries-of-AI-Reasoning--VmlldzoxMDY3OTUxMA