Künstliche Intelligenz: Kosten und Nutzen im Fokus
Die rasante Entwicklung der Künstlichen Intelligenz (KI) wirft Fragen nach Kosten und Nutzen auf. Dies zeigt sich aktuell besonders deutlich in der Diskussion um das neue KI-Modell o3 von OpenAI. Das Modell erzielte im anspruchsvollen ARC-Test (Abstract Reasoning Corpus) beeindruckende 85 Prozent, während bisherige Modelle nur bei etwa 35 Prozent lagen. Dieser Leistungssprung ist jedoch mit einem hohen Rechenaufwand und damit verbundenen Kosten verbunden. Es wird spekuliert, dass die Kosten für eine Anfrage im Bereich von Tausenden US-Dollar liegen könnten, was die Debatte über die Preisgestaltung zukünftiger KI-Abonnements anheizt. Während das aktuelle o1-Modell rund 200 US-Dollar pro Monat kostet, könnten die Kosten für o3 deutlich höher liegen, möglicherweise im Bereich von 2.000 US-Dollar oder mehr.
Die Komplexität von o3 und "Test-Time Compute"
Die hohen Kosten von o3 lassen sich vermutlich durch die komplexe Architektur und den enormen Rechenaufwand erklären. Im Gegensatz zu früheren Modellen, die einfach das nächste passende Token zum Input berechnen, verfolgt o3 einen anderen Ansatz. Es nutzt die Strategie "Test-Time Compute", bei der Teillösungen berechnet und intern auf ihre Qualität geprüft werden, bevor der nächste Schritt erfolgt. Bei einer Programmieraufgabe würde o3 diese beispielsweise in Unterprobleme zerlegen, den Code für jedes Unterproblem erstellen, dessen Lauffähigkeit prüfen und erst dann fortfahren. Um die optimale Lösung zu finden, werden parallel zahlreiche Lösungswege verfolgt und der beste ausgewählt. Dieser iterative Prozess erfordert einen deutlich höheren Rechenaufwand als herkömmliche Sprachmodelle, was die Kosten in die Höhe treibt. Experten vermuten, dass o3 eine Anfrage intern in Tausende von Teilanfragen umwandelt, die für den Nutzer unsichtbar bleiben.
Gedankenketten und das Training von o3
Ein weiterer Faktor für die Komplexität von o3 ist die Verwendung von "Gedankenketten" (Chain of Thoughts). Das Modell generiert eine Vielzahl von Lösungswegen, die schrittweise durchgespielt werden. Der Output eines Teilschritts dient als Input für den nächsten. Parallel werden verschiedene Lösungsansätze verfolgt und in einem speziellen Training, möglicherweise unter Verwendung synthetischer Daten, mit menschlichen Bewertungen abgeglichen. Im produktiven Betrieb wählt das Modell dann den wahrscheinlichsten und effizientesten Lösungsweg aus und präsentiert dem Nutzer auszugsweise das Ergebnis. Dieses aufwendige Training und die iterative Lösungsfindung tragen ebenfalls zu den hohen Kosten bei.
Grenzen der Skalierung und der Datenverfügbarkeit
Die Entwicklung von o3 deutet darauf hin, dass die bisherige Strategie der Skalierung, bei der immer größere Modelle mit immer mehr Daten trainiert werden, an ihre Grenzen stößt. Berichten zufolge wird der Leistungssprung bei den Nachfolgemodellen von o3, wie GPT-5, geringer ausfallen als erwartet. Ein Grund dafür könnte der Mangel an ausreichend hochwertigen Trainingsdaten sein. Dies zwingt die KI-Branche, neue Wege zu beschreiten und innovative Architekturen wie die von o3 zu entwickeln, um die Leistungsfähigkeit weiter zu steigern.
KI-Lösungen von Mindverse
Mindverse bietet als deutscher KI-Spezialist maßgeschneiderte Lösungen für Unternehmen an. Von Chatbots und Voicebots über KI-Suchmaschinen und Wissenssysteme bis hin zu individuellen Lösungen unterstützt Mindverse Unternehmen bei der Integration von KI in ihre Geschäftsprozesse. Mit einem Fokus auf deutsche Sprachverarbeitung und -verständnis bietet Mindverse innovative Technologien für eine effiziente und zukunftsorientierte Nutzung von KI.
125 Jahre MIT Technology Review: Ein Blick zurück
Die amerikanische Ausgabe der MIT Technology Review feierte kürzlich ihr 125-jähriges Jubiläum. Ein Blick zurück in das Jahr 1899 zeigt die rasante technologische Entwicklung der letzten 125 Jahre. Die MIT Technology Review begleitet diese Entwicklung seit ihrer Gründung und bietet fundierte Analysen und Berichte zu aktuellen Technologietrends.
KI-generierter Kaffee: AI-Conic
Ein interessantes Beispiel für die Anwendung von KI im Alltag ist der Kaffee AI-Conic. Die Rezeptur dieses Kaffees wurde von einer KI entwickelt, was die vielfältigen Einsatzmöglichkeiten Künstlicher Intelligenz verdeutlicht.
Bibliographie:
- t3n.de/news/weekly-teures-ki-modell-o3-125-jahre-mit-technology-review-kaffee-von-der-ki-1666867/
- t3n.de/news/weekly-teures-ki-modell-o3-125-jahre-mit-technology-review-kaffee-von-der-ki-1666867/?utm_source=rss&utm_medium=feed&utm_campaign=news
- t3n.de/news/warum-openais-neues-ki-modell-o3-so-teuer-ist-und-was-es-dafuer-liefern-soll-1666591/
- t3n.de/news/
- t3n.de/archive/
- social.heise.de/@techreview_de/113787430950072249
- apps.who.int/iris/bitstream/handle/10665/43541/9783456845357-ger.pdf
- fountain.fm/show/1317486
- opendata.uni-halle.de/bitstream/1981185920/110577/598/1009182595.pdf
- ssoar.info/ssoar/bitstream/handle/document/70553/ssoar-2020-geitz_et_al-Black_Boxes_-_Versiegelungskontexte_und.pdf