Vorhersage emergenter Fähigkeiten durch gezieltes Finetuning von Sprachmodellen

Das Vorhersagen emergenter Fähigkeiten durch Finetuning

Das Skalieren großer Sprachmodelle (LLMs) hat in den letzten Jahren beeindruckende Fortschritte in der Künstlichen Intelligenz ermöglicht. Ein bisher ungelöstes Rätsel stellt jedoch das Phänomen der emergenten Fähigkeiten dar. Während sich der Trainingsverlust von LLMs gut als Funktion der Rechenleistung vorhersagen lässt, sind die tatsächlichen Fähigkeiten in nachgelagerten Aufgaben oft überraschend und sprunghaft. Dies macht es schwierig, die Leistungsfähigkeit zukünftiger Modelle abzuschätzen.

Eine neue Forschungsarbeit widmet sich genau dieser Herausforderung und untersucht, ob sich emergente Fähigkeiten von LLMs vorhersagen lassen. Die zentrale Frage lautet: Kann man anhand der Leistung aktueller LLMs, die in Few-Shot-Szenarien nur zufällige Ergebnisse erzielen, vorhersagen, ob zukünftige, leistungsstärkere Modelle (z.B. GPT-N+1) eine signifikante Verbesserung auf derselben Aufgabe zeigen werden?

Die Forscher entdeckten einen interessanten Zusammenhang: Durch Finetuning von LLMs auf eine spezifische Aufgabe verschiebt sich der Punkt im Skalierungsprozess, an dem die emergente Fähigkeit auftritt, hin zu weniger leistungsstarken Modellen. Dieser Effekt lässt sich nutzen, um Vorhersagen über das Emergenzverhalten zu treffen. Indem LLMs mit unterschiedlichen Datenmengen feinabgestimmt und die Ergebnisse analysiert werden, lassen sich parametrische Funktionen erstellen – sogenannte "Emergenzgesetze" – die den Emergenzpunkt vorhersagen.

Um diesen Ansatz zu validieren, wurden vier etablierte NLP-Benchmarks verwendet (MMLU, GSM8K, CommonsenseQA und CoLA), bei denen große Open-Source-LLMs bereits emergente Fähigkeiten gezeigt haben. Mithilfe von kleineren LLMs konnten die Forscher in einigen Fällen präzise vorhersagen, ob Modelle mit bis zu viermal höherer Rechenleistung emergente Fähigkeiten entwickeln würden.

Die Studie zeigt, dass Finetuning ein wertvolles Werkzeug sein kann, um das Emergenzverhalten von LLMs zu verstehen und vorherzusagen. Dies eröffnet neue Möglichkeiten, die Entwicklung zukünftiger Modelle zu planen und Ressourcen effizienter einzusetzen. Die Vorhersage emergenter Fähigkeiten kann beispielsweise dazu beitragen, den optimalen Zeitpunkt für ein Upgrade auf ein leistungsstärkeres Modell zu bestimmen oder die Datenauswahl für das Finetuning zu optimieren.

Weitere Forschung ist notwendig, um die Generalisierbarkeit dieser Ergebnisse auf andere Modellarchitekturen und Aufgabenbereiche zu untersuchen. Die vorliegende Arbeit liefert jedoch einen wichtigen Beitrag zum Verständnis emergenter Fähigkeiten und legt den Grundstein für zukünftige Forschung in diesem Bereich. Insbesondere die Entwicklung robusterer und allgemeingültigerer "Emergenzgesetze" stellt eine spannende Herausforderung für die Zukunft dar.

Mindverse, als deutscher Anbieter von KI-gestützten Content-Lösungen, verfolgt diese Entwicklungen mit großem Interesse. Die Erkenntnisse aus der Forschung zu emergenten Fähigkeiten können dazu beitragen, die Leistungsfähigkeit von KI-Systemen wie Chatbots, Voicebots, KI-Suchmaschinen und Wissenssystemen weiter zu verbessern und den Nutzern noch präzisere und effizientere Lösungen zu bieten.

Bibliographie: Snell, C., Wallace, E., Klein, D., & Levine, S. (2024). Predicting Emergent Capabilities by Finetuning. https://openreview.net/forum?id=vL8BIGuFTF https://openreview.net/pdf?id=vL8BIGuFTF https://www.semanticscholar.org/paper/Predicting-Emergent-Capabilities-by-Finetuning-Snell-Wallace/3d6f4c281bd3c95a40f67393d668910ea190ce5a https://arxiv.org/abs/2305.12766 https://medium.com/the-modern-scientist/the-biggest-lie-about-language-models-ai-emergence-b2fe807de5ac http://arxiv.org/pdf/2310.03693 https://www.jmlr.org/papers/volume25/23-0870/23-0870.pdf https://www.researchgate.net/publication/383792197_Fine-tuning_large_language_models_for_domain_adaptation_Exploration_of_training_strategies_scaling_model_merging_and_synergistic_capabilities https://www.emergence.ai/blog/beyond-what-comes-next https://assets.amazon.science/a2/5f/eb28bdfe4bff878c240003fe018f/efficient-fine-tuning-large-language-models-for-knowledge-aware-response-planning.pdf