// Modelle & Forschung 17.10.2026 · 04:59 Uhr 7 Min. Lesezeit

Kiyo-230M-Instruct: Zweisprachiger Chat auf engem Ressourcenbudget

Mindverse News

KI-gestützt erstellt 2 Quellen Originalmeldung: huggingface.co Arbeitsweise

KI-generierte Illustration: Kiyo-230M-Instruct: Zweisprachiger Chat auf engem Ressourcenbudget — KI-generierte Illustration

Das Wichtigste in Kürze

Kiyo-230M-Instruct umfasst 229,7 Millionen Parameter, unterstützt Englisch und Portugiesisch und hat ein Kontextfenster von 2.048 Tokens. [1]
Das Modell wurde auf rund 165.700 englischen und portugiesischen Gesprächen feinabgestimmt; seine Basis ist jedoch ein Zwischenstand eines noch nicht abgeschlossenen Pretrainings. [1][2]
In den vom Anbieter veröffentlichten Benchmarks liegt Kiyo bei einigen Aufgaben vorn, bei strikter Instruktionsbefolgung aber hinter SmolLM2-135M-Instruct und BananaMind-2-Pro. [1]
Ein CPU-Test des Anbieters maß 13,1 Tokens pro Sekunde für einen einzelnen Ausgabestrom; gemessen wurde dafür ein architekturidentisches Modell mit Zufallsgewichten. [1]
Die Modellkarte warnt vor Fehlern, schwachem mehrstufigem Schlussfolgern und fehlender spezifischer Sicherheitsbewertung; für folgenreiche Entscheidungen ist das Modell laut Anbieter nicht vorgesehen. [1]

// Inhalt · 8 Abschnitte

Ein kleines Modell mit klar begrenztem Anspruch
Die Modellbasis ist ein Zwischenstand
Architektur und praktische Konsequenzen
Feinabstimmung und Sprachabdeckung
Benchmarks: unterschiedliche Stärken, niedrige absolute Werte
Was die Tests über den Einsatz aussagen – und was nicht
CPU-Leistung und Ressourcenbedarf
Verfügbarkeit und Einordnung für den Betrieb
Quellen

Ein kleines Modell mit klar begrenztem Anspruch

DedeProGames beschreibt Kiyo-230M-Instruct als kompaktes Chatmodell für Englisch und Portugiesisch. Der Name verweist auf rund 230 Millionen Parameter; angegeben sind genauer 229,7 Millionen. Das Modell soll Anweisungen befolgen, mehrstufige Gespräche führen und Antworten in Markdown ausgeben. Der Anbieter grenzt den Einsatz ausdrücklich ein: Kiyo sei für Demonstrationen, Experimente und leichte Chat-Anwendungen gedacht, nicht als Ersatz für Assistenten mit mehreren Milliarden Parametern. [1]

Für Unternehmen ist deshalb weniger die Modellgröße allein entscheidend als die Frage, ob ein konkreter, eng begrenzter Anwendungsfall mit den dokumentierten Fähigkeiten und Einschränkungen vereinbar ist. Das ist eine Einordnung, keine unabhängige Leistungsbestätigung: Die veröffentlichten Tests stammen vom Anbieter selbst, und das Modell erreicht in mehreren Aufgaben nur niedrige absolute Werte. [1]

Die Modellbasis ist ein Zwischenstand

Die Modellkarte bezeichnet Kiyo-230M-Preview als Ausgangspunkt der Instruktionsversion. Dieses Basismodell wurde laut zugehöriger Dokumentation von Grund auf vortrainiert, doch der veröffentlichte Checkpoint ist kein abgeschlossener Lauf: Er enthält Gewichte von Schritt 81.500 eines auf 200 Milliarden Tokens ausgelegten Trainings und hat rund 42,7 Milliarden Tokens beziehungsweise 21,4 Prozent des geplanten Budgets verarbeitet. [2]

Kiyo-230M-Instruct übernimmt damit zwar eine Architektur und einen Trainingsansatz, deren Vortraining von Grund auf begann, wurde aber laut Modellkarte aus einem Zwischencheckpoint feinabgestimmt. Die Dokumentation warnt ausdrücklich davor, diesen Stand mit einem fertig vortrainierten Modell gleichzusetzen. Für die Bewertung des Chatmodells ist diese Unterscheidung wichtig: Das Instruction-Tuning kann Gesprächsverhalten verbessern, ersetzt aber nicht das noch ausstehende Vortraining der Basiskomponente. [1][2]

Die Preview-Karte führt für ihr eigenes Modell außerdem einen Wert von 1.086 Elo im BananaMind Base Bench 1.1 an. Das ist ein vom Anbieter berichtetes Ergebnis für den Zwischencheckpoint und ein anderes Testverfahren als die Instruktionsbenchmarks der Kiyo-230M-Instruct-Karte. Die Zahlen sind daher nicht direkt miteinander vergleichbar und belegen keine Leistung des Chatmodells in dessen späteren Tests. [1][2]

Architektur und praktische Konsequenzen

Technisch handelt es sich um einen decoder-only Transformer im Llama-Stil mit 32 Schichten und einer verborgenen Größe von 768. Die Konfiguration umfasst 12 Attention-Köpfe und vier Key-Value-Köpfe, also Grouped-Query Attention, sowie RoPE für Positionsinformationen, SwiGLU als Aktivierung und RMSNorm zur Normalisierung. Eingabe- und Ausgabeeinbettungen sind geteilt. [1]

Grouped-Query Attention ordnet mehreren Query-Köpfen weniger Key-Value-Köpfe zu. Bei Kiyo sind es zwölf Query- gegenüber vier Key-Value-Köpfen. Das beschreibt eine Architekturentscheidung, nicht automatisch einen nachgewiesenen Geschwindigkeits- oder Qualitätsvorteil in jeder Unternehmensumgebung. Die tatsächlich gemessene Laufzeit hängt auch von Hardware und Ausführungssoftware ab; die veröffentlichte CPU-Messung gilt daher nur für die dort genannten Testbedingungen. [1]

Das Kontextfenster umfasst 2.048 Tokens, wobei Eingabe und Ausgabe gemeinsam in dieses Budget fallen. Lange Dokumente oder umfangreiche Gesprächsverläufe passen damit nur begrenzt in einen einzelnen Modellaufruf. Für eine Implementierung, die längere Akten, Wissensbestände oder Chat-Historien verarbeitet, wäre eine zusätzliche Strategie zur Auswahl oder Zusammenfassung des Kontexts erforderlich. Das ist eine technische Folgerung aus der angegebenen Fenstergröße, keine vom Anbieter getestete Funktion. [1]

Feinabstimmung und Sprachabdeckung

Das überwachte Fine-Tuning umfasste laut Trainingsübersicht 165.735 Gespräche mit insgesamt 149,4 Millionen Tokens. Davon entfielen 119,2 Millionen Tokens auf Antworten des Assistenten, auf die sich der Trainingsverlust konzentrierte. Rund 73,8 Millionen Tokens stammten aus mehrteiligen Gesprächen. Der Anbieter nennt zwei Trainingsdurchläufe, 10.360 Schritte und eine Trainingszeit von etwa 4,2 Stunden. [1]

Die Tokenverteilung lag bei ungefähr 70 Prozent Englisch und 30 Prozent Portugiesisch. Als Datenquellen nennt die Modellkarte portugiesische Gespräche, SmolTalk2, smol-smoltalk, UltraChat 200k und Dolci-Instruct-SFT. Sie führt dazu auch Herkunfts- und Lizenzangaben der jeweiligen Sammlungen auf. Die bloße Nennung dieser Quellen erlaubt jedoch keine Aussage über die Qualität jedes einzelnen Trainingsbeispiels oder darüber, wie gut das Modell in allen Fach- und Geschäftsdialekten funktioniert. [1]

In einem kleinen Vergleich mit 24 Prompts – 22 auf Englisch und zwei auf Portugiesisch – beantwortete Kiyo beide portugiesischen Aufgaben in flüssigem Portugiesisch. Bei den automatischen englischen Prüfungen bestand es sechs von 16 Kriterien; SmolLM2-135M-Instruct bestand zehn. Der Anbieter bezeichnet diesen Vergleich selbst als schnellen Plausibilitätstest und nicht als Benchmark. Die kleine, einmalige Stichprobe eignet sich deshalb nicht als belastbarer Nachweis für die allgemeine Sprachqualität. [1]

Benchmarks: unterschiedliche Stärken, niedrige absolute Werte

In der vom Anbieter veröffentlichten Vier-Modell-Auswertung erreicht Kiyo-230M-Instruct bei GPQA Diamond einen Wert von 21,11, bei CaseReportBench einen Token-F1-Wert von 20,11, bei IFEval 17,38 und beim Instruction-Following-Teil von LiveBench 18,77. Verglichen werden Kiyo, Supra2-100M-Instruct, BananaMind-2-Pro-Preview-Chat und SmolLM2-135M-Instruct. Kiyo ist mit 229,7 Millionen Parametern zugleich das größte Modell in dieser Gruppe. [1]

Die Ergebnisse verteilen sich nicht einheitlich zugunsten von Kiyo. SmolLM2 erzielt in IFEval 20,89 und in LiveBench 24,23; BananaMind kommt dort auf 20,15 beziehungsweise 19,75. Kiyo liegt in diesen beiden Tests darunter. Bei CaseReportBench erreichen Kiyo und BananaMind 20,11 beziehungsweise 19,44, während SmolLM2 auf 14,20 kommt. Die Modellkarte bewertet Unterschiede von ein oder zwei Punkten bei einem einzelnen Lauf selbst als potenzielles Rauschen. [1]

Nach dem dokumentierten Protokoll liefen die Modelle mit denselben Prompts und Sampling-Einstellungen, jeweils mit eigener Chat-Vorlage, ohne System-Prompt und in FP16 auf einer einzelnen NVIDIA T4. Die Tests verwendeten je nach Benchmark unterschiedliche Eingabe- und Ausgabelimits. Es gab pro Benchmark nur einen Lauf und einen Seed. Damit handelt es sich um einen nützlichen, aber begrenzten Vergleich: Die Ergebnisse sind weder unabhängige Replikation noch ein Nachweis der Leistung in einer konkreten Unternehmensanwendung. [1]

GPQA Diamond: Kiyo erreicht laut Tabelle 21,11 bei pass@1. Antworten ohne auswertbaren Antwortbuchstaben zählen als falsch; unter den Antworten mit erkanntem Buchstaben lag die Trefferquote bei Kiyo laut Anbieter bei 25,3 Prozent und damit nahe an der Zufallsmarke von 25 Prozent. Der Testwert bildet in diesem Setup daher auch die Fähigkeit ab, das verlangte Antwortformat einzuhalten. [1]
IFEval: Die Auswertung verwendet strikte Prüfer für 541 Prompts. Laut Modellkarte kann ein Fehler bei der Spracherkennung des Test-Harness als befolgte Anweisung gezählt werden; betroffen war in den protokollierten Läufen Supra2, die genaue Verzerrung wurde nicht gemessen. [1]
CaseReportBench: Bewertet wird die Token-Übereinstimmung bei klinischen Extraktionsaufgaben mit vorhandenen Gold-Spans. Von 1.932 Aufgabenpaaren hatten 929 solche Referenzspannen; die übrigen wurden nicht gewertet. Der Anbieter weist zudem darauf hin, dass das Setup die Extraktion stärker belohnt als die Entscheidung, bei fehlender Grundlage keine Antwort zu geben. [1]

Was die Tests über den Einsatz aussagen – und was nicht

Der CaseReportBench ist ein Test zur Extraktion aus klinischen Fallberichten, kein klinischer Wirksamkeits- oder Sicherheitstest. Ein Ergebnis von 20,11 Token-F1 lässt sich daher nicht als Beleg für medizinische Zuverlässigkeit lesen. Die Modellkarte nennt ausdrücklich mögliche Faktenfehler und empfiehlt, Antworten zu überprüfen; sie dokumentiert außerdem keine eigene Sicherheitsbewertung und rät von medizinischen, rechtlichen, finanziellen und anderen folgenreichen Entscheidungen ab. [1]

Auch außerhalb des medizinischen Bereichs zeigen die veröffentlichten Prüfprompts Grenzen bei Rechenaufgaben und strikten Formatvorgaben. In dem 24-Prompt-Vergleich hatten alle Modelle dieser Größenklasse Schwierigkeiten mit Arithmetik und exakten Ausgabeanforderungen; die Ergebnisse für Kiyo lagen bei sechs von 16 englischen automatischen Checks. Der Anbieter nennt außerdem mögliche Wiederholungen, schwaches mehrstufiges Schlussfolgern und die Tendenz, falschen Prämissen zuzustimmen. [1]

Für Unternehmen ist Kiyo damit eher als Kandidat für eng umrissene Prototypen, Lehr- und Forschungszwecke oder Experimente mit kleinen Sprachmodellen einzuordnen, wie es auch der Anbieter als vorgesehene Einsatzfelder nennt. Vor einem produktiven Einsatz wären eigene Tests mit repräsentativen Eingaben, klar definierten Fehlerschwellen und menschlicher Prüfung erforderlich. Diese Empfehlung folgt aus den dokumentierten Einschränkungen und der geringen Testbasis; sie ist keine im Modellbericht nachgewiesene Einsatzpraxis. [1]

CPU-Leistung und Ressourcenbedarf

Der veröffentlichte CPU-Test wurde auf vier virtuellen CPUs eines Intel Xeon mit 2,8 GHz und AVX-512 VNNI unter PyTorch mit vier Threads ausgeführt. Für einen einzelnen Ausgabestrom maß der Anbieter 13,1 Tokens pro Sekunde; bei einem Batch von acht waren es 55,1 Tokens pro Sekunde. Die angegebene Prefill-Rate betrug 339 Tokens pro Sekunde, der Spitzen-RAM-Verbrauch in FP32 1,44 GB. [1]

Diese Zahlen sind nicht direkt als Leistungstest der veröffentlichten Chatgewichte zu verstehen: Für Kiyos Zeile nutzte der Anbieter ein architekturidentisches Modell mit Zufallsgewichten, weil die Dekodiergeschwindigkeit nach eigener Begründung nicht von den Gewichtswerten abhängt. Gemessen wurden 128 neue Tokens nach einem 64-Token-Prompt beim Dekodieren und ein 512-Token-Prompt beim Prefill; die Werte sind Mediane aus zwei bis drei Läufen. [1]

Die Modellgewichte liegen als BF16-Safetensors mit einer angegebenen Dateigröße von 459 MB vor; für FP32 nennt die Karte ungefähr 0,92 GB. Der höhere gemessene Spitzen-RAM-Verbrauch von 1,44 GB in FP32 ist ein Laufzeitwert unter der genannten Testumgebung und sollte nicht mit der reinen Dateigröße gleichgesetzt werden. Die Modellkarte beschreibt Kiyo in diesem Vierervergleich als das größte und pro Token langsamste Modell auf CPU. [1]

Verfügbarkeit und Einordnung für den Betrieb

Die Gewichte sind laut Modellkarte unter der Lizenz Apache-2.0 verfügbar; die angegebene technische Basis ist Transformers ab Version 5. Die Karte enthält Beispielcode für lokale Inferenz und beschreibt eine Chat-Vorlage im ChatML-Stil mit den Markierungen für Nachrichtenanfang und -ende. Zum Zeitpunkt der abgerufenen Modellseite war das Modell bei keinem Inference Provider bereitgestellt. Die Verfügbarkeit der Gewichte ist daher nicht mit einem unmittelbar nutzbaren gehosteten Inferenzdienst gleichzusetzen. [1]

Aus B2B-Sicht sind die niedrige Parameterzahl und die dokumentierte CPU-Ausführung Hinweise darauf, dass sich das Modell für ressourcenbegrenzte Tests untersuchen lässt. Sie belegen jedoch weder eine bestimmte Kostenersparnis noch Datenschutz- oder Sicherheitsvorteile. Dafür wären Informationen und Messungen zum jeweiligen Betrieb, zur Infrastruktur und zur Verarbeitung der Eingaben nötig, die die vorliegenden Modellkarten nicht liefern. [1]

Kiyo-230M-Instruct ist somit ein transparent beschriebenes, kleines zweisprachiges Experiment mit nachvollziehbaren Trainings- und Testangaben, aber ohne unabhängige Leistungsvalidierung in den vorliegenden Quellen. Der zentrale Prüfpunkt für Interessenten ist die Passung zwischen dem konkreten Arbeitsablauf und dem begrenzten Kontext, den gemischten Benchmark-Ergebnissen sowie den vom Anbieter selbst genannten Fehlerbildern. [1][2]

Quellen

[1] DedeProGames/Kiyo-230M-Instruct · Hugging Face — https://huggingface.co/DedeProGames/Kiyo-230M-Instruct (abgerufen am 2026-10-17)
[2] DedeProGames/Kiyo-230M-Preview · Hugging Face — https://huggingface.co/DedeProGames/Kiyo-230M-Preview (abgerufen am 2026-10-17)

//Nächster Artikel

OpenAI16.10.2026 · 22:40 Uhr

OpenAI erweitert Astra Pro in ChatGPT um parallele Agenten

OpenAI ergänzt GPT-6 Astra Pro in ChatGPT um parallele Agenten. Was das Update verspricht und welche Fragen Unternehmen vor dem Einsatz klären sollten. [S1]