Maverick 1.1 steuert Unity-Szenen lokal per Sprachmodell
Mindverse News
KI-gestützt erstellt 3 Quellen Originalmeldung: github.com Arbeitsweise
Das Wichtigste in Kürze
- Das Unity-Paket 1.1.0 bindet das lokal laufende Modell Maverick 1.1 über llama.cpp ein; nach dem Download soll die Inferenz ohne Internetverbindung, Nutzerkonto oder API-Schlüssel funktionieren. [1]
- Das neue Schema 1.1 ergänzt unter anderem Undo, Blick- und Zeigebezug sowie Sprecherinformationen; der bisherige Modus bleibt voreingestellt. [1]
- Der Projektbericht nennt für Maverick 1.1 Werte von 93 bis 100 Prozent auf sechs Tests zu neuen Fähigkeiten, weist aber zugleich auf Grenzen und ein mögliches Überagieren des Modells hin. [2]
- Die dokumentierte Einrichtung zielt auf Windows x64 und Unity 2022.3 LTS oder neuer; das empfohlene Modell umfasst 2,50 GB. [2]
- Die Leistungs- und Evaluationswerte stammen aus der Projektdokumentation und sind keine unabhängige Bestätigung. [2]
// Inhalt · 8 Abschnitte
- Lokaler Unity-Agent mit neuem Schema
- Was Schema 1.1 hinzufügt
- Vom Textbefehl zur Unity-Aktion
- Sicherheitsprüfungen und offene Grenzen
- Leistungsangaben: vielversprechend, aber projektnah
- Anforderungen und Integrationsaufwand
- Datenschutz und Betrieb: lokal heißt nicht automatisch geprüft
- Einordnung für XR- und Simulationsprojekte
- Quellen
Lokaler Unity-Agent mit neuem Schema
Das Open-Source-Projekt Maverick-Unity verbindet Unity-Szenen mit einem lokal ausgeführten Sprachmodell. Nutzerinnen und Nutzer können Objekte per englischer Texteingabe bewegen, platzieren oder hervorheben lassen. Das Modell erhält dafür keine Kamerabilder, sondern eine strukturierte Beschreibung der Szene, die Unity bereitstellt. [1] [2]
Die Version 1.1.0 des Pakets ergänzt die Unterstützung für Maverick 1.1. Entwickelt wurde das Projekt laut Repository von Eren Ata am Extended Reality Laboratory der Manisa Celal Bayar University. Die Modellgewichte werden separat als GGUF-Datei bereitgestellt; für den Modellserver nutzt das Paket llama.cpp. [1] [2]
- Die Software kann nach dem Herunterladen von Modell und Laufzeitumgebung ohne Internetverbindung, Konto oder API-Schlüssel inferieren. [1]
- Das Paket richtet sich laut Dokumentation an Anwendungen wie Simulationen, Trainingsumgebungen, Showrooms, Barrierefreiheitsfunktionen und Spiele. [2]
Was Schema 1.1 hinzufügt
Die wichtigste Änderung ist ein optionales Szenenformat. Über die Einstellung `SceneAgent.schemaVersion` können Entwicklerinnen und Entwickler zwischen dem bisherigen Schema V0 und V1 wählen. V0 bleibt Standard und soll sich wie die Version 1.0 verhalten; damit können bestehende Szenen und Code weiterhin genutzt werden. [1]
Im neuen Format kann das Modell jüngste Aktionen berücksichtigen, Blick- und Zeigebewegungen mehrerer Personen einbeziehen und erkennen, wer einen Befehl gibt. So soll eine Formulierung wie „das dort“ einem Objekt zugeordnet werden können. Das Schema übermittelt außerdem, falls vorhanden, eine offene Rückfrage und Informationen darüber, was eine Aktion verändert hat. [1]
Neu ist auch das Werkzeug `undo`: Es kann die letzten ein bis drei Befehle des Agenten zurücknehmen. Die Implementierung soll die Umkehr verweigern, wenn ein anderer Prozess das Objekt zwischenzeitlich verändert hat, der ursprüngliche Befehl fehlgeschlagen ist oder die Aktion nicht rückgängig gemacht werden kann. In solchen Fällen soll die Szene unverändert bleiben. [1]
Diese Einschränkungen sind für Anwendungen mit mehreren Steuerungssystemen relevant. Änderungen außerhalb des Agenten müssen laut Projekt über eine Schnittstelle gemeldet werden oder bei aktivierter Transform-Synchronisierung automatisch erkannt werden. Die Rücknahmefunktion ist damit nicht als allgemeines Undo für sämtliche Änderungen in einer Unity-Szene beschrieben, sondern für Aktionen des Agenten. [1]
Vom Textbefehl zur Unity-Aktion
Bei einer Anfrage schickt das Paket den Befehl, einen Systemprompt und eine JSON-Beschreibung der aktuellen Szene an das Modell. Die Beschreibung kann unter anderem Objektkennungen, Bezeichnungen, Farben, Zustände, Positionen, unterstützende Objekte sowie die Hände und das Blickziel der Spielfigur enthalten. Das Modell gibt anschließend einen Werkzeugaufruf, eine Rückfrage oder eine Textantwort zurück. [2]
Die Software prüft den Aufruf gegen verfügbare Werkzeuge und bekannte Objektkennungen. Unity kontrolliert zusätzlich, ob die angeforderte Aktion für das jeweilige Objekt erlaubt ist. Das Ergebnis geht zurück an das Modell, das daraufhin weiterarbeiten oder den Ausgang erklären kann. Standardmäßig sind vier Modellrunden pro Befehl vorgesehen, im Schema 1.1 sechs. [2]
Zu den Werkzeugen gehören Greifen, Loslassen, Platzieren, Bewegen, Drehen, Zustandsänderungen, Hervorheben, Suchen und Rückfragen. Ein `press`-Aufruf meldet einen Tastendruck, dessen konkrete Wirkung die Anwendung selbst definieren muss. Auch bei einem Raumwechsel bleibt die Bewegung der Spielfigur Aufgabe der Anwendung. [2]
Damit ist Maverick keine vollständige XR-Eingabe- oder Interaktionsplattform. Spracherkennung, Controller-Bindungen, XR-Oberfläche, Türanimationen und die Synchronisierung mit anderen Interaktionssystemen müssen Entwicklerinnen und Entwickler ergänzen. Für Spracheingaben kann eine separate Spracherkennung den erkannten Text an dieselbe Befehlsschnittstelle übergeben. [1] [2]
Sicherheitsprüfungen und offene Grenzen
Das Projekt beschreibt zusätzliche Prüfungen für Werkzeugaufrufe. Die Ausgabevalidierung weist unter anderem fehlende Pflichtargumente, falsche Datentypen und nicht endliche Zahlen zurück; Werkzeugaufrufe innerhalb der Modellbegründung sollen nicht ausgeführt werden. Befehle, die während eines laufenden Auftrags eintreffen, werden nicht parallel gestartet. Auch ein abgebrochener Lauf soll die Szene nicht weiter verändern. [1]
Die Dokumentation warnt dennoch davor, diese Kontrollen als Garantie für die richtige Ausführung einer Absicht zu verstehen. Als verbleibendes Problem nennt sie einen gültigen Aufruf, auf den ein abgeschnittener weiterer Aufruf folgen kann. Außerdem gibt es keine Eingabewarteschlange: Anwendungscode muss prüfen, ob eine Sitzung gerade beschäftigt ist. [2]
Weitere Einschränkungen betreffen Szenenmodellierung und Platzierung. Die Dokumentation empfiehlt bei der standardmäßigen Kontextlänge von 4.096 Token zunächst weniger als ungefähr 60 interaktive Objekte je Raum. Platzierungen können sich überschneiden; Orientierung wird derzeit als Metadatum gespeichert, aber bei der visuellen Synchronisierung nicht als Rotation angewandt. Bewegt ein anderes System Objekte, muss die Szenenbeschreibung ebenfalls aktualisiert werden. [2]
Das Modell arbeitet laut Projekt mit englischen Befehlen. Objekte erstellen, löschen, skalieren oder umfärben gehört nicht zum dokumentierten Werkzeugumfang. Bei Objekten in anderen Räumen hängt das Verhalten außerdem vom Befehl ab: Suchen und Holen werden unterstützt, während bestimmte Aktionen abgelehnt werden können, wenn der Raum nicht genannt wird. [2]
Leistungsangaben: vielversprechend, aber projektnah
Die README veröffentlicht Ergebnisse für beide Modellgenerationen. Für Maverick 1.1 nennt sie bei sechs Tests zu neuen Fähigkeiten Werte zwischen 93 und 100 Prozent; Maverick 1.0 erreichte auf diesen Tests demnach 33 bis 87 Prozent. Auf 2.900 vorlagenbasierten Fähigkeitsbefehlen lag der Wert für 1.1 bei 97,3 Prozent. Bei 499 aus ALFRED abgeleiteten Einzelanweisungen nennt das Projekt 83,2 Prozent für 1.1 und 83,8 Prozent für 1.0. [2]
In einer Unity-Szene seien 197 von 200 zurückgehaltenen Entwicklungsbefehlen korrekt ausgeführt worden; außerdem hätten 22 vorgegebene Abnahmeschritte der Paketversion bestanden. Die Dokumentation sagt, die neuen Fähigkeitstests seien vor dem Training versiegelt und jeweils einmal durchgeführt worden. Das sind Angaben aus der Projektdokumentation, keine unabhängige Replikation. [2]
Die Vergleichbarkeit der Zahlen ist begrenzt: Der Bericht erklärt, dass die ALFRED-abgeleiteten Tests strukturierte Szenenbeschreibungen und nur drei Aktionstypen verwenden. Ihre Ergebnisse seien deshalb nicht unmittelbar mit den vollständigen visuellen Aufgabenerfüllungswerten des ursprünglichen ALFRED-Benchmarks vergleichbar. Das Projekt nennt außerdem eine Tendenz des neuen Modells, in unbekannten Situationen zu handeln, statt nachzufragen. [2]
Für Maverick 1.0 berichtet das Projekt auf einem getesteten Laptop eine mediane Latenz von 1,18 Sekunden für die erste Modellantwort und 3,06 GB GPU-Speicherbedarf des Modellservers. Vollständige Befehle benötigen häufig zwei Modellaufrufe; ihre Laufzeit hängt laut Dokumentation auch von Renderinglast, Temperatur und Zahl der Schritte ab. Diese Messwerte sind kein allgemeiner Leistungsnachweis für beliebige Hardware oder für Maverick 1.1. [2]
Anforderungen und Integrationsaufwand
Als Mindestversion nennt das Paket Unity 2022.3 LTS. Die dokumentierte Einrichtung zielt auf Windows x64; Linux, macOS und eigenständige XR-Headsets seien nicht validiert. Für die getesteten Einstellungen veranschlagt das Projekt rund 3,1 GB freien GPU-Speicher zusätzlich zum Bedarf der Szene. CPU-Ausführung ist möglich, wird aber als langsamer beschrieben. [2]
Das empfohlene quantisierte Modell im Format Q4_K_M ist 2,50 GB groß. Zusätzlich müssen eine passende llama.cpp-Ausgabe und deren Laufzeitdateien installiert werden. Das Modell wird getrennt vom Unity-Paket bezogen, sodass Paketupdates die Gewichte nicht erneut herunterladen. [2]
Für den Szenenaufbau sind beschreibende englische Objektnamen und geprüfte Objektfähigkeiten vorgesehen. Ein Editorwerkzeug macht ausgewählte Unity-Objekte interaktiv und ordnet sie unter dem Scene-Agent-Objekt ein. Die Dokumentation empfiehlt, diese Hierarchieänderung zu kontrollieren, wenn das Projekt bereits auf eine bestimmte Objektstruktur angewiesen ist. [2]
Für Unternehmen folgt daraus ein Integrationsaufwand, der über die Modellanbindung hinausgeht: Szenenobjekte müssen sinnvoll beschrieben, Fähigkeiten begrenzt und Änderungen durch andere Systeme synchronisiert werden. Das ist eine Analyse der dokumentierten Voraussetzungen, keine Aussage über den Aufwand in einem konkreten Projekt. [1] [2]
Datenschutz und Betrieb: lokal heißt nicht automatisch geprüft
Die lokale Inferenz kann für Unternehmen interessant sein, die Szeneninformationen nicht an einen externen Modell-API-Dienst übermitteln möchten. Das Projekt gibt an, dass die Inferenz nach dem Download offline läuft und das System Unity-Szenendaten statt Kamerabilder verarbeitet. Daraus lässt sich jedoch keine vollständige Datenschutz- oder Sicherheitsbewertung ableiten: Die Dokumentation sagt damit nichts Abschließendes über die jeweilige Anwendung, ihre Eingabedaten oder deren sonstige Verarbeitung aus. [1] [2]
Auch der Komponentenbezug ist getrennt zu betrachten: Das Unity-Paket steht laut README unter MIT-Lizenz, die Modellgewichte unter Apache-2.0 und llama.cpp unter MIT-Lizenz. Für eine kommerzielle Nutzung müssen Unternehmen daher die konkreten Abhängigkeiten und ihre jeweiligen Lizenzbedingungen prüfen. [2]
Die GitHub-Sicherheitsseite des Repositories weist zum Abrufzeitpunkt auf keine eingerichtete SECURITY.md und keine veröffentlichten Sicherheitshinweise hin. Das ist weder ein Nachweis für eine Schwachstelle noch eine Bestätigung der Sicherheit; es bedeutet zunächst, dass diese beiden Informationen dort nicht ausgewiesen werden. [4]
Einordnung für XR- und Simulationsprojekte
Maverick 1.1 adressiert eine eng umrissene Aufgabe: englische Anweisungen in kontrollierte Aktionen innerhalb einer Unity-Szene umzusetzen. Die neue Rücknahmefunktion und der Bezug auf Blickrichtung, Zeigen und Sprecher erweitern die Interaktion über einfache Objektbefehle hinaus. Zugleich zeigen die dokumentierten Anforderungen, dass Szenenmodellierung, XR-Eingabe und Anwendungseffekte weiterhin beim Entwicklungsteam liegen. [1] [2]
Für eine technische Bewertung sollten Teams die Angaben im eigenen Zielsystem nachvollziehen: insbesondere Speicherbedarf, Latenz bei vollständigen Befehlen, Verhalten bei mehrdeutigen oder nicht erfüllbaren Anweisungen und das Zusammenspiel mit extern bewegten Objekten. Das ist eine aus den dokumentierten Leistungswerten und bekannten Einschränkungen abgeleitete Prüfagenda, kein vom Projekt veröffentlichter Industriestandard. [2]
Die veröffentlichten Demos veranschaulichen den vorgesehenen Ablauf, ersetzen aber keine breite Erprobung. Das Projekt gibt an, die 1.1-Demo live auf einem Laptop mit 4-GB-GPU aufgenommen zu haben; das Skript sei geprobt und die Stimme der zugeschalteten Fachperson per Text-to-Speech erzeugt worden. Damit ist der Clip ein Funktionsbeispiel, aber kein unabhängiger oder repräsentativer Praxistest. [2]
Quellen
- [1] GitHub - mcbu-xrlab/Maverick-Unity: Local English-language scene control for Unity with Maverick-4B and llama.cpp · GitHub — https://github.com/mcbu-xrlab/Maverick-Unity (abgerufen am 2026-10-25)
- [2] Maverick-Unity/README.md at main · mcbu-xrlab/Maverick-Unity · GitHub — https://github.com/mcbu-xrlab/Maverick-Unity/blob/main/README.md (abgerufen am 2026-10-25)
- [4] Overview · mcbu-xrlab/Maverick-Unity · GitHub — https://github.com/mcbu-xrlab/Maverick-Unity/security (abgerufen am 2026-10-25)
//Nächster Artikel
Regulierung & Politik
KI-Prognosen in der Polizeiarbeit können historische Verzerrungen verstärkenKI-gestützte Polizeiprognosen können verzerrte Einsatzdaten verstärken. Was Forschung zu Rückkopplungen, Datenqualität und Aufsicht für Behörden bedeutet.

// Artikel teilen
// Dranbleiben
Mindverse News folgen
Neue Meldungen erhalten Sie über unseren RSS-Feed oder auf LinkedIn.
Passend dazu in Mindverse Studio
- KI-Chat mit allen führenden ModellenGPT, Claude und Gemini in einer Oberfläche — mit Websuche und Quellenangaben.
- Transkription und Meeting-Protokolle60 Minuten Meeting, 2 Minuten Protokoll — mit Sprechererkennung.
- Eigene Modelle und Assistenten trainierenBilden Sie einen digitalen Marken-Experten auf Ihrem Wissen aus.
Recherchieren Sie KI-News wie diese selbst — mit Mindverse Studio.
7 Tage kostenlos testen — ohne Kreditkarte, mit 200 Credits. Für Fragen zur Umsetzung buchen Sie eine persönliche Demo.