// Modelle & Forschung 20.10.2026 · 11:14 Uhr 7 Min. Lesezeit

Whatmodel.sh vergleicht KI-Modelle nach Hardware und Einsatzzweck

Mindverse News

KI-gestützt erstellt 2 Quellen Originalmeldung: t3n.de Arbeitsweise

KI-generierte Illustration: Whatmodel.sh vergleicht KI-Modelle nach Hardware und Einsatzzweck — KI-generierte Illustration

Das Wichtigste in Kürze

Whatmodel.sh lässt Modelle nach Aufgabenart, Arbeitsspeicher, GPU-Kapazität und Budget filtern; laut t3n umfasst der Katalog mehrere hundert Modelle. [1]
Die Seite zeigt unter anderem geschätzten Speicherbedarf, ungefähre Geschwindigkeit und Kontextfenster an. [1]
Die Modellbewertungen beruhen laut t3n auf öffentlich zugänglichen Benchmarks; die bereitgestellten Angaben belegen jedoch keine Messung auf der jeweiligen Unternehmenshardware. [1]
Für lokale Inferenz sind neben der Rechenleistung vor allem Speicherbedarf und verfügbare Speicherressourcen relevant; Quantisierung kann den Platzbedarf verringern. [1][4]
Für eine produktive Auswahl sollten Unternehmen die Vorauswahl durch eigene Tests ergänzen und Datenschutz, Laufzeit sowie die konkreten Einsatzanforderungen getrennt prüfen. [1][4]

// Inhalt · 7 Abschnitte

Ein Filter für eine unübersichtliche Modellauswahl
So funktioniert die Vorauswahl
Was ein Benchmark-Score aussagt – und was nicht
Warum Speicherbedarf und Quantisierung entscheidend sind
Lokaler Betrieb kann Datenwege verändern
Bedeutung für Beschaffung und KI-Governance
Vor einer produktiven Entscheidung bleiben Fragen offen
Quellen

Ein Filter für eine unübersichtliche Modellauswahl

Welche KI sich lokal betreiben lässt, hängt nicht allein davon ab, welches Modell in einem allgemeinen Leistungsvergleich vorne liegt. Auch die verfügbare Hardware und die konkrete Aufgabe entscheiden mit. Das ist der Ausgangspunkt von Whatmodel.sh: Die Website soll Unternehmen und anderen Nutzerinnen und Nutzern helfen, Modelle einzugrenzen, die zu ihrem Rechner und ihrem Einsatzzweck passen. Der t3n-Bericht vom 20. Oktober 2026 beschreibt einen Katalog mit mehreren hundert Modellen. [1]

Das Angebot adressiert damit eine praktische Hürde beim Einstieg in lokale KI: Bevor ein Modell produktiv eingesetzt werden kann, müssen Unternehmen klären, ob es auf vorhandener Hardware läuft und ob seine Leistung für die jeweilige Aufgabe ausreicht. Laut t3n fasst Whatmodel.sh dafür Modell- und Benchmarkinformationen in einer vergleichbaren Oberfläche zusammen. Das kann die Recherche verkürzen; eine eigenständige Leistungsprüfung ersetzt es nach den verfügbaren Angaben aber nicht. [1]

So funktioniert die Vorauswahl

Die Suche beginnt mit der Art des gewünschten Modells. Neben großen Sprachmodellen nennt der Bericht Bild- und Videomodelle als Kategorien. Danach wählen Nutzerinnen und Nutzer einen Anwendungsbereich, etwa Programmieren, Chatten und Schreiben oder Websuche. Ergänzend lassen sich verfügbare RAM- und GPU-Kapazitäten sowie ein Budget pro Million Token angeben. [1]

Als Ergebnis zeigt die Website laut t3n unter anderem, welche Modelle auf der angegebenen Hardware laufen könnten, welchen Arbeitsspeicher sie benötigen, wie schnell sie ungefähr sind und wie groß ihr Kontextfenster ist. Auch ein Vergleich von API-Kosten und eine Suche nach Modellen für bestimmte Aufgaben werden beschrieben. Damit verbindet das Tool zwei unterschiedliche Entscheidungssituationen: den Vergleich cloudbasierter Angebote anhand von Kosten und Aufgabenleistung sowie die Vorauswahl für den lokalen Betrieb anhand verfügbarer Ressourcen. [1]

Für Unternehmen ist diese Trennung wichtig. Ein Modell, das bei einer API-Kostenbetrachtung attraktiv erscheint, ist nicht automatisch für den Betrieb auf eigener Hardware geeignet. Umgekehrt sagt eine passende Speichergröße noch nicht aus, ob die Qualität für eine interne Anwendung genügt. Die Filter können also Kriterien sortieren, die anschließend jeweils für sich geprüft werden müssen. Das ist eine Schlussfolgerung aus den getrennt ausgewiesenen Kriterien und Ergebnissen der Website, keine von t3n berichtete Funktion zur abschließenden Freigabe eines Modells. [1]

Modellart und Aufgabe auswählen, etwa Sprachmodell und Programmierung. [1]
RAM- und GPU-Kapazität sowie gegebenenfalls das Budget pro Million Token eintragen. [1]
Vorgeschlagene Kandidaten anhand von Speicherbedarf, geschätzter Geschwindigkeit und Kontextfenster vergleichen. [1]

Was ein Benchmark-Score aussagt – und was nicht

Whatmodel.sh versieht die gelisteten Modelle laut t3n mit einem Score, der auf öffentlich zugänglichen Benchmarks beruht. Der Bericht verweist auf eine auf der Website erläuterte Methode und darauf, dass Daten, Scoring-Code und Benchmark-Skript als Open Source bereitgestellt werden. Diese Offenlegung kann die Nachvollziehbarkeit verbessern: Interessierte können grundsätzlich untersuchen, welche Daten und Berechnungsschritte verwendet werden. [1]

Die bereitgestellten Informationen legen allerdings weder die konkrete Gewichtung der einzelnen Benchmarks noch deren Eignung für einen bestimmten betrieblichen Arbeitsablauf offen. Ein Score ist deshalb nicht ohne Weiteres als allgemeines Qualitätsurteil zu verstehen. Er ist ein Vergleichswert innerhalb des vom Tool verwendeten Verfahrens. Ob ein Modell etwa interne Dokumente zuverlässig zusammenfasst oder Code in der tatsächlich verwendeten Entwicklungsumgebung erzeugt, lässt sich aus einem aggregierten Wert allein nicht ableiten. Das ist eine analytische Begrenzung der Aussagekraft von Benchmark-Ranglisten, nicht der Nachweis eines Fehlers in Whatmodel.sh. [1]

Auch die Hardwareangabe im Filter ist kein Beleg dafür, dass das Tool den konkreten Rechner belastet und dort einen Laufzeittest ausführt. Der t3n-Text beschreibt eine Auswahl anhand von Speicherkapazität und Schätzungen; er sagt nicht, dass Whatmodel.sh ein Modell auf dem Endgerät lädt oder Antwortzeiten dort misst. Ein angezeigtes Modell, das laufen könnte, sollte daher als Kandidat und nicht als bestätigte Kompatibilitätsgarantie behandelt werden. [1]

Ein weiterer Vergleichsartikel zu Werkzeugen für lokale KI unterscheidet ausdrücklich zwischen Rechnern, die Speicherbedarf schätzen, und Desktop-Anwendungen, die ein Modell tatsächlich zu laden versuchen. Diese Unterscheidung verdeutlicht, warum ein Webvergleich nützlich für die Vorauswahl sein kann, während ein Test mit der vorgesehenen Laufzeitumgebung zusätzliche Information liefert. [4]

Warum Speicherbedarf und Quantisierung entscheidend sind

Bei der lokalen Inferenz muss ein Modell mit seinen Gewichten und den zusätzlichen Anforderungen der Verarbeitung in den verfügbaren Speicher passen. Welche Ressourcen nötig sind, variiert laut t3n zwischen Modellen; relevant sind Speicher, Speicherbandbreite und Rechenleistung. Fehlt eine dieser Ressourcen, kann ein Modell gar nicht starten oder nur langsam antworten. Deshalb ist ein Vergleich nach Hardware nicht bloß eine Komfortfunktion, sondern berührt unmittelbar die Frage, ob der geplante lokale Betrieb praktikabel ist. [1]

Der ergänzende Leitfaden zu lokalen KI-Werkzeugen erklärt, dass Quantisierung die Modellgewichte mit weniger Bits darstellt und dadurch den Speicherbedarf senkt. Als grobe Orientierung nennt er für ein Modell mit sieben Milliarden Parametern bei 4-Bit-Quantisierung etwa vier Gigabyte Speicher; weitere Anforderungen, etwa durch Kontext und Zwischenberechnungen, kommen hinzu. Solche Faustwerte helfen bei einer ersten Einschätzung, sind aber keine universelle Zusage für jede Softwarekonfiguration und jede Nutzungssituation. [4]

Für Unternehmen bedeutet das: Ein Filter nach RAM- und GPU-Kapazität kann eine offenkundig ungeeignete Auswahl vermeiden, doch die Ressourcenzahl allein entscheidet nicht über die tatsächliche Alltagstauglichkeit. Die Anwendung kann längere Eingaben, parallele Anfragen oder bestimmte Laufzeitumgebungen verlangen. Die verfügbaren Beschreibungen von Whatmodel.sh belegen keine detaillierte Prüfung all dieser Betriebsbedingungen. Unternehmen sollten daher vor einer Beschaffung oder breiten Einführung mit repräsentativen Aufgaben und der vorgesehenen Konfiguration testen. Diese Empfehlung folgt aus dem Unterschied zwischen den im Tool genannten Schätzwerten und dem realen Einsatz. [1][4]

Lokaler Betrieb kann Datenwege verändern

Ein Grund für lokale Modelle ist der Umgang mit sensiblen Informationen. Der t3n-Beitrag stellt dem Betrieb über Anbieter-Apps oder Browser, bei dem Anfragen an Server des Anbieters gehen, die lokale Nutzung gegenüber. Bei einer vollständig lokalen Inferenz können Eingaben auf dem eigenen Rechner verarbeitet werden, statt für die Modellantwort an einen externen Inferenzdienst übertragen zu werden. [1]

Das ist für betriebliche Datenflüsse relevant, sollte aber nicht mit einer pauschalen Datenschutzgarantie verwechselt werden. Die vorliegenden Informationen beschreiben weder die konkrete Datenverarbeitung von Whatmodel.sh noch Telemetrie, Downloads oder Einstellungen anderer lokaler Anwendungen. Ebenso belegt die bloße Auswahl eines lokal lauffähigen Modells nicht, dass alle Bestandteile einer späteren Lösung ohne externe Übertragung arbeiten. Für eine belastbare Bewertung müssen Sie daher die tatsächliche Softwarekonfiguration und die Datenwege des jeweiligen Einsatzes untersuchen. [1]

Der Bericht nennt außerdem Offline-Nutzung und häufig höhere Antwortgeschwindigkeit als mögliche Vorteile lokaler Modelle. Diese Punkte sind als allgemeine Vorteile beschrieben, nicht als Testergebnis für jedes Modell oder jede Hardware. In der Praxis kann ein lokaler Betrieb abhängig von verfügbaren Ressourcen auch langsam ausfallen; t3n weist gerade darauf hin, dass fehlender Speicher oder Rechenleistung die Ausführung stark beeinträchtigen kann. [1]

Bedeutung für Beschaffung und KI-Governance

Für IT- und Digitalverantwortliche kann Whatmodel.sh einen ersten Abgleich zwischen Aufgaben, vorhandener Hardware und Modelloptionen strukturieren. Das ist besonders dann hilfreich, wenn mehrere Teams unterschiedliche Anforderungen anmelden oder eine Organisation zunächst prüfen möchte, ob vorhandene Rechner für einen begrenzten lokalen Anwendungsfall ausreichen. Die Website bietet laut Bericht Filter für Aufgaben, Ressourcen und Kosten sowie Vergleichswerte zu Modellen. [1]

Als Beschaffungsgrundlage reicht diese Vorauswahl jedoch nicht aus. Ein Benchmark-Ranking beantwortet nicht automatisch, welche Antwortqualität ein Modell auf unternehmenseigenen Daten erzielt, wie zuverlässig Ergebnisse ausfallen oder ob eine Anwendung für einen Geschäftsprozess geeignet ist. Die t3n-Beschreibung nennt Scores, geschätzte Geschwindigkeiten und Kontextfenster, berichtet aber keine unternehmensspezifischen Tests oder produktiven Implementierungen. [1]

Eine sinnvolle Nutzung des Tools besteht deshalb darin, eine überschaubare Kandidatenliste zu erstellen und anschließend intern zu validieren. Dazu sollten Sie vorab festlegen, welche Aufgaben das Modell erfüllen muss, welche Fehler tolerierbar sind und welche Antwortzeit im jeweiligen Ablauf nötig ist. Anschließend lassen sich die Kandidaten mit repräsentativen Eingaben auf der Zielhardware vergleichen. Diese Vorgehensweise ist eine Analyseempfehlung: Sie verbindet die von Whatmodel.sh angebotene Vorauswahl mit der im ergänzenden Leitfaden beschriebenen Differenz zwischen Speicherprognose und tatsächlichem Laden eines Modells. [1][4]

Vor einer produktiven Entscheidung bleiben Fragen offen

Die Quelle beschreibt Whatmodel.sh als Vergleichs- und Filterangebot, liefert aber keine unabhängige Evaluation seiner Trefferquote. Es fehlen im bereitgestellten Material beispielsweise Ergebnisse dazu, wie oft eine als kompatibel angezeigte Kombination in einer konkreten Laufzeit tatsächlich startet oder welche Abweichungen zwischen geschätzter und gemessener Geschwindigkeit auftreten. Das bedeutet nicht, dass die Schätzungen unzuverlässig sind; ihre Genauigkeit lässt sich anhand der hier verfügbaren Angaben lediglich nicht beurteilen. [1]

Auch zur Aktualität der Modellliste und der zugrunde liegenden Benchmarks enthält der Artikel keine näheren Angaben. Bei einer schnell veränderlichen Modelllandschaft sollten Sie deshalb prüfen, wann die Daten aktualisiert wurden und ob Modellversion, Quantisierung und Softwareumgebung zu Ihrem Vorhaben passen. Das ist eine operative Vorsichtsmaßnahme, keine im t3n-Text bestätigte Schwäche der Website. [1]

Der praktische Wert des Tools liegt damit vor allem in der Orientierung: Es macht unterschiedliche Auswahlkriterien nebeneinander sichtbar und kann Rechercheaufwand reduzieren. Die Entscheidung, ein Modell lokal einzusetzen, bleibt dennoch eine Kombination aus technischer Validierung, Aufgabenprüfung und Bewertung der tatsächlichen Datenflüsse. Ein passender Eintrag im Vergleich ist dafür ein Startpunkt, kein Nachweis der betrieblichen Eignung. [1][4]

Quellen

[1] Dieses Tool zeigt dir, welches KI-Modell lokal auf deinem Rechner läuft — https://t3n.de/news/ki-ohne-cloud-zwang-tool-1768536 (abgerufen am 2026-10-20)
[4] Kann dein PC KI lokal ausführen? 8 kostenlose Tools zum Prüfen — https://pasqualepillitteri.it/de/news/12686/tools-pruefen-pc-ki-lokal (abgerufen am 2026-10-20)

//Nächster Artikel

Modelle & Forschung20.10.2026 · 13:32 Uhr

PyTorch 2.15 erweitert MPS – Benchmarks und Release-Status bleiben zu prüfen

PyTorch 2.15 bringt FP8 und Metal-Kernel für Macs. Hugging Face meldet Leistungsgewinne; Release-Status und teils widersprüchliche Benchmarks erfordern Prüfung. [S1]