Kompakter KI-Rechner BIE-1 von Neogenint für effiziente Büroanwendungen vorgestellt

Chinesische Innovation: Ein kompakter Hochleistungs-KI-Rechner für den Büroalltag

Die fortschreitende Entwicklung im Bereich der Künstlichen Intelligenz (KI) erfordert zunehmend leistungsstarke und zugleich effiziente Hardwarelösungen. Insbesondere im Kontext der Verarbeitung großer Sprachmodelle (Large Language Models, LLMs) und komplexer neuronaler Netze sind spezialisierte Systeme gefragt. Aus China erreicht uns diesbezüglich eine bemerkenswerte Neuerung: Der Hersteller Neogenint hat in Kooperation mit dem Guangdong Institute of Intelligence Science and Technology (GDIIST) einen KI-Rechner namens BIE-1 vorgestellt, der eine hohe Rechenleistung in einem überraschend kompakten Format verspricht.

Architektur und Spezifikationen des BIE-1

Der BI Explorer-1 (BIE-1) wurde speziell für "Brain-like Intelligence" konzipiert und im Rahmen einer Veranstaltung des GDIIST präsentiert, das eng mit Neogenint zusammenarbeitet. Die Entwickler betonen die außergewöhnliche Effizienz des BIE-1 bei der Bereitstellung von KI-Rechenleistung. Eine der hervorstechendsten Eigenschaften des Systems ist seine Bauform: Es ist so kompakt gestaltet, dass es unter einem Schreibtisch platziert werden kann. Dies wird ergänzt durch die Angabe, dass der Rechner mit einer gewöhnlichen Steckdose auskommt und im Betrieb ausreichend leise sein soll, um nicht störend in Büroumgebungen zu wirken.

Die interne Architektur des BIE-1 ist modular aufgebaut und besteht aus drei Einschüben. Jeder dieser Einschübe umfasst:

• 384 Prozessorkerne
• 1,5 Terabyte (TB) Arbeitsspeicher (RAM)
• Drei "GPUs" mit jeweils 24 Gigabyte (GB) lokalem Speicher
• Eine M.2-SSD mit 4 TB Speicherkapazität
• Drei Festplatten mit jeweils 16 TB Speicherkapazität

In der Summe stellt das Gesamtsystem, bestehend aus allen drei Modulen, eine beeindruckende Kapazität bereit:

• 1152 CPU-Kerne
• 4,5 TB RAM
• 12 TB Flash-Speicher (SSD)
• 144 TB Festplattenspeicher

Diese Spezifikationen deuten auf eine erhebliche Rechen- und Speicherkapazität hin, die für datenintensive KI-Anwendungen von Relevanz ist.

Leistung im Kontext von Large Language Models

Ein zentrales Leistungsversprechen des BIE-1 betrifft das Inferencing von Large Language Models (LLMs). Neogenint und GDIIST geben an, dass das System beim Inferencing eines LLM mit einem sogenannten "Intuitive Neural Network" (INN) eine Verarbeitungsrate von bis zu 12,6 Millionen Token pro Sekunde erreichen kann. Das INN wird als eine "gehirnähnliche" Entwicklung des GDIIST beschrieben, das auch im Bereich medizinischer KI-Systeme forscht.

Die Leistungsangaben werden von Neogenint detailliert aufgeschlüsselt:

• Ein einzelnes Modul soll bei einem INN-Thread 7.000 Token/s verarbeiten können.
• Bei 600 Threads erhöhen sich die Token auf 4,2 Millionen/s (7.000 × 600).
• Mit allen drei Modulen und folglich 1800 Threads wird die genannte Spitzenleistung von 12,6 Millionen Token/s erreicht.

Die maximale Leistungsaufnahme des gesamten Geräts wird mit 2000 Watt angegeben, was im Vergleich zur gebotenen Rechenleistung als effizient bewertet werden könnte, insbesondere für ein System dieser Klasse, das für den Büroeinsatz konzipiert ist.

Offene Fragen und strategische Implikationen

Trotz der vielversprechenden Ankündigungen bleiben einige wichtige Details zum BIE-1 derzeit noch offen. Neogenint hat bisher weder Preise noch konkrete Liefertermine kommuniziert. Auch über die genaue Herkunft und Spezifikation der verbauten Komponenten, insbesondere der physischen Prozessoren (z.B. 2 × 192 Kerne oder 1 × 384 Kerne pro Einschub) und der GPU-Beschleuniger, gibt es keine präzisen Angaben. Es ist bekannt, dass das GDIIST grundsätzlich auch mit dem chinesischen KI-Chipentwickler Cambricon kooperiert, was auf eine mögliche Verwendung von deren Technologien hindeuten könnte.

Die Entwicklung des BIE-1 durch Neogenint und GDIIST unterstreicht die wachsende Bedeutung spezialisierter Hardware für KI-Anwendungen und die Bestrebungen chinesischer Unternehmen, in diesem Sektor technologische Führung zu übernehmen. Die Kombination aus hoher Rechenleistung, kompakter Bauweise und dem Fokus auf Effizienz könnte den BIE-1 zu einer interessanten Option für Unternehmen und Forschungseinrichtungen machen, die leistungsstarke KI-Inferenzsysteme dezentral und energieeffizient betreiben möchten. Die weitere Entwicklung und die Verfügbarkeit detaillierterer technischer Informationen sowie kommerzieller Konditionen werden zeigen, inwieweit dieses System den Erwartungen gerecht werden kann.

Bibliography

- Heise Online. (n.d.). Chinesischer "KI-Kühlschrank" steht unterm Schreibtisch. Retrieved from https://www.heise.de/news/Chinesischer-KI-Kuehlschrank-steht-unterm-Schreibtisch-10962055.html - Guangdong Institute of Intelligence Science and Technology (GDIIST). (n.d.). Research. Retrieved from https://www.gdiist.cn/en/research - Shanghai Neogenint Intelligent Technology Co.,Ltd. (n.d.). BI Explorer-1. Retrieved from http://www.neogenint.com/bie