Neue Ansätze in der Textverarbeitung: SeeTok und der Übergang zu visuellem Lesen

Revolution in der Textverarbeitung: SeeTok – Vom Token zum visuellen Lesen

Die Art und Weise, wie Künstliche Intelligenzen Text verarbeiten, steht möglicherweise vor einem fundamentalen Wandel. Während aktuelle Large Language Models (LLMs) primär auf der sogenannten Subword-Tokenisierung basieren, welche Text in kleinere, vorab definierte Einheiten zerlegt, zeigt eine neue Forschungsarbeit einen vielversprechenden visionszentrierten Ansatz. Dieser könnte die Effizienz und Robustheit der Textverarbeitung erheblich verbessern, insbesondere für Sprachen mit geringen Ressourcen.

Die Grenzen der traditionellen Tokenisierung

Bei der herkömmlichen Subword-Tokenisierung wird Text in Fragmente aus einem festen Vokabular zerlegt. Dieses Verfahren hat sich in Sprachen mit reichhaltigen Datenbeständen als effektiv erwiesen. Bei ressourcenarmen Sprachen führt es jedoch oft zu einer "Übersegmentierung". Das bedeutet, dass Wörter oder Phrasen in viele kleine, linguistisch bedeutungsvolle Einheiten aufgeteilt werden, was zu längeren, ineffizienten Sequenzen führt und den Rechenaufwand unnötig erhöht. Dieser Ansatz unterscheidet sich grundlegend von der menschlichen Leseweise, bei der wir Wörter als visuelle Objekte erkennen, ihre Formen, Layouts und Muster erfassen, bevor wir ihnen eine Bedeutung zuweisen. Diese visuelle Fähigkeit ermöglicht es uns, Tippfehler, verzerrte Schriftarten und unterschiedliche Schreibweisen effektiv zu verarbeiten.

SeeTok: Ein visionszentrierter Paradigmenwechsel

Ein Team von Forschern um Ling Xing, Alex Jinpeng Wang, Rui Yan, Hongyu Qu, Zechao Li und Jinhui Tang stellt mit "SeeTok" eine Methode vor, die dieses etablierte Paradigma herausfordert. SeeTok rendert Text als Bilder (Visual-Text) und nutzt vortrainierte multimodale LLMs, um diese visuellen Darstellungen zu interpretieren. Der Kern des Ansatzes liegt in der Wiederverwendung von starken Optical Character Recognition (OCR)- und Text-Vision-Abgleichfähigkeiten, die aus groß angelegten multimodalen Trainings gelernt wurden.

Nachgewiesene Effizienz und Robustheit

Die Ergebnisse der Studie sind bemerkenswert: In drei verschiedenen Sprachaufgaben erreicht oder übertrifft SeeTok die Leistung herkömmlicher Subword-Tokenizer. Dabei benötigt es 4,43-mal weniger Tokens und reduziert die Floating Point Operations (FLOPs) um 70,5 %. Diese Effizienzsteigerung ist ein entscheidender Vorteil, da die Rechenkosten und der Speicherbedarf von LLMs oft eine limitierende Größe darstellen. Darüber hinaus bietet SeeTok weitere Vorteile:

• Sprachübergreifende Generalisierung: Der visuelle Ansatz ermöglicht eine bessere Anpassung an verschiedene Sprachen, da die visuellen Muster von Schriftzeichen oft universeller sind als die spezifischen linguistischen Strukturen, die in Subword-Tokenizern verankert sind.
• Robustheit gegenüber typografischem Rauschen: Ähnlich wie Menschen kann SeeTok mit unterschiedlichen Schriftarten, Größen und leichten Verformungen besser umgehen, da es die visuellen Merkmale des Textes direkt verarbeitet.
• Linguistische Hierarchie: Die Fähigkeit, Text als visuelles Ganzes zu erfassen, könnte den Modellen helfen, linguistische Hierarchien und die Beziehungen zwischen Wörtern und Phrasen auf eine natürlichere Weise zu verstehen.

Implikationen für die Künstliche Intelligenz

SeeTok signalisiert einen möglichen Paradigmenwechsel von der symbolischen Tokenisierung hin zu einem menschenähnlichen visuellen Lesen. Dieser Schritt könnte zu natürlicheren und kognitiv inspirierteren Sprachmodellen führen. Für B2B-Anwendungen, insbesondere in Bereichen wie der Dokumentenanalyse, der automatisierten Datenextraktion oder der mehrsprachigen Kommunikation, könnten die Vorteile erheblich sein. Eine effizientere Verarbeitung großer Textmengen, eine verbesserte Genauigkeit bei unterschiedlichen Schriftbildern und eine stärkere sprachübergreifende Leistungsfähigkeit würden die Einsatzmöglichkeiten und den ROI von KI-Lösungen deutlich steigern.

Die Forschung verdeutlicht, dass die Art und Weise, wie Informationen für LLMs aufbereitet werden, einen massiven Einfluss auf deren Leistung und Effizienz hat. Der Übergang zu einem visuellen Verständnis von Text, der die Art und Weise nachahmt, wie Menschen lesen, könnte der nächste große Schritt in der Entwicklung von KI-Sprachmodellen sein. Unternehmen, die auf KI-Technologien setzen, sollten diese Entwicklungen genau beobachten, um zukünftige Innovationen optimal nutzen zu können.

Bibliography - Xing, L., Wang, A. J., Yan, R., Qu, H., Li, Z., & Tang, J. (2025). See the Text: From Tokenization to Visual Reading. arXiv preprint arXiv:2510.18840. - Karpathy, A. (2025). Karpathy on DeepSeek-OCR paper: Are pixels better inputs to LLMs than text? (X post). - Chan, D. M., Corona, R., Park, J., Cho, C. J., Bai, Y., & Darrell, T. (2024). Analyzing The Language of Visual Tokens. arXiv preprint arXiv:2411.05001. - Ganz, R., Nuriel, O., Aberdam, A., Kittenplon, Y., Mazor, S., & Litman, R. (2023). Towards models that can see and read. Amazon Science. - Various discussions and comments on Hacker News regarding "DeepSeek OCR" and "See the Text: From Tokenization to Visual Reading" (October 2025).