
Von der ersten Idee bis zur voll integrierten KI-Lösung – strukturiert, sicher und mit messbarem Erfolg
Wir analysieren Ihre Geschäftsprozesse und identifizieren konkrete Use Cases mit dem höchsten ROI-Potenzial.
✓ Messbare KPIs definiert
Vollständige Datenschutz-Analyse und Implementierung sicherer Datenverarbeitungsprozesse nach EU-Standards.
✓ 100% DSGVO-konform
Maßgeschneiderte Auswahl der optimalen KI-Lösung – von Azure OpenAI bis zu Open-Source-Alternativen.
✓ Beste Lösung für Ihren Fall
Schneller Proof of Concept mit nahtloser Integration in Ihre bestehende IT-Infrastruktur und Workflows.
✓ Ergebnisse in 4-6 Wochen
Unternehmensweiter Rollout mit umfassenden Schulungen für maximale Akzeptanz und Produktivität.
✓ Ihr Team wird KI-fit
Die Landschaft der Künstlichen Intelligenz (KI) unterliegt einer konstanten Weiterentwicklung, die durch neue Modelle und deren Integrationsmöglichkeiten geprägt ist. Eine aktuelle Entwicklung in diesem Bereich stellt die Verfügbarkeit des multimodalen Modells Inkling von Thinking Machines in Claude Code über Hugging Face dar. Diese Integration kann für Entwickler und Unternehmen, die an der Implementierung fortschrittlicher KI-Lösungen arbeiten, von Interesse sein.
Das Unternehmen Thinking Machines hat sein multimodales KI-Modell namens Inkling veröffentlicht. Dieses Modell ist nun über Hugging Face zugänglich und kann in Umgebungen, die mit der Anthropic Messages API kompatibel sind, wie beispielsweise Claude Code, genutzt werden. Diese Kompatibilität ermöglicht es, dass für Claude entwickelte Tools und SDKs mit geringfügigen Anpassungen der Basis-URL und des API-Schlüssels auf Inkling zugreifen können.
Die Anthropic-kompatible Schnittstelle, die diese Integration ermöglicht, befindet sich derzeit in einer Beta-Phase. Sie ist darauf ausgelegt, die Interaktion mit Modellen in der Tinker-Umgebung von Thinking Machines zu vereinfachen. Dies umfasst sowohl Basismodelle als auch feingetunte Checkpoints. Für Inferenzläufe im Rahmen von Trainingsprozessen, beispielsweise im Reinforcement Learning, empfiehlt sich weiterhin die Nutzung des standardmäßigen Sampling-Clients von Tinker.
Es ist zu beachten, dass die Anthropic-kompatible Inferenz in der Beta-Phase primär für Testzwecke und interne Anwendungen mit geringem internen Traffic vorgesehen ist. Die Latenzzeiten und der Durchsatz können je nach Modell variieren und sich während der Beta-Phase ohne vorherige Ankündigung ändern. Für Anwendungen, die einen höheren oder stabileren Durchsatz erfordern, oder wenn der Zugang noch nicht aktiviert wurde, sind möglicherweise alternative Lösungen in Betracht zu ziehen.
Inkling ist ein multimodales Modell, das in der Lage ist, Text-, Bild- und Audioeingaben zu verarbeiten und Textausgaben zu generieren. Es ist für den Einsatz in englischer und anderen Sprachen sowie in verschiedenen Programmiersprachen konzipiert. Das Modell verfügt über eine beachtliche Anzahl von Parametern. Es handelt sich um ein Mixture-of-Experts-System mit insgesamt 975 Milliarden Parametern, wobei für jede Aufgabe etwa 41 Milliarden aktiv genutzt werden. Diese Architektur trägt dazu bei, dass das Modell bei sehr großer Gesamtgröße effizienter und kostengünstiger betrieben werden kann. Inkling wurde auf 45 Billionen Tokens aus Text, Bildern, Audio und Video vortrainiert und kann einen Kontext von bis zu 1 Million Tokens verarbeiten.
Das Modell ist für eine Vielzahl von Anwendungen vorgesehen, darunter die Entwicklung von KI-gestützten Anwendungen wie agentischen Systemen, Code-Assistenten, Chatbots und Systemen zur Retrieval-Augmented Generation. Es eignet sich für allgemeine Konversationszwecke, die Befolgung von Anweisungen und andere Aufgaben im Bereich der natürlichen Sprachverarbeitung und multimodalen Verarbeitung. Die Veröffentlichung mit offenen Gewichten soll Forschung, Feinabstimmung und die Integration in Produkte Dritter durch Downstream-Entwickler unterstützen.
Für Unternehmen im B2B-Bereich, die auf der Suche nach flexiblen und leistungsstarken KI-Lösungen sind, kann die Verfügbarkeit von Inkling in einer Anthropic-kompatiblen Umgebung neue Möglichkeiten eröffnen. Die Fähigkeit des Modells, verschiedene Modalitäten zu verarbeiten und eine große Kontextspanne zu nutzen, kann für komplexe Anwendungsfälle von Vorteil sein, wie beispielsweise:
Die Offenheit des Modells ermöglicht zudem eine Anpassung an spezifische Unternehmensanforderungen und eine tiefere Integration in bestehende Infrastrukturen. Dies kann die Entwicklung maßgeschneiderter KI-Lösungen beschleunigen und die Innovationsfähigkeit von Unternehmen stärken.
Die fortlaufende Entwicklung und Bereitstellung von offenen, multimodalen KI-Modellen wie Inkling, gepaart mit deren Integration in etablierte API-Umgebungen, markiert einen weiteren Schritt in Richtung einer zugänglicheren und vielseitigeren KI-Technologie. Während die Beta-Phase der Anthropic-kompatiblen Schnittstelle noch auf Tests und interne Anwendungsfälle ausgerichtet ist, deutet dies auf das Potenzial für zukünftige, breitere Anwendungen hin, die von der Leistungsfähigkeit und Flexibilität solcher Modelle profitieren können.
Lernen Sie in nur 30 Minuten kennen, wie Ihr Team mit KI mehr erreichen kann – live und persönlich.
🚀 Demo jetzt buchen