Aktuelle Entwicklungen in der KI-Technologie und deren gesellschaftliche Auswirkungen

HateAid erstattet Strafanzeige gegen Meta wegen KI-Brillen

Die Organisation HateAid hat bei der Generalstaatsanwaltschaft Frankfurt am Main Strafanzeige gegen die Geschäftsführungen von Meta, den Brillenmarken Ray-Ban und Oakley sowie den Optik-Ketten Fielmann, Apollo-Optik, Mister Spex und MediaMarkt eingereicht. Der Vorwurf betrifft den Verkauf von Smart Glasses mit integrierter Kamera, welche nach Ansicht von HateAid gegen das Telekommunikation-Digitale-Dienste-Datenschutz-Gesetz (TDDDG) verstoßen könnten. Dieses Gesetz verbietet Geräte, die als Alltagsgegenstand getarnt zum unbemerkten Filmen oder Abhören bestimmt sind. Bei einer Verurteilung drohen den Verantwortlichen Geld- oder Freiheitsstrafen von bis zu zwei Jahren sowie die Einziehung von Gewinnen.

Im Fokus der Kritik steht insbesondere die „Ray-Ban Meta Wayfarer (Gen 2)“, da sie optisch kaum von einer herkömmlichen Sonnenbrille zu unterscheiden ist. Obwohl Meta bei Aufnahmen eine LED blinken lässt, wird diese als zu unauffällig und manipulierbar kritisiert. HateAid fordert daher eine farbliche Kennzeichnung der Kameras, manipulationssichere Vorkehrungen und klare Aufnahmegrenzen, ähnlich denen für Dash- oder Bodycams.

Apple erwägt Lizenzierung von Verlagsinhalten für Siri AI

Apple führt Berichten zufolge Verhandlungen mit großen Verlagen über mehrjährige Lizenzen zur Nutzung ihrer Inhalte für die überarbeitete Sprachassistentin Siri AI. Ziel ist es, Siri AI mit aktuellen Nachrichten und Informationen zu versorgen. Im Gegensatz zu früheren Branchenvereinbarungen plant Apple laut Wall Street Journal eine nutzungsabhängige Vergütung anstelle von Garantiezahlungen. Das hierfür vorgesehene Budget soll sich im neunstelligen Bereich bewegen.

Die genaue Darstellung der Verlagsinhalte im KI-System bleibt abzuwarten. Siri AI soll im September mit iOS 27 eingeführt werden, wobei Nutzer in Europa aufgrund regulatorischer Bestimmungen voraussichtlich länger warten müssen.

Mistral AI wird zum Infrastruktur- und Plattformanbieter

Das französische Unternehmen Mistral AI erweitert sein Geschäftsmodell und positioniert sich zunehmend als Infrastruktur- und Plattformanbieter. Für den Ausbau eigener Rechenkapazitäten in Europa bündelt Mistral AI die Nachfrage großer europäischer Unternehmen und Institutionen, die mehrjährige Kapazitätszusagen abgeben sollen. Kunden erhalten die Möglichkeit, festzulegen, ob ihre KI-Anfragen in Europa oder den USA verarbeitet werden. VentureBeat berichtet zudem über Pläne von Mistral AI, eine Variante anzubieten, bei der die Verarbeitung vollständig auf der eigenen Infrastruktur erfolgt, ohne auf große Cloudanbieter angewiesen zu sein.

Ein weiterer strategischer Schritt ist das Angebot von Open-Weight-Modellen anderer Entwickler über die eigene Plattform. Den Anfang macht GLM-5.2 des chinesischen KI-Labors Z.ai. Dies ermöglicht es Mistral AI, auch an der Nutzung fremder Modelle zu partizipieren, selbst wenn Kunden keine Mistral-Modelle verwenden. Diese Entwicklung deutet auf eine strategische Verlagerung von Mistral AI vom reinen Modellentwickler hin zu einem Infrastrukturanbieter, bei dem Rechenkapazität eine immer wichtigere Rolle spielen könnte.

Taiwan meldet KI-gestützten Cyberangriff auf Behörden

Taiwan hat einen KI-gestützten Cyberangriff aus dem Ausland auf staatliche Behörden bestätigt. Seit dem 20. Juli werden Gegenmaßnahmen ergriffen. Das Digitalministerium machte keine Angaben dazu, welche Stellen betroffen waren oder ob Daten abflossen. Das israelische Cybersicherheitsunternehmen Dream berichtet, dass die Angreifer aus frei verfügbaren KI-Agenten wie OpenClaw ein weitgehend autonomes Werkzeug entwickelt hatten, das sich wie ein koordiniertes Hackerteam verhielt.

Anfang Juli sollen zeitweise bis zu acht KI-Agenten gleichzeitig aktiv gewesen sein. Diese suchten in den Netzwerken von 21 staatlichen Stellen nach Schwachstellen und passten ihre Taktik bei Widerstand an. Mindestens 85 Regierungskonten wurden geknackt und über 2500 Personaldatensätze entwendet. Auch Taiwans Atomaufsicht und mindestens sieben Energieunternehmen waren Ziele des Angriffs. Vereinfachte chinesische Schriftzeichen in der internen Kommunikation deuten laut Dream auf einen Akteur mit Verbindung zu China hin.

Forscher rekonstruieren Nutzer-Prompts aus Chatbot-Antworten

Ein Forschungsteam des IIT Bombay und von Adobe Research hat ein Modell entwickelt, das in der Lage ist, aus der Antwort eines Chatbots den ursprünglichen Nutzer-Prompt zu rekonstruieren. Diese Technik, die als „Previous-Token Prediction“ bezeichnet wird, kehrt den üblichen Prozess eines Sprachmodells um, das normalerweise das nächste Token vorhersagt. Hierbei wird der Weg von der Antwort zurück zur Frage beschritten.

In Tests konnte das Rückwärts-Modell einzelne Eingaben wortwörtlich treffen und mehrere sinngleiche Varianten liefern. Für diese Rekonstruktion sind keine Zugriffe auf die Modellgewichte erforderlich; der ausgegebene Text genügt. Das auf einem kleinen Qwen-Modell trainierte System konnte auch Prompts aus GPT-4o-Antworten rekonstruieren. Die Tests konzentrierten sich auf kurze Eingaben von ein bis zwei Sätzen. Die Frage, ob sich auch lange System-Prompts von Unternehmen, die Geschäftsgeheimnisse enthalten, auslesen lassen, wurde in der vorliegenden Studie nicht untersucht.

Neue KI-Modelle von Google, OpenAI und DeepSeek

Die Entwicklung im Bereich der KI-Modelle schreitet zügig voran. Google hat Gemini 3.7 Flash nur drei Wochen nach seinem Vorgänger 3.6 Flash veröffentlicht. Es wird als das bisher leistungsfähigste Flash-Modell für Coding- und Agentenaufgaben beschrieben, wobei die Benchmark-Ergebnisse gemischt ausfallen. Gleichzeitig stellen Cerebras und OpenAI den Service-Tier „Ultrafast“ für GPT-5.6 Sol vor. Dieser Modus, beschleunigt durch Cerebras‘ Wafer-Scale-Engine-Hardware, soll bis zu 14-mal schneller arbeiten als der Standard. Im Wissens-Benchmark Humanity’s Last Exam beantwortete das Modell alle 2500 Fragen in gut elf Stunden, während Anthropics Claude Fable 5 dafür über drei Tage benötigte.

DeepSeek hat zudem das Sprachmodell V4-Pro allgemein freigegeben, welches produktivere Agenten verspricht. Eine neue Funktion ist die einstellbare Reasoning-Intensität für V4-Pro und V4-Flash: niedrig für einfache Aufgaben, hoch für alltägliche Agenten-Workflows und maximal für komplexe Aufgabenstellungen.

Anthropics Fable 5 findet kaum Unternehmenskunden

Das leistungsstärkste KI-Modell am Markt, Anthropics Fable 5, findet derzeit nur geringe Akzeptanz bei Unternehmen. Laut Daten des Finanzdienstleisters Ramp entfielen im ersten Monat nach dem Start nur etwa sechs Prozent der bei Anthropic gekauften Tokens auf Fable 5. Im Vergleich dazu erreicht OpenAIs Flaggschiff GPT-5.6 Sol intern 25 Prozent.

Ein wesentlicher Grund für diese geringe Akzeptanz sind die Kosten: Fable 5 ist etwa doppelt so teuer wie die Konkurrenz von OpenAI. Dies deutet darauf hin, dass eine Obergrenze erreicht sein könnte, ab der Unternehmen den Aufpreis für mehr Leistung nicht mehr zahlen, insbesondere da sich der Leistungsvorsprung im Arbeitsalltag oft schwer quantifizieren lässt. Beobachter stellen fest, dass erfahrene Nutzer zunehmend auf offene Modelle ausweichen, deren Fähigkeiten den kommerziellen Spitzenmodellen nur noch wenige Monate hinterherhinken.

Twitch trainiert Amazon-KI-Modelle mit Nutzerinhalten

Die Streaming-Plattform Twitch nutzt Streams, Clips und Chats ihrer Nutzer zum Training von Amazon-KI-Modellen. Das Unternehmen kündigte die Möglichkeit an, diese Datennutzung abzuschalten, was als positive Neuerung dargestellt wurde. Die Reaktion der Nutzer fiel jedoch kritisch aus, da Twitch die Datennutzung zuvor offenbar nicht transparent kommuniziert hatte. Kritik entzündet sich sowohl am Vorgehen selbst als auch daran, dass die Funktion standardmäßig aktiviert ist.

Selbst Nutzer, die diese Einstellung deaktivieren, sind nur eingeschränkt geschützt. Wenn man beispielsweise im Chat eines anderen Streamers aktiv ist, gilt dessen Einstellung und nicht die eigene. Dies erschwert es selbst gut informierten Nutzern, sich wirksam vor der Datennutzung zu schützen.

Indiens Zentralbank will KI für Kreditentscheidungen

Der indische Zentralbankchef Sanjay Malhotra schlägt vor, Künstliche Intelligenz für Kreditentscheidungen einzusetzen, insbesondere bei Anfragen, die von Bankangestellten traditionell abgelehnt würden. In Indien verfügen viele Menschen und kleine Betriebe weder über Bankkonten noch über eine formale Buchhaltung, weshalb sie von Banken oft als nicht kreditwürdig eingestuft werden. KI könnte hier alternative Daten wie Stromzahlungen oder digitale Aktivitäten analysieren, um die Kreditwürdigkeit umfassender zu beurteilen.

Zusätzlich soll KI die Kundenbetreuung effizienter gestalten und Sprachbarrieren abbauen, da Indien eine Vielzahl von Amtssprachen hat und ein erheblicher Teil der Bevölkerung nicht lesen kann. Malhotra betonte jedoch, dass zur Bewältigung von Risiken wie mangelnder Nachvollziehbarkeit und Diskriminierung am Ende immer ein Mensch die Verantwortung für die Entscheidung tragen müsse.

Bibliographie:

- KI-Update kompakt: Hate Aid vs. KI-Brillen, Mistral, Prompts, Twitch | heise online. (n.d.). Retrieved from https://www.heise.de/news/KI-Update-kompakt-Hate-Aid-vs-KI-Brillen-Mistral-Prompts-Twitch-11413872.html - KI-Brillen: Strafanzeige gegen Meta, Ray-Ban und Optiker | heise online. (n.d.). Retrieved from https://www.heise.de/news/KI-Brillen-Strafanzeige-gegen-Meta-Ray-Ban-und-Optiker-11410967.html - KI-Update – ein heise-Podcast. (n.d.). Retrieved from https://kiupdate.podigee.io/ - KI-Update – Ein Heise Podcast. (n.d.). Retrieved from https://www.heise.de/thema/KI-Update - KI-Update kompakt: Hate Aid vs. KI-Brillen, Mistral, Prompts, Twitch ~ KI-Update – ein heise-Podcast Podcast. (n.d.). Retrieved from https://www.podcast.de/episode/705589654/ki-update-kompakt-hate-aid-vs-ki-brillen-mistral-prompts-twitch - KI-Update kompakt: Hate Aid vs. KI-Brillen, Mistral, Prompts, Twitch - KI-Update – ein heise-Podcast | Lyssna här | Poddtoppen.se. (n.d.). Retrieved from https://poddtoppen.se/podcast/1691536182/ki-update-ein-heise-podcast/ki-update-kompakt-hate-aid-vs-ki-brillen-mistral-prompts-twitch - KI-Update kompakt: Hate Aid vs. KI-Brillen, Mistral, Prompts, Twitch - Journal | Generative AI Nachrichten. (n.d.). Retrieved from https://de.headtopics.com/news/ki-update-kompakt-hate-aid-vs-ki-brillen-mistral-86625773 - KI-Update – ein heise-Podcast | Podcast kostenlos online hören. (n.d.). Retrieved from https://www.radio.at/podcast/ki-update-ein-heise-podcast - Beitrag von~ @heiseonline@social.heise.de * hhmx.de. (n.d.). Retrieved from https://hhmx.de/@heiseonline@social.heise.de/2621245