Künstliche Intelligenz im Alltag: Vertrauen und notwendige Skepsis

Künstliche Intelligenz: Zwischen Nutzen und notwendiger Kontrolle

Künstliche Intelligenz (KI) ist allgegenwärtig. Von Chatbots wie ChatGPT und Google Gemini bis hin zu KI-gestützten Bildgeneratoren und Übersetzungsprogrammen – die Technologie hält Einzug in immer mehr Bereiche unseres Lebens. Doch mit der zunehmenden Nutzung stellt sich die Frage nach dem richtigen Umgang mit den Ergebnissen, die KI liefert. Eine aktuelle Studie der Prüfungs- und Beratungsgesellschaft EY zeigt, dass ein überraschend hoher Anteil der Nutzer KI-Ergebnissen blind vertraut, ohne diese zu überprüfen.

Kontrolle ist Mangelware

Die EY-Studie, die zwischen Dezember 2024 und Februar 2025 durchgeführt wurde, befragte über 15.000 Menschen in 15 Ländern, darunter mehr als 1.000 in Deutschland. Die Ergebnisse zeichnen ein klares Bild: Nur eine Minderheit der Nutzer kontrolliert die von KI generierten Inhalte. In Deutschland gaben lediglich 27 Prozent der Befragten an, KI-generierte Texte, Bilder oder Übersetzungen systematisch zu überprüfen. Der internationale Durchschnitt liegt mit 31 Prozent nur geringfügig höher. Spitzenreiter in Sachen Kontrollbereitschaft sind Südkorea (42 Prozent) sowie China und Indien (jeweils 40 Prozent). Am anderen Ende des Spektrums finden sich Frankreich und Schweden mit jeweils nur 23 Prozent.

Nachbearbeitung? Fehlanzeige!

Ähnlich verhält es sich mit der Nachbearbeitung von KI-Inhalten. Nur 15 Prozent der deutschen Befragten gaben an, KI-generierte Ergebnisse wie Texte oder Fotos nachzubearbeiten. International liegt dieser Wert bei 19 Prozent. Auch hier zeigen sich deutliche Unterschiede zwischen den Ländern. Während in China und Indien jeweils 32 Prozent der Befragten KI-Inhalte nachbearbeiten, sind es in Frankreich (12 Prozent), Großbritannien und Japan (jeweils 13 Prozent) noch weniger.

Experten warnen vor den Risiken

Die Ergebnisse der EY-Studie geben Anlass zur Sorge. Experten wie David Alich von EY warnen vor einem zu sorglosen Umgang mit KI-Technologie. Die rasante Verbreitung von KI, insbesondere im Bereich der Text- und Bildgenerierung, führe dazu, dass immer mehr Menschen KI als nützliches Werkzeug im beruflichen und privaten Kontext erleben. Doch der unkritische Umgang mit KI birgt Risiken. KI-Ergebnisse seien zwar oft gut, aber nicht fehlerfrei. Eine menschliche Kontrollinstanz sei daher unerlässlich.

Folgen für Anwender und Unternehmen

Der mangelnde Kontrollmechanismus kann schwerwiegende Folgen haben, sowohl für die Anwender selbst als auch für ihre Arbeitgeber. Im beruflichen Umfeld können fehlerhafte KI-generierte Informationen zu falschen Entscheidungen und finanziellen Verlusten führen. Im privaten Bereich können unkritisch übernommene Informationen zu Fehlinformationen und einer verzerrten Wahrnehmung der Realität beitragen. Es ist daher wichtig, die Nutzer für einen verantwortungsvollen Umgang mit KI zu sensibilisieren und die notwendigen Kompetenzen zur Überprüfung und Nachbearbeitung von KI-generierten Inhalten zu vermitteln.

Der Weg zu einem verantwortungsvollen Umgang mit KI

Die zunehmende Verbreitung von KI erfordert ein Umdenken in der Gesellschaft. Es ist wichtig, dass Nutzer die Grenzen und Möglichkeiten von KI verstehen und lernen, kritisch mit den Ergebnissen umzugehen. Schulungen und Aufklärungskampagnen können dazu beitragen, die notwendigen Kompetenzen zu vermitteln. Auch die Entwickler von KI-Systemen tragen eine Verantwortung. Sie sollten die Nutzer transparent über die Funktionsweise und die Grenzen ihrer Systeme informieren und Werkzeuge zur Überprüfung und Nachbearbeitung von KI-generierten Inhalten bereitstellen.

Bibliographie: - t3n.de: Umfrage: KI-Ergebnisse – blindes Vertrauen? - t3n.de: Gefährlicher Trend: So viele Nutzer vertrauen KI-Ergebnissen blind - t3n.de: KI statt Kanzlei: Warum Laien eher ChatGPT vertrauen als echten Anwälten - t3n.de: Vorsicht beim KI-Chat: Diese 6 Dinge solltest du ChatGPT niemals anvertrauen - t3n.de: Tag: Künstliche Intelligenz - t3n.de: Tag: Chatbot - newstral.com: Gefährlicher Trend: So viele Nutzer vertrauen KI-Ergebnissen blind - Facebook-Post von t3n Magazin zum Thema Vertrauen in KI-Ergebnisse - X (ehemals Twitter) von t3n zum Thema KI - X (ehemals Twitter) Profil von t3n