US-Verteidigungsministerium stärkt Maßnahmen gegen Deepfake-Bedrohungen

US-Verteidigungsministerium investiert in Deepfake-Abwehrtechnologie Das US-Verteidigungsministerium verstärkt seine Bemühungen im Kampf gegen Deepfakes und investiert in die Technologie des Startups Hive AI. Über einen Zeitraum von zwei Jahren fließen 2,4 Millionen US-Dollar in die Entwicklung von Software zur Erkennung von KI-generierten Inhalten. Die Defense Innovation Unit (DIU) des Ministeriums sieht darin einen wichtigen Schritt, um die Einführung neuer Technologien im Verteidigungssektor zu beschleunigen. Deepfakes, also manipulierte Video-, Bild- und Audioinhalte, die mithilfe von Künstlicher Intelligenz erstellt werden, stellen eine wachsende Bedrohung dar. Durch die Fortschritte im Bereich der generativen KI sind Deepfakes immer einfacher zu erstellen und wirken täuschend echt. Sie können für Desinformationskampagnen, Betrug und andere schädliche Aktivitäten missbraucht werden. Captain Anthony Bustamante, Projektmanager und Cyberwarfare-Operator bei der DIU, betont die Bedeutung der Deepfake-Abwehr für die nationale Sicherheit. Hive AI wurde aus einer Gruppe von 36 Unternehmen ausgewählt, um seine Technologie mit dem Verteidigungsministerium zu testen. Die Software von Hive AI analysiert Inhalte und sucht nach Mustern und Signalen, die auf eine KI-Generierung hindeuten. Diese Muster sind für das menschliche Auge oft unsichtbar, können aber von der KI-basierten Software erkannt werden. Kevin Guo, CEO von Hive AI, bezeichnet die Abwehr von Deepfakes als „existenziell“ und vergleicht sie mit der Evolution der Cyberkriegsführung. Das Training der Hive-AI-Software erfolgt mit einer großen Menge an Daten, sowohl KI-generierten als auch echten Inhalten. Das Unternehmen arbeitet kontinuierlich daran, seine Technologie an neue Deepfake-Methoden anzupassen und zu verbessern. Das Verteidigungsministerium sieht in der Technologie von Hive AI das Potenzial, nicht nur den Verteidigungssektor, sondern auch zivile Einrichtungen vor Desinformation und Betrug zu schützen. Experten wie Siwei Lyu, Professor für Informatik und Ingenieurwesen an der University at Buffalo, bestätigen die Leistungsfähigkeit der Hive-AI-Technologie. Lyu, der die Erkennungswerkzeuge getestet hat, betont jedoch auch, dass keine Deepfake-Erkennungstechnologie absolut sicher ist. Ähnlich äußert sich Ben Zhao, Professor an der University of Chicago. Zhao und sein Team konnten zeigen, dass die Erkennung von Hive AI durch gezielte Manipulationen umgangen werden kann. Angesichts der rasanten Entwicklung im Bereich der generativen KI bleibt abzuwarten, wie sich die Technologie in realen Szenarien bewährt. Um die Sicherheit sensibler Informationen zu gewährleisten, stellt Hive AI dem Verteidigungsministerium seine Modelle zur Verfügung, sodass die Software offline und auf den eigenen Geräten des Ministeriums genutzt werden kann. Trotz dieser Maßnahmen warnt Zhao, dass Standardprodukte im Falle von staatlich orchestrierten Angriffen möglicherweise nicht ausreichen. Mindverse, der deutsche Anbieter von KI-gestützten Content-Lösungen, verfolgt die Entwicklungen im Bereich Deepfake-Erkennung mit großem Interesse. Das Unternehmen bietet eine All-in-One-Plattform für KI-Texte, Bilder, Recherche und mehr. Darüber hinaus entwickelt Mindverse maßgeschneiderte Lösungen wie Chatbots, Voicebots, KI-Suchmaschinen und Wissenssysteme für Unternehmen. Die Bekämpfung von Deepfakes und die Sicherstellung der Integrität von Informationen sind zentrale Anliegen von Mindverse. Bibliographie: - t3n.de/news/ - www.handelsmeldungen.de/artikel/us-verteidigungsministerium-gegen-deepfakes-diese-technologie-soll-fuer-nationale-sicherheit-01JENJZ5NRTKKD7GCAN1NH5V27 - legaltechcologne.de/wp-content/uploads/2023/03/CTRL-1_23-Websiteversion.pdf - www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/Deepfakes/deepfakes_node.html - www.threads.net/@pdr2002/post/DDXDSjjsIWZ - t3n.de/tag/software-entwicklung/ - www.digital.wienbibliothek.at/download/pdf/5319576.pdf - www.bundesregierung.de/breg-de/aktuelles/was-sind-deep-fakes-2230226