// Thema

KI & Cybersicherheit News

Meldungen über Angriffe mit KI und auf KI-Systeme: Sicherheitslücken in Modellen und Agenten, Prompt-Injection, Deepfakes, Betrugsmaschen und Desinformation. Außerdem geht es um Werkzeuge und Strategien, mit denen sich Unternehmen und Behörden schützen.

Seite 26 von 33

News folgen

Sonntag 18. Mai 2025

23:59

23:59 Sicherheit & Gesellschaft

Herausforderungen und Maßnahmen zur Sicherheit von KI-Systemen nach Falschinformationen durch Grok

KI-Chatbot Grok von Elon Musks xAI verbreitete Falschinformationen über einen "Weißen Genozid". xAI bestätigte Manipulationen am Systemprompt & kündigte Maßnahmen zur Verbesserung der KI-Sicherheit an. GitHub-Veröffentlichung des Prompts soll Transparenz schaffen.
23:59

23:59 Sicherheit & Gesellschaft

Neues Zentrum für Cyber-Resilienz und Künstliche Intelligenz an der Universität Wolverhampton

Die Universität Wolverhampton eröffnet das CYBRAI, ein Zentrum für Cyber-Resilienz und KI. Es erforscht Strategien gegen Cyberangriffe & die Auswirkungen der KI, um die digitale Welt sicherer zu machen. Experten arbeiten an schnelleren Reaktionen auf Angriffe & der Nutzung von KI für Innovationen.

Donnerstag 15. Mai 2025

17:55

17:55 Sicherheit & Gesellschaft

Neue Sicherheitsansätze zur Absicherung von Python-Bibliotheken durch Chainguard

Schützen Sie Ihre Python-Software-Supply-Chain mit Chainguard Libraries. Rekonstruierte Abhängigkeiten aus dem Quellcode minimieren Malware-Risiken & erhöhen die Transparenz. Sichern Sie Ihre Python-Projekte jetzt!
17:55

17:55 OpenAI

Sicherheitsbewertungen für neue KI-Modelle von OpenAI veröffentlicht

OpenAI veröffentlicht GPT-4.1 & GPT-4.1 Mini und präsentiert Sicherheitsbewertungen im neuen Safety Evaluations Hub. Transparenz über potenzielle Risiken & getroffene Maßnahmen stärkt das Vertrauen in KI. Details zu Missbrauchsanfälligkeit & Schadgenerierung.

Montag 12. Mai 2025

23:33

23:33 Sicherheit & Gesellschaft

Cisco stellt spezialisiertes Sprachmodell Foundation-Sec-8B für Cybersicherheit vor

Cisco veröffentlicht Foundation-Sec-8B, ein spezialisiertes Open-Source Sprachmodell für Cybersicherheit. Basierend auf Llama 3.1, bietet es hohe Leistung bei geringeren Ressourcen & unterstützt Sicherheitsaufgaben wie Malware-Erkennung.
23:33

23:33 Bild & Video

PixelHacker setzt neue Maßstäbe im Bildinpainting

PixelHacker setzt neue Standards im Bild-Inpainting! Die KI rekonstruiert fehlende Bildbereiche mit struktureller & semantischer Konsistenz und übertrifft aktuelle Benchmarks.
23:33

23:33 Sicherheit & Gesellschaft

Fortschritte in der Deepfake-Technologie: Herzschlag als neue Herausforderung bei der Erkennung von Fälschungen

KI-generierte Videos können jetzt sogar den Herzschlag täuschend echt imitieren. Berliner Forscher zeigen, wie Deepfakes selbst fortschrittliche Detektoren austricksen & die Grenzen zwischen Realität & Fälschung verschwimmen lassen.

Freitag 9. Mai 2025

10:01

10:01 Bild & Video

Innovative Ansätze im Bildinpainting: PixelHacker für verbesserte Konsistenz

PixelHacker: Bildinpainting der nächsten Generation für strukturelle & semantische Konsistenz. Restauriere beschädigte Bilder & entferne unerwünschte Objekte realistisch & kohärent.

Montag 5. Mai 2025

10:41

10:41 Meta

Neue Sicherheitstools von Meta für Künstliche Intelligenz in der Llama-Familie

Meta verstärkt die KI-Sicherheit mit neuen Tools für Llama. Llama Guard 4, LlamaFirewall & Prompt Guard 2 schützen vor Cyberangriffen. Neue Ressourcen für Cybersicherheitsexperten & das Llama Defenders Program fördern sichere KI-Entwicklung.
10:41

10:41 KI aus China

Einsatzmöglichkeiten von KI-Robotern im Sicherheitsdienst am Beispiel China

KI-Roboter im Sicherheitsdienst: Chinas Einsatz von KI-Polizisten mit Gesichtserkennung & autonomer Patrouille. Chancen & Risiken für Datenschutz, Überwachung & Ethik. Ein globaler Trend?
10:41

10:41 Sicherheit & Gesellschaft

Cyberkriminalität im Marketing: Herausforderungen und Schutzmaßnahmen

Cyberkriminalität bedroht Ihr Marketing: Image, Budget & Kundenvertrauen gefährdet! Schützen Sie Ihre Marke vor Angriffen & Datenlecks.

Donnerstag 24. April 2025

16:39

16:39 Sicherheit & Gesellschaft

Aktuelle Erkenntnisse zur Bewertung von Unsicherheitsquantifizierung in Sprachmodellen

Neue Forschung zeigt, wie Längenverzerrungen die Bewertung von Unsicherheitsquantifizierung (UQ) in Sprachmodellen verfälschen. Die Studie untersucht gängige Bewertungsmetriken & zeigt, wie Längenabhängigkeit zu irreführenden Ergebnissen führt. Lernen Sie, wie robuste UQ-Methoden die Zuverlässigkeit von KI-Systemen verbessern.
16:39

16:39 Sicherheit & Gesellschaft

Optimierung der Sicherheit von Sprachmodellen durch evolutionäre Algorithmen: Das RainbowPlus Framework

Sichere KI: RainbowPlus nutzt evolutionäre Algorithmen, um Schwachstellen großer Sprachmodelle (LLMs) aufzudecken. Effektiver als bisherige Methoden, generiert es vielfältigere Adversarial Prompts & erzielt höhere Erfolgsquoten bei deutlich geringerem Zeitaufwand.
16:39

16:39 Sicherheit & Gesellschaft

Die Rolle von Multi-Turn-Jailbreaks und -Defenses in der Sicherheitsforschung großer Sprachmodelle

Sicherheitslücken in großen Sprachmodellen (LLMs) aufdecken?
16:39

16:39 Sicherheit & Gesellschaft

Autonome Fahrzeuge im Spannungsfeld von Innovation und Sicherheit

Autonome Fahrzeuge: Fortschritt vs. Sicherheit. Vorfälle mit autonomen Taxis in den USA werfen erneut Sicherheitsbedenken auf. Wie steht es um die Zuverlässigkeit der Technologie?

Dienstag 15. April 2025

20:13

20:13 KI-Agenten

KI-Agenten und die Evolution der Cyberbedrohungen

KI-gestützte Cyberangriffe stellen eine neue Bedrohung dar. Erfahren Sie, wie KI-Agenten für Hacking missbraucht werden & welche Herausforderungen dies für die Cybersicherheit bedeutet. Jetzt informieren & schützen!

Montag 14. April 2025

09:12

09:12 Sicherheit & Gesellschaft

Cyber-Resilienz im Fokus: KMU im Vorteil, große Unternehmen vor Herausforderungen

KMU verbessern ihre Cyber-Resilienz, während große Unternehmen kämpfen. Phishing bleibt die größte Bedrohung, Ransomware nimmt zu. Experten fordern mehrschichtige Sicherheit & KI-gestützte Abwehr. Verbesserung der Cyber-Hygiene bei KMU, aber Governance-Lücken bleiben.
09:12

09:12 Sicherheit & Gesellschaft

Sicherheitsüberprüfungen von Künstlicher Intelligenz im Spannungsfeld zwischen Innovation und Verantwortung

KI-Entwicklung unter Zeitdruck: Sicherheitsüberprüfungen geraten in den Hintergrund. Der Wettlauf um die KI-Vorherrschaft gefährdet sorgfältige Tests & birgt Risiken. Wie gewährleisten wir verantwortungsvolle KI-Entwicklung?

Mittwoch 9. April 2025

17:26

17:26 Sicherheit & Gesellschaft

Sicherheitsrisiken im Deep-Learning-Framework PyTorch Lightning entdeckt

Kritische Sicherheitslücken in PyTorch Lightning ermöglichen Codeausführung durch manipulierte Modelldateien. Betroffen sind alle Versionen bis 2.4.0.

Samstag 5. April 2025

20:41

20:41 Google

Stärkung der Sicherheitsmaßnahmen im Android-Ökosystem durch Google

Google verstärkt die Sicherheit im Android-Ökosystem. Neue Tools & Richtlinien helfen Entwicklern, sichere Apps zu erstellen, während die Play Integrity API Nutzer vor Missbrauch schützt.

Mittwoch 26. März 2025

14:31

14:31 Microsoft

Microsoft erweitert den Security Copilot mit neuen KI-Agenten zur Unterstützung von Sicherheitsteams

Microsoft erweitert den Security Copilot mit sechs neuen KI-Agenten & Partnerintegrationen. Entlastung für IT-Sicherheitsteams durch Automatisierung & verbesserte Analyse von Cyberbedrohungen, inkl. besserem Phishing-Schutz in MS Teams. Vorschau ab April. #KI #Cybersecurity

Dienstag 25. März 2025

10:45

10:45 Sicherheit & Gesellschaft

Sicherheitsrisiken durch generative KI: Potenziale und Herausforderungen bei der Malware-Entwicklung

KI-Chatbots bergen Sicherheitsrisiken: Jailbreaking ermöglicht selbst Anfängern, Malware zu erstellen.

Montag 17. März 2025

21:56

21:56 Sicherheit & Gesellschaft

Neue Standards für die Sicherheit von KI im Umgang mit Minderjährigen

MinorBench: Neuer KI-Sicherheits-Benchmark schützt Kinder vor Online-Risiken. Der Open-Source-Benchmark bewertet große Sprachmodelle (LLMs) & identifiziert Gefahren für Minderjährige.
21:56

21:56 Sicherheit & Gesellschaft

Neue Angriffsmethode auf große Sprachmodelle: Sicherheitslücken und deren Implikationen

Sicherheitslücke in großen Sprachmodellen (LLMs) wie GPT-4 aufgedeckt! Ein neuer, simpler Angriff erzielt über 90% Erfolgsquote.