// Thema

KI & Cybersicherheit News

Meldungen über Angriffe mit KI und auf KI-Systeme: Sicherheitslücken in Modellen und Agenten, Prompt-Injection, Deepfakes, Betrugsmaschen und Desinformation. Außerdem geht es um Werkzeuge und Strategien, mit denen sich Unternehmen und Behörden schützen.

Seite 19 von 33

News folgen

Donnerstag 5. Februar 2026

06:33

06:33 KI-Agenten

Sicherheitsrisiken von OpenClaw: Herausforderungen bei der Implementierung autonomer KI-Agenten

Der Open-Source-KI-Agent OpenClaw weist gravierende Sicherheitslücken auf. Angreifer können über Prompt Injection dauerhafte Backdoors installieren und Systeme kompromittieren. Über 1.000 Instanzen waren exponiert. Schützen Sie Ihre Infrastruktur!

Dienstag 3. Februar 2026

04:33

04:33 Sicherheit & Gesellschaft

Integration von Penetration Testing und Threat Intelligence in der modernen Cybersicherheit

Die Trennung von Pen Testing & Threat Intelligence ist nicht mehr genug. Erfahren Sie, wie eine integrierte Cybersicherheitsstrategie, unterstützt durch KI & kontinuierliche Überwachung, Ihre Angriffsfläche schützt. Outpost24 zeigt, wie Sie Sicherheits-Silos überwinden & Bedrohungen frühzeitig erkennen – für mehr Widerstandsfähigkeit.
01:33

01:33 Open Source

Sicherheitsrisiken bei Open-Source-KI-Modellen und der Bedarf an Standards

Sicherheitsexperten warnen: Falsch konfigurierte Open-Source-KI-Modelle bergen massive Risiken. Tausende Systeme sind offen für Prompt-Injektionen und Backdoors, ermöglichen Malware-Erstellung.

Montag 2. Februar 2026

17:33

17:33 Sicherheit & Gesellschaft

Neue Ansätze zur Sicherheitsbewertung von Large Language Models unter realen Angriffsbedingungen

Herkömmliche LLM-Sicherheitsbewertungen unterschätzen reale Angriffsrisiken. SABER, eine neue Methode, modelliert die Jailbreak-Anfälligkeit unter Best-of-N-Sampling. Erhalten Sie eine präzise & kostengünstige Risikoeinschätzung für Ihre LLMs.
04:33

04:33 Sicherheit & Gesellschaft

Manipulation autonomer Fahrzeuge durch visuelle Eingriffe und ihre Sicherheitsimplikationen

Forscher der Uni Kalifornien Santa Cruz zeigen: Waymo-Robotaxis sind durch visuelle Prompt Injection angreifbar. Einfache Schilder täuschen die KI & zwingen autonome Fahrzeuge zu gefährlichen Aktionen. Eine ernste Sicherheitslücke für die Mobilität der Zukunft.

Sonntag 1. Februar 2026

19:33

19:33 Sicherheit & Gesellschaft

Künstliche Intelligenz in der Softwareentwicklung: Chancen, Herausforderungen und Sicherheitsaspekte

KI revolutioniert die Softwareentwicklung, bringt aber auch neue Sicherheitsrisiken. Erfahre, wie KI-Systeme (LLMs) & generierter Code abgesichert werden, KI für mehr Sicherheit genutzt wird und welche rechtlichen Aspekte zu beachten sind. Das Spannungsfeld zwischen Innovation & IT-Security.
11:33

11:33 NVIDIA

Nvidia und OpenAI: Unsicherheiten bei der 100-Milliarden-Dollar-Investition

Nvidia & OpenAI: Die 100 Mrd. $ KI-Investition ist noch ungewiss! Erfahren Sie, warum Nvidias CFO den Deal als "nicht finalisiert" bezeichnet, welche Rolle Absichtserklärungen spielen und welche Risiken wie "Round-Tripping" bestehen. Eine Analyse für B2B-Entscheider der KI-Branche.

Samstag 31. Januar 2026

15:33

15:33 Regulierung & Politik

Änderungen in den Software-Sicherheitsrichtlinien der US-Regierung und ihre Auswirkungen auf Anbieter

US-Regierung ändert Software-Sicherheit: Das OMB hebt verpflichtende NIST SSDF-Zertifizierung für Anbieter auf. Fokus auf risikobasierte Ansätze & Hardware-Sicherheit für Behörden. Welche Folgen hat das für B2B-Anbieter?
09:33

09:33 Sicherheit & Gesellschaft

Künstliche Intelligenz als Schlüssel zur Verbesserung der IT-Sicherheit

KI revolutioniert die IT-Sicherheit! Erfahren Sie, wie Künstliche Intelligenz Schwachstellenanalyse, Penetrationstests & Bedrohungserkennung optimiert. Entwickeln Sie effiziente Verteidigungsstrategien mit modernsten KI-Methoden und Werkzeugen.

Freitag 30. Januar 2026

11:33

11:33 Open Source

Neues quelloffenes KI-Modell für Cybersicherheit: Foundation-Sec-8B-Reasoning

Revolution in der Cybersicherheit: Foundation-Sec-8B-Reasoning ist das erste quelloffene Llama 3.1 KI-Modell für komplexe Sicherheitsanalysen. Es übertrifft größere Modelle bei Bedrohungsmodellierung, Angriffsvektoranalyse & Risikobewertung.
02:33

02:33 Sicherheit & Gesellschaft

Moltbot: Ein neuer KI-Assistent und seine sicherheitstechnischen Herausforderungen

Moltbot (ehem. Clawdbot): Der KI-Assistent, der proaktiv Aufgaben automatisiert & sich Konversationen merkt. Revolutionieren Sie Ihren Alltag – von Nachrichten bis Bestellungen. Achtung: Umfassende Zugriffe bergen erhebliche Sicherheitsrisiken durch unverschlüsselte Datenspeicherung.

Donnerstag 29. Januar 2026

19:33

19:33 Sicherheit & Gesellschaft

Sicherheitsrisiken durch unautorisierte KI-Nutzung: Ein Fallbeispiel aus der CISA

Ein CISA-Mitarbeiter lud sensible Daten auf ChatGPT hoch. Der Fall beleuchtet die Gefahr von Schatten-KI: Datendiebstahl, Datenschutzverletzungen & Verlust geistigen Eigentums. Unternehmen & Behörden müssen Risiken managen.

Mittwoch 28. Januar 2026

18:33

18:33 Sicherheit & Gesellschaft

Neues Framework zur Sicherheitsausrichtung von Sprachmodellen: TriPlay-RL

Entdecken Sie TriPlay-RL: Ein dreistufiges Reinforcement Learning Framework revolutioniert die LLM-Sicherheit. Es minimiert manuelle Annotationen und verbessert die Abwehr toxischer Inhalte. Angreifer, Verteidiger & Evaluator entwickeln sich ko-evolutionär, für skalierbare & effiziente Sicherheitsausrichtung ohne Denkfähigkeitsverlust.
16:33

16:33 KI-Agenten

Neuartiger Diagnoserahmen für die Sicherheit von KI-Agenten

AgentDoG definiert KI-Agenten-Sicherheit neu. Das Framework bietet eine 3D-Risikotaxonomie und detaillierte Fehlerdiagnosen über binäre Klassifizierungen hinaus.

Dienstag 27. Januar 2026

10:33

10:33 Sicherheit & Gesellschaft

KI-gestützte Cyberbedrohungen: Nordkoreanische Hackergruppe nutzt neue Taktiken

Die nordkoreanische Hackergruppe KONNI setzt KI-generierte PowerShell-Backdoors in Phishing-Kampagnen ein. Ziel: Blockchain-Entwickler weltweit. Unternehmen müssen ihre Sicherheitsstrategien dringend anpassen, um diese komplexe und schwer erkennbare KI-Malware abzuwehren.

Montag 26. Januar 2026

11:33

11:33 Regulierung

Klage gegen Elon Musks KI-Unternehmen xAI wegen Deepfakes und deren Auswirkungen auf die Regulierung von KI-Technologien

Grok-Skandal: Elon Musks xAI wird verklagt, weil der KI-Chatbot sexuell explizite Deepfakes generiert haben soll, u.a. von Ashley St. Clair – teils mit Hakenkreuzen. Musk bestreitet, schränkt Funktionen ein. Internationale Ermittlungen laufen. Ein Weckruf für KI-Regulierung!
06:33

06:33 Meta

Meta setzt vorübergehend den Zugang von Minderjährigen zu KI-Charakteren aus Sicherheitsgründen aus

Meta suspendiert den Zugriff von Minderjährigen auf KI-Charaktere. Zum Schutz vor problematischen Interaktionen werden neue elterliche Kontrollen & altersgerechte Schutzmaßnahmen entwickelt.

Sonntag 25. Januar 2026

18:33

18:33 Sicherheit & Gesellschaft

Die Verantwortung im Zeitalter von Deepfakes und KI-generierten Inhalten

Debatte um Grok-Deepfakes: Wer trägt die Verantwortung bei KI-generierten Inhalten? Der Artikel beleuchtet sexualisierte Deepfakes, die Rolle des Menschen als Initiator und internationale Regulierungsversuche zum Schutz von Opfern digitaler Gewalt.

Samstag 24. Januar 2026

22:33

22:33 Sicherheit & Gesellschaft

Die Rolle der Unsicherheitsquantifizierung in großen Sprachmodellen: Von passiven Metriken zu aktiven Steuerungssignalen

Unsicherheitsquantifizierung (UQ) in LLMs: Vom passiven Wert zum aktiven Steuerungssignal. Entdecken Sie, wie UQ das Modellverhalten in Echtzeit steuert, für zuverlässigere KI in Denkprozessen, autonomen Agenten & RL. Herausforderungen & Zukunftstrends.
17:33

17:33 Sicherheit & Gesellschaft

Belfaster Stadtrat plant Aussetzung der Nutzung von X wegen Bedenken zu KI-Deepfakes

Belfast City Council setzt X-Nutzung aus wegen KI-Deepfakes. X' Grok-Tool zur Erstellung sexualisierter Bilder steht im Fokus. Andere Behörden & Ofcom prüfen ähnliche Schritte. Herausforderung für die KI-Regulierung.

Freitag 23. Januar 2026

00:33

00:33 Regulierung & Politik

Die Auswirkungen der Künstlichen Intelligenz auf militärische Anwendungen und internationale Sicherheit

Künstliche Intelligenz im Militär befeuert ein globales Wettrüsten. Erfahre, wie autonome Waffensysteme die Kriegsführung verändern, die Dehumanisierung vorantreiben und welche Risiken für die globale Sicherheit entstehen. Dringend nötig: menschliche Kontrolle & internationale Regulierung.

Donnerstag 22. Januar 2026

21:33

21:33 Anthropic

Unsicherheiten über das Bewusstsein von KI: Anthropics Claude im Fokus

Ist Claude bewusst? Anthropic, Entwickler der KI, ist sich unsicher. Eine neue Verfassung setzt ethische Prinzipien.

Mittwoch 21. Januar 2026

10:33

10:33 Sicherheit & Gesellschaft

Neues Rahmenwerk zur rechtlichen Absicherung von KI-Sicherheitsforschung vorgestellt

Rechtliche Sicherheit für KI-Sicherheitsforschung! HackerOne stellt den "Good Faith AI Research Safe Harbor" vor. Erforschen Sie KI-Schwachstellen risikofrei, schützen Sie sich vor Klagen und stärken Sie die Cybersicherheit von KI-Systemen. Fördert ethisches Hacking & Innovation.
09:33

09:33 Sicherheit & Gesellschaft

Sicherheitsanforderungen und Herausforderungen in privaten 5G-Netzwerken

Private 5G-Netzwerke revolutionieren Unternehmen, doch "secure by default" ist trügerisch.