Fortschritte und Entwicklungen in der Künstlichen Intelligenz

Künstliche Intelligenz: Fortschritte und Herausforderungen

Die Entwicklung der Künstlichen Intelligenz (KI) schreitet rasant voran und bringt täglich neue Innovationen und Herausforderungen hervor. Von der Verbesserung der Sicherheit von KI-Modellen bis hin zur Integration von KI in alltägliche Anwendungen wie WhatsApp, beeinflusst die KI zunehmend verschiedene Bereiche unseres Lebens.

Sicherheitsmaßnahmen für fortgeschrittene KI-Systeme

Google Deepmind hat die zweite Version seines Frontier Safety Framework vorgestellt. Dieses Regelwerk zielt darauf ab, die Risiken von fortgeschrittenen KI-Modellen, insbesondere solchen, die die menschliche Kontrolle untergraben könnten, zu minimieren. Das Framework definiert sogenannte "Critical Capability Levels", die Schwellenwerte für KI-Fähigkeiten darstellen, ab denen ohne zusätzliche Sicherheitsmaßnahmen erhebliche Gefahren drohen. Zwei zentrale Risikobereiche stehen im Fokus: der Missbrauch von KI, beispielsweise für Cyberangriffe oder den Einsatz chemischer, biologischer, radiologischer und nuklearer Waffen, sowie das Risiko, dass KI-Systeme aktiv versuchen, die menschliche Kontrolle zu umgehen. Google Deepmind plant den Einsatz eines automatisierten Überwachungssystems, sobald ein KI-Modell manipulative Fähigkeiten entwickelt. Für den Fall, dass ein KI-System diese Überwachung umgeht, werden bereits weitere Sicherheitsmaßnahmen erforscht.

Googles Kurswechsel in der militärischen KI-Nutzung

Google hat seine ethischen Richtlinien für Künstliche Intelligenz überarbeitet und Klauseln entfernt, die den Einsatz der Technologie für Waffen oder Überwachung untersagten. Die Begründung der Führungskräfte liegt in der zunehmenden Verbreitung von KI und der Notwendigkeit, auch Regierungs- und Sicherheitskunden in demokratischen Ländern zu bedienen. Damit hebt sich Google von seiner bisherigen restriktiven Haltung ab und nähert sich Konkurrenten wie OpenAI, Microsoft und Amazon an, die bereits mit dem US-Militär oder militärischen Zulieferern kooperieren. Dieser Schritt steht im Kontrast zu den Ereignissen im Jahr 2018, als Google nach Mitarbeiterprotesten gegen einen Vertrag mit dem Pentagon seine KI-Prinzipien veröffentlichte und den Vertrag nicht verlängerte.

Anthropics Stresstest für Jailbreak-Schutz

Anthropic hat ein Filtersystem entwickelt, das unangemessene Anfragen an das Sprachmodell Claude verhindern soll. Das System basiert auf dem Constitutional-AI-System, einer Art Verfassung mit Regeln in natürlicher Sprache, die festlegen, welche Anfragen zulässig sind. Anthropic generierte 10.000 Test-Prompts, die auf bekannten Jailbreak-Versuchen und neuen Formulierungen basieren. Interne Tests zeigten, dass die gefilterte Version von Claude 95 Prozent der unzulässigen Anfragen blockierte. Nun fordert Anthropic Nutzer auf, die Filter zu testen, indem sie versuchen, Claude Fragen zu chemischen Waffen zu stellen. Dieses Vorgehen dient als Stresstest unter realen Bedingungen und soll die Datenbasis für die Weiterentwicklung des Filtersystems erweitern.

KI als Wachstumsmotor für AMD

AMD profitiert vom KI-Boom und verzeichnet Rekordumsätze. Die KI-Beschleuniger der MI300-Serie tragen maßgeblich zu diesem Erfolg bei. Obwohl AMD weiterhin hinter dem Marktführer Nvidia zurückliegt, hat sich das Unternehmen im Bereich der KI-Beschleuniger etabliert. Im Gegensatz dazu hinkt Intel in diesem Bereich hinterher und musste die Entwicklung der nächsten Generation von KI-Beschleunigern einstellen.

OpenEuroLLM: Europas Beitrag zur unabhängigen KI-Entwicklung

Mit OpenEuroLLM startet ein europäisches Konsortium aus Forschungseinrichtungen, Unternehmen und Hochleistungsrechenzentren ein Projekt zur Entwicklung leistungsstarker, mehrsprachiger Large Language Models (LLMs). Ziel ist es, auf Open-Source-Basis LLMs für kommerzielle, industrielle und öffentliche Anwendungen zu schaffen und so die Unabhängigkeit und Vielfalt der KI-Entwicklung in Europa zu fördern.

Weitere Entwicklungen im KI-Bereich

ByteDance, der Mutterkonzern von TikTok, hat mit OmniHuman-1 ein Framework vorgestellt, das aus Bild- und Audiobeispielen realistische Videos generieren kann. OpenAI erweitert die ChatGPT-Integration in WhatsApp um Funktionen wie Bild- und Sprachunterstützung. MagentaTV hat eine polnische Serie aufgrund von Qualitätsproblemen mit der KI-generierten Synchronisation aus dem Programm genommen und bietet sie nun im Original mit Untertiteln an.

Quellen: - https://www.heise.de/news/KI-Update-kompakt-Google-Deepmind-Anthropic-Jailbreak-AMD-ChatGPT-WhatsApp-10271001.html - https://newstral.com/de/article/de/1263080838/ki-update-kompakt-google-deepmind-anthropic-jailbreak-amd-chatgpt-whatsapp-ki-update-kompakt-google-deepmind-anthropic-jailbreak-amd-chatgpt-whatsapp - https://www.heise.de/news/KI-Update-kompakt-Deep-research-DeepSeek-Human-Authored-Google-10263816.html - https://www.techdogs.com/tech-news/td-newsdesk/openai-reveals-200-month-chatgpt-pro-new-partners-and-future-hopes - https://ai-infrastructure.org/wp-content/uploads/2023/10/AIIA-AgentsLargeLanguageModelsandSmartApps-Oct3.pdf - https://www.ft.com/content/7c3dafa8-ffb9-4ca8-b677-ab3cc2afbdcb - https://futuretodayinstitute.com/wp-content/uploads/2024/03/TR2024_Full-Report_FINAL_LINKED.pdf - https://www.ft.com/content/cf11ebd8-aa0b-4ed4-945b-a5d4401d186e - https://podtail.com/podcast/ai-news-today/openai-s-chatgpt-gets-an-upgrade-deepmind-s-v2a-in/