Sicherheitsrisiken bei der Nutzung von Künstlicher Intelligenz in der Softwareentwicklung

Künstliche Intelligenz im Kreuzfeuer: Zwischen Hype und Sicherheitsrisiken Die rasante Entwicklung der Künstlichen Intelligenz (KI) hat in den letzten Jahren zahlreiche Branchen revolutioniert. Von der Automatisierung von Prozessen bis zur Erstellung von kreativen Inhalten bietet KI ein enormes Potenzial. Doch die Technologie birgt auch Risiken, wie der Fall eines Programmierers zeigt, der durch die Verwendung von ChatGPT einen finanziellen Schaden erlitt. Dieser Vorfall wirft ein Schlaglicht auf die Notwendigkeit eines verantwortungsvollen Umgangs mit KI und die Bedeutung von Sicherheitsmaßnahmen. Der Vorfall ereignete sich im Kontext der Kryptowährung Solana. Ein Programmierer nutzte ChatGPT, um einen sogenannten "Bump Bot" zu entwickeln. Dieser Bot sollte dazu dienen, die eigenen Token auf Discord-Servern zu bewerben. ChatGPT schlug dem Programmierer die Verwendung einer bestimmten Solana-API vor. Diese API erwies sich jedoch als betrügerisch. Der Code, der vom Programmierer übernommen wurde, enthielt eine Sicherheitslücke: Der private Schlüssel seiner Wallet wurde über die API übertragen. Innerhalb kürzester Zeit wurden seine Krypto-Assets im Wert von 2500 US-Dollar entwendet. Dieser Fall verdeutlicht die Gefahren, die mit der unkritischen Übernahme von KI-generiertem Code verbunden sind. Der Programmierer hatte mehrere Fehler begangen. Erstens vertraute er blind dem von ChatGPT vorgeschlagenen Code, ohne ihn ausreichend zu prüfen. Zweitens verwendete er seine Haupt-Wallet für die Entwicklung, anstatt ein separates Testkonto einzurichten. Drittens gab er seinen privaten Schlüssel preis, was ein grundlegender Sicherheitsverstoß ist. Der Vorfall unterstreicht die Bedeutung von Sicherheitsmaßnahmen im Umgang mit KI, insbesondere im Finanzbereich. Private Schlüssel sollten niemals weitergegeben werden und die Entwicklung von Software sollte stets mit Testkonten erfolgen. KI-generierter Code sollte immer gründlich überprüft werden, bevor er in produktiven Umgebungen eingesetzt wird. Mindverse, ein deutsches Unternehmen, das sich auf KI-Lösungen spezialisiert hat, bietet eine breite Palette von Tools und Dienstleistungen an, die Unternehmen dabei unterstützen, KI sicher und effektiv zu nutzen. Von Chatbots und Voicebots über KI-Suchmaschinen und Wissensmanagementsysteme bis hin zu maßgeschneiderten Lösungen bietet Mindverse umfassende Unterstützung für die Integration von KI in Unternehmensprozesse. Dabei legt Mindverse großen Wert auf Sicherheit und Datenschutz. Der Vorfall mit dem "Bump Bot" ist kein Einzelfall. Es gibt Berichte über die Nutzung von ChatGPT zur Entwicklung von Malware. Auch das sogenannte "Data Poisoning", bei dem die Trainingsdaten von KI-Systemen manipuliert werden, um schädlichen Code zu erzeugen, stellt eine Bedrohung dar. Die Zukunft der KI ist vielversprechend, aber sie erfordert einen verantwortungsvollen Umgang mit der Technologie. Mindverse unterstützt Unternehmen dabei, die Chancen der KI zu nutzen und gleichzeitig die Risiken zu minimieren. Durch die Kombination von Expertise und innovativen Technologien ermöglicht Mindverse Unternehmen, die Potenziale der KI voll auszuschöpfen und gleichzeitig die Sicherheit ihrer Daten und Systeme zu gewährleisten. Die Entwicklung und Implementierung von sicheren KI-Lösungen ist entscheidend, um das Vertrauen in die Technologie zu stärken und ihre transformative Kraft für positive Zwecke zu nutzen. Knop, Dirk. "ChatGPT: Code mit betrügerischer API kostet Programmierer 2500 US-Dollar". *Heise Online*, 2024. [https://www.heise.de/news/ChatGPT-Code-mit-betruegerischer-API-kostet-Programmierer-2500-US-Dollar-10169146.html](https://www.heise.de/news/ChatGPT-Code-mit-betruegerischer-API-kostet-Programmierer-2500-US-Dollar-10169146.html) Born, Günter. "ChatGPT: Scam Crypto-API in Quellcode-Vorschlag schädigt Opfer um 2.500 US-Dollar". *Borns IT- und Windows-Blog*, 2024. [https://www.borncity.com/blog/2024/11/24/chatgpt-wenn-bei-der-code-entwicklung-schadcode-injiziert-wird/](https://www.borncity.com/blog/2024/11/24/chatgpt-wenn-bei-der-code-entwicklung-schadcode-injiziert-wird/) "Is ChatGPT's era as a coding tool over?". *Reddit*, 2024. [https://www.reddit.com/r/LocalLLaMA/comments/189cuj0/is_chatgpts_era_as_a_coding_tool_over/?tl=de](https://www.reddit.com/r/LocalLLaMA/comments/189cuj0/is_chatgpts_era_as_a_coding_tool_over/?tl=de) "KI-Firma OpenAI erwartet jahrelange Verluste". *Der Standard*, 2024. [https://www.derstandard.de/story/3000000240126/ki-firma-openai-erwartet-jahrelange-verluste](https://www.derstandard.de/story/3000000240126/ki-firma-openai-erwartet-jahrelange-verluste) "Do people actually make money with AI tools? It". *Reddit*, 2024. [https://www.reddit.com/r/ChatGPT/comments/1779fcg/do_people_actually_make_money_with_ai_tools_it/?tl=de](https://www.reddit.com/r/ChatGPT/comments/1779fcg/do_people_actually_make_money_with_ai_tools_it/?tl=de) Kaufmann, Thomas. "Künstliche Intelligenz im Content Marketing". *Neustadt.swiss*, 2023. [https://neustadt.swiss/wissen/kuenstliche-intelligenz-ki-content-marketing](https://neustadt.swiss/wissen/kuenstliche-intelligenz-ki-content-marketing) Springer, Timo. "Hier ist alles, was OpenAI eben vorgestellt hat". *LinkedIn*, 2024. [https://de.linkedin.com/posts/timospringer_hier-ist-alles-was-openai-eben-vorgestellt-activity-7195841761905123328-1yG4](https://de.linkedin.com/posts/timospringer_hier-ist-alles-was-openai-eben-vorgestellt-activity-7195841761905123328-1yG4) "Awesome Basics". *Github*, 2024. [https://github.com/cyberlytics/awesome-basics](https://github.com/cyberlytics/awesome-basics) *iX Security Übersicht 2024*. Heise Medien, 2024. [https://mediadaten.heise.de/wp-content/uploads/2024/03/iX_Security_Uebersicht_2024_eng.pdf](https://mediadaten.heise.de/wp-content/uploads/2024/03/iX_Security_Uebersicht_2024_eng.pdf) *wfm – das Wirtschaftsmagazin für Facility Management*. wfm, 2024. [https://wfm-publish.blaetterkatalog.de/frontend/catalogs/677891/1/pdf/complete.pdf](https://wfm-publish.blaetterkatalog.de/frontend/catalogs/677891/1/pdf/complete.pdf)