{"id":19912,"date":"2024-06-11T10:35:28","date_gmt":"2024-06-11T08:35:28","guid":{"rendered":"https:\/\/www.m-q.ch\/?p=19912"},"modified":"2024-06-11T10:35:28","modified_gmt":"2024-06-11T08:35:28","slug":"neue-entwicklungen-in-der-cyberkriminellen-nutzung-von-ki","status":"publish","type":"post","link":"https:\/\/www.m-q.ch\/de\/neue-entwicklungen-in-der-cyberkriminellen-nutzung-von-ki\/","title":{"rendered":"Neue Entwicklungen in der cyberkriminellen Nutzung von KI"},"content":{"rendered":"
\"\"
KI-generiertes Bild eines Hackers: Das ist noch harmlos im Gegensatz zu anderen M\u00f6glichkeiten, die von Cyberkriminellen sonst noch genutzt werden. (Bild: Pixabay.com)<\/figcaption><\/figure>\n

K\u00fcnstliche Intelligenz bietet viele Chancen und hat ein grosses Nutzerpotenzial. Aber es gibt auch die andere Seite der Medaille: Denn KI l\u00e4sst sich auch zu kriminellen Zwecken einsetzen. Eine Analyse von Trend Micro zeigt die neuesten Entwicklungen und beleuchtet, welche Bedrohungen in der nahen Zukunft zu erwarten sind.<\/p>\n

Jailbreaking-as-a-Service<\/strong><\/h3>\n

W\u00e4hrend KI-Technologien in der Wirtschaft rasch an Akzeptanz gewinnen, gab es im vergangenen Jahr in der Welt der Cyberkriminalit\u00e4t zwar Versuche, eigene cyberkriminelle Large Language Models (LLMs) zu entwickeln, doch diese wurden weitgehend aufgegeben. Stattdessen verlegten sich die Kriminellen darauf, bestehende Modelle zu \u201ejailbreaken\u201c, das heisst, sie mit speziellen Tricks dazu zu bringen, ihre integrierten Sicherheitsvorkehrungen zu umgehen. So gibt es inzwischen Angebote wie Jailbreaking-as-a-Service. Hierbei nutzen Kriminelle raffinierte Techniken, um LLMs dazu zu bringen, Anfragen zu beantworten, die eigentlich blockiert werden sollten. Diese Techniken reichen von Rollenspielen \u00fcber hypothetische Szenarien bis hin zur Nutzung fremder Sprachen. Dienstanbieter wie OpenAI oder Google arbeiten daran, diese Sicherheitsl\u00fccken zu schliessen. Cyberkriminelle Nutzer wiederum m\u00fcssen deshalb auf raffiniertere Jailbreaking-Prompts zur\u00fcckgreifen. So ist ein Markt f\u00fcr eine neue Klasse von kriminellen Diensten in Form von Chatbot-Angeboten f\u00fcr Jailbreaking entstanden.<\/p>\n

„Cyberkriminelle haben KI schon lange vor dem j\u00fcngsten Hype um generative KI in der IT-Branche missbraucht. Deshalb haben wir uns in die kriminellen Untergrundforen begeben, um herauszufinden, wie Cyberkriminelle KI tats\u00e4chlich nutzen und einsetzen, um ihre Ziele zu erreichen und welche Art von KI-gest\u00fctzten kriminellen Dienstleistungen angeboten werden“, erl\u00e4utert David Sancho, Senior Threat Researcher bei Trend Micro. „<\/strong>Wir haben uns die Untergrundgespr\u00e4che \u00fcber KI angeschaut und festgestellt, dass das Interesse an generativer KI den allgemeinen Markttrends gefolgt ist, die Akzeptanz jedoch hinterherzuhinken scheint. Wir haben auch LLM-Angebote von Kriminellen f\u00fcr Kriminelle gesehen. Darunter FraudGPT, DarkBARD, DarkBERT und DarkGPT, die viele \u00c4hnlichkeiten aufweisen. Aus diesem Grund vermuten wir, dass sie h\u00f6chstwahrscheinlich als Wrapper-Dienste f\u00fcr den legitimen ChatGPT oder Google BARD funktionieren \u2013 wir nennen sie Jailbreaking-as-a-Service-Dienste“, so David Sancho weiter. „Wir haben auch andere m\u00f6glicherweise gef\u00e4lschte kriminelle LLM-Angebote untersucht: WolfGPT, XXXGPT und Evil-GPT. Dabei befassen wir uns auch mit Deepfake-Diensten f\u00fcr Kriminelle: Wir haben Preise und einige fr\u00fche Gesch\u00e4ftsmodelle rund um diese KI-gest\u00fctzten gef\u00e4lschten Bilder und Videos gesehen.“<\/p>\n

Deepfake-Services auf dem Vormarsch<\/strong><\/h3>\n

Zwar gibt es Deepfakes schon l\u00e4nger, aber erst k\u00fcrzlich wurden echte cyberkriminelle Angebote entdeckt. Kriminelle bieten Deepfake-Dienste an, um Systeme zur Identit\u00e4ts\u00fcberpr\u00fcfung zu umgehen. Besonders im Finanzsektor wird dies zu einem zunehmenden Problem, da Banken und Kryptow\u00e4hrungsb\u00f6rsen immer strengere \u00dcberpr\u00fcfungen verlangen. Die Erstellung von Deepfakes wird immer g\u00fcnstiger und einfacher. Cyberkriminelle nutzen diese Technologie, um gef\u00e4lschte Bilder und Videos zu erstellen, die selbst fortgeschrittene Sicherheitssysteme t\u00e4uschen k\u00f6nnen. Dabei reicht oft schon ein gestohlenes Ausweisdokument, um ein \u00fcberzeugendes Fake-Bild zu erstellen.<\/p>\n

Was bedeutet das f\u00fcr die Zukunft?<\/strong><\/h3>\n

Die Entwicklungen zeigen, dass Kriminelle immer neue Wege finden, KI-Technologien zu missbrauchen. Obwohl die grosse Disruption bisher ausgeblieben ist, ist es nur eine Frage der Zeit, bis ernsthaftere Angriffe zu erwarten sind. Unternehmen und Privatpersonen m\u00fcssen deshalb wachsam bleiben und ihre Cybersicherheitsmassnahmen stetig verbessern, um gegen diese Bedrohungen gewappnet zu sein. Drei grundlegende Regeln cyberkrimineller Gesch\u00e4ftsmodelle werden dabei ausschlaggebend sein, wann b\u00f6sartige Akteure in grossem Stil auf GenAI setzen:<\/p>\n

    \n
  1. Kriminelle wollen ein leichtes Leben:<\/strong> Ziel ist es, mit m\u00f6glichst geringem Aufwand und niedrigem Risiko ein bestimmtes wirtschaftliches Ergebnis zu erreichen.<\/li>\n
  2. Neue Technologien m\u00fcssen besser sein als vorhandene Tools:<\/strong> Kriminelle \u00fcbernehmen neue Technologien nur, wenn die Rendite h\u00f6her ist als bei den bestehenden Methoden.<\/li>\n
  3. Evolution statt Revolution:<\/strong> Kriminelle bevorzugen schrittweise Anpassungen statt umfassender \u00dcberarbeitungen, um neue Risikofaktoren zu vermeiden.<\/li>\n<\/ol>\n

    Fazit: Cyberkriminelle Nutzung von KI erst am Anfang<\/strong><\/h3>\n

    Der Bedarf an einem sicheren, anonymen und nicht nachverfolgbaren Zugang zu LLMs bleibt bestehen. Dies wird cyberkriminelle Dienste dazu veranlassen, sich immer wieder neue LLMs zunutze zu machen, die einfacher zu jailbreaken oder auf ihre speziellen Bed\u00fcrfnisse zugeschnitten sind. Derzeit gibt es mehr als 6.700 leicht verf\u00fcgbare LLMs auf der KI-Community-Plattform Hugging Face. Es ist auch davon auszugehen, dass immer mehr alte und neue kriminelle Tools GenAI-Funktionen integrieren werden. Cyberkriminelle haben gerade erst begonnen, an der Oberfl\u00e4che der tats\u00e4chlichen M\u00f6glichkeiten zu kratzen, die GenAI ihnen bietet.<\/p>\n

    In einem Blog hat Trend Micro weitere Informationen zum Thema zusammengestellt:<\/em><\/p>\n