Der Einsatz von KI kann Routineaufgaben automatisieren, Abläufe effizienter gestalten und die Produktivität erhöhen. Dies gilt für die legale Wirtschaft ebenso wie leider auch für die organisierte Cyberkriminalität. Gerade Large Language Models (LLM) werden von kriminellen Akteuren genutzt – weniger als visionäre Alleskönner-Technologien, sondern vielmehr als effiziente Werkzeuge zum Verbessern von Standardangriffen.
Seit Ende 2022 stehen Large Language Models (LLMs) wie ChatGPT im Blick der Öffentlichkeit. Damit stellt sich die Frage, welche Effekte sie auf die Cybersicherheit haben, wenn Hacker sie zum Erstellen bösartiger Inhalte missbrauchen. Beim Einsatz von LLMs haben Cyberkriminelle drei Möglichkeiten.
Der erste Ansatz ist, ein benutzerdefiniertes LLM zu entwickeln, was technisches Fachwissen und Ressourcen erfordert. Derzeit ist das Entwickeln einer allgemein für bösartige Zwecke geeigneten LLM, die etwa beim Programmieren von Malware unterstützt, jedoch noch unwahrscheinlich. Die wirkliche und aktuell realistische Gefahr liegt in LLMs als effiziente Hilfsmittel für Betrug. Ein solcher pragmatische Einsatz entspricht eher der Arbeitsweise der Cyberkriminellen: Diese suchen in der Regel unkomplizierte, wiederholbare und skalierbare Playbooks als Vorlage für ihre Angriffe. Sie sind zudem wenig geneigt, zu viel Geld und Ressourcen in aufwändige, von KI-Tools abhängige Systeme zu investieren, welche dann nach einer Änderung dieser schnelllebigen Werkzeuge nicht mehr funktionieren. Ein in Monaten entwickeltes und von ChatGPT abhängiges komplexes System kann durch wenige Zeilen veränderten Codes lahmgelegt werden. Zu hoch ist daher das Risiko, dass der Wert der aufwändigen Investition im Nu verloren ist.
Die zweite Möglichkeit besteht darin, reguläre LLMs zu jailbreaken. Dies erfordert allerdings Fachkenntnisse im Prompt-Engineering, was weniger technisch versierte Angreifer, die am meisten von LLMs profitieren würden, von der Nutzung ausschließt.
Die dritte Möglichkeit ist der Einsatz benutzerdefinierter Versionen von ChatGPT, die sich für bestimmte Zwecke erstellen lassen. Der GPT Builder von OpenAI bietet eine Plattform, mit der Benutzer ChatGPT für bestimmte Aufgaben anpassen können, ohne selbst programmieren zu müssen. In diesem Zusammenhang stehen die Möglichkeiten von KI-generierter Malware und die damit verbundenen Folgen für die Cybersicherheit zurzeit intensiv in der Diskussion. Zwar kann man mit ChatGPT Malware-Code generieren, doch ist dieser nicht von besserer Qualität als das, was bereits als Massenware verfügbar ist. Das macht ihn für erfahrene Malware-Autoren, denen öffentliche Code-Repositories wie GitHub besseren Schadcode bieten, weniger attraktiv.
Was LLMs wirklich von älteren Machine-Learning-Modellen unterscheidet, sind ihre bemerkenswerten Fähigkeiten, natürliche Sprache zu verarbeiten und zu generieren. Dadurch kann generative KI den Cyberkriminellen ihr Handwerk erleichtern, insbesondere bei Social-Engineering-Angriffen und bei der Analyse großer Datenmengen zur Informationsbeschaffung.
Für das Verfassen betrügerischer Nachrichten senkt der Einsatz von LLM-gestützten Chatbots zum Beispiel Sprachbarrieren der Angreifer spürbar. Dadurch können Hacker anspruchsvollere Angriffe auf eine größere Anzahl von Adressaten ausweiten und die Glaubwürdigkeit von Phishing-Nachrichten erhöhen. LLMs unterstützen Kriminelle nicht nur hinsichtlich sprachlicher Aspekte wie Orthografie, Grammatik und korrekter Formulierungen in Fremdsprachen, sondern auch auf inhaltlicher Ebene wie der Gebrauch passender Branchenbegriffe, Insider-Akronyme oder aktueller Ereignisse, die Einfluss auf potenzielle Opfer haben.
Im Folgenden finden sich einige Möglichkeiten, wie Cyberkriminelle generative KI für ihre Zwecke einsetzen können:
- Optimierte BEC-Angriffen: Mithilfe von LLMs können Angreifer etwa Kommunikationsstil, Terminologie und Insiderwissen von Vorgesetzten leicht und täuschend echt reproduzieren, indem sie deren früheren Konversationen in ihre Modelle einspeisen. Aktuell ist daher mit einem Anstieg von Business-Email-Compromise-Angriffen (BEC) auf Unternehmen aller Größen zu rechnen.
- Plausiblere Betrugsversuche: Beim Vorschussbetrug bringen Kriminelle ihre Opfer unter Vorspielen falscher Tatsachen dazu, Gelder vorzustrecken. Im Rahmen des Gesprächs mit dem Opfer liefern die Täter häufig Gründe und Informationen, die allein schon mit dem gesunden Menschenverstand den falschen Urheber verraten können. LLM-Chatbots ermöglichen es Cyberkriminellen, die Glaubwürdigkeit ihrer Betrugsversuche zu erhöhen.
- Skalierbarkeit hochentwickelter Angriffe: LLMs haben das Potenzial, die Einstiegshürde für hochentwickelte Angriffe, die viel Zeit, Mühe und Investitionen erfordern, erheblich zu senken, so dass sie für ein breiteres Spektrum an Kriminellen interessant sind. Dies vergrößert nicht nur den Pool potenzieller Angreifer, sondern es ermöglicht auch bereits erfahrenen Hackern, hochentwickelte Angriffe häufiger auszuführen.
- Ransomware-Rechner: LLMs können, vergleichbar mit Tools wie Crunchbase, Angreifer beim Sammeln von Informationen über Unternehmen unterstützen. Sie bieten nicht nur Übersichten zu Hintergrund und Finanzstatus eines Unternehmens, sondern analysieren zusätzlich die neuesten Nachrichten in der Presse, inklusive Fusionen und Übernahmen. Eine der praktischsten und am einfachsten monetarisierbaren Einsatzmöglichkeiten von LLMs für Cyberkriminelle ist die KI-gesteuerte Sichtung und Analyse großer Datenmengen und damit einhergehend die Identifikation lukrativer Ziele. Ransomware-as-a-Service-Gruppen (RaaS) verfügen häufig über spezielle Open-Source-Intelligence-Teams (OSINT), die eine realistische Lösegeldforderung evaluieren und festlegen. Durch die intelligente Auswahl von Organisationen mit dem höchsten Druckpotenzial könnten Ransomware-Gruppen ihre Quote geleisteter Lösegelder maximieren.
- Analyse öffentlicher Datenlecks: Die von LLMs generierten maßgeschneiderten Nachrichten lassen sich dafür verwenden, überzeugende Spear-Phishing-Angriffe zu entwickeln, indem die Cyberkriminellen Informationen aus bekannt gewordenen Datenlecks oder Unternehmenswebsites nutzen. Diese Automatisierung vergrößert den Umfang potenzieller Ziele und erhöht zugleich die Authentizität der bösartigen Kommunikation.
- Bewerten exfiltrierter Daten: Schließlich können Cyberkriminelle LLMs nutzen, um Daten zu sichten, die sie bei Unternehmen erbeutet haben. Durch ihre Fähigkeit, natürliche Sprache zu verarbeiten, können die Modelle sensible Informationen in den gestohlenen Daten kategorisieren und identifizieren. Denn Terabytes von Daten zu stehlen, ist eine Sache. Daraus die Informationen gezielt zu extrahieren oder unverfügbar zu machen, die effektiv ein hohes Lösegeld generieren oder sich gut verkaufen lassen, steht auf dem nächsten Blatt.
KI eignet sich hervorragend dazu, bereits vorhandene Fähigkeiten zu optimieren oder zu ergänzen. Daher ist zu erwarten, dass für die organisierte Cyberkriminalität der Wert von KI aktuell hauptsächlich darin liegen wird, ihre Angriffe effizienter zu gestalten und deren Qualität und Skalierbarkeit zu erhöhen. Unternehmen sollten daher ihre grundlegenden Sicherheitsmaßnahmen stärken und einen mehrschichtigen Sicherheitsansatz verfolgen. KI-gestützte Sicherheitstechnologien, die unter anderem dafür entwickelt wurden, Social-Engineering-Angriffe zu erkennen, können zudem unterstützen, mittels fortschrittlicher natürlicher Sprachverarbeitung (NLP) die typischen Warnzeichen von Betrugsversuchen zu entdecken und die Gefahr im Keim abzuwehren.
Martin Zugec, Tecnical Solutions Director bei Bitdefender.
Hacker und deren Einsatz von KI
Künstliche Intelligenz (KI) hat die Landschaft der Cybersicherheit grundlegend verändert. Mit ihrer Fähigkeit, große Datenmengen zu analysieren und Muster zu erkennen, bietet sie sowohl für Cyberverteidiger als auch für Hacker neue Möglichkeiten. Die jüngsten Entwicklungen in der KI-Technologie haben zu einer Debatte darüber geführt, wie sie die Effizienz und die Methoden von Cyberangriffen beeinflusst.
Einerseits nutzen Cybersecurity-Experten KI, um Netzwerke zu überwachen, Anomalien zu erkennen und auf Bedrohungen in Echtzeit zu reagieren. Andererseits haben Hacker entdeckt, dass KI ein mächtiges Werkzeug sein kann, um Sicherheitsmaßnahmen zu umgehen und Angriffe zu automatisieren. Beispielsweise können sie KI verwenden, um Phishing-Kampagnen zu personalisieren oder Schwachstellen in Software schneller zu identifizieren.
Die Verwendung von KI durch Hackergruppen ist besonders besorgniserregend, wenn sie staatlich unterstützt werden. Berichte zeigen, dass solche Gruppen KI-Dienste nutzen, um Forschungen zu Satellitenkommunikationsprotokollen durchzuführen, bei Programmieraufgaben zu helfen und Inhalte für Phishing-Kampagnen zu entwerfen. Diese Aktivitäten stellen eine direkte Bedrohung für die nationale Sicherheit und die Privatsphäre von Bürgern dar.
Die Reaktion auf diese Bedrohung erfordert eine koordinierte Anstrengung. Regierungen und private Unternehmen müssen zusammenarbeiten, um Richtlinien und Technologien zu entwickeln, die die missbräuchliche Verwendung von KI verhindern. Ein Beispiel dafür ist die Schaffung eines neuen IT-Lagezentrums in Bonn, das darauf abzielt, kritische Infrastrukturen besser vor Cyberangriffen zu schützen.
Es ist jedoch eine Herausforderung, mit der rasanten Entwicklung der KI-Technologie Schritt zu halten. Während Maßnahmen wie das Sperren von Konten von Hackergruppen ein Schritt in die richtige Richtung sind, ist es nur eine temporäre Lösung. Hacker können schnell neue Konten erstellen und ihre Taktiken anpassen. Daher ist es wichtig, dass Cybersecurity-Experten kontinuierlich in Forschung und Entwicklung investieren, um mit den sich entwickelnden Bedrohungen Schritt zu halten.
Die Zukunft der Cybersicherheit wird stark davon abhängen, wie effektiv wir KI als Werkzeug für den Schutz und nicht für den Angriff einsetzen können. Die Entwicklung von automatisierten Abwehrsystemen, die KI nutzen, um Angriffe zu erkennen und zu neutralisieren, könnte ein entscheidender Faktor sein, um die Sicherheit in unserer zunehmend vernetzten Welt zu gewährleisten.
Insgesamt ist es klar, dass KI das Potenzial hat, sowohl als ein Instrument für Fortschritt als auch als Waffe missbraucht zu werden. Die Gesellschaft muss sich dieser Dualität bewusst sein und proaktiv Maßnahmen ergreifen, um sicherzustellen, dass KI zum Wohle aller eingesetzt wird. Die Balance zwischen Innovation und Sicherheit zu finden, wird eine der größten Herausforderungen der kommenden Jahre sein.
Genki Absmeier
596 Artikel zu „Cyberkriminalität KI“
Gerade in jüngster Zeit haben automatisierte Phishing-Angriffe relativ plötzlich stark zugenommen. Dank künstlicher Intelligenz (KI), maschinellem Lernen und Big Data sind die Inhalte deutlich überzeugender und die Angriffsmethodik überaus präzise. Mit traditionellen Phishing-Angriffen haben die Attacken nicht mehr viel gemein. Während IT-Verantwortliche KI einsetzen, um Sicherheit auf die nächste Stufe zu bringen, darf man sich…
Cyberkriminelle nutzen das große Interesse an KI-Diensten wie ChatGPT, Sora AI, DALL-E oder Midjourney, um Nutzer auf Facebook mit Malware zu infizieren. Die Bitdefender Labs warnen vor einer großangelegten Malvertising-Kampagne auf Facebook, die das große Interesse an neuen KI-Diensten wie ChatGPT oder Midjourney nutzt, um Nutzer mit Malware zu infizieren und ihre Daten zu stehlen.…
Seit der Veröffentlichung von ChatGPT im November 2022 arbeitet die Technologiebranche daran, solche auf annähernd menschlichem Level funktionierenden Konversationsschnittstellen zu etablieren und praktisch zu nutzen. Fast jedes größere Unternehmen verbindet heute seine interne oder produktbezogene Dokumentation mit einem großen Sprachmodell, sogenannten »Large Language Models« oder kurz LLMs, um Fragen möglichst schnell zu beantworten. Gleichzeitig kommen…
Nextron Systems, führender Anbieter von innovativen IT-Sicherheitslösungen, setzt seine wegweisende Mission zur Bekämpfung und frühzeitigen Erkennung von Cyberkriminalität fort. Als aufstrebender Thought Leader der Branche geht Nextron entschlossen voran, um Unternehmen weltweit vor den wachsenden Bedrohungen in der digitalen Welt zu schützen. Neun von zehn Unternehmen haben laut Branchenverband Bitkom in den zurückliegenden zwölf…
Private Internetuser erlitten einen durchschnittlichen Schaden von 262 Euro. Nur 14 Prozent haben sich an die Polizei gewandt – und dabei keine wirklich guten Erfahrungen gemacht. Ausspionieren von Passwörtern, Betrug beim Onlinehandel oder schwere Beleidigungen in sozialen Netzwerken: Die große Mehrheit (67 Prozent) der Internetnutzerinnen und -nutzer in Deutschland ist 2023 Opfer von Cyberkriminalität…
Darktrace, ein weltweiter Anbieter von KI für Cybersicherheit, hat Vorhersagen für die IT-Branche 2024 veröffentlicht. Max Heinemeyer, Chief Product Officer, erwartet vor allem einen zunehmenden Einsatz von KI bei Angriffen, eine stärkere Umgehung von Multi-Faktor-Authentifizierung (MFA), erfolgreichere Aktionen von Europol sowie eine Konsolidierung der Sicherheitsplattformen. Cyberkriminelle entwickeln ersten KI-Wurm Im Jahr 2023 haben Hacker…
Schulungen helfen IT-Security-Teams KI zu nutzen, um KI-gestützt Cyberangriffe zu bekämpfen und gleichzeitig die gesamte Belegschaft für die Gefahren zu sensibilisieren. Künstliche Intelligenz (KI) verändert die Art, in der wir arbeiten. Das gilt auch für den Bereich IT-Sicherheit – und zwar auf Seiten der Angreifer sowie auf Seiten der Sicherheitsverantwortlichen in Unternehmen. Die Nutzung…
Cyberkriminalität entwickelt sich immer schneller zu einer professionellen, dienstleistungsorientierten Branche. In den vergangenen Jahren haben Ransomware-Attacken Unternehmen in verschiedenen Ländern und Branchen erheblichen Schaden zugefügt. Ein Report von WithSecure zeigt nun: Der Erfolg der Ransomware hat eine tiefgreifende Veränderung der gesamten Cybercrime-Branche in Gang gebracht. Verschiedene Gruppen entwickeln spezialisierte Tools, die sie »as-a-service« anbieten…
Häufigste Vorfälle sind Datenweitergabe, Betrug und Schadsoftware-Attacken. Nur ein Fünftel wendet sich an die die Polizei. Schadsoftware, Betrug beim Online-Shopping oder Beleidigungen in sozialen Netzwerken – drei von vier Internetnutzerinnen und Internetnutzern (75 Prozent) waren in 2022 von Cyberkriminalität betroffen. 22 Prozent geben an, keine solchen Erfahrungen gemacht zu haben, 3 Prozent wollten dazu…
DeadRinger-Untersuchung dokumentiert Angriffstrends, bei denen externe Service-Provider benutzt werden, um vielfältige Ziele zu erreichen. Cybereason ist es gelungen, verschiedene bislang nicht anderweitig identifizierte Cyberangriffe aufzudecken, die große Telekommunikationsanbieter in ganz Südostasien infiltrieren. Ähnlich wie bei den jüngsten Angriffen auf SolarWinds und Kaseya kompromittierten die Angreifer externe Service-Anbieter – in diesem Fall Telekommunikationsunternehmen – mit…
IT-Dienstleister für Banken und Versicherungen müssen sich neben technischen auch umfassenden regulatorischen Anforderungen stellen. Stefan Keller, Marketing- und Vertriebsvorstand beim IT-Dienstleister noris network, spricht im Interview zu aktuellen Herausforderungen und berichtet über weitere Wachstumspläne.
Die Zunahme von Phishing- und Ransomware-Attacken – zusammen mit einer weiterhin hohen Zahl von Angriffen auf Webapplikationen – bestätigt ein Jahr mit vielen Sicherheitsherausforderungen. Das Wichtigste im Überblick: Der Bericht analysiert 29.207 Qualitätsvorfälle, von denen 5.258 bestätigte Sicherheitsverletzungen waren Phishing-Angriffe stiegen um elf Prozent, während Angriffe mit Ransomware um sechs Prozent zunahmen Bei 85…
Von der Wirtschaftsauskunftei zum Data-Tech-Unternehmen. Die Regis24 GmbH aus Berlin, bisher Anbieter von Identitäts , Kredit- und Bonitätsinformationen (www.regis24.de), hat sich als Data-Tech-Unternehmen neu aufgestellt. Um den Marktwandel aktiv mitzugestalten, bietet Regis24 neben den Lösungen einer klassischen Wirtschaftsauskunftei – der einzigen unabhängigen in Deutschland – nun verstärkt innovative Produkte im Bereich Credit-Risk- und Fraud-Management an.…
Wie Unternehmen sich von Lösegeldforderungen befreien können. Angriffe mit Ransomware sind weltweit auf dem Vormarsch und werden auch künftig nicht nachlassen. Einem kürzlich erschienenen Bericht zufolge ist die Zahl der Lösegeld-Angriffe weltweit im Vergleich zum Vorjahreszeitraum um 50 Prozent gestiegen. Immer noch halten sich jedoch Mythen, die Unternehmen bei Lösegeldforderungen falsche Entscheidungen treffen lassen. Ransomware…
Datenanalysen gestützt durch künstliche Intelligenz (KI) stehen hinsichtlich ihres Einsatzes noch am Anfang. Doch es zeichnet sich bereits ab, dass beide immer mehr Bereiche des Geschäftsalltags erobern werden. Manage IT hat Philipp Kleinmanns, Abteilungsleiter Business Innovation bei Materna, befragt, inwieweit moderne Datenanalyse-Anwendungen und KI-Prozesse das Geschäft revolutionieren könnten.
Was sind die vier wichtigsten Herausforderungen bei Konzeption und Einsatz von KI-Anwendungen im Unternehmen? Der Siegeszug künstlicher Intelligenz spielt beim jüngst ausgelösten Digitialisierungsschub eine herausragende Rolle, schließlich erobert KI ständig neue Anwendungsfelder und findet sich so immer häufiger im praktischen Einsatz. Die Security-Verantwortlichen in Unternehmen stellt diese Entwicklung jedoch vor komplexe, neue Herausforderungen, denn…
Obwohl sich Vectra AZ darauf konzentriert, KI zur Cyberabwehr einzusetzen, beobachtet das Unternehmen auch, wie KI-Fortschritte von Cyberangreifern genutzt werden könnten. »Ein Bereich, in dem in letzter Zeit einige überraschende Fortschritte erzielt wurden, ist die Generierung natürlicher Sprache. Insbesondere hat OpenAI einen Generator für natürliche Sprache geschaffen, der in der Lage ist, kohärente Antworten in…
Trotz der erstaunlichen Fortschritte bei der Leistung der künstlichen Intelligenz in den letzten Jahren ist keine KI perfekt. Tatsächlich wird die Unvollkommenheit einer KI in der Regel durch die Messung der Genauigkeit des Modells an einem Testdatensatz deutlich gemacht. Perfekte Ergebnisse werden weder erwartet noch sind sie üblich. Christopher Thissen, Data Scientist bei Vectra…
Im vergangenen Jahr verzeichnete die Beschwerdestelle des Internetverbands eco den höchsten Wert an berechtigten Beschwerden über mutmaßlich illegale Inhalten in ihrer Geschichte. Für mehr Sicherheit im Netz stellt die eco Beschwerdestelle nun einen Surfguide für die Sommerferien vor. Wie können Eltern sichergehen, dass ihr Nachwuchs auch während der Sommerferien digitale Angebote sicher und optimal nutzt?…