Künstliche Intelligenz (KI) · Schaubildreihe
Claude-Bericht 2026
Die Schaubildreihe fasst den Bericht „Detecting and countering misuse of AI: September 2026“ zusammen, den Anthropic am 10. September 2026 veröffentlicht hat. Er behandelt nach Unternehmensangaben besonders auffällige Missbrauchsfälle, die zwischen Dezember 2025 und August 2026 erkannt und unterbunden wurden. Wichtig für die Veröffentlichung: Die dargestellten Vorwürfe und Zuordnungen stammen aus Anthropic-eigenen Untersuchungen. Sie beruhen überwiegend auf internen Nutzungs- und Kontodaten, die nicht vollständig unabhängig überprüfbar sind. Anthropic erklärt selbst, dass die ausgewählten Fälle nicht typisch oder repräsentativ, sondern besonders bemerkenswert oder neuartig seien.
Die Titelkarte zeigt die sieben im Bericht behandelten Gefahrenfelder: Cyberangriffe, politische Einflussoperationen, Überwachung, konventionelle Waffen, biologischen Missbrauch, Betrug und unerlaubte Modelldestillation. Die zentrale KI-Struktur verbindet diese sehr unterschiedlichen Bereiche.
Quelle: Anthropic, Detecting and countering misuse of AI: September 2026, Überblick S. 3.
Quelle: Anthropic, Detecting and countering misuse of AI: September 2026, Überblick S. 3.
Anthropic beobachtet eine Verschiebung: KI beantwortet nicht nur Fragen, sondern koordiniert und erledigt zunehmend ganze Arbeitsabläufe. Mehrere KI-Agenten können parallel recherchieren, programmieren, Daten sortieren und Ergebnisse weiterverarbeiten. Die Menschen bestimmen jedoch weiterhin meist Ziele und Verwendungszweck.
Quelle: Bericht, S. 4–5 und 38–39.
Quelle: Bericht, S. 4–5 und 38–39.
In den beschriebenen Fällen suchten KI-Agenten nach Schwachstellen, entwickelten Schadsoftware, werteten gestohlene Daten aus und passten Malware an Sicherheitsmaßnahmen an. Anthropic berichtet von Angriffen, bei denen zwischen dem ersten Zugang und umfangreichem Datendiebstahl nur zwei bis drei Stunden lagen. Meist wurden bekannte Angriffsmethoden beschleunigt, nicht völlig neue erfunden.
Quelle: Bericht, Kapitel „Cyber operations“, S. 4–40, insbesondere S. 13–14 und 38–39.
Quelle: Bericht, Kapitel „Cyber operations“, S. 4–40, insbesondere S. 13–14 und 38–39.
KI erzeugte nicht nur einzelne Beiträge, sondern unterstützte den Aufbau ganzer Einflussnetzwerke. Eine kommerzielle Operation umfasste nach Anthropic rund 70 vorgetäuschte Nachrichtenseiten und mindestens 8.913 Artikel in etwa 20 Sprachen. Eine auf Malaysia ausgerichtete Plattform verwaltete ungefähr 1.000 falsche Social-Media-Konten. Viele untersuchte Kampagnen erreichten allerdings kaum ein echtes Publikum.
Quelle: Bericht, Kapitel „Influence operations“, S. 41–80, insbesondere S. 47–54.
Quelle: Bericht, Kapitel „Influence operations“, S. 41–80, insbesondere S. 47–54.
KI wurde laut Bericht eingesetzt, um Personen nach Aufenthaltsort, Religion, politischen Ansichten und Kontakten zu ordnen und Dossiers zu erstellen. Weitere Fälle betrafen die Ansprache möglicher Informanten sowie die Entwicklung eines Überwachungssystems für Mali, das Daten von ungefähr 25 Millionen SIM-Karten verarbeiten sollte.
Quelle: Bericht, Kapitel „Surveillance operations“, S. 81–110, insbesondere S. 86–94 und 103–104.
Quelle: Bericht, Kapitel „Surveillance operations“, S. 81–110, insbesondere S. 86–94 und 103–104.
Anthropic beschreibt Anwendungen bei Steuerungssoftware für gelenkte Raketen, autonomen Drohnenschwärmen, elektronischer Kriegführung und Torpedoabwehr. Nicht alle Vorhaben führten zu einsatzfähigen Systemen: Ein Raketentest im Jemen scheiterte offenbar, und mehrere Drohnenprojekte befanden sich noch im Simulations- oder Prototypenstadium.
Quelle: Bericht, Kapitel „Conventional weapons“, S. 111–128, insbesondere S. 112–122.
Quelle: Bericht, Kapitel „Conventional weapons“, S. 111–128, insbesondere S. 112–122.
Biologische Forschung ist häufig „Dual Use“: Dasselbe Wissen kann der Entwicklung von Medikamenten und Impfstoffen dienen oder gefährliche Krankheitserreger und Toxine verbessern. Anthropic berichtet unter anderem über Arbeiten zu Viren, Immunflucht und Giftstoffen. Das Unternehmen unterstellt den beteiligten Forschenden nicht pauschal eine schädliche Absicht.
Quelle: Bericht, Kapitel „Biological misuse“, S. 129–138.
Quelle: Bericht, Kapitel „Biological misuse“, S. 129–138.
Ein chinesisches Unternehmen soll mehr als 20 Dating-Apps mit künstlichen Gesprächspartnern betrieben haben. Innerhalb von zwei Wochen beobachtete Anthropic über 4.700 KI-Personas, mindestens 25.000 Gesprächspartner und rund 2,36 Millionen Nachrichten. Echte Beschäftigte übernahmen Videoanrufe oder Social-Media-Kontakte, um die Plattform glaubwürdiger erscheinen zu lassen.
Quelle: Bericht, Kapitel „Scams and fraud“, S. 139–142.
Quelle: Bericht, Kapitel „Scams and fraud“, S. 139–142.
Anthropic wirft mehreren chinesischen KI-Unternehmen beziehungsweise Laboren vor, Claude ohne Erlaubnis millionenfach abgefragt zu haben, um Fähigkeiten auf eigene Modelle zu übertragen. Genannt werden unter anderem mehr als 151 Millionen Abfragen bei Alibaba/Qwen, mehr als 23 Millionen bei Moonshot/Kimi und mehr als 12,1 Millionen bei DeepSeek innerhalb von 14 Tagen. Teilweise sollen Anfragen eigener Kunden ohne deren Wissen an Claude weitergeleitet worden sein.
Quelle: Bericht, Kapitel „Illicit distillation“, S. 143–154, insbesondere S. 147–151.
Quelle: Bericht, Kapitel „Illicit distillation“, S. 143–154, insbesondere S. 147–151.
Der Bericht beschreibt keine KI, die selbstständig politische oder militärische Ziele auswählt. Er zeigt vielmehr, wie Menschen und Organisationen KI in vorhandene Angriffs-, Überwachungs- und Propagandastrukturen integrieren. Dadurch steigen Geschwindigkeit und Reichweite, während weniger Personal und Fachwissen benötigt werden. Die Quellenkritik auf der Karte erinnert daran, dass es sich um einen Unternehmensbericht mit ausgewählten Fällen handelt.
Quelle: Bericht, Überblick S. 3 sowie zusammenfassende Cyberanalyse S. 38–39; ergänzende kritische Einordnung der Schaubildreihe.
Quelle: Bericht, Überblick S. 3 sowie zusammenfassende Cyberanalyse S. 38–39; ergänzende kritische Einordnung der Schaubildreihe.
Dialog
Kommentare
Melde dich an, um zu kommentieren.