OpenWAI News

OpenWAI News

kuratierte KI-Nachrichten, übersetzt und thematisch geordnet

Fehler in Docker Model Runner erlaubt Sandboxausbruch unter macOS

Nutzen Angreifer eine Sicherheitslücke in Docker unter macOS erfolgreich aus, können sie aus der Sandbox ausbrechen und Schadcode im Hostsystem ausführen. Eine dagegen gerüstete Version steht zum Download bereit. Die Sicherheitslücke In einer Warnmeldung erläutern die Entwickler, dass die Schwachstelle (CVE-2026-5843 „hoch“) in Docker Model Runner zum Laden und Ausführen von lokalen LLMs steckt. Darüber können Angreifer die Komponente dazu bringen, ein mit Schadcode verseuchtes KI-Modell zu laden. Dafür müssen sie aber über ein Netzwerk Zugriff auf Container haben. Das Sicherheitsproblem liegt konkret im Umgang mit Python-Code in diesem Kontext. Weil keine Überprüfung stattfindet, wird ein LLM ohne Sicherheitsabfrage direkt geladen. Unter macOS handhabt Apples MLX-Framework lokale KI-Modelle. In diesem Fall liest MLX die config.json und führt malicious_script.py direkt aus. Weil MLX außerhalb der Docker-Umgebung ohne Sandbox direkt auf Systemebene läuft, können Angreifer eigenen Code mit den Rechten des Nutzers ausführen können.

Die Entwickler geben an, dass Docker ab Version 4.56.0 bedroht ist. Sie versichern, die Sicherheitsproblematik in der Ausgabe 4.71.0 gelöst zu haben. Bislang gibt es keine Berichte, dass Angreifer die Lücke bereits ausnutzen. Die Version ist bereits seit April dieses Jahres verfügbar. Konkrete Informationen zur Lücke sind aber erst seit Kurzem bekannt. Aktuell ist die Ausgabe 4.75.0, in der die Entwickler unter macOS und Windows verschiedene Bugs ausgebügelt haben. In 4.72.0 haben sie die Linux-Kernel-Sicherheitslücke „Copy Fail“ (CVE-2026-31432 „hoch“) geschlossen. Die Copy-Fail-Schwachstelle wird bereits ausgenutzt und Angreifer kompromittieren darüber Systeme als root-Nutzer. Demzufolge sollten Admins sicherstellen, dass auf ihren Systemen eine aktuelle Ausgabe installiert ist.

Weiterlesen

Nutzen Angreifer eine Sicherheitslücke in Docker unter macOS erfolgreich aus, können sie aus der Sandbox ausbrechen und Schadcode im Hostsystem ausführen. Eine dagegen gerüstete Version steht zum Download bereit. Die Sicherheitslücke In einer Warnmeldung erläutern die Entwickler, dass die Schwachstelle (CVE-2026-5843 „hoch“) in Docker Model Runner zum Laden und Ausführen von lokalen LLMs steckt. Darüber können Angreifer die Komponente dazu bringen, ein mit Schadcode verseuchtes KI-Modell zu laden. Dafür müssen sie aber über ein Netzwerk Zugriff auf Container haben. Das Sicherheitsproblem liegt konkret im Umgang mit Python-Code in diesem Kontext. Weil keine Überprüfung stattfindet, wird ein LLM ohne Sicherheitsabfrage direkt geladen. Unter macOS handhabt Apples MLX-Framework lokale KI-Modelle. In diesem Fall liest MLX die config.json und führt malicious_script.py direkt aus. Weil MLX außerhalb der Docker-Umgebung ohne Sandbox direkt auf Systemebene läuft, können Angreifer eigenen Code mit den Rechten des Nutzers ausführen können.

Die Entwickler geben an, dass Docker ab Version 4.56.0 bedroht ist. Sie versichern, die Sicherheitsproblematik in der Ausgabe 4.71.0 gelöst zu haben. Bislang gibt es keine Berichte, dass Angreifer die Lücke bereits ausnutzen. Die Version ist bereits seit April dieses Jahres verfügbar. Konkrete Informationen zur Lücke sind aber erst seit Kurzem bekannt. Aktuell ist die Ausgabe 4.75.0, in der die Entwickler unter macOS und Windows verschiedene Bugs ausgebügelt haben. In 4.72.0 haben sie die Linux-Kernel-Sicherheitslücke „Copy Fail“ (CVE-2026-31432 „hoch“) geschlossen. Die Copy-Fail-Schwachstelle wird bereits ausgenutzt und Angreifer kompromittieren darüber Systeme als root-Nutzer. Demzufolge sollten Admins sicherstellen, dass auf ihren Systemen eine aktuelle Ausgabe installiert ist.

China verwandelt sein altes Kameranetz in einen Apparat für automatisierte Massenüberwachung

the_decoder·2026-05-27GesellschaftSicherheitAnwendungen

Kurz & Knapp

- Lokale Behörden in China rüsten ihr landesweites Überwachungssystem auf, indem sie Kameras mit Computer Vision und Sprachmodellen von Herstellern wie Hikvision und Huawei ausstatten.

- Die neuen Systeme ermöglichen es der Polizei, Videomaterial gezielt per Texteingabe zu durchsuchen, und können automatisch Auffälligkeiten wie Menschenansammlungen, unbefugten Zutritt oder suizidales Verhalten erkennen.

- Die Modernisierung folgt einer sicherheitspolitischen Direktive aus dem Jahr 2024 zur Vorhersage potenzieller Unruhen und weckt bei Menschenrechtsexperten die Sorge vor einer beispiellosen Überwachung des menschlichen Verhaltens in großem Maßstab.

Lokale Behörden in China statten Millionen alter Kameras mit Computer Vision und Sprachmodellen aus. Polizisten sollen Videomaterial künftig per Texteingabe durchsuchen und Unruhen vorhersagen.

China modernisiert sein landesweites Überwachungssystem mit generativer KI und gibt Polizeibehörden damit deutlich mehr Befugnisse zur automatisierten Verhaltensanalyse und Vorhersage potenzieller Unruhen. Das berichtet die Financial Times nach Auswertung von mehr als einem Dutzend Ausschreibungsdokumenten und Gesprächen mit Branchenkennern.

Gesichtserkennung, Kennzeichenscans und klassische Computer Vision setzt China seit Mitte der 2010er-Jahre flächendeckend ein. Das alte Netz war jedoch auf die Identifikation einzelner Personen ausgelegt, lief auf veralteter Hardware und schickte Material zur Auswertung in zentrale Rechenzentren. "Chinas altes Überwachungssystem ist reaktiv. Es ist nicht gut darin, die Absichten von Personen zu erahnen und zu verstehen, die nicht ausdrücklich überwacht werden", sagt Minxin Pei vom Claremont McKenna College gegenüber der FT.

Hersteller wie Hikvision und Huawei liefern laut dem Bericht inzwischen Kameras mit integrierter Computer Vision und Sprachmodellen. Die Systeme sollen erratisches Fahren, Menschenansammlungen, unbefugten Zutritt oder suizidales Verhalten an Brücken erkennen und Alarme auslösen. Die neueste Hikvision-Generation erlaubt es laut dem Bericht Beamten, Aufnahmen per Texteingabe zu durchsuchen, etwa nach "einer Frau mit rotem Hut".

"Die Polizei muss das Material nicht mehr manuell sichten. Sie füttert das System mit einem Text-Prompt, und es findet die Aufnahmen", sagte ein Hikvision-Manager der FT. Hikvision selbst erklärte, die Produkte digitalisierten "Routineaufgaben, die zuvor stark auf manueller Überprüfung beruhten".

Kleinere Budgets, gezielter Ausbau

Ein Beschaffungsdokument aus Yaodu in Sichuan sieht laut der FT etwa 175 HD-Kameras mit "intelligenter Videoanalyse" vor. Eine Ausschreibung der Polizei in Datong listet Hikvision-Kameras, die Geschlecht, Körperhaltung und Kleidung identifizieren. Die ersten Einsätze konzentrierten sich auf dicht besiedelte Stadtgebiete sowie Zonen um Militär- und Regierungsgebäude. Andere Behörden behalten bereits installierte Kameras, tauschen aber die Zwischenserver gegen "AI PCs" aus, die Video lokal verarbeiten und auch Cloud-Kosten senken sollen.

Die Aufrüstung folgt einer Direktive von Minister für öffentliche Sicherheit Wang Xiaohong aus dem Jahr 2024, die nach einer Serie von Gewalttaten erlassen wurde, die Fachleute auf eine durch Pandemielockdowns und schwächelnde Wirtschaft verstärkte mentale Gesundheitskrise zurückführen. Diese Vorfälle hätten "die Grenzen des derzeitigen Überwachungsapparats" offengelegt, so Pei. Maya Wang von Human Rights Watch warnt, die "Philosophie hinter Chinas Überwachungssystem wird umfassender". Generative KI und Computer Vision verschafften den Behörden "eine beispiellose Kapazität, Verhalten in großem Maßstab zu überwachen".

In einem Policy-Papier warnte Anthropic kürzlich, dass China bei weiter schließender Compute-Lücke bis 2028 nicht nur technologisch aufholen, sondern auch KI-gestützte Überwachung und Repression skalieren könnte.

Weiterlesen

Kurz & Knapp

- Lokale Behörden in China rüsten ihr landesweites Überwachungssystem auf, indem sie Kameras mit Computer Vision und Sprachmodellen von Herstellern wie Hikvision und Huawei ausstatten.

- Die neuen Systeme ermöglichen es der Polizei, Videomaterial gezielt per Texteingabe zu durchsuchen, und können automatisch Auffälligkeiten wie Menschenansammlungen, unbefugten Zutritt oder suizidales Verhalten erkennen.

- Die Modernisierung folgt einer sicherheitspolitischen Direktive aus dem Jahr 2024 zur Vorhersage potenzieller Unruhen und weckt bei Menschenrechtsexperten die Sorge vor einer beispiellosen Überwachung des menschlichen Verhaltens in großem Maßstab.

Lokale Behörden in China statten Millionen alter Kameras mit Computer Vision und Sprachmodellen aus. Polizisten sollen Videomaterial künftig per Texteingabe durchsuchen und Unruhen vorhersagen.

China modernisiert sein landesweites Überwachungssystem mit generativer KI und gibt Polizeibehörden damit deutlich mehr Befugnisse zur automatisierten Verhaltensanalyse und Vorhersage potenzieller Unruhen. Das berichtet die Financial Times nach Auswertung von mehr als einem Dutzend Ausschreibungsdokumenten und Gesprächen mit Branchenkennern.

Gesichtserkennung, Kennzeichenscans und klassische Computer Vision setzt China seit Mitte der 2010er-Jahre flächendeckend ein. Das alte Netz war jedoch auf die Identifikation einzelner Personen ausgelegt, lief auf veralteter Hardware und schickte Material zur Auswertung in zentrale Rechenzentren. "Chinas altes Überwachungssystem ist reaktiv. Es ist nicht gut darin, die Absichten von Personen zu erahnen und zu verstehen, die nicht ausdrücklich überwacht werden", sagt Minxin Pei vom Claremont McKenna College gegenüber der FT.

Hersteller wie Hikvision und Huawei liefern laut dem Bericht inzwischen Kameras mit integrierter Computer Vision und Sprachmodellen. Die Systeme sollen erratisches Fahren, Menschenansammlungen, unbefugten Zutritt oder suizidales Verhalten an Brücken erkennen und Alarme auslösen. Die neueste Hikvision-Generation erlaubt es laut dem Bericht Beamten, Aufnahmen per Texteingabe zu durchsuchen, etwa nach "einer Frau mit rotem Hut".

"Die Polizei muss das Material nicht mehr manuell sichten. Sie füttert das System mit einem Text-Prompt, und es findet die Aufnahmen", sagte ein Hikvision-Manager der FT. Hikvision selbst erklärte, die Produkte digitalisierten "Routineaufgaben, die zuvor stark auf manueller Überprüfung beruhten".

Kleinere Budgets, gezielter Ausbau

Ein Beschaffungsdokument aus Yaodu in Sichuan sieht laut der FT etwa 175 HD-Kameras mit "intelligenter Videoanalyse" vor. Eine Ausschreibung der Polizei in Datong listet Hikvision-Kameras, die Geschlecht, Körperhaltung und Kleidung identifizieren. Die ersten Einsätze konzentrierten sich auf dicht besiedelte Stadtgebiete sowie Zonen um Militär- und Regierungsgebäude. Andere Behörden behalten bereits installierte Kameras, tauschen aber die Zwischenserver gegen "AI PCs" aus, die Video lokal verarbeiten und auch Cloud-Kosten senken sollen.

Die Aufrüstung folgt einer Direktive von Minister für öffentliche Sicherheit Wang Xiaohong aus dem Jahr 2024, die nach einer Serie von Gewalttaten erlassen wurde, die Fachleute auf eine durch Pandemielockdowns und schwächelnde Wirtschaft verstärkte mentale Gesundheitskrise zurückführen. Diese Vorfälle hätten "die Grenzen des derzeitigen Überwachungsapparats" offengelegt, so Pei. Maya Wang von Human Rights Watch warnt, die "Philosophie hinter Chinas Überwachungssystem wird umfassender". Generative KI und Computer Vision verschafften den Behörden "eine beispiellose Kapazität, Verhalten in großem Maßstab zu überwachen".

In einem Policy-Papier warnte Anthropic kürzlich, dass China bei weiter schließender Compute-Lücke bis 2028 nicht nur technologisch aufholen, sondern auch KI-gestützte Überwachung und Repression skalieren könnte.

Europäische Antwort auf Mythos: Mistral und BNP kooperieren bei Bankensicherheit

Der französische Bankenkonzern BNP Paribas und Mistral AI haben ihre KI-Partnerschaft um drei Jahre verlängert und auf neue Bereiche ausgeweitet. Auf einer gemeinsamen Pressekonferenz in Paris kamen die Partner auch auf KI-gestützte Bedrohungen für Banken zu sprechen. „Das eigentlich Neue ist die Geschwindigkeit, mit der wir Sicherheitslücken beheben müssen, sowie deren schiere Menge. Es werden sehr viele Schwachstellen gleichzeitig entdeckt“, sagte der IT-Chef von BNP Paribas, Marc Camus, laut Reuters. „Darauf müssen wir uns vorbereiten, und genau daran arbeiten wir mit Hochdruck.“

Konkrete Ankündigungen zur Zusammenarbeit im Bereich Cybersicherheit machten die Partner zwar nicht. Bloomberg berichtet jedoch, dass das Pariser KI-Start-up ein eigenes KI-Modell für Cybersicherheit entwickelt hat und mit europäischen Banken Gespräche über dessen Einsatz führe. Einer dieser Partner sei BNP Paribas. „Die Debatte dreht sich derzeit stark darum, ob Mythos für manche Banken zugänglich ist oder nicht. Dabei sollte man nicht vergessen, dass es auch andere Modelle anderer Unternehmen gibt“, sagte Camus. Europa sucht nach Alternativen zu Mythos Seit der Vorstellung von Mythos im April steht die Bankenbranche unter Zugzwang. Das KI-Modell von Anthropic soll Sicherheitslücken deutlich schneller erkennen können als bisherige Systeme und daraus teils auch mögliche Angriffspfade ableiten. Über die Initiative „Project Glasswing“ erhielten zunächst vor allem US-Partner Zugriff, darunter große Tech- und Sicherheitsunternehmen sowie mehrere US-Banken, um kritische Software abzusichern, bevor vergleichbare Fähigkeiten breiter verfügbar werden. Ob und in welcher Form inzwischen auch europäische Banken direkten Zugang zu Mythos erhalten haben, ist öffentlich nicht bestätigt. Die jüngsten Aussagen von BNP Paribas und Mistral deuten jedoch darauf hin, dass europäische Institute weiter nach Alternativen suchen. Anthropic-Konkurrent OpenAI hat ein eigenes Modell für Cybersicherheit vorgestellt, auf das auch einige europäische Unternehmen Zugriff haben. Mit dem Pariser KI-Start-up Mistral entsteht nun offenbar auch eine europäische Antwort auf das Problem. Die Partnerschaft zwischen Mistral und BNP Paribas geht auf das Jahr 2023 zurück. Mit der Verlängerung werde die Zusammenarbeit laut Unternehmen über den bloßen Zugang zu großen Sprachmodellen hinaus ausgeweitet und umfasse auch Software, Lösungen sowie gemeinsame Forschungs- und Entwicklungsprojekte, schreibt BNP Paribas.

Weiterlesen

Der französische Bankenkonzern BNP Paribas und Mistral AI haben ihre KI-Partnerschaft um drei Jahre verlängert und auf neue Bereiche ausgeweitet. Auf einer gemeinsamen Pressekonferenz in Paris kamen die Partner auch auf KI-gestützte Bedrohungen für Banken zu sprechen. „Das eigentlich Neue ist die Geschwindigkeit, mit der wir Sicherheitslücken beheben müssen, sowie deren schiere Menge. Es werden sehr viele Schwachstellen gleichzeitig entdeckt“, sagte der IT-Chef von BNP Paribas, Marc Camus, laut Reuters. „Darauf müssen wir uns vorbereiten, und genau daran arbeiten wir mit Hochdruck.“

Konkrete Ankündigungen zur Zusammenarbeit im Bereich Cybersicherheit machten die Partner zwar nicht. Bloomberg berichtet jedoch, dass das Pariser KI-Start-up ein eigenes KI-Modell für Cybersicherheit entwickelt hat und mit europäischen Banken Gespräche über dessen Einsatz führe. Einer dieser Partner sei BNP Paribas. „Die Debatte dreht sich derzeit stark darum, ob Mythos für manche Banken zugänglich ist oder nicht. Dabei sollte man nicht vergessen, dass es auch andere Modelle anderer Unternehmen gibt“, sagte Camus. Europa sucht nach Alternativen zu Mythos Seit der Vorstellung von Mythos im April steht die Bankenbranche unter Zugzwang. Das KI-Modell von Anthropic soll Sicherheitslücken deutlich schneller erkennen können als bisherige Systeme und daraus teils auch mögliche Angriffspfade ableiten. Über die Initiative „Project Glasswing“ erhielten zunächst vor allem US-Partner Zugriff, darunter große Tech- und Sicherheitsunternehmen sowie mehrere US-Banken, um kritische Software abzusichern, bevor vergleichbare Fähigkeiten breiter verfügbar werden. Ob und in welcher Form inzwischen auch europäische Banken direkten Zugang zu Mythos erhalten haben, ist öffentlich nicht bestätigt. Die jüngsten Aussagen von BNP Paribas und Mistral deuten jedoch darauf hin, dass europäische Institute weiter nach Alternativen suchen. Anthropic-Konkurrent OpenAI hat ein eigenes Modell für Cybersicherheit vorgestellt, auf das auch einige europäische Unternehmen Zugriff haben. Mit dem Pariser KI-Start-up Mistral entsteht nun offenbar auch eine europäische Antwort auf das Problem. Die Partnerschaft zwischen Mistral und BNP Paribas geht auf das Jahr 2023 zurück. Mit der Verlängerung werde die Zusammenarbeit laut Unternehmen über den bloßen Zugang zu großen Sprachmodellen hinaus ausgeweitet und umfasse auch Software, Lösungen sowie gemeinsame Forschungs- und Entwicklungsprojekte, schreibt BNP Paribas.

Darknet Diaries Deutsch: Kids ohne Skrupel - Teil 2

Dies ist der zweite Teil von „Kids ohne Skrupel". Wenn Ihr Teil eins noch nicht gehört habt, fangt am besten da an. Im Englischen Original von Jack Rhysider trägt diese Episode den Namen „Dirty Coms“.

Die deutsche Produktion verantworten Isabel Grünewald und Marko Pauli von heise online. Der Podcast erscheint wöchentlich auf allen gängigen Podcast-Plattformen und kann hier abonniert werden.

JACK: Mein Gast ist „Drew" – ein junger Mann, der als Teenager tief in die Welt der Online-Untergrund-Communities abgerutscht ist. Er gibt uns einen schonungslosen Einblick in die Szene rund um Hacker, Betrüger und digitale Schwarzmärkte. Drew erzählte uns in der ersten Folge, wie er mit dreizehn Jahren über Roblox und dubiose Robux-Deals in kriminelle Kreise geriet, sich an Geschenkkarten-Phishing beteiligte und auf dem berüchtigten Forum OGUsers mit dem Handel gestohlener Benutzernamen Geld verdiente. Dabei wurde er selbst mehrfach gedoxxt, erpresst und zweimal mit 10.000 USPS-Kartons vor seiner Haustür zugemüllt – eine beispielhafte Geschichte, für den schonungslosen Umgang Krimineller untereinander. In Teil 1 haben wir gehört, wie Drew Schritt für Schritt in diese toxische Welt hineingezogen wurde, welche Lektionen er über Opsec und Vertrauen im Netz gelernt hat, und warum er diese Szene heute dokumentieren und offenlegen will. Jetzt in Teil 2 wird es konkreter – denn Drew fängt an, Namen zu nennen und Methoden zu enthüllen, mit denen in diesen Communities richtig viel Geld gemacht wird.

Das Geschäft mit dem SIM-Swapping

DREW: Lass mal überlegen. Was habe ich Kids in letzter Zeit tun sehen?

JACK: Lass uns doch beim SIM-Swapping einsteigen.

DREW: Wir können über SIM-Swapping sprechen.

JACK: Okay, also ihr wisst vielleicht, was SIM-Swapping ist, aber falls nicht, erkläre ich es ganz schnell. SIM-Swapping ist, wenn du die Telefongesellschaft austrickst, damit sie eine fremde Handynummer auf dein Telefon beziehungsweise Deine SIM-Karte überträgt. Wenn man zum Beispiel sein Handy verliert und ein neues bekommt, muss man der Telefongesellschaft sagen, dass man ein neues Telefon hat und dass die Nummer darauf funktionieren soll. Eigentlich sollte es nicht möglich sein, dass jemand einfach deine Telefonnummer übernimmt, aber es gibt Wege, wie das gemacht werden kann. Der erste Weg ist ziemlich offensichtlich.

DREW: Man sucht sich einen Insider in diesen Unternehmen, normalerweise einen – wie wir ihn nennen – „Manny“ oder Manager, der einem seine Zugangsdaten gibt oder einfach SIM-Swaps durchführt, wenn niemand hinschaut, als wäre es ein imaginärer Kunde. Diese Insider werden häufig mit etwa 10.000 Dollar pro Swap bezahlt. So hat das SIM-Swapping angefangen.

JACK: Okay, das ist also eine Möglichkeit, einen SIM-Swap durchzuführen. Wenn man Filialleiter eines Handyladens ist, hat man natürlich die Möglichkeit dazu. Wenn man das für eines dieser Kids macht, kann man richtig viel Geld verdienen, locker über 1.000 Dollar pro Nummer. Vielleicht sogar 10.000 Dollar pro Nummer. Aber es gibt eine neue Methode, wie diese Kidsr das machen, und die ist irrsinig, geradezu brutal.

DREW: Da ist es nicht so, dass man nicht die Telefongesellschaft anruft; die neue Methode nennt sich Remo-Snatching. Remo ist die Abkürzung für Remote-Tablet. Man geht also zum Beispiel zu T-Mobile. T-Mobile ist derzeit das einfachste Ziel. Man geht in einen T-Mobile-Laden, rennt rein, reißt dem Filialleiter das Tablet aus den Händen und rennt wieder raus.

JACK: Alles klar. Wenn man das Tablet des Filialleiters hat, ist das das Gerät, das autorisiert ist, Telefonnummern zu übertragen. Es macht also Sinn, dass man durch den Diebstahl einen SIM-Swap bei jemandem durchführen kann. Aber halt, ganz so einfach ist es nicht. Gehen wir einen Schritt zurück und zwar einen großen Schritt zurück. Zuerst muss man wissen, bei wem es sich lohnt, einen SIM-Swap durchzuführen. Das Ziel zu identifizieren, kann lange dauern, und dafür sind viele Schritte nötig, und die möchte ich hier aufschlüsseln. SIM-Swapping war schon ein paar Mal Thema in den US-Darknet Diaries, zum Beispiel in den Episoden The Pizza Problem und Tennessee. Das sind zwei Geschichten, in denen Leute ins Visier genommen wurden, einfach weil sie wertvolle Benutzernamen auf Instagram und Twitter hatten. Okay, das wäre also ein Grund, jemanden ins Visier zu nehmen: um die Kontrolle über seinen Benutzernamen zu erlangen und ihn auf OGUsers für ein paar tausend Dollar zu verkaufen. Aber ich habe das Gefühl, das ist mittlerweile ein alter Hut. Es gibt eine ganz neue Verbrechenswelle, die da über uns rollt.

DREW: Die Leute führen einen SIM-Swap für Bankzugänge durch – also Bank-Logins –, über die sie Geld überweisen oder eine Überweisung vornehmen.

JACK: Okay, also Bank-Daten; obwohl das in dieser Community ein großes Ding ist, ist es wirklich schwer, sowas tatsächlich durchzuziehen. Zuerst muss man ein gültiges Login für den Benutzer herausfinden, und woher man Passwörter bekommt, darauf kommen wir später. Aber nehmt für den Moment einfach an, dass wir einen funktionierenden Benutzernamen und ein Passwort für ein Bankkonto haben. Wir loggen uns also in das Konto ein.

DREW: Aber es gäbe keine Möglichkeit, das Geld abzuheben, denn dafür müsste man ein Einmalpasswort oder eine Einmal-PIN erhalten. Also versuchen sie, die SIM-Karte der Person zu tauschen, um an den Einmal-Code zu kommen. SIM-Swapping bei Banken ist eigentlich ein verrücktes Unterfangen, denn es liegt zwar eine Menge Geld auf Bankkonten, aber man braucht auch praktisches Wissen über Geldwäsche, da man buchstäblich das Geld der Person stiehlt und einen Weg finden muss, damit es nicht zu einem zurückverfolgt werden kann. Das ist natürlich extrem schwierig.

JACK: Richtig, während es also einige wirklich clevere Leute gibt, die in diesem Bereich mitmischen, ist das einfachere Ziel, es auf Leute abzusehen, die Kryptowährungen haben. Denn mit Kryptowährungen ist es kinderleicht, das ganze Geld in einer Wallet zu schnappen und es einfach an einen Anonymisierungsdienst wie Tornado Cash zu senden und auszahlen zu lassen. Da das aber so ein lohnendes Ziel ist, sind allerhand Leute hinter Kryptowährungen her. Wie auch immer, es ist für diese Kids sinnvoll, Leute mit prall gefüllten Krypto-Wallets ins Visier zu nehmen, aber wie findet man jemanden mit einer fetten Krypto-Wallet? Nun, das erfordert eine ganze Reihe von Schritten.

DREW: Es handelt sich also um einen riesigen Markt, der ziemlich im Verborgenen stattfindet. Die Leute nutzen sogenannte „Combo-Listen“, also im Grunde durchgesickerte Datenbanken mit Passwörtern und E-Mail-Adressen, wobei die Passwörter natürlich entschlüsselt wurden, etwa mit RainbowCrack oder John the Ripper. Sie lassen diese Daten durchlaufen und suchen nach sogenannten „Commons“, also Passwörtern, die auf mehreren Websites verwendet werden.

JACK: Okay, ihr habt hier ja schon öfter von großen Websites gehört, die von Datenlecks betroffen sind, wo die gesamte Benutzerdatenbank gestohlen wird. Wenn man Kunde auf einer dieser Seiten ist, zuckt man vielleicht einfach mit den Schultern, ändert vielleicht sein Passwort und macht weiter, in der Hoffnung, dass nichts auf einen zurückfällt, oder? Nun, solche Daten sind in diesen Kreisen Gold wert. Zuerst kann man auf eine Seite wie raidforums.com oder nulled.2 oder cracked.2 gehen. Seiten, die Tonnen von kompletten Datenbank-Leaks posten. Es kostet vielleicht ein paar Dollar, um ranzukommen, aber man kann sich die dann direkt dort herunterladen. Wir sprechen von großen Websites, die gehackt wurden; und deren Datenbanken liegen genau dort, leicht zu schnappen, Seiten wie Adobe, die Alaska-Wählerdatenbank. Es gibt dort anscheinend eine Apple-Datenbank. Adult Friend Finder, die Android-Foren, und das ist nur ein kleiner Auszug aus den A's. In diesen Datenbank-Dumps können eine Menge Infos sein, enthalten typischerweise enthalten sie aber den Namen einer Person, ihren Benutzernamen, ihre E-Mail, vielleicht ihre Telefonnummer, vielleicht ihre Adresse und ihr Passwort. Aber ihr Passwort ist in der Datenbank typischerweise gehasht, was bedeutet, dass man nicht wirklich sehen kann, wie es lautet.

Datenlecks als Schatzkarte für Hacker

Ab hier kommen Tools ins Spiel, die Passwort-Hashes knacken können. Es ist schwer, einen einzelnen Hash zu knacken, aber wenn es das ist, was man haben will und man gleichzeitig also hundert Millionen Datensätze in der Adobe-Datenbank hat, dann wird man wahrscheinlich einige Hashes finden können, die nicht besonders stark sind. Für diese Leute hat man dann gültige Benutzernamen und Passwörter. Jetzt nimmt man diesen Benutzernamen oder diese E-Mail-Adresse und gleicht sie mit anderen Datenlecks ab. Verwendet diese Person Passwörter wieder? Gibt es Benutzernamen und Passwörter im Adobe-Leak, die auch bei Netflix funktionieren? Die Antwort ist immer: Leider ja. Viele Leute suchen sich einfach ein Passwort aus und verwenden das dann auf allen Seiten, auf denen sie Konten haben. Nur durch das Knacken eines Datenbank-Dumps hat man nun also Zugriff auf das Netflix-Konto von jemandem, und schon das eröffnet einen völlig neuen, riesigen Markt in den Untergrund-Communitys. Die Leute kaufen Netflix-Konten für jeweils 2,50 Dollar, weil das offensichtlich viel billiger ist, als die 18 Dollar im Monat für ein Premium-Abonnement zu bezahlen.

DREW: Okay, übertragen wir das mal auf Walmart, Chipotle, Nordstrom, OnlyFans, Surfshark, NordVPN, Macy’s Credit, Buffalo Wild Wings und Papa Johns.

JACK: Es gibt Seiten, auf die man gehen kann, um Benutzerkonten für jede dieser Websites zu kaufen. Man bekommt vielleicht sogar ein Kombipaket für einen Haufen Logins, sagen wir 10 Dollar für das ganze Paket. Aber Moment, ihr fragt euch vielleicht, warum jemand ein Login für eine Restaurantkette wie Chipotle kaufen wollen würde? Nun, willkommen beim Fall der mysteriösen Burrito-Bestellungen, von dem Leute im Chipotle-Subreddit berichten. Man kann eine Chipotle-App auf sein Telefon herunterladen und sie nutzen, um Essen zu bestellen, aber die App ist oft mit der Kreditkarte verbunden. Man kann also das Chipotle-Konto von jemand anderem nutzen, um einen Burrito für sich selbst zu bestellen, und dann bezahlen die anderen dafür. Das Gleiche gilt für Papa Johns; kostenlose Pizza, wenn man ein gültiges Login für das Konto von jemand anderem hat. Das führt uns in die Welt der Pizza-Plugs, die ich schon eine Weile genau beobachte.

Es ist fast schon ein Mythos. Es gibt diese Chatrooms, in die man gehen und eine Essensbestellung aufgeben kann, wie zum Beispiel drei große Pizzen, und jemand im Chatroom nimmt die Bestellung an und verlangt vielleicht 5 Dollar von dir. Dann nutzen sie das gestohlene Pizza-Konto, um sich einzuloggen, die Bestellung aufzugeben und dir dann die Pizza zu schicken. Es hat sie 2 oder 3 Dollar gekostet, das Konto zu kaufen; sie verdienen 5 Dollar damit. Du bekommst drei Pizzen für 5 Dollar, und oh, der Kontoinhaber ist derjenige, der dafür bezahlt. Ich sage euch, das geht so viel tiefer, als ich Zeit dafür habe. Oh, und der Slang für den Kauf und Verkauf dieser gültigen Logins ist einfach Logs. Es gibt also einen Haufen Leute da draußen, die Datenbank-Dumps durchsuchen und versuchen, gültige Logs für so viele Orte wie möglich zu finden, damit sie diese Logs mit Gewinn verkaufen können.

DREW: Apple-Logs kannst du für bis zu 50 Dollar verkaufen, denn die Leute können mit deiner verknüpften Apple-Kreditkarte ein paar MacBook-Bestellungen aufgeben. Wenn du davon zehn Bestellungen pro Tag bekommst, sind das 500 Dollar am Tag.

JACK: Ein wirklich beliebtes Login im Moment sind Hilton Honors Logins, weil dir diese Logs ein paar kostenlose Übernachtungen in einem schicken Hotel bescheren können. Okay, also gibt es zwei Arten von Konten, die man bekommen kann; FA und NFA. Das heißt, Full Access (Vollzugriff) und Non-Full Access (kein Vollzugriff). Alle Konten, die wir gerade aufgelistet haben, sind im Grunde NFA, kein Vollzugriff. Ein Konto mit Vollzugriff ist eines, das all diese gültigen Logins hat, plus ein gültiges E-Mail-Konto-Login. Das bedeutet also, wenn man in das Outlook oder Gmail von jemandem hineinkommt, dann kann man ganz einfach das Passwort für jedes dieser anderen Konten zurücksetzen, in das man hinein will. Es gibt einem wirklich vollen Zugriff auf das digitale Leben von jemandem, und es gibt ein kleines Tool, das Leute benutzen, mit dem sie, sobald sie im E-Mail-Konto von jemandem sind, schnell alle E-Mails durchsuchen können, um zu sehen, ob es in diesen E-Mails wertvolle Informationen gibt.

DREW: Das Programm, das das macht, heißt Yahoo Arranger. Es sucht automatisch nach Schlüsselbegriffen innerhalb von Yahoo oder den Websites, von denen man wissen will, ob sie dort angemeldet sind. Wenn man also sehen will, ob sie bei Amex oder Bank of America oder Chipotle angemeldet sind, nutzt man einfach Yahoo Arranger und schaut nach.

JACK: Verrückt, oder? Aber es ist wirklich nicht so komplex, wenn man auch keine FA-Konten hat. Man kann einfach einen Datenbank-Dump nehmen und ihn in eine Combo-Liste umwandeln; das ist nur eine formatierte Liste, die Benutzername und Passwort anzeigt, und man könnte diese Combo-Liste nehmen und hätte ein Tool bauen, das einfach automatisch versucht, sich bei unzähligen Seiten einzuloggen, um zu prüfen, ob das Passwort irgendwo funktioniert.

DREW: Dann nutzen sie Software wie Sentry NBA, OpenBullet oder SilverBullet, um damit automatisch all diese Combo-Listen zu überprüfen. Das ist also kein manueller Prozess, und er läuft mit wahrscheinlich 5.000 CPM, was bedeutet, dass er oft mit 5.000 Versuchen pro Sekunde läuft. Die Leute verkaufen schätzungsweise bis zu 5.000 Logs am Tag in ihren Shops. Ich persönlich kann sehen wie viel Bestand ein Shop hat, also kann man erkennen, wie viele Verkäufe man pro Tag erzielt. Ich habe gesehen, wie Leute bis zu 10.000 Konten pro Tag für 3,50 Dollar pro Konto verkauft haben; 35.000 Dollar.

JACK: Okay, jetzt sollte klar sein, wie jemand an einen Haufen gültiger Logins für verschiedene Seiten kommen kann. Aber eigentlich wollte ich das alles nur sagen, weil das euch helfen wird zu verstehen, wie wir jemanden finden, der eine Menge Kryptowährung hat, um ihn ins Visier zu nehmen.

DREW: Die beliebteste Datenbank, die ich in meinen Jahren hier je gesehen habe, ist die Ledger-Datenbank. Ledger ist ein Unternehmen, das physische Cold-Wallet-Speicher für Bitcoin anbietet. Denn, was sagt es über jemanden aus, wenn er eine Ledger-Wallet kauft? Es bedeutet, dass er oder sie Bitcoin hat. Das macht diese Personen zu deiner perfekten Zielgruppe für Kryptowährungen.

JACK: Oh, sehr interessant. Ledger ist eine physische Krypto-Wallet, und im Jahr 2020 wurde deren Benutzerdatenbank gehackt. Fünf Monate später wurde die Datenbank in Raid-Foren gepostet. In der Datenbank befinden sich E-Mail, Name, physische Adresse und Telefonnummer. Es waren aber keine Passwörter oder Krypto-Schlüssel dabei. Aber man kann natürlich die E-Mail-Adresse aus der Ledger-Datenbank nehmen und abgleichen, ob sie mit E-Mails in einer anderen Datenbank übereinstimmt, und dort kann man dann nachschauen, ob es bekannte Passwörter für diese E-Mail-Adresse gibt. Dann kann man versuchen, diese E-Mail-Adresse und das Passwort bei Coinbase oder Binance oder Kraken oder FTX oder Gemini oder irgendeiner Krypto-Börse einzugeben, um zu sehen, ob es ein gültiges Login ist. Das sind alles Krypto-Börsen, wo Leute ihre Kryptowährung aufbewahren. Wenn man den Benutzernamen und das Passwort von jemandem bei einer Krypto-Börse kennt, bedeutet das natürlich echten Ärger für ihn. Aber es gibt ein paar Sicherheitsprüfungen, die diese Börsen eingerichtet haben, um Kids wie diese zu bremsen. Erstens ist es schon sehr viel wert, nur zu wissen, ob die Person zum Beispiel bei Coinbase registriert ist. Vergesst das Passwort für eine Sekunde; einfach nur, ist diese E-Mail hier überhaupt registriert?

Wenn man die E-Mail-Adresse von jemandem und ein falsches Passwort eingibt, gibt es keinen Hinweis darauf, ob diese E-Mail dort registriert ist oder nicht. Wenn man jedoch versucht, sich für ein neues Konto mit einer E-Mail-Adresse anzumelden, die bereits existiert, dann Bingo. Coinbase lässt sich in die Karten schauen und sagt, dass diese E-Mail hier bereits registriert ist. So kann jemand den Ledger-Datenbank-Dump nehmen und herausfinden, wer Konten bei Coinbase oder Gemini oder Kraken oder Binance oder wo auch immer hat, und das dann mit anderen Datenbank-Dumps abgleichen, um herauszufinden, wie das Passwort für diese Konten lautet.

Wenn nun ein Dieb eine gültige E-Mail und ein Passwort für dein Krypto-Konto hat, steht ihm immer noch eine große Hürde im Weg; 2FA. Alle Krypto-Börsen verlangen, dass man die Zwei-Faktor-Authentifizierung aktiviert. Sie empfehlen, sich so etwas wie Google Authenticator oder Authy zu besorgen. Das sind Apps auf deinem Handy, die eine sechsstellige Nummer generieren, die du brauchst, um dich einzuloggen. Aber als absolutes Minimum schicken sie dir zur 2 Faktor Authentifizierung eine SMS mit einem sechs- oder siebenstelligen Code zum Einloggen. Ein Benutzername und ein Passwort allein reichen also nicht aus, um in das Krypto-Konto von jemandem zu gelangen. Man braucht auch diesen 2FA-Code. Die große Mehrheit der Coinbase-Nutzer verwendet solche SMS-Codes. Und Ihr ahnt, wo wir jetzt angekommen sind?

DREW: Viele Leute auf Coinbase besitzen Millionen von Dollar, daher diese Welle von SIM-Swapping. Dafür nutzen sie allgemeine Daten aus Datenbanken, verschaffen sich Zugang zu Coinbase – das läuft alles automatisiert ab – und erhalten dann Zugriff auf das Guthaben; sie haben einen SIM-Swap durchgeführt. Das ist enorm profitabel - profitabler geht's derzeit wahrscheinlich nicht.

JACK: Zu diesem Zeitpunkt haben wir genug Informationen, um das Ziel per SIM-Swap anzugreifen. Wir wissen, dass sie eine Ledger-Wallet haben und wir wissen, dass sie ein Coinbase-Konto haben, und wir haben ihren Benutzernamen und ihr Passwort. Alles, was jetzt noch nötig ist, ist, die Kontrolle über ihre Telefonnummer zu übernehmen, damit wir die SMS empfangen können, um uns einzuloggen. Aber obwohl das vielleicht ausreicht, um jemanden per SIM-Swap anzugreifen, gehen die Diebe noch einen Schritt weiter und versuchen herauszufinden, wie viel auf dem Konto ist, bevor sie jemanden per SIM-Swap angreifen.

DREW: Ob du's glaubst oder nicht, aber es gab etwa einen Monat lang eine Sicherheitslücke bei Coinbase, durch die man den Kontostand jedes beliebigen gültigen Benutzernamens und Passworts abrufen konnte. Das ging einfach – egal wie. Man brauchte keinerlei Zugriff außer Benutzername und Passwort. Man musste also keine SIM-Karte nachahmen, um den Kontostand zu sehen. Also haben die Leute einfach Millionen und Abermillionen von Kombinationen durchgespielt, eine Kombinationsliste bei Coinbase, und haben einfach die Millionäre von Coinbase gefunden. Und von diesen gibt es offensichtlich Millionen.

JACK: Das heißt, wenn man nur einen gültigen Benutzernamen und ein Passwort hatte, konnte man sehen, wie viel auf dem Coinbase-Konto des Benutzers war. Dadurch ist es dann sonnenklar, wen genau man für einen saftigen SIM-Swap ins Visier nehmen sollte. Aber man braucht immer noch diesen 2FA-Code, um reinzukommen und das Geld zu holen. Es war nur so, dass man ihn eine Zeit lang nicht brauchte, um das Guthaben zu sehen. Bleeping Computer veröffentlichte im Oktober 2021 einen Artikel, in dem stand, dass die Krypto-Wallets von 6.000 Coinbase-Kunden aufgrund einer Schwachstelle im 2FA-System leergeräumt wurden. Ich bin mir ziemlich sicher, dass es um diesen Bug geht, den Drew gerade erwähnt hat. Genau zu wissen, wie viel Geld jemand auf seinem Konto hat, ist entscheidend, um so einen SIM-Swap wirklich erfolgreich zu machen.

Es gibt noch ein letztes Detail zu Coinbase; wenn man einen gültigen Benutzernamen und ein Passwort hat und sich einloggt, sieht man, ob dieser Nutzer SMS-2FA nutzt oder so etwas wie Google Authenticator hat, weil die Seite einem sagt, nach welchem Code sie sucht. Die große Mehrheit der Coinbase-Nutzerinnen und Nutzer verwendet textbasierte 2FA, also SMS. Es kann jetzt immer noch das eine Problem geben, dass der Angreifer die Telefonnummer nicht kennt. Manchmal haben die die einfach noch nicht, und wenn man jemanden per SIM-Swap angreifen will, braucht man genau diese Telefonnummer, nicht wahr? Aber da steht direkt auf der Seite ein Hinweis, und der zeigt die letzten beiden Ziffern der Telefonnummer an, und da steht ausdrücklich: Gib den siebenstelligen Code ein, den wir gerade an sowas wie xxx-xxx-xx37 gesendet haben. Dieser kleine Hinweis, nur zu wissen, was die letzten beiden Ziffern der Telefonnummer sind, reicht diesen Dieben schon aus, um die vollständige Telefonnummer zu bekommen.

DREW: Also, normalerweise geht das so: Finde ihren Namen, ihren ungefähren Standort, ihre Telefonnummer. Es gibt eine Million Möglichkeiten, das zu tun. Mein Rat wäre: entschlüssle die E-Mail, die Sicherheitsvorkehrungen waren wahrscheinlich nicht besonders gut, sonst wären ihre Passwörter nicht durchgesickert. Darin findest du ihre IP-Adresse oder etwas anderes, mit dem du ihren Standort ungefähr bestimmen kannst. Führe dann eine Personensuche auf White Pages oder BeenVerified in diesem Gebiet mit ihrem Namen durch, und du wirst ihre Telefonnummer finden, die mit den letzten beiden Ziffern des Hinweises übereinstimmt.

JACK: Okay, so wählen diese SIM-Swapper also ihre Ziele aus. Zu diesem Zeitpunkt kennen sie den Benutzernamen, das Passwort, die Telefonnummer und den Kontostand, um zu wissen, ob sie einen dicken Fisch an der Angel haben. Oh, und man kann schnell nachschauen, zu welcher Art von Anbieter die Telefonnummer gehört, damit man den SIM-Swap beim richtigen Anbieter durchführen kann. Aber das ist ein großer Vorbereitungsprozess, nur um herauszufinden, wer unser SIM-Swapping-Ziel sein wird. Es ist sogar so viel Arbeit, dass dies, zumindest in den USA, ein ganz eigener Markt ist. Allein eine Liste von Zielen zu identifizieren und diese Informationen zu verkaufen, ist ein eigenes Geschäft. Obwohl es also nach viel Arbeit aussieht, könnte jemand einfach hier einsteigen, die Daten kaufen und einen SIM-Swap durchziehen. Okay, jetzt sind wir bereit für das große SIM-Swap-Event. Ihr erinnert euch, wie der Prozess anfing, oder?

Physischer Angriff für digitalen Profit

JACK: Jemand rannte in einen T-Mobile-Laden, riss dem Filialleiter das Tablet aus den Händen und rannte wieder raus. Das nennt sich hier ein Remo, Remote-Tablet-Grab. Aber wir sind immer noch nicht bereit für diesen Teil. Bevor man nämlich das Tablet des Managers stiehlt, braucht man das Passwort des Managers, das auf dem Tablet ist, richtig? Man muss also den Laden auskundschaften, alles über den Manager herausfinden, was man kann, um Social Engineering bei ihm anzuwenden.

DREW: Einfach den Manager anrufen und eine Rolle einnehmen: Hey, hier ist John vom Help Desk bei T-Mobile. Kannst du dich bitte um dieses Ticket kümmern? Dann schicken sie schicken eine gefälschte URL, und er gibt sein Manager-Login ein.

JACK: Okay, jetzt hat man also das Passwort des Managers, um sich in das Tablet einzuloggen, und wir wissen, wie man an das Tablet kommt. Und das ist tatsächlich ein großes Problem, das T-Mobile zu bekämpfen versucht, und es kursieren derzeit interne Memos mit Anweisungen, was zu tun ist, wenn das in deinem Laden passiert. Eine Anweisung ist, sofort das IT Help Desk anzurufen, um das Tablet und das Manager-Konto deaktivieren zu lassen. Das dauert insgesamt typischerweise etwa zehn Minuten. Wir müssen also wieder einen Schritt zurückgehen, denn wir haben nur dieses Zehn-Minuten-Fenster, und wir müssen alles in diesem Zeitraum erledigen. Wir müssen also vorbereitet sein, und wir haben unsere Vorbereitungen noch nicht getroffen. Was ihr hier wissen müsst, ist, dass das nicht von einer Person gemacht wird; der Dieb, der in den Laden rennt, ist nur ein Bauer in diesem Spiel.

DREW: Die auf Telegram sie nicht die Art von Leuten, die in einen Laden rennen. Sie bezahlen irgendjemanden, den sie im echten Leben kennen, damit er für sie in den Laden rennt.

JACK: Die Person, die reinrennt, das Tablet schnappt und wieder rausrennt, wird auf der Liste hier wirklich am schlechtesten bezahlt.

DREW: Verdient wahrscheinlich 200 Dollar, Bro. Ich hab's gesehen, dass das so ist.

JACK: Sie zahlen also 200 Dollar dafür, dass jemand reingeht, das Tablet schnappt und es ihnen wieder rausbringt. Sie müssen in der Nähe sein, denn ihr erinnert euch, sie haben nur zehn Minuten Zeit dafür. Die Person, die das Tablet am Ende in den Händen hält, ist also besonders geschickt darin, durch die T-Mobile-Software zu navigieren, um den SIM-Swap durchzuführen. Das liegt vielleicht daran, dass sie vorher im Laden gearbeitet hat oder ein Video gesehen hat, wie es gemacht wird. Aber trotzdem ist die Person, die tatsächlich auf dem Tablet tippt und den SIM-Swap durchführt, noch immer nicht dieselbe Person, die die Kryptowährung von den Coinbase-Nutzern stehlen wird. Das ist eine ganz andere Gruppe von Leuten, die all diese Coinbase-Logs gesammelt haben und darauf warten, dass jemand einen Remo macht. Sie organisieren sich alle in einem Telegram-Chatroom, und sie sind bereit, einer Person für einen Remo-Swap manchmal 10.000 Dollar pro Nummer zu zahlen.

Nur um noch mal sicher zu gehen, diese Leute sind in diesem Telegram-Kanal und sagen: Okay, ich hoffe, jemand zieht heute Abend einen Remo durch ich habe drei Konten, die ich knacken will. Dann ist alles, was man tun muss, diese Telefonnummer an die Person weiterzugeben, die den Remo durchführt, richtig?

DREW: Perfekt, Mann. Du klingst jetzt wie ein echter Swapper. Du benutzt unseren Slang.

JACK: Die Leute sind also auf Telegram und es ist Freitagabend, Samstagabend, und jemand sagt: Okay, ich glaube, wir versuchen es. Sie sagen der Gruppe: Ich fahre da runter, ich versuche, das Tablet zu schnappen. Ich bin bereit.

DREW: Es ist echt intensiv.

JACK: Ja, da sind all diese Leute, sie schließen ihre Zimmertüren ab. So nach dem Motto: Komm nicht rein, Dad, ich bin heute Abend beschäftigt. Komm nicht ins Zimmer, was auch immer du tust. Und dann sagen die Eltern so: Okay, wir geben dir etwas Zeit. [LACHT].

DREW: Oh, definitiv. Ich weiß, wovon du sprichst. Das passiert; Leute sagen wirklich: Oh, ich kann jetzt nicht. Ich muss Abendessen.

JACK: Ja.

DREW: Da denkt man sich: Mann, wir haben buchstäblich zehn Minuten Zeit, um das zu tun. Da ist keine Zeit fürs Abendessen. Es ist entweder Abendessen oder 100.000 Dollar. Du entscheidest.

JACK: Ja.

DREW: Das ist wirklich – das ist keine Übertreibung – so ist es wirklich manchmal. Unsere Remos sind so kurz.

JACK: Das ist es, was ich mir so gerne vorstelle, die tatsächliche Person hinter dem Bildschirm, und wenn das ein Teenager ist, dann ja, dann besteht diese Möglichkeit, dass alles in jeder Sekunde schiefgeht, weil der bei seinen Eltern wohnt und sein Zimmer aufräumen muss. Aber gut, zurück zur Geschichte, sie sind bei Telegram, sie bekommen die Nachricht: Okay, ich habe den Remo. Was hast du gesagt, 10.000 Dollar pro Nummer?

DREW: Also, nach nach Anbieter aufgeschlüsselt sieht es so aus: Bei T-Mobile kostet ein Swap etwa 5.000 Dollar. Wenn es sich um ein Betrugsopfer handelt, kostet es dich 7.500 Dollar. Ein Betrugsopfer verfügt über spezielle Schutzmaßnahmen für sein Konto, die jedoch immer noch umgangen werden können. Verizon wird dich wahrscheinlich mehr als 50.000 $ kosten. Verizon ist extrem gut gesichert, aber mit der richtigen Ausrüstung ist es trotzdem möglich. Du brauchst zum Beispiel den Login eines Filialleiters, was eine sehr hohe Position ist. Du musst also in der Lage sein, diesen Verizon-Manager ordentlich zu bezahlen, und du kannst das System nicht hacken. Das geht nicht – so sieht es zumindest derzeit aus. Man braucht einen Insider. Man darf ihn natürlich nicht verraten oder so. Bei AT&T sinken die Preise auf 2.000 bis 3.000 $, weil ihr Opus-Tool nicht allzu sicher ist.

JACK: Okay, diese Person, die den Remo-Snatch durchführt, lässt also alle Stunden vorher wissen, dass sie plant, an diesem Abend einen Remo zu machen.

DREW: Der Activator ist die Person, die den Remo-Snatch koordiniert.

JACK: Der Activator teilt also allen im Discord-Kanal mit, dass sie den Remo haben und bereit für Aufträge sind. Die Leute auf Telegram fangen sofort an, ihm Informationen zu geben; Telefonnummer und ICC-ID. Das ist alles, was sie brauchen, um den Prozess zu starten, bei dem die Telefonnummer vom Telefon des Kunden auf das Telefon des Diebes in Telegram zu übertragen. Es sind intensive zehn Minuten. Die Zeit tickt und jeden Moment kann dieses Tablet deaktiviert werden, also müssen sie so schnell wie möglich arbeiten und in diesem Zeitraum so viele Nummern wie möglich austauschen. An einem guten Abend kann ein Activator damit über 100.000 Dollar verdienen.

DREW: Ja, an diesem Punkt gehst du einfach hin und machst deinen Lick.

JACK: Mehr Slang.

DREW: Ein „Lick“ ist, wenn man jemanden ausnimmt, das ist also einfach ein „erfolgreicher Log“ – in unserem Slang bedeutet „Log“ also „Login“. Wenn man also einen „Lick“ landet, bedeutet das, dass man das Guthaben der anderen Person abgehoben hat. Es gehört dir; du hast gewonnen. Es gibt also mehrere Möglichkeiten, diesen Slang zu verwenden. Man könnte sagen: „Diese Person sieht nach einem Lick aus.“ Mit anderen Worten: Diese Person sieht nach einem leichten Ziel aus. Man könnte sagen: „Ich habe heute einen Lick gelandet“, was bedeutet, dass ich eine erfolgreiche Abhebung von einem Coinbase-Konto durchgeführt habe.

JACK: Nun haben diese Jungs also die Kontrolle über die Telefonnummern ihrer Ziele, und müssen ab jetzt schnell wie möglich zu arbeiten.

DREW: Du schwitzt wie irre. Du gehst hin und setzt das Yahoo-Passwort zurück. Du bist über einen Proxy in ihrer Nähe verbunden, nutzt einen Residential-Proxy in der Nähe des Zielortes, loggst dich in ihr Yahoo-Konto ein und setzt das Passwort zurück, da es meistens nicht dasselbe ist wie das für Coinbase. Wir erhalten den Link zur Geräteauthentifizierung von Coinbase, während du immer noch am schwitzen bist. Dein Holder sollte die ganze Zeit über Codes erhalten; du schreist deinen Holder an, dir den Code sofort zu schicken, sonst wirst du ihn nicht bezahlen.

JACK: Was? Sorry, ein Holder ist was genau?

DREW: Ein „Holder“ ist jemand, der das Telefon, auf dem das Einmalpasswort eingeht, tatsächlich in der Hand hält. Meistens machen die Personen, die die Zieldaten und das Guthaben besitzen, das nicht selbst, da das die operative Sicherheit gefährden würde.

JACK: Heilige Scheiße.

DREW: Es gibt dafür spezielle Personen, die die Handys nur halten, damit die Person, die die Hinweise oder Ziele hat, nicht erwischt wird.

JACK: Oh Mann, da ist also auch noch ein Holder in die ganze Sache involviert. Ja, Holder werden einfach dafür bezahlt, dass sie diejenigen sind, die das Telefon gekauft haben und die Nummer darauf übertragen lassen. Okay, die Person, die den Lick machen will, fängt also vielleicht zuerst damit an, in die E-Mail des Opfers zu gehen und das Passwort zurückzusetzen. Bei vielen E-Mail-Anbietern wird dir eine SMS geschickt, um das Passwort zurückzusetzen. Der E-Mail-Anbieter schickt also die SMS und der Holder sagt der Person, wie die SMS lautet, und sie bekommen den Zugang zum E-Mail-Konto, und von dort aus versuchen sie, sich bei Coinbase einzuloggen. Nach Eingabe des Benutzernamens und Passworts wird eine SMS an das Telefon geschickt, das der Holder hat, und der Holder muss den Code an den eigentlichen Angreifer weitergeben. Der loggt sich nun bei Coinbase ein. Aber bei Coinbase gibt es typischerweise eine Prüfung, und dann steht da sowas wie: Wir erkennen dieses Gerät nicht. Wir senden dir eine E-Mail, um zu überprüfen, ob du es bist. Aber der Angreifer ist ja bereits in dem E-Mail-Konto des Opfers, also muss er nur auf die E-Mail warten und auf "Ja, ich bin's" klicken, und Coinbase lässt ihn rein. Jetzt ist er im Coinbase-Konto von jemandem, und dort liegen vielleicht 30.000, 100.000 oder manchmal sogar mehr als eine Million Dollar.

DREW: Anschließend überträgst du das Guthaben auf Coinbase Pro, damit du das Geld abheben kannst, und transferierst es dann in deine Exodus-, MetaMask- oder Electrum-Wallet.

JACK: Der Grund, warum sie es zu Coinbase Pro transferieren, ist, weil es dort ein höheres tägliches Abhebungslimit gibt. Aber dort gibt es auch eine Sicherheitsprüfung, bevor man da Geld abheben kann, eine weitere 2FA-Prüfung. Also muss man eine weitere SMS vom Holder bekommen, um die Überweisung einzuleiten. Aber da ist immer noch eine weitere Sicherheitshürde; Coinbase hat ein maximales tägliches Abhebungslimit, und manchmal haben die Leute mehr als das. Aber Drew sagt, das sei kein Problem.

DREW: Ja, es gibt ein paar Tricks. Die Leute nutzen Sicherheitslücken, über die ich nicht sprechen darf, aber ja, es gibt da Wege, 250.000 Dollar oder eine Million Dollar abzuheben. Man kann riesige Geldsummen abheben. Es gibt eine Methode, die jeder kennt und die ich dir verraten kann, ist, ein bestimmter Bot in einem Forum, der in der Lage ist, gleichzeitig eine Flut von Anfragen zu senden, um das System zu überlasten, sodass man eine Reihe kleinerer Transaktionen abwickeln kann. Aber es gibt auch andere Methoden, die direktere Sicherheitslücken ausnutzen.

JACK: Meine Güte, diese Kids haben echt gnadenlos entschlossen. Warum sollten sie das auch nicht sein, wenn es einen potenziellen Eine-Million-Dollar-Lick gibt, den sie damit abstauben können?

DREW: Die neue Generation der Krypto-Swapper – ich kenne da persönlich wahrscheinlich mindestens zehn Millionäre, die alle unter sechzehn sind und von denen ich mit Sicherheit weiß, dass sie nicht lügen; ich habe live gesehen, wie sie Transaktionen getätigt haben, und live miterlebt, wie sie Millionen-Dollar-Gewinne eingefahren haben. Was die ältere Generation angeht, diejenigen, die extrem früh dabei waren mit den verrückten 20-Millionen-Dollar-Zielen von Michael Turpin: Die haben 15 Millionen Dollar, 10 Millionen Dollar und sind in neuen Geschäften wie NFTs und Phishing tätig. Also wirklich high-level Sachen.

JACK: Okay, Michael Turpin ist ein Kryptowährungs-Investor, aber er hat auch ein paar Startups in diesem Bereich, wie Transform Group und BitAngels. Im Januar 2018 hat jemand die Schritte durchgeführt, die wir hier gerade erklärt haben, um sich in Turpins Krypto-Wallet zu hacken und Kryptowährungen im Wert von 23 Millionen Dollar daraus zu stehlen. 23 Millionen Dollar, in einer Nacht gestohlen. Und ihr wisst, sobald die Person das Geld hatte, musste sie all die Leute in der Kette bezahlen, die ihr geholfen haben, dorthin zu gelangen. In diesem Fall waren es Insider, die bei AT&T arbeiteten, die dabei halfen. Nun, einer der Typen, die 23 Millionen Dollar gestohlen hatten, war immer noch nicht glücklich. Er twitterte: Habe 23 Millionen Dollar gestohlen und kann mich trotzdem nicht von Drogen fernhalten. Habe 23 Millionen Dollar gestohlen und kriege mein Leben nicht auf die Reihe. Turpin ging natürlich zur Polizei, die anfing zu ermitteln und einige ziemlich handfeste Beweise finden konnte, die sie zu dem Urheber der Tweets namens Nicholas Truglia führten, der einundzwanzig war. Mastermind der Aktion war aber der erst 15-jährige Ellis Pinsky.

Weil er noch minderjährig war, konnte Ellis eine Verurteilung umgehen und das meiste Geld zurückgeben. Bei Nicholas war das anders: Gerichtsakten zeigen, dass er zum Zeitpunkt seiner Verhaftung über 70 Millionen Dollar an Vermögenswerten hatte. Er hatte sich schuldig bekannt und sollte zunächst nur 18 Monate absitzen und 20 Millionen Entschädigung an die Opfer zahlen. Weil er das nicht in der vorgegebenen Zeit tat, wurde er zu 12 Jahren Haft verurteilt. Was Michael Turpin betrifft, so war der richtig wütend, dass er 23 Millionen Dollar verloren hatte. Natürlich war er das, aber er hatte auch fünfzig andere Krypto-Konten und die waren alle in Ordnung, also bin ich mir nicht sicher, welcher Prozentsatz seiner Krypto-Gelder gestohlen wurde, aber er war auf jeden Fall so wütend, dass er sowohl Nicholas als auch AT&T verklagte. Er verklagte AT&T auf 200 Millionen Dollar und behauptete, die Person, mit der er am Telefon gesprochen hatte, habe gesagt, seine Telefonnummer sei sicher und könne nicht per SIM-Swap übernommen werden, und dennoch wurde sie es. Er wollte, dass AT&T zugibt, dass sie der Hauptgrund dafür sind, dass sein Geld gestohlen wurde. Der Richter wies den Fall jedoch ab. Aber Turpin verklagte auch den Hacker, Nicholas, und diese Klage gewann er. Der Richter sprach Turpin 75 Millionen Dollar zu. Während Turpin also 24 Millionen Dollar verlor, wurden ihm letztendlich 75 Millionen Dollar als Entschädigung zugesprochen. Wilde Sache.

Ellis Pinsky hat später übrigens Computer Wissenschaften und Philosophie an der NYU studiert und will mit seinen Jugendsünden nichts mehr zu tun haben.

DREW: Ein wichtiger Tipp für alle Krypto-Anleger da draußen oder alle, die Coinbase-Konten haben: Nutzt für verschiedene Zwecke jeweils eigene E-Mail-Adressen. Trennt eure private E-Mail-Adresse von der für eure Krypto-Investitionen.

JACK: Alles klar, das ist sinnvoll. Wir sind jetzt von "Verwendet keine Passwörter mehrmals" bei "Verwendet keine E-Mails auf hochkarätigen Konten wieder" gelandet. Wenn man eine E-Mail-Adresse hätte, die nur für die Krypto-Börse da wäre und man sie nirgendwo sonst nutzen würde, dann wäre es wirklich schwer, diese E-Mail-Adresse zu finden und sie zu knacken, denn schließlich braucht man einen Benutzernamen und ein Passwort, um in diese Börsen zu gelangen, also warum nicht den Benutzernamen wirklich schwer auffindbar machen? Wenn dein Benutzername Deine E-Mail-Adresse ist, die du für alles benutzt, dann ist das so, als würdest du jedem, mit dem du chattest, die Hälfte deines Logins geben. Wir sind jetzt die 100 Schritte durchgegangen, die es braucht, um jemanden per SIM-Swap anzugreifen und sein ganzes Geld zu stehlen. Das war alles andere als eine schnelle und einfache Methode, um reich zu werden. Es brauchte eine ganze Menge Recherche, um nur ein gutes Ziel zu finden, und das ist wichtig zu wissen, denn die Leute stellen mir ständig Fragen wie: Oh, wie gefährlich kann das sein, wenn ich mein Geburtsdatum auf meinem Facebook-Profil angebe? Sie erwarten irgendeine schnelle und einfache Möglichkeit, wie ein Hacker das gegen sie verwenden kann, aber es ist nicht immer schnell und einfach. Wenn diese Art von Kriminellen Wind davon bekommen, dass du etwas hast, was sie wollen, werden sie dein Leben auskundschaften und ein massives Dossier über dich anlegen, damit sie dein digitales Leben komplett übernehmen und zu dir werden können.

Jeder kleine Fetzen zusätzlicher Information, den sie über dich bekommen können, kann für sie potenziell zum massiven Zahltag werden. Wenn irgendeine obskure Website, bei der du ein Konto hattest, gehackt wird und sie das Passwort bekommen, das du benutzt hast, und du dieses Passwort woanders wiederverwendest, öffnet ihnen das einfach Tür und Tor. Offensichtlich hat es für sie einen Wert, in deine E-Mail und an deine Telefonnummer zu kommen, also sind sie begeistert davon, wenn du das einfach öffentlich postest. Aber dann gibt es noch die kleinen Dinge; in welcher Stadt du bist, welchen Browser du benutzt, welche Dinge du magst, wo du gerne Kaffee trinkst und wer deine Familienmitglieder sind. All diese Dinge können genutzt werden, um dich weiter auszunutzen. Wenn sie wissen, in welcher Stadt du bist, können sie einen Proxy an deinem Standort nutzen, um ihren Datenverkehr so aussehen zu lassen, als käme er von irgendwo in deiner Nähe. Wenn sie wissen, welchen Browser du benutzt, hilft ihnen das, mehr wie du auszusehen, wenn sie versuchen, auf deine Konten zuzugreifen, und wenn sie wissen, welche Dinge du magst, könnte ihnen das etwas über andere Bereiche deines Lebens verraten, die sie sich ansehen sollten. Und wenn sie wissen, wo du gerne Kaffee trinkst, könnte das dazu führen, dass sie dir dort auflauern und dir die Taschen ausräumen, während du in der Schlange für deinen Latte stehst.

Wenn sie Informationen darüber haben, wer deine Familienmitglieder sind, könnten diese Familienmitglieder ins Visier genommen werden. Drew hier hat mir eine Geschichte darüber erzählt, wie die Kids einmal, als sie in das Konto eines Typen kommen wollten, der Ehefrau eine SMS schrieben und sich als der Ehemann ausgaben, um sie dazu zu bringen, die 2-Faktor-Authentifizierungscodes über SMS vorzulesen. Je mehr Informationen sie über dich haben, desto einfacher macht es ihre Arbeit. Stell dir vor, sie hätten vollen Zugriff auf dein Bankkonto und beschließen, das gesamte Geld abzuheben, aber deine Bank entscheidet: Moment, da stimmt etwas nicht, und sie hinterfragen die Überweisung und sagen: Hm, nur um sicherzugehen, dass Sie es sind, wie lautet Ihr Geburtstag? Nun, dieses eine Datum, das du für so harmlos hieltest, um es einfach öffentlich zu teilen, hätte deine Rettung sein können, wenn du es nicht auf Facebook gepostet hättest. Ich hoffe, du bist jetzt überzeugt, deine privaten und persönlichen Daten niemals auf einer öffentlichen Website zu teilen.

Wie nennst du das, diese Gruppe?

DREW: Es gibt da ein paar verschiedene Begriffe. Wir nennen es vor allem „Com“.

JACK: Com, geschrieben C-O-M; das ist die Abkürzung für Community, und das ist neu für mich. Zu meiner Zeit nannten wir es die Szene. Jetzt ist es wohl die Community.

DREW: Ja, wir nennen es aber einfach „Com“. Dann gibt es noch „Simming Com“ und es gibt „Cracking Com“, „Roblox Com“, „Twitch Com“. Da geht's um Twitchzugänge. Es gibt ein „Vanilla Com“. Es gibt „Infosec Com“.

JACK: Huh, die Infosec-Com war mir nicht geläufig, aber Drew hat es mir erklärt. So wie er es sagt, gibt es einige Leute im IT-Sicherheitsbereich, die Teil des Infosec-Twitters seien und als gute Sicherheitsforscher respektiert werden wollen, aber gleichzeitig auch Dinge tun wollen, die illegal oder unethisch sind, und sich quasi gleichzeitig als unschuldiger White Hat und als zwielichtiger Black Hat verhalten, so wie Ryan Phobia Stevenson. Das ist der Typ, der ein paar Bugs meldete, die er bei Telekommunikationsunternehmen gefunden hatte, und dafür belohnt wurde. Aber dann nutzte er diese Bugs, um Kundendaten von Telekommunikationsunternehmen abzugreifen und sie auf Untergrundmärkten zu verkaufen. Der Typ hat doppelt kassiert. Es hört sich so an, als gäbe es Coms für jeden kleinen Schwerpunktbereich, in dem Leute online Geld verdienen können. Aber der rote Faden bei all dem ist, dass sie alle unethische Coms sind, und deshalb nenne ich sie schmutzige Coms. Das sind fiese Communitys.

Der Goldrausch im NFT-Markt

JACK: Lass uns über NFTs sprechen. Also, jeden Tag in den Nachrichten sehe ich einen weiteren Angriff auf NFTs, wie zum Beispiel, dass jemand um seinen Bored Ape betrogen wird oder...

DREW: Ja, natürlich.

JACK: Oder...

DREW: Der Klassiker...

JACK: Okay, fahr fort. Du hast das gesehen. Ist es jemand aus deinen Coms, der diese Dinge durchführt?

DREW: Okay, also, es geht um die ersten, wirklich, wirklich reichen SIM-Com-Nutzer, die ich erwähnt hatte. Also, diese ersten reichen Simmers, die nicht in der aktuellen Version sind, stehlen NFTs. Es gibt eine Gruppe von Leuten, die ich kenne – ich werde sie nicht namentlich nennen, aber im Grunde sind es einfach Leute, die buchstäblich auf Discord gehen; jemand sagt, er brauche Hilfe mit einem NFT. Sie schreiben ihnen eine Nachricht, sie posten ihre Links.

JACK: Huh, ich habe das selbst während des großen NFT-Hypes aus erster Hand miterlebt. Ich war in einem NFT-Discord. Und falls ihr nicht wisst, was ein NFT ist, in diesem Fall ist es einfach digitale Kunst, die man kaufen und verkaufen kann, und diese digitalen Kunstwerke gingen für Tausende von Dollar pro Stück weg, und manchmal sogar für Hunderttausende von Dollar pro Stück. In Discord bekam ich eine Direktnachricht, in der stand, ich sei ausgewählt worden, auf einer Vorverkaufsliste für einen dieser NFT-Drops zu stehen, und ich müsse ihn jetzt kaufen. Aber natürlich habe ich nicht auf den Link geklickt. Aber jemand im Kanal hat es getan, und die Seite sagte, um das NFT zu prägen, müsse man nur sein MetaMask-Krypto-Wallet verbinden und seine 24-Wort-Seed-Phrase eingeben. Nun, diese 24-Wörter sind absolut nichts, was man jemals teilen sollte. Das ist im Grunde das private Passwort zu deiner Krypto-Wallet, und wenn du das jemandem gibst, hast du ihm im Grunde die Kontrolle über deine gesamte Krypto-Wallet übergeben. Nun, diese Person gab ihre Seed-Phrase auf der gefälschten Website ein, und sobald sie das tat, gelangte der Dieb in ihre Krypto-Wallet und nahm all ihre wertvollen NFTs und verkaufte sie für etwa den halben Preis. Der Dieb machte etwa 40.000 Dollar in Ethereum in vielleicht fünf Minuten. Es war absolut verrückt, mitanzusehen, wie dieser Person direkt vor meinen Augen das Konto leergeräumt wurde, und es gab nichts, was irgendjemand tun konnte, um es zu stoppen.

Es gibt echt keinen Mangel an Geschichten von Leuten, die digital ausgeraubt werden und denen die Krypto-Wallet gestohlen wird, und ich glaube, der Grund ist der, dass diese Krypto-Wallets Unmengen an Geld beinhalten und sie genau wie Browser-Add-ons sind. Wenn du deine Krypto-Wallet mit der falschen Seite verbindest, ist das Spiel vorbei, und es ist so einfach, sie mit der falschen Seite zu verbinden. Es ist ein bisschen, als hätte man sein Bankkonto direkt im Browser als Plug-in zugänglich, und alle Seiten, die man besucht, wollen alle einen Blick darauf werfen. Aber das ist erst der Anfang; fast jeden Tag passiert das. Es gibt so viele Betrüger, die versuchen, Zugang zu den Krypto-Wallets von Leuten zu bekommen, in denen sich Kryptowährung oder ein NFT befinden könnte. Die Betrügereien sind riesig und schnell, sie kommen aus jedem Winkel auf dich zu, wenn du dich in diesem Bereich bewegst. Zum Beispiel war ein anderer großer Betrug, den ich gesehen habe, als ein NFT-Projekt kurz vor dem Start stand. Und der Starttag ist ein großer Tag. Jeder, der dabei sein will, will sich beeilen, um seine Token zu prägen und zu hoffen, dass der Preis steigt. In diesen Momenten herrscht also ein Rausch, weil es ein begrenztes Angebot gibt und man nicht leer ausgehen will. Wenn Leute es also eilig haben, etwas zu kaufen, sind sie bereits anfällig dafür, Fehler zu machen, und typischerweise werden eifrige Käufer im Discord-Chatroom für dieses NFT sein, um zu beobachten, was vor sich geht. Aber es gibt eine ganze Reihe von Dingen, die dabei schiefgehen können. Erstens kann der Besitzer des Discords gehackt werden, und Drew erklärt, wie das passiert.

DREW: Sie haben ihre Glaubwürdigkeit über einen Freund aufgebaut; so läuft das immer. „Hey, mein Freund meint, ich soll mal mit dir reden.“ Irgendwann schleicht er sich dann langsam heran, indem er eine Art Datei schickt, mit der sie ihn tatsächlich über das Discord-Token-Protokoll identifizieren können.

JACK: Wenn ihr Discord benutzt, stehen die Chancen gut, dass ihr nicht jedes Mal euren Benutzernamen und euer Passwort eingebt, wenn ihr die Seite besucht oder die App öffnet. Das liegt daran, dass, sobald man sich authentifiziert hat, ein kleines Authentifizierungs-Token auf dem Computer existiert, das einen eingeloggt hält. Aber wenn man einfach das Authentifizierungs-Token nehmen kann, dann kann man sich als diese Person einloggen, ohne ein Passwort zu benötigen. Das Authentifizierungs-Token hat all das Zeug da drin, und ja, wenn man jemanden dazu bringen kann, seine Malware zu installieren, kann die Malware das Token stehlen. Okay, wenn man also Zugang zum Konto eines Moderators auf einem beliebten Discord-Kanal bekommt, der kurz davor steht, ein NFT zu starten, dann kann man eine Menge Geld verdienen. Alles, was man tun muss, ist, die offizielle Website dieses NFTs zu kopieren, was super einfach ist, und eine ähnlich aussehende URL mit einem anderen Buchstaben zu erstellen, und zu ändern, wohin das Geld geht, wenn jemand das NFT kauft. Anstatt dass das Geld an den NFT-Macher geht, geht es jetzt in deine Wallet. Alles, was man jetzt noch tun muss, ist, die Leute auf seine Seite zu leiten, und da man ein Moderator ist, kann man das.

DREW: Poste eine Hauptnachricht, Feuer frei.

JACK: Die Nachricht könnte lauten: "Minting ist jetzt live, offen für alle, aber beeilt euch; wir schließen in zehn Minuten". Einige dieser Discord-Kanäle haben über 50.000 Leute da drin, alle bereit zum Kauf. Ihr könnt euch vorstellen, dass, wenn 50.000 Leute eine Nachricht wie diese sehen, dass das Projekt live gegangen ist und sie bereit zum Prägen sind, dass sie auf die Seite strömen werden, um ihre NFTs zu kaufen. Ich habe das immer und immer wieder gesehen. Betrüger infizieren Discord und verdienen damit in zehn Minuten über 100.000 Dollar. Aber es gibt auch andere Betrügereien, die auf Discord ablaufen.

DREW: Es gibt Leute, die tatsächlich NFT-Discords kaufen und sie dann künstlich anwachsen zu lassen. Das machen sie, um einen Exit-Scam durchzuziehen oder einfach um sie an jemanden zu verkaufen, der einen Exit-Scam durchziehen wird.

JACK: Oh ja, das habe ich auch gesehen. Wenn man ein NFT-Projekt findet, das 100.000 Follower auf Twitter und 80.000 Mitglieder auf Discord hat, wird man denken, dass das ein heißes NFT-Projekt ist, und sich mehr dafür begeistern. Aber die Zahlen sind alle gefälscht. Es ist ein Discord-Kanal, der erst letzte Woche gekauft wurde, und er kam schon mit 80.000 Mitgliedern, aber das sind alles Bots. Es erzeugt also einen falschen Hype darum, und sie starten ein Projekt und die Leute bezahlen sie, und sie bekommen nichts dafür außer irgendein billiges Kunstwerk, das von jemandem auf Fiverr gemacht wurde. Die Macher schnappen sich einfach das Geld und verschwinden. Auch hier kann ein Betrug wie dieser jemandem über 100.000 Dollar einbringen, wenn er richtig gemacht wird. Aber das sind sicherlich ziemlich aufwendige und komplexe Betrügereien. Es dauert lange; man muss eine Website bauen, einen NFT-Server kaufen, die ganzen Kunstwerke erstellen. Es ist nicht einfach und erfordert echtes Fingerspitzengefühl. Aber dann, als gäbe es nicht schon genug NFT-Betrügereien, passieren auch noch Influencer-Betrügereien.

DREW: Sie engagieren eine seriös wirkende Person als Strohmann. Es handelt sich um wohlhabende Leute, die als Krypto-Influencer auftreten und andere dazu bringen, auf diese Tricks hereinzufallen – zum Beispiel ihre Freunde. Sie überreden ihre Freunde, auf NFT-Betrügereien hereinzufallen, und hinter all dem stecken diese millionenschweren SIM-Swapper. Das ist schrecklich.

JACK: Yikes, Mann, man kann in NFT-Land nicht einmal seinen Freunden vertrauen. Sie könnten von den Betrügern dafür bezahlt werden, dich zu betrügen. Ich habe mich ein bisschen mit diesen NFTs beschäftigt und ich sage euch, das ist nichts für Anfänger. Es ist gespickt mit Landminen, Hackern, Dieben, Betrügern, Kriminellen und so vielem mehr, was für mich ein Spaß ist, den ganzen Wahnsinn zu beobachten.

Vom Kinderzimmer ins Gefängnis

JACK: Es ist aber nicht jedermanns Sache, und diese Leute versuchen hart, an deine Krypto-Wallet zu kommen und deine Vermögenswerte zu plündern. Sie können es ungestraft tun, weil es so schwer ist, Krypto-Raubüberfälle zurückzuverfolgen.

DREW: Die machen das aus reiner Profitgier, Leute wie Joel Ortiz, Nicholas Truglia, Xavier Clemente.

JACK: Warum nennst du hier diese Namen?

DREW: Die Namen sind ja bekannt, die wurden verhaftet.

JACK: Oh, okay. Oh, die – die wurden alle verhaftet?

DREW: Die berühmtesten SIM-Swapper, die verhaftet wurden sind; PlugWalkJoe, AKA Joseph, James O’Connor.

JACK: Okay, ich muss nachschauen, was diese Leute getan haben. Okay, Joel Ortiz wurde wegen SIM-Swapping verhaftet. Tatsächlich war er die allererste Person, die wegen SIM-Swapping verurteilt wurde. Das ist wild; 2019 ist das erste Mal, dass ein SIM-Swapper jemals verurteilt wurde. Das ist wirklich die Definition eines modernen Verbrechens, wenn erst vor ein paar Jahren das erste Mal überhaupt jemand dafür verurteilt wurde. Joel Ortiz war also einundzwanzig, aus Boston, und laut Polizei hat er vierzig Personenbetrogen und insgesamt 7 Millionen Dollar durch die Durchführung von SIM-Swaps gestohlen. Er wurde verhaftet und bekam dafür zehn Jahre Gefängnis. Wir haben bereits über Nicholas Truglia gesprochen, aber Drew erwähnte auch Xavier Clemente. Dieser Typ war neunzehn Jahre alt, als er wegen SIM-Swapping verhaftet wurde. Die Polizei sagt, er habe über eine Million Dollar in Kryptowährungen gestohlen. Ellis Pinsky bekam den Spitznamen Baby Al Capone, weil er erst fünfzehn Jahre alt war, als er verhaftet wurde. Oh, und übrigens, die von der Polizei beschlagnahmten Gegenstände sind unglaublich; Luxusuhren, Luxusautos, Penthouse-Wohnungen. Diese Kinder verpulvern es so schnell, wie sie es bekommen, und fast alle von ihnen haben eine Spielsucht, bei der sie etwas Geld in ein Online-Casino stecken und am Rad drehen und versuchen, den noch größeren Gewinn zu erzielen. Sie mögen es irgendwie, in Livestreams und so damit anzugeben, wieviel sie bereit sind zu setzen, damit andere sehen können, wie viel Geld sie haben. Es ist verrückt.

DREW: Auf ihren Telegram-Kanälen posten sie regelmäßig Screenshots ihrer Opfer, zeigen, wie viel Geld die auf ihren Konten haben, und erzählen, dass sie ihnen gerade Millionen von Dollar abgezockt haben. Das lässt sich leicht überprüfen, denn sie zeigen einem buchstäblich die Transaktions-IDs und ihre Bitcoin-Wallets, die mit Millionen von Dollar gefüllt sind. Jeden Tag verschenken sie Tausende von Dollar. Sie machen einfach total verrückte Sachen mit ihrem Geld, sind halt noch Kinder.

JACK: Diese Liste geht weiter und weiter. Viele Leute werden verhaftet, die unter achtzehn Jahre alt sind, und deshalb sehen wir ihre Namen einfach nie in den Nachrichten. Einige von ihnen werden erwischt und müssen einfach die Kryptowährung oder NFTs zurückgeben, die sie gestohlen haben, und sie bekommen nur eine strenge Verwarnung. Ich weiß nicht, wie es euch geht, aber all das haut mich einfach um. Ich hatte vorher keine Ahnung, wie diese Untergrund-Community aussah. Aber jetzt habe ich das Gefühl, dass sich meine Augen angepasst haben und ich im Dunkeln sehen kann. Geht es euch auch so? Ich habe das Gefühl, das Internet ist im Moment ein absolutes Kriegsgebiet. Jeden Tag hören wir von einem weiteren Unternehmen, das von Ransomware oder einem Datenleck getroffen wird, aber all das ist weit weg. Das passiert nicht in meiner Nachbarschaft. Aber das hier ist mein Hinterhof. Das sind Teenager, die ganz normale Leute ins Visier nehmen, und ihre Spitznamen sind kein Zufall. Baby Al Capone oder Billy the Kid. Billy the Kid hat früher Züge überfallen. Er hat einfach wahllos Leute überfallen und Geld von ihnen gefordert, im Grunde passiert hier das Gleiche. Wenn man öffentlich erwähnt, dass man eine Menge Kryptowährung hat, kann man wahrscheinlich damit rechnen, dass jemand das von einem stehlen will. Es ist nicht einfach, das sicher aufzubewahren. Es ist wirklich knifflig.

Wenn ihr also Krypto habt, dann rate ich euch dringend, nicht all euer Zeug auf eine Adresse zu legen. Teilt es auf verschiedene Wallets auf, denn wenn etwas kompromittiert wird, wollt ihr nicht, dass sie das ganze Sparschwein mitnehmen. Die Telefongesellschaften sollten wahrscheinlich ihre Sicherheit erhöhen. Es macht den Eindruck, als würden sie versuchen, es schwieriger zu machen, und deshalb zahlen die Leute heute auch 10.000 Dollar pro SIM-Swap. Aber wie können sie es eliminieren, wenn es Insider gibt, die als Regionalmanager arbeiten und an dem Betrug beteiligt sind? Sie könnten das Äquivalent eines ganzen Jahresgehalts bekommen, indem sie einem SIM-Swapper helfen, einen Millionen-Dollar-Lick zu landen. Das könnte schwer abzulehnen sein für jemanden, der das Geld wirklich braucht. Vielleicht ist die Antwort, keine SIM-Karten mehr zu verwenden und einfach immer einen WLAN-Hotspot in der Tasche zu haben und das Telefon darüber laufen zu lassen, wenn man jemanden anrufen muss. Ich weiß es nicht. Börsen wie Coinbase machen einen ziemlich guten Job dabei, es Kriminellen schwer zu machen, in das Konto von jemandem zu gelangen. Tatsächlich glaube ich, dass Coinbase beim Exploit, von dem Drew sprach und der es jemandem ermöglichte, das Guthaben eines Kontos ohne 2FA zu überprüfen, alle Leute entschädigt hat, die von diesem Exploit betroffen waren.

Aber vielleicht sollten sie jeden dazu zwingen, Google Authenticator zu nutzen. Das würde es für diese Leute schwieriger machen, oder vielleicht die Option geben, ein zweites Passwort auf der Seite zu haben, das nur für Überweisungen ist. Das Problem ist, je schwerer sie es Kriminellen machen, Dinge zu stehlen, desto schwerer machen sie es den Nutzern, die Seite zu bedienen. Es wird also zu einer schwierigen Balance. Obendrein bin ich mir sicher, dass Nordkorea Coinbase die ganze Zeit angreift und versucht, irgendwo eine Hot Wallet zu finden, um da reinzugreifen. Sie haben also wirklich ein ziemliches Päckchen, gegen das sie sich verteidigen müssen. No pressure? Aber mir scheint zumindest offensichtlich, dass, selbst wenn man ein paar dieser Probleme behebt, die Leute in diesen schmutzigen Coms einfach einen anderen Weg finden, es zu tun. Da das Internet sich mit der Geschwindigkeit bewegt, mit der es sich bewegt, stellen Software und Websites die Sicherheit nicht immer an erste Stelle. Das sind einige der Konsequenzen, wenn man das nicht tut. Wie ich am Anfang sagte, wird nicht viel Weisheit von Generation zu Generation darüber weitergegeben, was die Gefahren des Internets sind, sei es für die Nutzer der Seite oder die Teenager, die versuchen, sich in sie zu hacken. Ich glaube, es wird noch schlimmer werden, bevor es besser wird.

Es könnte sogar noch vierzig Jahre dauern, bis wir eine Welt sehen, in der die Leute auf sichere, verantwortungsvolle Weise online gehen, in der die Nutzer ihre Privatsphäre und Sicherheit über alles schätzen und wissen, dass sie keine Apps installieren oder Geräte kaufen sollten, die ihre Privatsphäre gefährden, und ein starkes Verständnis für die digitalen Gefahren da draußen haben und Dinge tun, um sich selbst zu schützen. Deshalb habe ich diese Episode für euch gemacht, jetzt habt ihr einen viel klareren Blick darauf, warum euch jemand ins Visier nehmen würde und wie sie es tun, wenn ihr vielleicht vorher nie gedacht hättet, dass ihr das Ziel wärt.

Deshalb gibt es Dinge wie die Defcon. Das ist eine Konferenz, zu der Hacker gehen, um all die neuen Wege zu zeigen, die sie gelernt haben, um sich in Dinge zu hacken. Der Hauptfokus dort liegt darauf, offensive Hacking-Techniken zu teilen, und das Teilen dieser Techniken hat die Sicherheit wohl besser gemacht, denn wenn die Leute sie nicht teilen, dann wissen wir nicht, dass das Problem existiert, und man kann nichts unternehmen, um sich dagegen zu verteidigen.

Die echten Kriminellen und staatlichen Akteure teilen ihre Techniken nicht öffentlich, weil sie nicht wollen, dass sie behoben werden. Wir können das nicht einfach ignorieren und hoffen, dass Sicherheitsprobleme sich irgendwie von alleine beheben. Meine Hoffnung ist, dass ihr, nachdem ihr von all diesen Techniken gehört habt, euer digitales Leben nun ernster nehmt als zuvor. Ich stelle mir eine Welt vor, in der die Nutzer so gut über Sicherheit aufgeklärt sind, dass sie es auf sich nehmen, ihre Umgebungen extrem abzusichern, weil sie zu oft von bösen Akteuren getroffen wurden oder einfach gelernt haben, wie man das Internet sicher nutzt. Aber es wird lange dauern, bis wir dort ankommen. Manchmal müssen Dinge zusammenbrechen, bevor sie durchbrechen können. Es ist ein Kriegsgebiet da draußen. Seid vorsichtig, aber seid mutig. Haltet durch. Ihr schafft das. Nehmt eure eigene digitale Sicherheit ernst. Praktiziert gute digitale Hygiene. Viel Glück beim Ausweichen vor den Kugeln.

JACK: (OUTRO): Ein großes Dankeschön an Drew für das Teilen dieses Einblicks in die verschiedenen Coms und was dort vor sich geht.

Diese Episode wurde im englischen Original von Jack Rhysider erstellt. Den Text haben Marko Pauli und Isabel Grünewald übersetzt und gesprochen.

Produktion: Marko Pauli

Titelmusik: Breakmaster Cylinder

Dies sind die Darknet Diaries auf Deutsch von Heise Online.

Weiterlesen

Dies ist der zweite Teil von „Kids ohne Skrupel". Wenn Ihr Teil eins noch nicht gehört habt, fangt am besten da an. Im Englischen Original von Jack Rhysider trägt diese Episode den Namen „Dirty Coms“.

Die deutsche Produktion verantworten Isabel Grünewald und Marko Pauli von heise online. Der Podcast erscheint wöchentlich auf allen gängigen Podcast-Plattformen und kann hier abonniert werden.

JACK: Mein Gast ist „Drew" – ein junger Mann, der als Teenager tief in die Welt der Online-Untergrund-Communities abgerutscht ist. Er gibt uns einen schonungslosen Einblick in die Szene rund um Hacker, Betrüger und digitale Schwarzmärkte. Drew erzählte uns in der ersten Folge, wie er mit dreizehn Jahren über Roblox und dubiose Robux-Deals in kriminelle Kreise geriet, sich an Geschenkkarten-Phishing beteiligte und auf dem berüchtigten Forum OGUsers mit dem Handel gestohlener Benutzernamen Geld verdiente. Dabei wurde er selbst mehrfach gedoxxt, erpresst und zweimal mit 10.000 USPS-Kartons vor seiner Haustür zugemüllt – eine beispielhafte Geschichte, für den schonungslosen Umgang Krimineller untereinander. In Teil 1 haben wir gehört, wie Drew Schritt für Schritt in diese toxische Welt hineingezogen wurde, welche Lektionen er über Opsec und Vertrauen im Netz gelernt hat, und warum er diese Szene heute dokumentieren und offenlegen will. Jetzt in Teil 2 wird es konkreter – denn Drew fängt an, Namen zu nennen und Methoden zu enthüllen, mit denen in diesen Communities richtig viel Geld gemacht wird.

Das Geschäft mit dem SIM-Swapping

DREW: Lass mal überlegen. Was habe ich Kids in letzter Zeit tun sehen?

JACK: Lass uns doch beim SIM-Swapping einsteigen.

DREW: Wir können über SIM-Swapping sprechen.

JACK: Okay, also ihr wisst vielleicht, was SIM-Swapping ist, aber falls nicht, erkläre ich es ganz schnell. SIM-Swapping ist, wenn du die Telefongesellschaft austrickst, damit sie eine fremde Handynummer auf dein Telefon beziehungsweise Deine SIM-Karte überträgt. Wenn man zum Beispiel sein Handy verliert und ein neues bekommt, muss man der Telefongesellschaft sagen, dass man ein neues Telefon hat und dass die Nummer darauf funktionieren soll. Eigentlich sollte es nicht möglich sein, dass jemand einfach deine Telefonnummer übernimmt, aber es gibt Wege, wie das gemacht werden kann. Der erste Weg ist ziemlich offensichtlich.

DREW: Man sucht sich einen Insider in diesen Unternehmen, normalerweise einen – wie wir ihn nennen – „Manny“ oder Manager, der einem seine Zugangsdaten gibt oder einfach SIM-Swaps durchführt, wenn niemand hinschaut, als wäre es ein imaginärer Kunde. Diese Insider werden häufig mit etwa 10.000 Dollar pro Swap bezahlt. So hat das SIM-Swapping angefangen.

JACK: Okay, das ist also eine Möglichkeit, einen SIM-Swap durchzuführen. Wenn man Filialleiter eines Handyladens ist, hat man natürlich die Möglichkeit dazu. Wenn man das für eines dieser Kids macht, kann man richtig viel Geld verdienen, locker über 1.000 Dollar pro Nummer. Vielleicht sogar 10.000 Dollar pro Nummer. Aber es gibt eine neue Methode, wie diese Kidsr das machen, und die ist irrsinig, geradezu brutal.

DREW: Da ist es nicht so, dass man nicht die Telefongesellschaft anruft; die neue Methode nennt sich Remo-Snatching. Remo ist die Abkürzung für Remote-Tablet. Man geht also zum Beispiel zu T-Mobile. T-Mobile ist derzeit das einfachste Ziel. Man geht in einen T-Mobile-Laden, rennt rein, reißt dem Filialleiter das Tablet aus den Händen und rennt wieder raus.

JACK: Alles klar. Wenn man das Tablet des Filialleiters hat, ist das das Gerät, das autorisiert ist, Telefonnummern zu übertragen. Es macht also Sinn, dass man durch den Diebstahl einen SIM-Swap bei jemandem durchführen kann. Aber halt, ganz so einfach ist es nicht. Gehen wir einen Schritt zurück und zwar einen großen Schritt zurück. Zuerst muss man wissen, bei wem es sich lohnt, einen SIM-Swap durchzuführen. Das Ziel zu identifizieren, kann lange dauern, und dafür sind viele Schritte nötig, und die möchte ich hier aufschlüsseln. SIM-Swapping war schon ein paar Mal Thema in den US-Darknet Diaries, zum Beispiel in den Episoden The Pizza Problem und Tennessee. Das sind zwei Geschichten, in denen Leute ins Visier genommen wurden, einfach weil sie wertvolle Benutzernamen auf Instagram und Twitter hatten. Okay, das wäre also ein Grund, jemanden ins Visier zu nehmen: um die Kontrolle über seinen Benutzernamen zu erlangen und ihn auf OGUsers für ein paar tausend Dollar zu verkaufen. Aber ich habe das Gefühl, das ist mittlerweile ein alter Hut. Es gibt eine ganz neue Verbrechenswelle, die da über uns rollt.

DREW: Die Leute führen einen SIM-Swap für Bankzugänge durch – also Bank-Logins –, über die sie Geld überweisen oder eine Überweisung vornehmen.

JACK: Okay, also Bank-Daten; obwohl das in dieser Community ein großes Ding ist, ist es wirklich schwer, sowas tatsächlich durchzuziehen. Zuerst muss man ein gültiges Login für den Benutzer herausfinden, und woher man Passwörter bekommt, darauf kommen wir später. Aber nehmt für den Moment einfach an, dass wir einen funktionierenden Benutzernamen und ein Passwort für ein Bankkonto haben. Wir loggen uns also in das Konto ein.

DREW: Aber es gäbe keine Möglichkeit, das Geld abzuheben, denn dafür müsste man ein Einmalpasswort oder eine Einmal-PIN erhalten. Also versuchen sie, die SIM-Karte der Person zu tauschen, um an den Einmal-Code zu kommen. SIM-Swapping bei Banken ist eigentlich ein verrücktes Unterfangen, denn es liegt zwar eine Menge Geld auf Bankkonten, aber man braucht auch praktisches Wissen über Geldwäsche, da man buchstäblich das Geld der Person stiehlt und einen Weg finden muss, damit es nicht zu einem zurückverfolgt werden kann. Das ist natürlich extrem schwierig.

JACK: Richtig, während es also einige wirklich clevere Leute gibt, die in diesem Bereich mitmischen, ist das einfachere Ziel, es auf Leute abzusehen, die Kryptowährungen haben. Denn mit Kryptowährungen ist es kinderleicht, das ganze Geld in einer Wallet zu schnappen und es einfach an einen Anonymisierungsdienst wie Tornado Cash zu senden und auszahlen zu lassen. Da das aber so ein lohnendes Ziel ist, sind allerhand Leute hinter Kryptowährungen her. Wie auch immer, es ist für diese Kids sinnvoll, Leute mit prall gefüllten Krypto-Wallets ins Visier zu nehmen, aber wie findet man jemanden mit einer fetten Krypto-Wallet? Nun, das erfordert eine ganze Reihe von Schritten.

DREW: Es handelt sich also um einen riesigen Markt, der ziemlich im Verborgenen stattfindet. Die Leute nutzen sogenannte „Combo-Listen“, also im Grunde durchgesickerte Datenbanken mit Passwörtern und E-Mail-Adressen, wobei die Passwörter natürlich entschlüsselt wurden, etwa mit RainbowCrack oder John the Ripper. Sie lassen diese Daten durchlaufen und suchen nach sogenannten „Commons“, also Passwörtern, die auf mehreren Websites verwendet werden.

JACK: Okay, ihr habt hier ja schon öfter von großen Websites gehört, die von Datenlecks betroffen sind, wo die gesamte Benutzerdatenbank gestohlen wird. Wenn man Kunde auf einer dieser Seiten ist, zuckt man vielleicht einfach mit den Schultern, ändert vielleicht sein Passwort und macht weiter, in der Hoffnung, dass nichts auf einen zurückfällt, oder? Nun, solche Daten sind in diesen Kreisen Gold wert. Zuerst kann man auf eine Seite wie raidforums.com oder nulled.2 oder cracked.2 gehen. Seiten, die Tonnen von kompletten Datenbank-Leaks posten. Es kostet vielleicht ein paar Dollar, um ranzukommen, aber man kann sich die dann direkt dort herunterladen. Wir sprechen von großen Websites, die gehackt wurden; und deren Datenbanken liegen genau dort, leicht zu schnappen, Seiten wie Adobe, die Alaska-Wählerdatenbank. Es gibt dort anscheinend eine Apple-Datenbank. Adult Friend Finder, die Android-Foren, und das ist nur ein kleiner Auszug aus den A's. In diesen Datenbank-Dumps können eine Menge Infos sein, enthalten typischerweise enthalten sie aber den Namen einer Person, ihren Benutzernamen, ihre E-Mail, vielleicht ihre Telefonnummer, vielleicht ihre Adresse und ihr Passwort. Aber ihr Passwort ist in der Datenbank typischerweise gehasht, was bedeutet, dass man nicht wirklich sehen kann, wie es lautet.

Datenlecks als Schatzkarte für Hacker

Ab hier kommen Tools ins Spiel, die Passwort-Hashes knacken können. Es ist schwer, einen einzelnen Hash zu knacken, aber wenn es das ist, was man haben will und man gleichzeitig also hundert Millionen Datensätze in der Adobe-Datenbank hat, dann wird man wahrscheinlich einige Hashes finden können, die nicht besonders stark sind. Für diese Leute hat man dann gültige Benutzernamen und Passwörter. Jetzt nimmt man diesen Benutzernamen oder diese E-Mail-Adresse und gleicht sie mit anderen Datenlecks ab. Verwendet diese Person Passwörter wieder? Gibt es Benutzernamen und Passwörter im Adobe-Leak, die auch bei Netflix funktionieren? Die Antwort ist immer: Leider ja. Viele Leute suchen sich einfach ein Passwort aus und verwenden das dann auf allen Seiten, auf denen sie Konten haben. Nur durch das Knacken eines Datenbank-Dumps hat man nun also Zugriff auf das Netflix-Konto von jemandem, und schon das eröffnet einen völlig neuen, riesigen Markt in den Untergrund-Communitys. Die Leute kaufen Netflix-Konten für jeweils 2,50 Dollar, weil das offensichtlich viel billiger ist, als die 18 Dollar im Monat für ein Premium-Abonnement zu bezahlen.

DREW: Okay, übertragen wir das mal auf Walmart, Chipotle, Nordstrom, OnlyFans, Surfshark, NordVPN, Macy’s Credit, Buffalo Wild Wings und Papa Johns.

JACK: Es gibt Seiten, auf die man gehen kann, um Benutzerkonten für jede dieser Websites zu kaufen. Man bekommt vielleicht sogar ein Kombipaket für einen Haufen Logins, sagen wir 10 Dollar für das ganze Paket. Aber Moment, ihr fragt euch vielleicht, warum jemand ein Login für eine Restaurantkette wie Chipotle kaufen wollen würde? Nun, willkommen beim Fall der mysteriösen Burrito-Bestellungen, von dem Leute im Chipotle-Subreddit berichten. Man kann eine Chipotle-App auf sein Telefon herunterladen und sie nutzen, um Essen zu bestellen, aber die App ist oft mit der Kreditkarte verbunden. Man kann also das Chipotle-Konto von jemand anderem nutzen, um einen Burrito für sich selbst zu bestellen, und dann bezahlen die anderen dafür. Das Gleiche gilt für Papa Johns; kostenlose Pizza, wenn man ein gültiges Login für das Konto von jemand anderem hat. Das führt uns in die Welt der Pizza-Plugs, die ich schon eine Weile genau beobachte.

Es ist fast schon ein Mythos. Es gibt diese Chatrooms, in die man gehen und eine Essensbestellung aufgeben kann, wie zum Beispiel drei große Pizzen, und jemand im Chatroom nimmt die Bestellung an und verlangt vielleicht 5 Dollar von dir. Dann nutzen sie das gestohlene Pizza-Konto, um sich einzuloggen, die Bestellung aufzugeben und dir dann die Pizza zu schicken. Es hat sie 2 oder 3 Dollar gekostet, das Konto zu kaufen; sie verdienen 5 Dollar damit. Du bekommst drei Pizzen für 5 Dollar, und oh, der Kontoinhaber ist derjenige, der dafür bezahlt. Ich sage euch, das geht so viel tiefer, als ich Zeit dafür habe. Oh, und der Slang für den Kauf und Verkauf dieser gültigen Logins ist einfach Logs. Es gibt also einen Haufen Leute da draußen, die Datenbank-Dumps durchsuchen und versuchen, gültige Logs für so viele Orte wie möglich zu finden, damit sie diese Logs mit Gewinn verkaufen können.

DREW: Apple-Logs kannst du für bis zu 50 Dollar verkaufen, denn die Leute können mit deiner verknüpften Apple-Kreditkarte ein paar MacBook-Bestellungen aufgeben. Wenn du davon zehn Bestellungen pro Tag bekommst, sind das 500 Dollar am Tag.

JACK: Ein wirklich beliebtes Login im Moment sind Hilton Honors Logins, weil dir diese Logs ein paar kostenlose Übernachtungen in einem schicken Hotel bescheren können. Okay, also gibt es zwei Arten von Konten, die man bekommen kann; FA und NFA. Das heißt, Full Access (Vollzugriff) und Non-Full Access (kein Vollzugriff). Alle Konten, die wir gerade aufgelistet haben, sind im Grunde NFA, kein Vollzugriff. Ein Konto mit Vollzugriff ist eines, das all diese gültigen Logins hat, plus ein gültiges E-Mail-Konto-Login. Das bedeutet also, wenn man in das Outlook oder Gmail von jemandem hineinkommt, dann kann man ganz einfach das Passwort für jedes dieser anderen Konten zurücksetzen, in das man hinein will. Es gibt einem wirklich vollen Zugriff auf das digitale Leben von jemandem, und es gibt ein kleines Tool, das Leute benutzen, mit dem sie, sobald sie im E-Mail-Konto von jemandem sind, schnell alle E-Mails durchsuchen können, um zu sehen, ob es in diesen E-Mails wertvolle Informationen gibt.

DREW: Das Programm, das das macht, heißt Yahoo Arranger. Es sucht automatisch nach Schlüsselbegriffen innerhalb von Yahoo oder den Websites, von denen man wissen will, ob sie dort angemeldet sind. Wenn man also sehen will, ob sie bei Amex oder Bank of America oder Chipotle angemeldet sind, nutzt man einfach Yahoo Arranger und schaut nach.

JACK: Verrückt, oder? Aber es ist wirklich nicht so komplex, wenn man auch keine FA-Konten hat. Man kann einfach einen Datenbank-Dump nehmen und ihn in eine Combo-Liste umwandeln; das ist nur eine formatierte Liste, die Benutzername und Passwort anzeigt, und man könnte diese Combo-Liste nehmen und hätte ein Tool bauen, das einfach automatisch versucht, sich bei unzähligen Seiten einzuloggen, um zu prüfen, ob das Passwort irgendwo funktioniert.

DREW: Dann nutzen sie Software wie Sentry NBA, OpenBullet oder SilverBullet, um damit automatisch all diese Combo-Listen zu überprüfen. Das ist also kein manueller Prozess, und er läuft mit wahrscheinlich 5.000 CPM, was bedeutet, dass er oft mit 5.000 Versuchen pro Sekunde läuft. Die Leute verkaufen schätzungsweise bis zu 5.000 Logs am Tag in ihren Shops. Ich persönlich kann sehen wie viel Bestand ein Shop hat, also kann man erkennen, wie viele Verkäufe man pro Tag erzielt. Ich habe gesehen, wie Leute bis zu 10.000 Konten pro Tag für 3,50 Dollar pro Konto verkauft haben; 35.000 Dollar.

JACK: Okay, jetzt sollte klar sein, wie jemand an einen Haufen gültiger Logins für verschiedene Seiten kommen kann. Aber eigentlich wollte ich das alles nur sagen, weil das euch helfen wird zu verstehen, wie wir jemanden finden, der eine Menge Kryptowährung hat, um ihn ins Visier zu nehmen.

DREW: Die beliebteste Datenbank, die ich in meinen Jahren hier je gesehen habe, ist die Ledger-Datenbank. Ledger ist ein Unternehmen, das physische Cold-Wallet-Speicher für Bitcoin anbietet. Denn, was sagt es über jemanden aus, wenn er eine Ledger-Wallet kauft? Es bedeutet, dass er oder sie Bitcoin hat. Das macht diese Personen zu deiner perfekten Zielgruppe für Kryptowährungen.

JACK: Oh, sehr interessant. Ledger ist eine physische Krypto-Wallet, und im Jahr 2020 wurde deren Benutzerdatenbank gehackt. Fünf Monate später wurde die Datenbank in Raid-Foren gepostet. In der Datenbank befinden sich E-Mail, Name, physische Adresse und Telefonnummer. Es waren aber keine Passwörter oder Krypto-Schlüssel dabei. Aber man kann natürlich die E-Mail-Adresse aus der Ledger-Datenbank nehmen und abgleichen, ob sie mit E-Mails in einer anderen Datenbank übereinstimmt, und dort kann man dann nachschauen, ob es bekannte Passwörter für diese E-Mail-Adresse gibt. Dann kann man versuchen, diese E-Mail-Adresse und das Passwort bei Coinbase oder Binance oder Kraken oder FTX oder Gemini oder irgendeiner Krypto-Börse einzugeben, um zu sehen, ob es ein gültiges Login ist. Das sind alles Krypto-Börsen, wo Leute ihre Kryptowährung aufbewahren. Wenn man den Benutzernamen und das Passwort von jemandem bei einer Krypto-Börse kennt, bedeutet das natürlich echten Ärger für ihn. Aber es gibt ein paar Sicherheitsprüfungen, die diese Börsen eingerichtet haben, um Kids wie diese zu bremsen. Erstens ist es schon sehr viel wert, nur zu wissen, ob die Person zum Beispiel bei Coinbase registriert ist. Vergesst das Passwort für eine Sekunde; einfach nur, ist diese E-Mail hier überhaupt registriert?

Wenn man die E-Mail-Adresse von jemandem und ein falsches Passwort eingibt, gibt es keinen Hinweis darauf, ob diese E-Mail dort registriert ist oder nicht. Wenn man jedoch versucht, sich für ein neues Konto mit einer E-Mail-Adresse anzumelden, die bereits existiert, dann Bingo. Coinbase lässt sich in die Karten schauen und sagt, dass diese E-Mail hier bereits registriert ist. So kann jemand den Ledger-Datenbank-Dump nehmen und herausfinden, wer Konten bei Coinbase oder Gemini oder Kraken oder Binance oder wo auch immer hat, und das dann mit anderen Datenbank-Dumps abgleichen, um herauszufinden, wie das Passwort für diese Konten lautet.

Wenn nun ein Dieb eine gültige E-Mail und ein Passwort für dein Krypto-Konto hat, steht ihm immer noch eine große Hürde im Weg; 2FA. Alle Krypto-Börsen verlangen, dass man die Zwei-Faktor-Authentifizierung aktiviert. Sie empfehlen, sich so etwas wie Google Authenticator oder Authy zu besorgen. Das sind Apps auf deinem Handy, die eine sechsstellige Nummer generieren, die du brauchst, um dich einzuloggen. Aber als absolutes Minimum schicken sie dir zur 2 Faktor Authentifizierung eine SMS mit einem sechs- oder siebenstelligen Code zum Einloggen. Ein Benutzername und ein Passwort allein reichen also nicht aus, um in das Krypto-Konto von jemandem zu gelangen. Man braucht auch diesen 2FA-Code. Die große Mehrheit der Coinbase-Nutzer verwendet solche SMS-Codes. Und Ihr ahnt, wo wir jetzt angekommen sind?

DREW: Viele Leute auf Coinbase besitzen Millionen von Dollar, daher diese Welle von SIM-Swapping. Dafür nutzen sie allgemeine Daten aus Datenbanken, verschaffen sich Zugang zu Coinbase – das läuft alles automatisiert ab – und erhalten dann Zugriff auf das Guthaben; sie haben einen SIM-Swap durchgeführt. Das ist enorm profitabel - profitabler geht's derzeit wahrscheinlich nicht.

JACK: Zu diesem Zeitpunkt haben wir genug Informationen, um das Ziel per SIM-Swap anzugreifen. Wir wissen, dass sie eine Ledger-Wallet haben und wir wissen, dass sie ein Coinbase-Konto haben, und wir haben ihren Benutzernamen und ihr Passwort. Alles, was jetzt noch nötig ist, ist, die Kontrolle über ihre Telefonnummer zu übernehmen, damit wir die SMS empfangen können, um uns einzuloggen. Aber obwohl das vielleicht ausreicht, um jemanden per SIM-Swap anzugreifen, gehen die Diebe noch einen Schritt weiter und versuchen herauszufinden, wie viel auf dem Konto ist, bevor sie jemanden per SIM-Swap angreifen.

DREW: Ob du's glaubst oder nicht, aber es gab etwa einen Monat lang eine Sicherheitslücke bei Coinbase, durch die man den Kontostand jedes beliebigen gültigen Benutzernamens und Passworts abrufen konnte. Das ging einfach – egal wie. Man brauchte keinerlei Zugriff außer Benutzername und Passwort. Man musste also keine SIM-Karte nachahmen, um den Kontostand zu sehen. Also haben die Leute einfach Millionen und Abermillionen von Kombinationen durchgespielt, eine Kombinationsliste bei Coinbase, und haben einfach die Millionäre von Coinbase gefunden. Und von diesen gibt es offensichtlich Millionen.

JACK: Das heißt, wenn man nur einen gültigen Benutzernamen und ein Passwort hatte, konnte man sehen, wie viel auf dem Coinbase-Konto des Benutzers war. Dadurch ist es dann sonnenklar, wen genau man für einen saftigen SIM-Swap ins Visier nehmen sollte. Aber man braucht immer noch diesen 2FA-Code, um reinzukommen und das Geld zu holen. Es war nur so, dass man ihn eine Zeit lang nicht brauchte, um das Guthaben zu sehen. Bleeping Computer veröffentlichte im Oktober 2021 einen Artikel, in dem stand, dass die Krypto-Wallets von 6.000 Coinbase-Kunden aufgrund einer Schwachstelle im 2FA-System leergeräumt wurden. Ich bin mir ziemlich sicher, dass es um diesen Bug geht, den Drew gerade erwähnt hat. Genau zu wissen, wie viel Geld jemand auf seinem Konto hat, ist entscheidend, um so einen SIM-Swap wirklich erfolgreich zu machen.

Es gibt noch ein letztes Detail zu Coinbase; wenn man einen gültigen Benutzernamen und ein Passwort hat und sich einloggt, sieht man, ob dieser Nutzer SMS-2FA nutzt oder so etwas wie Google Authenticator hat, weil die Seite einem sagt, nach welchem Code sie sucht. Die große Mehrheit der Coinbase-Nutzerinnen und Nutzer verwendet textbasierte 2FA, also SMS. Es kann jetzt immer noch das eine Problem geben, dass der Angreifer die Telefonnummer nicht kennt. Manchmal haben die die einfach noch nicht, und wenn man jemanden per SIM-Swap angreifen will, braucht man genau diese Telefonnummer, nicht wahr? Aber da steht direkt auf der Seite ein Hinweis, und der zeigt die letzten beiden Ziffern der Telefonnummer an, und da steht ausdrücklich: Gib den siebenstelligen Code ein, den wir gerade an sowas wie xxx-xxx-xx37 gesendet haben. Dieser kleine Hinweis, nur zu wissen, was die letzten beiden Ziffern der Telefonnummer sind, reicht diesen Dieben schon aus, um die vollständige Telefonnummer zu bekommen.

DREW: Also, normalerweise geht das so: Finde ihren Namen, ihren ungefähren Standort, ihre Telefonnummer. Es gibt eine Million Möglichkeiten, das zu tun. Mein Rat wäre: entschlüssle die E-Mail, die Sicherheitsvorkehrungen waren wahrscheinlich nicht besonders gut, sonst wären ihre Passwörter nicht durchgesickert. Darin findest du ihre IP-Adresse oder etwas anderes, mit dem du ihren Standort ungefähr bestimmen kannst. Führe dann eine Personensuche auf White Pages oder BeenVerified in diesem Gebiet mit ihrem Namen durch, und du wirst ihre Telefonnummer finden, die mit den letzten beiden Ziffern des Hinweises übereinstimmt.

JACK: Okay, so wählen diese SIM-Swapper also ihre Ziele aus. Zu diesem Zeitpunkt kennen sie den Benutzernamen, das Passwort, die Telefonnummer und den Kontostand, um zu wissen, ob sie einen dicken Fisch an der Angel haben. Oh, und man kann schnell nachschauen, zu welcher Art von Anbieter die Telefonnummer gehört, damit man den SIM-Swap beim richtigen Anbieter durchführen kann. Aber das ist ein großer Vorbereitungsprozess, nur um herauszufinden, wer unser SIM-Swapping-Ziel sein wird. Es ist sogar so viel Arbeit, dass dies, zumindest in den USA, ein ganz eigener Markt ist. Allein eine Liste von Zielen zu identifizieren und diese Informationen zu verkaufen, ist ein eigenes Geschäft. Obwohl es also nach viel Arbeit aussieht, könnte jemand einfach hier einsteigen, die Daten kaufen und einen SIM-Swap durchziehen. Okay, jetzt sind wir bereit für das große SIM-Swap-Event. Ihr erinnert euch, wie der Prozess anfing, oder?

Physischer Angriff für digitalen Profit

JACK: Jemand rannte in einen T-Mobile-Laden, riss dem Filialleiter das Tablet aus den Händen und rannte wieder raus. Das nennt sich hier ein Remo, Remote-Tablet-Grab. Aber wir sind immer noch nicht bereit für diesen Teil. Bevor man nämlich das Tablet des Managers stiehlt, braucht man das Passwort des Managers, das auf dem Tablet ist, richtig? Man muss also den Laden auskundschaften, alles über den Manager herausfinden, was man kann, um Social Engineering bei ihm anzuwenden.

DREW: Einfach den Manager anrufen und eine Rolle einnehmen: Hey, hier ist John vom Help Desk bei T-Mobile. Kannst du dich bitte um dieses Ticket kümmern? Dann schicken sie schicken eine gefälschte URL, und er gibt sein Manager-Login ein.

JACK: Okay, jetzt hat man also das Passwort des Managers, um sich in das Tablet einzuloggen, und wir wissen, wie man an das Tablet kommt. Und das ist tatsächlich ein großes Problem, das T-Mobile zu bekämpfen versucht, und es kursieren derzeit interne Memos mit Anweisungen, was zu tun ist, wenn das in deinem Laden passiert. Eine Anweisung ist, sofort das IT Help Desk anzurufen, um das Tablet und das Manager-Konto deaktivieren zu lassen. Das dauert insgesamt typischerweise etwa zehn Minuten. Wir müssen also wieder einen Schritt zurückgehen, denn wir haben nur dieses Zehn-Minuten-Fenster, und wir müssen alles in diesem Zeitraum erledigen. Wir müssen also vorbereitet sein, und wir haben unsere Vorbereitungen noch nicht getroffen. Was ihr hier wissen müsst, ist, dass das nicht von einer Person gemacht wird; der Dieb, der in den Laden rennt, ist nur ein Bauer in diesem Spiel.

DREW: Die auf Telegram sie nicht die Art von Leuten, die in einen Laden rennen. Sie bezahlen irgendjemanden, den sie im echten Leben kennen, damit er für sie in den Laden rennt.

JACK: Die Person, die reinrennt, das Tablet schnappt und wieder rausrennt, wird auf der Liste hier wirklich am schlechtesten bezahlt.

DREW: Verdient wahrscheinlich 200 Dollar, Bro. Ich hab's gesehen, dass das so ist.

JACK: Sie zahlen also 200 Dollar dafür, dass jemand reingeht, das Tablet schnappt und es ihnen wieder rausbringt. Sie müssen in der Nähe sein, denn ihr erinnert euch, sie haben nur zehn Minuten Zeit dafür. Die Person, die das Tablet am Ende in den Händen hält, ist also besonders geschickt darin, durch die T-Mobile-Software zu navigieren, um den SIM-Swap durchzuführen. Das liegt vielleicht daran, dass sie vorher im Laden gearbeitet hat oder ein Video gesehen hat, wie es gemacht wird. Aber trotzdem ist die Person, die tatsächlich auf dem Tablet tippt und den SIM-Swap durchführt, noch immer nicht dieselbe Person, die die Kryptowährung von den Coinbase-Nutzern stehlen wird. Das ist eine ganz andere Gruppe von Leuten, die all diese Coinbase-Logs gesammelt haben und darauf warten, dass jemand einen Remo macht. Sie organisieren sich alle in einem Telegram-Chatroom, und sie sind bereit, einer Person für einen Remo-Swap manchmal 10.000 Dollar pro Nummer zu zahlen.

Nur um noch mal sicher zu gehen, diese Leute sind in diesem Telegram-Kanal und sagen: Okay, ich hoffe, jemand zieht heute Abend einen Remo durch ich habe drei Konten, die ich knacken will. Dann ist alles, was man tun muss, diese Telefonnummer an die Person weiterzugeben, die den Remo durchführt, richtig?

DREW: Perfekt, Mann. Du klingst jetzt wie ein echter Swapper. Du benutzt unseren Slang.

JACK: Die Leute sind also auf Telegram und es ist Freitagabend, Samstagabend, und jemand sagt: Okay, ich glaube, wir versuchen es. Sie sagen der Gruppe: Ich fahre da runter, ich versuche, das Tablet zu schnappen. Ich bin bereit.

DREW: Es ist echt intensiv.

JACK: Ja, da sind all diese Leute, sie schließen ihre Zimmertüren ab. So nach dem Motto: Komm nicht rein, Dad, ich bin heute Abend beschäftigt. Komm nicht ins Zimmer, was auch immer du tust. Und dann sagen die Eltern so: Okay, wir geben dir etwas Zeit. [LACHT].

DREW: Oh, definitiv. Ich weiß, wovon du sprichst. Das passiert; Leute sagen wirklich: Oh, ich kann jetzt nicht. Ich muss Abendessen.

JACK: Ja.

DREW: Da denkt man sich: Mann, wir haben buchstäblich zehn Minuten Zeit, um das zu tun. Da ist keine Zeit fürs Abendessen. Es ist entweder Abendessen oder 100.000 Dollar. Du entscheidest.

JACK: Ja.

DREW: Das ist wirklich – das ist keine Übertreibung – so ist es wirklich manchmal. Unsere Remos sind so kurz.

JACK: Das ist es, was ich mir so gerne vorstelle, die tatsächliche Person hinter dem Bildschirm, und wenn das ein Teenager ist, dann ja, dann besteht diese Möglichkeit, dass alles in jeder Sekunde schiefgeht, weil der bei seinen Eltern wohnt und sein Zimmer aufräumen muss. Aber gut, zurück zur Geschichte, sie sind bei Telegram, sie bekommen die Nachricht: Okay, ich habe den Remo. Was hast du gesagt, 10.000 Dollar pro Nummer?

DREW: Also, nach nach Anbieter aufgeschlüsselt sieht es so aus: Bei T-Mobile kostet ein Swap etwa 5.000 Dollar. Wenn es sich um ein Betrugsopfer handelt, kostet es dich 7.500 Dollar. Ein Betrugsopfer verfügt über spezielle Schutzmaßnahmen für sein Konto, die jedoch immer noch umgangen werden können. Verizon wird dich wahrscheinlich mehr als 50.000 $ kosten. Verizon ist extrem gut gesichert, aber mit der richtigen Ausrüstung ist es trotzdem möglich. Du brauchst zum Beispiel den Login eines Filialleiters, was eine sehr hohe Position ist. Du musst also in der Lage sein, diesen Verizon-Manager ordentlich zu bezahlen, und du kannst das System nicht hacken. Das geht nicht – so sieht es zumindest derzeit aus. Man braucht einen Insider. Man darf ihn natürlich nicht verraten oder so. Bei AT&T sinken die Preise auf 2.000 bis 3.000 $, weil ihr Opus-Tool nicht allzu sicher ist.

JACK: Okay, diese Person, die den Remo-Snatch durchführt, lässt also alle Stunden vorher wissen, dass sie plant, an diesem Abend einen Remo zu machen.

DREW: Der Activator ist die Person, die den Remo-Snatch koordiniert.

JACK: Der Activator teilt also allen im Discord-Kanal mit, dass sie den Remo haben und bereit für Aufträge sind. Die Leute auf Telegram fangen sofort an, ihm Informationen zu geben; Telefonnummer und ICC-ID. Das ist alles, was sie brauchen, um den Prozess zu starten, bei dem die Telefonnummer vom Telefon des Kunden auf das Telefon des Diebes in Telegram zu übertragen. Es sind intensive zehn Minuten. Die Zeit tickt und jeden Moment kann dieses Tablet deaktiviert werden, also müssen sie so schnell wie möglich arbeiten und in diesem Zeitraum so viele Nummern wie möglich austauschen. An einem guten Abend kann ein Activator damit über 100.000 Dollar verdienen.

DREW: Ja, an diesem Punkt gehst du einfach hin und machst deinen Lick.

JACK: Mehr Slang.

DREW: Ein „Lick“ ist, wenn man jemanden ausnimmt, das ist also einfach ein „erfolgreicher Log“ – in unserem Slang bedeutet „Log“ also „Login“. Wenn man also einen „Lick“ landet, bedeutet das, dass man das Guthaben der anderen Person abgehoben hat. Es gehört dir; du hast gewonnen. Es gibt also mehrere Möglichkeiten, diesen Slang zu verwenden. Man könnte sagen: „Diese Person sieht nach einem Lick aus.“ Mit anderen Worten: Diese Person sieht nach einem leichten Ziel aus. Man könnte sagen: „Ich habe heute einen Lick gelandet“, was bedeutet, dass ich eine erfolgreiche Abhebung von einem Coinbase-Konto durchgeführt habe.

JACK: Nun haben diese Jungs also die Kontrolle über die Telefonnummern ihrer Ziele, und müssen ab jetzt schnell wie möglich zu arbeiten.

DREW: Du schwitzt wie irre. Du gehst hin und setzt das Yahoo-Passwort zurück. Du bist über einen Proxy in ihrer Nähe verbunden, nutzt einen Residential-Proxy in der Nähe des Zielortes, loggst dich in ihr Yahoo-Konto ein und setzt das Passwort zurück, da es meistens nicht dasselbe ist wie das für Coinbase. Wir erhalten den Link zur Geräteauthentifizierung von Coinbase, während du immer noch am schwitzen bist. Dein Holder sollte die ganze Zeit über Codes erhalten; du schreist deinen Holder an, dir den Code sofort zu schicken, sonst wirst du ihn nicht bezahlen.

JACK: Was? Sorry, ein Holder ist was genau?

DREW: Ein „Holder“ ist jemand, der das Telefon, auf dem das Einmalpasswort eingeht, tatsächlich in der Hand hält. Meistens machen die Personen, die die Zieldaten und das Guthaben besitzen, das nicht selbst, da das die operative Sicherheit gefährden würde.

JACK: Heilige Scheiße.

DREW: Es gibt dafür spezielle Personen, die die Handys nur halten, damit die Person, die die Hinweise oder Ziele hat, nicht erwischt wird.

JACK: Oh Mann, da ist also auch noch ein Holder in die ganze Sache involviert. Ja, Holder werden einfach dafür bezahlt, dass sie diejenigen sind, die das Telefon gekauft haben und die Nummer darauf übertragen lassen. Okay, die Person, die den Lick machen will, fängt also vielleicht zuerst damit an, in die E-Mail des Opfers zu gehen und das Passwort zurückzusetzen. Bei vielen E-Mail-Anbietern wird dir eine SMS geschickt, um das Passwort zurückzusetzen. Der E-Mail-Anbieter schickt also die SMS und der Holder sagt der Person, wie die SMS lautet, und sie bekommen den Zugang zum E-Mail-Konto, und von dort aus versuchen sie, sich bei Coinbase einzuloggen. Nach Eingabe des Benutzernamens und Passworts wird eine SMS an das Telefon geschickt, das der Holder hat, und der Holder muss den Code an den eigentlichen Angreifer weitergeben. Der loggt sich nun bei Coinbase ein. Aber bei Coinbase gibt es typischerweise eine Prüfung, und dann steht da sowas wie: Wir erkennen dieses Gerät nicht. Wir senden dir eine E-Mail, um zu überprüfen, ob du es bist. Aber der Angreifer ist ja bereits in dem E-Mail-Konto des Opfers, also muss er nur auf die E-Mail warten und auf "Ja, ich bin's" klicken, und Coinbase lässt ihn rein. Jetzt ist er im Coinbase-Konto von jemandem, und dort liegen vielleicht 30.000, 100.000 oder manchmal sogar mehr als eine Million Dollar.

DREW: Anschließend überträgst du das Guthaben auf Coinbase Pro, damit du das Geld abheben kannst, und transferierst es dann in deine Exodus-, MetaMask- oder Electrum-Wallet.

JACK: Der Grund, warum sie es zu Coinbase Pro transferieren, ist, weil es dort ein höheres tägliches Abhebungslimit gibt. Aber dort gibt es auch eine Sicherheitsprüfung, bevor man da Geld abheben kann, eine weitere 2FA-Prüfung. Also muss man eine weitere SMS vom Holder bekommen, um die Überweisung einzuleiten. Aber da ist immer noch eine weitere Sicherheitshürde; Coinbase hat ein maximales tägliches Abhebungslimit, und manchmal haben die Leute mehr als das. Aber Drew sagt, das sei kein Problem.

DREW: Ja, es gibt ein paar Tricks. Die Leute nutzen Sicherheitslücken, über die ich nicht sprechen darf, aber ja, es gibt da Wege, 250.000 Dollar oder eine Million Dollar abzuheben. Man kann riesige Geldsummen abheben. Es gibt eine Methode, die jeder kennt und die ich dir verraten kann, ist, ein bestimmter Bot in einem Forum, der in der Lage ist, gleichzeitig eine Flut von Anfragen zu senden, um das System zu überlasten, sodass man eine Reihe kleinerer Transaktionen abwickeln kann. Aber es gibt auch andere Methoden, die direktere Sicherheitslücken ausnutzen.

JACK: Meine Güte, diese Kids haben echt gnadenlos entschlossen. Warum sollten sie das auch nicht sein, wenn es einen potenziellen Eine-Million-Dollar-Lick gibt, den sie damit abstauben können?

DREW: Die neue Generation der Krypto-Swapper – ich kenne da persönlich wahrscheinlich mindestens zehn Millionäre, die alle unter sechzehn sind und von denen ich mit Sicherheit weiß, dass sie nicht lügen; ich habe live gesehen, wie sie Transaktionen getätigt haben, und live miterlebt, wie sie Millionen-Dollar-Gewinne eingefahren haben. Was die ältere Generation angeht, diejenigen, die extrem früh dabei waren mit den verrückten 20-Millionen-Dollar-Zielen von Michael Turpin: Die haben 15 Millionen Dollar, 10 Millionen Dollar und sind in neuen Geschäften wie NFTs und Phishing tätig. Also wirklich high-level Sachen.

JACK: Okay, Michael Turpin ist ein Kryptowährungs-Investor, aber er hat auch ein paar Startups in diesem Bereich, wie Transform Group und BitAngels. Im Januar 2018 hat jemand die Schritte durchgeführt, die wir hier gerade erklärt haben, um sich in Turpins Krypto-Wallet zu hacken und Kryptowährungen im Wert von 23 Millionen Dollar daraus zu stehlen. 23 Millionen Dollar, in einer Nacht gestohlen. Und ihr wisst, sobald die Person das Geld hatte, musste sie all die Leute in der Kette bezahlen, die ihr geholfen haben, dorthin zu gelangen. In diesem Fall waren es Insider, die bei AT&T arbeiteten, die dabei halfen. Nun, einer der Typen, die 23 Millionen Dollar gestohlen hatten, war immer noch nicht glücklich. Er twitterte: Habe 23 Millionen Dollar gestohlen und kann mich trotzdem nicht von Drogen fernhalten. Habe 23 Millionen Dollar gestohlen und kriege mein Leben nicht auf die Reihe. Turpin ging natürlich zur Polizei, die anfing zu ermitteln und einige ziemlich handfeste Beweise finden konnte, die sie zu dem Urheber der Tweets namens Nicholas Truglia führten, der einundzwanzig war. Mastermind der Aktion war aber der erst 15-jährige Ellis Pinsky.

Weil er noch minderjährig war, konnte Ellis eine Verurteilung umgehen und das meiste Geld zurückgeben. Bei Nicholas war das anders: Gerichtsakten zeigen, dass er zum Zeitpunkt seiner Verhaftung über 70 Millionen Dollar an Vermögenswerten hatte. Er hatte sich schuldig bekannt und sollte zunächst nur 18 Monate absitzen und 20 Millionen Entschädigung an die Opfer zahlen. Weil er das nicht in der vorgegebenen Zeit tat, wurde er zu 12 Jahren Haft verurteilt. Was Michael Turpin betrifft, so war der richtig wütend, dass er 23 Millionen Dollar verloren hatte. Natürlich war er das, aber er hatte auch fünfzig andere Krypto-Konten und die waren alle in Ordnung, also bin ich mir nicht sicher, welcher Prozentsatz seiner Krypto-Gelder gestohlen wurde, aber er war auf jeden Fall so wütend, dass er sowohl Nicholas als auch AT&T verklagte. Er verklagte AT&T auf 200 Millionen Dollar und behauptete, die Person, mit der er am Telefon gesprochen hatte, habe gesagt, seine Telefonnummer sei sicher und könne nicht per SIM-Swap übernommen werden, und dennoch wurde sie es. Er wollte, dass AT&T zugibt, dass sie der Hauptgrund dafür sind, dass sein Geld gestohlen wurde. Der Richter wies den Fall jedoch ab. Aber Turpin verklagte auch den Hacker, Nicholas, und diese Klage gewann er. Der Richter sprach Turpin 75 Millionen Dollar zu. Während Turpin also 24 Millionen Dollar verlor, wurden ihm letztendlich 75 Millionen Dollar als Entschädigung zugesprochen. Wilde Sache.

Ellis Pinsky hat später übrigens Computer Wissenschaften und Philosophie an der NYU studiert und will mit seinen Jugendsünden nichts mehr zu tun haben.

DREW: Ein wichtiger Tipp für alle Krypto-Anleger da draußen oder alle, die Coinbase-Konten haben: Nutzt für verschiedene Zwecke jeweils eigene E-Mail-Adressen. Trennt eure private E-Mail-Adresse von der für eure Krypto-Investitionen.

JACK: Alles klar, das ist sinnvoll. Wir sind jetzt von "Verwendet keine Passwörter mehrmals" bei "Verwendet keine E-Mails auf hochkarätigen Konten wieder" gelandet. Wenn man eine E-Mail-Adresse hätte, die nur für die Krypto-Börse da wäre und man sie nirgendwo sonst nutzen würde, dann wäre es wirklich schwer, diese E-Mail-Adresse zu finden und sie zu knacken, denn schließlich braucht man einen Benutzernamen und ein Passwort, um in diese Börsen zu gelangen, also warum nicht den Benutzernamen wirklich schwer auffindbar machen? Wenn dein Benutzername Deine E-Mail-Adresse ist, die du für alles benutzt, dann ist das so, als würdest du jedem, mit dem du chattest, die Hälfte deines Logins geben. Wir sind jetzt die 100 Schritte durchgegangen, die es braucht, um jemanden per SIM-Swap anzugreifen und sein ganzes Geld zu stehlen. Das war alles andere als eine schnelle und einfache Methode, um reich zu werden. Es brauchte eine ganze Menge Recherche, um nur ein gutes Ziel zu finden, und das ist wichtig zu wissen, denn die Leute stellen mir ständig Fragen wie: Oh, wie gefährlich kann das sein, wenn ich mein Geburtsdatum auf meinem Facebook-Profil angebe? Sie erwarten irgendeine schnelle und einfache Möglichkeit, wie ein Hacker das gegen sie verwenden kann, aber es ist nicht immer schnell und einfach. Wenn diese Art von Kriminellen Wind davon bekommen, dass du etwas hast, was sie wollen, werden sie dein Leben auskundschaften und ein massives Dossier über dich anlegen, damit sie dein digitales Leben komplett übernehmen und zu dir werden können.

Jeder kleine Fetzen zusätzlicher Information, den sie über dich bekommen können, kann für sie potenziell zum massiven Zahltag werden. Wenn irgendeine obskure Website, bei der du ein Konto hattest, gehackt wird und sie das Passwort bekommen, das du benutzt hast, und du dieses Passwort woanders wiederverwendest, öffnet ihnen das einfach Tür und Tor. Offensichtlich hat es für sie einen Wert, in deine E-Mail und an deine Telefonnummer zu kommen, also sind sie begeistert davon, wenn du das einfach öffentlich postest. Aber dann gibt es noch die kleinen Dinge; in welcher Stadt du bist, welchen Browser du benutzt, welche Dinge du magst, wo du gerne Kaffee trinkst und wer deine Familienmitglieder sind. All diese Dinge können genutzt werden, um dich weiter auszunutzen. Wenn sie wissen, in welcher Stadt du bist, können sie einen Proxy an deinem Standort nutzen, um ihren Datenverkehr so aussehen zu lassen, als käme er von irgendwo in deiner Nähe. Wenn sie wissen, welchen Browser du benutzt, hilft ihnen das, mehr wie du auszusehen, wenn sie versuchen, auf deine Konten zuzugreifen, und wenn sie wissen, welche Dinge du magst, könnte ihnen das etwas über andere Bereiche deines Lebens verraten, die sie sich ansehen sollten. Und wenn sie wissen, wo du gerne Kaffee trinkst, könnte das dazu führen, dass sie dir dort auflauern und dir die Taschen ausräumen, während du in der Schlange für deinen Latte stehst.

Wenn sie Informationen darüber haben, wer deine Familienmitglieder sind, könnten diese Familienmitglieder ins Visier genommen werden. Drew hier hat mir eine Geschichte darüber erzählt, wie die Kids einmal, als sie in das Konto eines Typen kommen wollten, der Ehefrau eine SMS schrieben und sich als der Ehemann ausgaben, um sie dazu zu bringen, die 2-Faktor-Authentifizierungscodes über SMS vorzulesen. Je mehr Informationen sie über dich haben, desto einfacher macht es ihre Arbeit. Stell dir vor, sie hätten vollen Zugriff auf dein Bankkonto und beschließen, das gesamte Geld abzuheben, aber deine Bank entscheidet: Moment, da stimmt etwas nicht, und sie hinterfragen die Überweisung und sagen: Hm, nur um sicherzugehen, dass Sie es sind, wie lautet Ihr Geburtstag? Nun, dieses eine Datum, das du für so harmlos hieltest, um es einfach öffentlich zu teilen, hätte deine Rettung sein können, wenn du es nicht auf Facebook gepostet hättest. Ich hoffe, du bist jetzt überzeugt, deine privaten und persönlichen Daten niemals auf einer öffentlichen Website zu teilen.

Wie nennst du das, diese Gruppe?

DREW: Es gibt da ein paar verschiedene Begriffe. Wir nennen es vor allem „Com“.

JACK: Com, geschrieben C-O-M; das ist die Abkürzung für Community, und das ist neu für mich. Zu meiner Zeit nannten wir es die Szene. Jetzt ist es wohl die Community.

DREW: Ja, wir nennen es aber einfach „Com“. Dann gibt es noch „Simming Com“ und es gibt „Cracking Com“, „Roblox Com“, „Twitch Com“. Da geht's um Twitchzugänge. Es gibt ein „Vanilla Com“. Es gibt „Infosec Com“.

JACK: Huh, die Infosec-Com war mir nicht geläufig, aber Drew hat es mir erklärt. So wie er es sagt, gibt es einige Leute im IT-Sicherheitsbereich, die Teil des Infosec-Twitters seien und als gute Sicherheitsforscher respektiert werden wollen, aber gleichzeitig auch Dinge tun wollen, die illegal oder unethisch sind, und sich quasi gleichzeitig als unschuldiger White Hat und als zwielichtiger Black Hat verhalten, so wie Ryan Phobia Stevenson. Das ist der Typ, der ein paar Bugs meldete, die er bei Telekommunikationsunternehmen gefunden hatte, und dafür belohnt wurde. Aber dann nutzte er diese Bugs, um Kundendaten von Telekommunikationsunternehmen abzugreifen und sie auf Untergrundmärkten zu verkaufen. Der Typ hat doppelt kassiert. Es hört sich so an, als gäbe es Coms für jeden kleinen Schwerpunktbereich, in dem Leute online Geld verdienen können. Aber der rote Faden bei all dem ist, dass sie alle unethische Coms sind, und deshalb nenne ich sie schmutzige Coms. Das sind fiese Communitys.

Der Goldrausch im NFT-Markt

JACK: Lass uns über NFTs sprechen. Also, jeden Tag in den Nachrichten sehe ich einen weiteren Angriff auf NFTs, wie zum Beispiel, dass jemand um seinen Bored Ape betrogen wird oder...

DREW: Ja, natürlich.

JACK: Oder...

DREW: Der Klassiker...

JACK: Okay, fahr fort. Du hast das gesehen. Ist es jemand aus deinen Coms, der diese Dinge durchführt?

DREW: Okay, also, es geht um die ersten, wirklich, wirklich reichen SIM-Com-Nutzer, die ich erwähnt hatte. Also, diese ersten reichen Simmers, die nicht in der aktuellen Version sind, stehlen NFTs. Es gibt eine Gruppe von Leuten, die ich kenne – ich werde sie nicht namentlich nennen, aber im Grunde sind es einfach Leute, die buchstäblich auf Discord gehen; jemand sagt, er brauche Hilfe mit einem NFT. Sie schreiben ihnen eine Nachricht, sie posten ihre Links.

JACK: Huh, ich habe das selbst während des großen NFT-Hypes aus erster Hand miterlebt. Ich war in einem NFT-Discord. Und falls ihr nicht wisst, was ein NFT ist, in diesem Fall ist es einfach digitale Kunst, die man kaufen und verkaufen kann, und diese digitalen Kunstwerke gingen für Tausende von Dollar pro Stück weg, und manchmal sogar für Hunderttausende von Dollar pro Stück. In Discord bekam ich eine Direktnachricht, in der stand, ich sei ausgewählt worden, auf einer Vorverkaufsliste für einen dieser NFT-Drops zu stehen, und ich müsse ihn jetzt kaufen. Aber natürlich habe ich nicht auf den Link geklickt. Aber jemand im Kanal hat es getan, und die Seite sagte, um das NFT zu prägen, müsse man nur sein MetaMask-Krypto-Wallet verbinden und seine 24-Wort-Seed-Phrase eingeben. Nun, diese 24-Wörter sind absolut nichts, was man jemals teilen sollte. Das ist im Grunde das private Passwort zu deiner Krypto-Wallet, und wenn du das jemandem gibst, hast du ihm im Grunde die Kontrolle über deine gesamte Krypto-Wallet übergeben. Nun, diese Person gab ihre Seed-Phrase auf der gefälschten Website ein, und sobald sie das tat, gelangte der Dieb in ihre Krypto-Wallet und nahm all ihre wertvollen NFTs und verkaufte sie für etwa den halben Preis. Der Dieb machte etwa 40.000 Dollar in Ethereum in vielleicht fünf Minuten. Es war absolut verrückt, mitanzusehen, wie dieser Person direkt vor meinen Augen das Konto leergeräumt wurde, und es gab nichts, was irgendjemand tun konnte, um es zu stoppen.

Es gibt echt keinen Mangel an Geschichten von Leuten, die digital ausgeraubt werden und denen die Krypto-Wallet gestohlen wird, und ich glaube, der Grund ist der, dass diese Krypto-Wallets Unmengen an Geld beinhalten und sie genau wie Browser-Add-ons sind. Wenn du deine Krypto-Wallet mit der falschen Seite verbindest, ist das Spiel vorbei, und es ist so einfach, sie mit der falschen Seite zu verbinden. Es ist ein bisschen, als hätte man sein Bankkonto direkt im Browser als Plug-in zugänglich, und alle Seiten, die man besucht, wollen alle einen Blick darauf werfen. Aber das ist erst der Anfang; fast jeden Tag passiert das. Es gibt so viele Betrüger, die versuchen, Zugang zu den Krypto-Wallets von Leuten zu bekommen, in denen sich Kryptowährung oder ein NFT befinden könnte. Die Betrügereien sind riesig und schnell, sie kommen aus jedem Winkel auf dich zu, wenn du dich in diesem Bereich bewegst. Zum Beispiel war ein anderer großer Betrug, den ich gesehen habe, als ein NFT-Projekt kurz vor dem Start stand. Und der Starttag ist ein großer Tag. Jeder, der dabei sein will, will sich beeilen, um seine Token zu prägen und zu hoffen, dass der Preis steigt. In diesen Momenten herrscht also ein Rausch, weil es ein begrenztes Angebot gibt und man nicht leer ausgehen will. Wenn Leute es also eilig haben, etwas zu kaufen, sind sie bereits anfällig dafür, Fehler zu machen, und typischerweise werden eifrige Käufer im Discord-Chatroom für dieses NFT sein, um zu beobachten, was vor sich geht. Aber es gibt eine ganze Reihe von Dingen, die dabei schiefgehen können. Erstens kann der Besitzer des Discords gehackt werden, und Drew erklärt, wie das passiert.

DREW: Sie haben ihre Glaubwürdigkeit über einen Freund aufgebaut; so läuft das immer. „Hey, mein Freund meint, ich soll mal mit dir reden.“ Irgendwann schleicht er sich dann langsam heran, indem er eine Art Datei schickt, mit der sie ihn tatsächlich über das Discord-Token-Protokoll identifizieren können.

JACK: Wenn ihr Discord benutzt, stehen die Chancen gut, dass ihr nicht jedes Mal euren Benutzernamen und euer Passwort eingebt, wenn ihr die Seite besucht oder die App öffnet. Das liegt daran, dass, sobald man sich authentifiziert hat, ein kleines Authentifizierungs-Token auf dem Computer existiert, das einen eingeloggt hält. Aber wenn man einfach das Authentifizierungs-Token nehmen kann, dann kann man sich als diese Person einloggen, ohne ein Passwort zu benötigen. Das Authentifizierungs-Token hat all das Zeug da drin, und ja, wenn man jemanden dazu bringen kann, seine Malware zu installieren, kann die Malware das Token stehlen. Okay, wenn man also Zugang zum Konto eines Moderators auf einem beliebten Discord-Kanal bekommt, der kurz davor steht, ein NFT zu starten, dann kann man eine Menge Geld verdienen. Alles, was man tun muss, ist, die offizielle Website dieses NFTs zu kopieren, was super einfach ist, und eine ähnlich aussehende URL mit einem anderen Buchstaben zu erstellen, und zu ändern, wohin das Geld geht, wenn jemand das NFT kauft. Anstatt dass das Geld an den NFT-Macher geht, geht es jetzt in deine Wallet. Alles, was man jetzt noch tun muss, ist, die Leute auf seine Seite zu leiten, und da man ein Moderator ist, kann man das.

DREW: Poste eine Hauptnachricht, Feuer frei.

JACK: Die Nachricht könnte lauten: "Minting ist jetzt live, offen für alle, aber beeilt euch; wir schließen in zehn Minuten". Einige dieser Discord-Kanäle haben über 50.000 Leute da drin, alle bereit zum Kauf. Ihr könnt euch vorstellen, dass, wenn 50.000 Leute eine Nachricht wie diese sehen, dass das Projekt live gegangen ist und sie bereit zum Prägen sind, dass sie auf die Seite strömen werden, um ihre NFTs zu kaufen. Ich habe das immer und immer wieder gesehen. Betrüger infizieren Discord und verdienen damit in zehn Minuten über 100.000 Dollar. Aber es gibt auch andere Betrügereien, die auf Discord ablaufen.

DREW: Es gibt Leute, die tatsächlich NFT-Discords kaufen und sie dann künstlich anwachsen zu lassen. Das machen sie, um einen Exit-Scam durchzuziehen oder einfach um sie an jemanden zu verkaufen, der einen Exit-Scam durchziehen wird.

JACK: Oh ja, das habe ich auch gesehen. Wenn man ein NFT-Projekt findet, das 100.000 Follower auf Twitter und 80.000 Mitglieder auf Discord hat, wird man denken, dass das ein heißes NFT-Projekt ist, und sich mehr dafür begeistern. Aber die Zahlen sind alle gefälscht. Es ist ein Discord-Kanal, der erst letzte Woche gekauft wurde, und er kam schon mit 80.000 Mitgliedern, aber das sind alles Bots. Es erzeugt also einen falschen Hype darum, und sie starten ein Projekt und die Leute bezahlen sie, und sie bekommen nichts dafür außer irgendein billiges Kunstwerk, das von jemandem auf Fiverr gemacht wurde. Die Macher schnappen sich einfach das Geld und verschwinden. Auch hier kann ein Betrug wie dieser jemandem über 100.000 Dollar einbringen, wenn er richtig gemacht wird. Aber das sind sicherlich ziemlich aufwendige und komplexe Betrügereien. Es dauert lange; man muss eine Website bauen, einen NFT-Server kaufen, die ganzen Kunstwerke erstellen. Es ist nicht einfach und erfordert echtes Fingerspitzengefühl. Aber dann, als gäbe es nicht schon genug NFT-Betrügereien, passieren auch noch Influencer-Betrügereien.

DREW: Sie engagieren eine seriös wirkende Person als Strohmann. Es handelt sich um wohlhabende Leute, die als Krypto-Influencer auftreten und andere dazu bringen, auf diese Tricks hereinzufallen – zum Beispiel ihre Freunde. Sie überreden ihre Freunde, auf NFT-Betrügereien hereinzufallen, und hinter all dem stecken diese millionenschweren SIM-Swapper. Das ist schrecklich.

JACK: Yikes, Mann, man kann in NFT-Land nicht einmal seinen Freunden vertrauen. Sie könnten von den Betrügern dafür bezahlt werden, dich zu betrügen. Ich habe mich ein bisschen mit diesen NFTs beschäftigt und ich sage euch, das ist nichts für Anfänger. Es ist gespickt mit Landminen, Hackern, Dieben, Betrügern, Kriminellen und so vielem mehr, was für mich ein Spaß ist, den ganzen Wahnsinn zu beobachten.

Vom Kinderzimmer ins Gefängnis

JACK: Es ist aber nicht jedermanns Sache, und diese Leute versuchen hart, an deine Krypto-Wallet zu kommen und deine Vermögenswerte zu plündern. Sie können es ungestraft tun, weil es so schwer ist, Krypto-Raubüberfälle zurückzuverfolgen.

DREW: Die machen das aus reiner Profitgier, Leute wie Joel Ortiz, Nicholas Truglia, Xavier Clemente.

JACK: Warum nennst du hier diese Namen?

DREW: Die Namen sind ja bekannt, die wurden verhaftet.

JACK: Oh, okay. Oh, die – die wurden alle verhaftet?

DREW: Die berühmtesten SIM-Swapper, die verhaftet wurden sind; PlugWalkJoe, AKA Joseph, James O’Connor.

JACK: Okay, ich muss nachschauen, was diese Leute getan haben. Okay, Joel Ortiz wurde wegen SIM-Swapping verhaftet. Tatsächlich war er die allererste Person, die wegen SIM-Swapping verurteilt wurde. Das ist wild; 2019 ist das erste Mal, dass ein SIM-Swapper jemals verurteilt wurde. Das ist wirklich die Definition eines modernen Verbrechens, wenn erst vor ein paar Jahren das erste Mal überhaupt jemand dafür verurteilt wurde. Joel Ortiz war also einundzwanzig, aus Boston, und laut Polizei hat er vierzig Personenbetrogen und insgesamt 7 Millionen Dollar durch die Durchführung von SIM-Swaps gestohlen. Er wurde verhaftet und bekam dafür zehn Jahre Gefängnis. Wir haben bereits über Nicholas Truglia gesprochen, aber Drew erwähnte auch Xavier Clemente. Dieser Typ war neunzehn Jahre alt, als er wegen SIM-Swapping verhaftet wurde. Die Polizei sagt, er habe über eine Million Dollar in Kryptowährungen gestohlen. Ellis Pinsky bekam den Spitznamen Baby Al Capone, weil er erst fünfzehn Jahre alt war, als er verhaftet wurde. Oh, und übrigens, die von der Polizei beschlagnahmten Gegenstände sind unglaublich; Luxusuhren, Luxusautos, Penthouse-Wohnungen. Diese Kinder verpulvern es so schnell, wie sie es bekommen, und fast alle von ihnen haben eine Spielsucht, bei der sie etwas Geld in ein Online-Casino stecken und am Rad drehen und versuchen, den noch größeren Gewinn zu erzielen. Sie mögen es irgendwie, in Livestreams und so damit anzugeben, wieviel sie bereit sind zu setzen, damit andere sehen können, wie viel Geld sie haben. Es ist verrückt.

DREW: Auf ihren Telegram-Kanälen posten sie regelmäßig Screenshots ihrer Opfer, zeigen, wie viel Geld die auf ihren Konten haben, und erzählen, dass sie ihnen gerade Millionen von Dollar abgezockt haben. Das lässt sich leicht überprüfen, denn sie zeigen einem buchstäblich die Transaktions-IDs und ihre Bitcoin-Wallets, die mit Millionen von Dollar gefüllt sind. Jeden Tag verschenken sie Tausende von Dollar. Sie machen einfach total verrückte Sachen mit ihrem Geld, sind halt noch Kinder.

JACK: Diese Liste geht weiter und weiter. Viele Leute werden verhaftet, die unter achtzehn Jahre alt sind, und deshalb sehen wir ihre Namen einfach nie in den Nachrichten. Einige von ihnen werden erwischt und müssen einfach die Kryptowährung oder NFTs zurückgeben, die sie gestohlen haben, und sie bekommen nur eine strenge Verwarnung. Ich weiß nicht, wie es euch geht, aber all das haut mich einfach um. Ich hatte vorher keine Ahnung, wie diese Untergrund-Community aussah. Aber jetzt habe ich das Gefühl, dass sich meine Augen angepasst haben und ich im Dunkeln sehen kann. Geht es euch auch so? Ich habe das Gefühl, das Internet ist im Moment ein absolutes Kriegsgebiet. Jeden Tag hören wir von einem weiteren Unternehmen, das von Ransomware oder einem Datenleck getroffen wird, aber all das ist weit weg. Das passiert nicht in meiner Nachbarschaft. Aber das hier ist mein Hinterhof. Das sind Teenager, die ganz normale Leute ins Visier nehmen, und ihre Spitznamen sind kein Zufall. Baby Al Capone oder Billy the Kid. Billy the Kid hat früher Züge überfallen. Er hat einfach wahllos Leute überfallen und Geld von ihnen gefordert, im Grunde passiert hier das Gleiche. Wenn man öffentlich erwähnt, dass man eine Menge Kryptowährung hat, kann man wahrscheinlich damit rechnen, dass jemand das von einem stehlen will. Es ist nicht einfach, das sicher aufzubewahren. Es ist wirklich knifflig.

Wenn ihr also Krypto habt, dann rate ich euch dringend, nicht all euer Zeug auf eine Adresse zu legen. Teilt es auf verschiedene Wallets auf, denn wenn etwas kompromittiert wird, wollt ihr nicht, dass sie das ganze Sparschwein mitnehmen. Die Telefongesellschaften sollten wahrscheinlich ihre Sicherheit erhöhen. Es macht den Eindruck, als würden sie versuchen, es schwieriger zu machen, und deshalb zahlen die Leute heute auch 10.000 Dollar pro SIM-Swap. Aber wie können sie es eliminieren, wenn es Insider gibt, die als Regionalmanager arbeiten und an dem Betrug beteiligt sind? Sie könnten das Äquivalent eines ganzen Jahresgehalts bekommen, indem sie einem SIM-Swapper helfen, einen Millionen-Dollar-Lick zu landen. Das könnte schwer abzulehnen sein für jemanden, der das Geld wirklich braucht. Vielleicht ist die Antwort, keine SIM-Karten mehr zu verwenden und einfach immer einen WLAN-Hotspot in der Tasche zu haben und das Telefon darüber laufen zu lassen, wenn man jemanden anrufen muss. Ich weiß es nicht. Börsen wie Coinbase machen einen ziemlich guten Job dabei, es Kriminellen schwer zu machen, in das Konto von jemandem zu gelangen. Tatsächlich glaube ich, dass Coinbase beim Exploit, von dem Drew sprach und der es jemandem ermöglichte, das Guthaben eines Kontos ohne 2FA zu überprüfen, alle Leute entschädigt hat, die von diesem Exploit betroffen waren.

Aber vielleicht sollten sie jeden dazu zwingen, Google Authenticator zu nutzen. Das würde es für diese Leute schwieriger machen, oder vielleicht die Option geben, ein zweites Passwort auf der Seite zu haben, das nur für Überweisungen ist. Das Problem ist, je schwerer sie es Kriminellen machen, Dinge zu stehlen, desto schwerer machen sie es den Nutzern, die Seite zu bedienen. Es wird also zu einer schwierigen Balance. Obendrein bin ich mir sicher, dass Nordkorea Coinbase die ganze Zeit angreift und versucht, irgendwo eine Hot Wallet zu finden, um da reinzugreifen. Sie haben also wirklich ein ziemliches Päckchen, gegen das sie sich verteidigen müssen. No pressure? Aber mir scheint zumindest offensichtlich, dass, selbst wenn man ein paar dieser Probleme behebt, die Leute in diesen schmutzigen Coms einfach einen anderen Weg finden, es zu tun. Da das Internet sich mit der Geschwindigkeit bewegt, mit der es sich bewegt, stellen Software und Websites die Sicherheit nicht immer an erste Stelle. Das sind einige der Konsequenzen, wenn man das nicht tut. Wie ich am Anfang sagte, wird nicht viel Weisheit von Generation zu Generation darüber weitergegeben, was die Gefahren des Internets sind, sei es für die Nutzer der Seite oder die Teenager, die versuchen, sich in sie zu hacken. Ich glaube, es wird noch schlimmer werden, bevor es besser wird.

Es könnte sogar noch vierzig Jahre dauern, bis wir eine Welt sehen, in der die Leute auf sichere, verantwortungsvolle Weise online gehen, in der die Nutzer ihre Privatsphäre und Sicherheit über alles schätzen und wissen, dass sie keine Apps installieren oder Geräte kaufen sollten, die ihre Privatsphäre gefährden, und ein starkes Verständnis für die digitalen Gefahren da draußen haben und Dinge tun, um sich selbst zu schützen. Deshalb habe ich diese Episode für euch gemacht, jetzt habt ihr einen viel klareren Blick darauf, warum euch jemand ins Visier nehmen würde und wie sie es tun, wenn ihr vielleicht vorher nie gedacht hättet, dass ihr das Ziel wärt.

Deshalb gibt es Dinge wie die Defcon. Das ist eine Konferenz, zu der Hacker gehen, um all die neuen Wege zu zeigen, die sie gelernt haben, um sich in Dinge zu hacken. Der Hauptfokus dort liegt darauf, offensive Hacking-Techniken zu teilen, und das Teilen dieser Techniken hat die Sicherheit wohl besser gemacht, denn wenn die Leute sie nicht teilen, dann wissen wir nicht, dass das Problem existiert, und man kann nichts unternehmen, um sich dagegen zu verteidigen.

Die echten Kriminellen und staatlichen Akteure teilen ihre Techniken nicht öffentlich, weil sie nicht wollen, dass sie behoben werden. Wir können das nicht einfach ignorieren und hoffen, dass Sicherheitsprobleme sich irgendwie von alleine beheben. Meine Hoffnung ist, dass ihr, nachdem ihr von all diesen Techniken gehört habt, euer digitales Leben nun ernster nehmt als zuvor. Ich stelle mir eine Welt vor, in der die Nutzer so gut über Sicherheit aufgeklärt sind, dass sie es auf sich nehmen, ihre Umgebungen extrem abzusichern, weil sie zu oft von bösen Akteuren getroffen wurden oder einfach gelernt haben, wie man das Internet sicher nutzt. Aber es wird lange dauern, bis wir dort ankommen. Manchmal müssen Dinge zusammenbrechen, bevor sie durchbrechen können. Es ist ein Kriegsgebiet da draußen. Seid vorsichtig, aber seid mutig. Haltet durch. Ihr schafft das. Nehmt eure eigene digitale Sicherheit ernst. Praktiziert gute digitale Hygiene. Viel Glück beim Ausweichen vor den Kugeln.

JACK: (OUTRO): Ein großes Dankeschön an Drew für das Teilen dieses Einblicks in die verschiedenen Coms und was dort vor sich geht.

Diese Episode wurde im englischen Original von Jack Rhysider erstellt. Den Text haben Marko Pauli und Isabel Grünewald übersetzt und gesprochen.

Produktion: Marko Pauli

Titelmusik: Breakmaster Cylinder

Dies sind die Darknet Diaries auf Deutsch von Heise Online.

Google Cloud COO: KI-Sicherheit ist Chefsache, nicht nur Aufgabe der IT

the_decoder·2026-05-26SicherheitWirtschaftInfrastruktur

Google Cloud COO Francis de Souza fordert Unternehmen auf, Sicherheit von Anfang an in ihre KI-Strategie einzubauen. "Es gibt keine KI-Strategie ohne Datenstrategie und Sicherheitsstrategie", sagte er bei einem Event in Los Angeles. Er warnte laut TechCrunch auch epxlizit vor "Shadow AI" - also Mitarbeitern, die KI-Tools ohne Firmenaufsicht nutzen - und vor KI-Agenten, die vergessene Datenquellen wie alte SharePoint-Server in Unternehmen aufspüren.

Die Angriffsfläche habe sich weit über den klassischen Netzwerkrand hinaus vergrößert: Modelle, Daten-Pipelines, Agenten und Prompts müssten alle geschützt werden. Die Zeit zwischen einem ersten Einbruch und der nächsten Angriffsstufe sei durch KI von acht Stunden auf 22 Sekunden gesunken. De Souza plädiert daher für eine "KI-native, vollständig agentenbasierte Verteidigung", bei der Menschen nur noch die Aufsicht führen. KI-Sicherheit sei ein Thema für Vorstände, nicht nur für IT-Abteilungen.

Sicherheit lasse sich nicht nachträglich draufschrauben und nicht den einzelnen Mitarbeitern überlassen, so de Souza. Unternehmen bräuchten eine einheitliche Sicherheitsstrategie über alle Clouds und Modelle hinweg, auch wenn sie glauben, nur einen Anbieter zu nutzen. Denn über SaaS-Anwendungen und Geschäftspartner seien fast immer mehrere Clouds im Spiel.

Weiterlesen

Google Cloud COO Francis de Souza fordert Unternehmen auf, Sicherheit von Anfang an in ihre KI-Strategie einzubauen. "Es gibt keine KI-Strategie ohne Datenstrategie und Sicherheitsstrategie", sagte er bei einem Event in Los Angeles. Er warnte laut TechCrunch auch epxlizit vor "Shadow AI" - also Mitarbeitern, die KI-Tools ohne Firmenaufsicht nutzen - und vor KI-Agenten, die vergessene Datenquellen wie alte SharePoint-Server in Unternehmen aufspüren.

Die Angriffsfläche habe sich weit über den klassischen Netzwerkrand hinaus vergrößert: Modelle, Daten-Pipelines, Agenten und Prompts müssten alle geschützt werden. Die Zeit zwischen einem ersten Einbruch und der nächsten Angriffsstufe sei durch KI von acht Stunden auf 22 Sekunden gesunken. De Souza plädiert daher für eine "KI-native, vollständig agentenbasierte Verteidigung", bei der Menschen nur noch die Aufsicht führen. KI-Sicherheit sei ein Thema für Vorstände, nicht nur für IT-Abteilungen.

Sicherheit lasse sich nicht nachträglich draufschrauben und nicht den einzelnen Mitarbeitern überlassen, so de Souza. Unternehmen bräuchten eine einheitliche Sicherheitsstrategie über alle Clouds und Modelle hinweg, auch wenn sie glauben, nur einen Anbieter zu nutzen. Denn über SaaS-Anwendungen und Geschäftspartner seien fast immer mehrere Clouds im Spiel.

Forscher finden tausende erfundene KI-Quellen in biomedizinischen Fachartikeln und warnen vor Gefahr für klinische Leitlinien

the_decoder·2026-05-26ForschungSicherheitGesellschaft

Kurz & Knapp

- Forscher der Columbia University und anderer Institutionen zeigen in einer Studie, dass sich die Zahl erfundener Literaturangaben in biomedizinischen Fachartikeln seit 2023 mehr als verzwölffacht hat.

- Die Autoren sehen Sprachmodelle wie ChatGPT als wahrscheinliche Ursache. Die gefälschten Quellen wirken täuschend echt und sind riskant, da sie oft in Übersichtsartikeln stehen, die klinische Leitlinien prägen.

- Als Gegenmaßnahme fordern die Forscher automatische Referenzprüfungen vor der Veröffentlichung sowie das Screening bereits publizierter Papiere. Plattformen wie Arxiv haben bereits erste Sanktionen für KI-Fehler eingeführt.

Ein Audit von 2,5 Millionen biomedizinischen Papieren zeigt, dass erfundene Literaturangaben in der Peer-reviewed-Forschung inzwischen systematisch auftreten. Seit 2023 hat sich die Rate mehr als zwölffach erhöht.

Forscher der Columbia University und anderer Institutionen haben in einer im Fachjournal The Lancet veröffentlichten Studie die bislang größte Prüfung von Literaturangaben in biomedizinischen Papieren vorgelegt. Das Team um Maxim Topaz durchsuchte 2,47 Millionen Papiere aus dem offenen PubMed-Central-Bestand zwischen Januar 2023 und Februar 2026.

Von 97,1 Millionen geprüften Referenzen wurden 4.046 als fabriziert eingestuft, verteilt auf 2.810 Papiere. Eine Referenz galt als fabriziert, wenn der angegebene Titel in keiner von vier großen Literaturdatenbanken auffindbar war: PubMed, Crossref, OpenAlex und Google Scholar.

Stabiles 2023, dann steiler Anstieg

Auffällig ist vor allem die zeitliche Entwicklung. Im gesamten Jahr 2023 lag die Rate bei rund vier fabrizierten Referenzen pro 10.000 Papieren und blieb stabil. Ab Mitte 2024 stieg sie dann deutlich an, erreichte Ende 2025 bereits 51,3 pro 10.000 und kletterte in den ersten sieben Wochen 2026 auf 56,9 pro 10.000. Das ist mehr als das Zwölffache des Ausgangswerts.

Die Autoren vermuten einen - naheliegenden - Zusammenhang mit dem breiten Einsatz von Sprachmodellen wie ChatGPT, der ab Ende 2022 einsetzte. Da Papiere nach der Einreichung typischerweise 100 bis 200 Tage bis zur Veröffentlichung brauchen, würden KI-gestützte Texte erst ab Mitte 2024 in größerer Zahl in PubMed Central auftauchen. Die Autoren schließen aber auch andere Ursachen nicht aus, etwa verstärkte Paper-Mill-Aktivität oder veränderte Indexierungspraktiken.

Das Problem dabei: Die erfundenen Referenzen sind auf den ersten Blick nicht erkennbar. Sie passen thematisch zum jeweiligen Papier, sind korrekt formatiert, echten Forschern zugeschrieben und tragen plausible Jahreszahlen. In einem urologischen Fachartikel etwa waren 18 von 30 geprüften Referenzen erfunden, alle passend zum engen chirurgischen Thema.

Daneben fanden die Forscher Muster, die auf koordinierte Paper-Mill-Aktivität hindeuten: Zwei Autoren tauchten in elf Papieren desselben chirurgischen Journals auf, mit insgesamt 15 erfundenen Referenzen zu Themen wie CRISPR-Diagnostik und Darmmikrobiom.

Die wissenschaftliche Infrastruktur muss auf KI reagieren

Zum Zeitpunkt des Audits hatten 98,4 Prozent der betroffenen Papiere keine Reaktion des jeweiligen Verlags erhalten. Besonders betroffen sind Übersichtsartikel, die eine um 57 Prozent höhere Fabrikationsrate aufweisen als andere Papiertypen. Das ist laut den Autoren deshalb problematisch, weil solche Reviews häufig als Grundlage für klinische Leitlinien dienen. Wenn eine Leitlinie ein Papier mit teilweise erfundenen Quellen zitiert, ist die gesamte Evidenzkette für Behandlungsentscheidungen kompromittiert.

Die wissenschaftliche Infrastruktur hat bereits damit begonnen, sich an das wachsende Problem anzupassen, bislang aber uneinheitlich: Arxiv verschärfte die Sanktionen für ungeprüfte LLM-Ausgaben in Manuskripten, darunter halluzinierte Quellen, und droht betroffenen Autoren mit einem einjährigen Ausschluss. Eine Analyse akzeptierter NeurIPS-2025-Paper hatte zuvor gezeigt, dass selbst führende KI-Konferenzen erfundene Zitationen nicht zuverlässig herausfiltern. Einen möglichen Gegenansatz liefert CiteAudit, ein Open-Source-System zur automatisierten Zitationsprüfung, das aber zugleich zeigt, wie schwer sich kommerzielle Sprachmodelle damit tun, ihr eigenes Referenzproblem verlässlich zu erkennen.

Die Forschenden empfehlen vier Maßnahmen: automatische Referenzprüfung bereits vor dem Peer Review, Integritäts-Metadaten in Artikeldatensätzen, nachträgliches Screening bereits veröffentlichter Papiere sowie eine eigene Kategorie "fabrizierte Referenzen" in Forschungsintegritätsdatenbanken. Die Autoren nutzten für die Studie selbst Claude zur Code-Entwicklung und Grammatikkorrektur.

Weiterlesen

Kurz & Knapp

- Forscher der Columbia University und anderer Institutionen zeigen in einer Studie, dass sich die Zahl erfundener Literaturangaben in biomedizinischen Fachartikeln seit 2023 mehr als verzwölffacht hat.

- Die Autoren sehen Sprachmodelle wie ChatGPT als wahrscheinliche Ursache. Die gefälschten Quellen wirken täuschend echt und sind riskant, da sie oft in Übersichtsartikeln stehen, die klinische Leitlinien prägen.

- Als Gegenmaßnahme fordern die Forscher automatische Referenzprüfungen vor der Veröffentlichung sowie das Screening bereits publizierter Papiere. Plattformen wie Arxiv haben bereits erste Sanktionen für KI-Fehler eingeführt.

Ein Audit von 2,5 Millionen biomedizinischen Papieren zeigt, dass erfundene Literaturangaben in der Peer-reviewed-Forschung inzwischen systematisch auftreten. Seit 2023 hat sich die Rate mehr als zwölffach erhöht.

Forscher der Columbia University und anderer Institutionen haben in einer im Fachjournal The Lancet veröffentlichten Studie die bislang größte Prüfung von Literaturangaben in biomedizinischen Papieren vorgelegt. Das Team um Maxim Topaz durchsuchte 2,47 Millionen Papiere aus dem offenen PubMed-Central-Bestand zwischen Januar 2023 und Februar 2026.

Von 97,1 Millionen geprüften Referenzen wurden 4.046 als fabriziert eingestuft, verteilt auf 2.810 Papiere. Eine Referenz galt als fabriziert, wenn der angegebene Titel in keiner von vier großen Literaturdatenbanken auffindbar war: PubMed, Crossref, OpenAlex und Google Scholar.

Stabiles 2023, dann steiler Anstieg

Auffällig ist vor allem die zeitliche Entwicklung. Im gesamten Jahr 2023 lag die Rate bei rund vier fabrizierten Referenzen pro 10.000 Papieren und blieb stabil. Ab Mitte 2024 stieg sie dann deutlich an, erreichte Ende 2025 bereits 51,3 pro 10.000 und kletterte in den ersten sieben Wochen 2026 auf 56,9 pro 10.000. Das ist mehr als das Zwölffache des Ausgangswerts.

Die Autoren vermuten einen - naheliegenden - Zusammenhang mit dem breiten Einsatz von Sprachmodellen wie ChatGPT, der ab Ende 2022 einsetzte. Da Papiere nach der Einreichung typischerweise 100 bis 200 Tage bis zur Veröffentlichung brauchen, würden KI-gestützte Texte erst ab Mitte 2024 in größerer Zahl in PubMed Central auftauchen. Die Autoren schließen aber auch andere Ursachen nicht aus, etwa verstärkte Paper-Mill-Aktivität oder veränderte Indexierungspraktiken.

Das Problem dabei: Die erfundenen Referenzen sind auf den ersten Blick nicht erkennbar. Sie passen thematisch zum jeweiligen Papier, sind korrekt formatiert, echten Forschern zugeschrieben und tragen plausible Jahreszahlen. In einem urologischen Fachartikel etwa waren 18 von 30 geprüften Referenzen erfunden, alle passend zum engen chirurgischen Thema.

Daneben fanden die Forscher Muster, die auf koordinierte Paper-Mill-Aktivität hindeuten: Zwei Autoren tauchten in elf Papieren desselben chirurgischen Journals auf, mit insgesamt 15 erfundenen Referenzen zu Themen wie CRISPR-Diagnostik und Darmmikrobiom.

Die wissenschaftliche Infrastruktur muss auf KI reagieren

Zum Zeitpunkt des Audits hatten 98,4 Prozent der betroffenen Papiere keine Reaktion des jeweiligen Verlags erhalten. Besonders betroffen sind Übersichtsartikel, die eine um 57 Prozent höhere Fabrikationsrate aufweisen als andere Papiertypen. Das ist laut den Autoren deshalb problematisch, weil solche Reviews häufig als Grundlage für klinische Leitlinien dienen. Wenn eine Leitlinie ein Papier mit teilweise erfundenen Quellen zitiert, ist die gesamte Evidenzkette für Behandlungsentscheidungen kompromittiert.

Die wissenschaftliche Infrastruktur hat bereits damit begonnen, sich an das wachsende Problem anzupassen, bislang aber uneinheitlich: Arxiv verschärfte die Sanktionen für ungeprüfte LLM-Ausgaben in Manuskripten, darunter halluzinierte Quellen, und droht betroffenen Autoren mit einem einjährigen Ausschluss. Eine Analyse akzeptierter NeurIPS-2025-Paper hatte zuvor gezeigt, dass selbst führende KI-Konferenzen erfundene Zitationen nicht zuverlässig herausfiltern. Einen möglichen Gegenansatz liefert CiteAudit, ein Open-Source-System zur automatisierten Zitationsprüfung, das aber zugleich zeigt, wie schwer sich kommerzielle Sprachmodelle damit tun, ihr eigenes Referenzproblem verlässlich zu erkennen.

Die Forschenden empfehlen vier Maßnahmen: automatische Referenzprüfung bereits vor dem Peer Review, Integritäts-Metadaten in Artikeldatensätzen, nachträgliches Screening bereits veröffentlichter Papiere sowie eine eigene Kategorie "fabrizierte Referenzen" in Forschungsintegritätsdatenbanken. Die Autoren nutzten für die Studie selbst Claude zur Code-Entwicklung und Grammatikkorrektur.

OpenAI Codex steuert Mac auch in gesperrtem Zustand

heise_ki·2026-05-26AgentenSicherheitAnwendungen

Agentische KI steuert Mac, ohne dass der Nutzer dies sieht: Für manche User mag das dystopisch klingen, für OpenAIs Coding-Assistenten Codex ist das künftig Realität. Mit der jüngsten Version der App samt entsprechenden Rechten muss die Maschine nicht mehr entsperrt sein, damit die KI aktiv werden kann. Das kündigte OpenAI in der vergangenen Woche via X an und ergänzte auch seine Dokumentation von Codex entsprechend. Computer Use und Locked Use nicht innerhalb des EWR Laut dem Unternehmen muss der Mac durch den Nutzer nicht mehr „unlocked“ sein, „damit Codex Deinen Computer verwenden kann“. Die entsprechende Option in der macOS-App nennt sich „Locked Use“. Sie ist, genauso wie die Rechnersteuerung durch Codex an sich („Computer Use“), derzeit allerdings noch nicht innerhalb des Europäischen Wirtschaftsraums (inklusive EU), der Schweiz sowie Großbritannien verfügbar. Auch für Windows oder Linux gibt es weder Locked Use noch Computer Use.

Damit Computer Use grundsätzlich funktioniert, muss man Codex die Rechte für Bildschirmaufnahmen sowie den Zugriff für Bedienungshilfen geben – die App kann damit grundsätzlich alles auf dem Rechner tun. Immerhin fragt Codex innerhalb der App selbst allerdings nach, welche macOS-Anwendungen Nutzer für den Coding-Assistenten erlauben wollen und welche nicht. Für den Einsatz des Locked Use reichen die beiden Freigaben allerdings nicht. Apple verlangt hierfür ein sogenanntes Authorization Plug-in, das den „macOS Unlock Flow“ unterstützt. Sicherheitserwägungen – und Fernsteuerung vom Mobilgerät OpenAI ist sich bewusst, dass sowohl Computer Use als auch Locked Use ein Sicherheitsproblem darstellen können. So rät der KI-Konzern Nutzern beispielsweise, Codex „klare Ziel-Apps oder Flows“ zu geben und dabei jeweils nur eine. Innerhalb des Locked Use erkennt Codex eine Verwendung von Tastatur, Trackpad oder Maus durch den Nutzer und deaktiviert den automatischen Unlock dann zunächst, bis der nächste manuelle Unlock erfolgt. Codex soll Zugriff auf alle Bildschirme haben, allerdings nur während „aktiver Computer-Use-Turns“. Zudem sei das Autorisierungsfenster „kurz und auf den aktuellen Entsperrversuch“ konzentriert. Dennoch sollten sich Nutzer genau überlegen, was sie hier tun. Zuletzt hatte OpenAI die ChatGPT-App mit neuen Fernsteuerungsfunktionen für Codex auf dem Mac ausgerüstet. Dies funktioniert sowohl unter iOS als auch unter Android. Die Funktion gilt derzeit noch offiziell als „Preview“. Sie kann nun direkt im Zusammenhang mit dem Locked Use verwendet werden. Zuvor musste der heimische Mac entsperrt bleiben, was unsicher war.

Weiterlesen

Agentische KI steuert Mac, ohne dass der Nutzer dies sieht: Für manche User mag das dystopisch klingen, für OpenAIs Coding-Assistenten Codex ist das künftig Realität. Mit der jüngsten Version der App samt entsprechenden Rechten muss die Maschine nicht mehr entsperrt sein, damit die KI aktiv werden kann. Das kündigte OpenAI in der vergangenen Woche via X an und ergänzte auch seine Dokumentation von Codex entsprechend. Computer Use und Locked Use nicht innerhalb des EWR Laut dem Unternehmen muss der Mac durch den Nutzer nicht mehr „unlocked“ sein, „damit Codex Deinen Computer verwenden kann“. Die entsprechende Option in der macOS-App nennt sich „Locked Use“. Sie ist, genauso wie die Rechnersteuerung durch Codex an sich („Computer Use“), derzeit allerdings noch nicht innerhalb des Europäischen Wirtschaftsraums (inklusive EU), der Schweiz sowie Großbritannien verfügbar. Auch für Windows oder Linux gibt es weder Locked Use noch Computer Use.

Damit Computer Use grundsätzlich funktioniert, muss man Codex die Rechte für Bildschirmaufnahmen sowie den Zugriff für Bedienungshilfen geben – die App kann damit grundsätzlich alles auf dem Rechner tun. Immerhin fragt Codex innerhalb der App selbst allerdings nach, welche macOS-Anwendungen Nutzer für den Coding-Assistenten erlauben wollen und welche nicht. Für den Einsatz des Locked Use reichen die beiden Freigaben allerdings nicht. Apple verlangt hierfür ein sogenanntes Authorization Plug-in, das den „macOS Unlock Flow“ unterstützt. Sicherheitserwägungen – und Fernsteuerung vom Mobilgerät OpenAI ist sich bewusst, dass sowohl Computer Use als auch Locked Use ein Sicherheitsproblem darstellen können. So rät der KI-Konzern Nutzern beispielsweise, Codex „klare Ziel-Apps oder Flows“ zu geben und dabei jeweils nur eine. Innerhalb des Locked Use erkennt Codex eine Verwendung von Tastatur, Trackpad oder Maus durch den Nutzer und deaktiviert den automatischen Unlock dann zunächst, bis der nächste manuelle Unlock erfolgt. Codex soll Zugriff auf alle Bildschirme haben, allerdings nur während „aktiver Computer-Use-Turns“. Zudem sei das Autorisierungsfenster „kurz und auf den aktuellen Entsperrversuch“ konzentriert. Dennoch sollten sich Nutzer genau überlegen, was sie hier tun. Zuletzt hatte OpenAI die ChatGPT-App mit neuen Fernsteuerungsfunktionen für Codex auf dem Mac ausgerüstet. Dies funktioniert sowohl unter iOS als auch unter Android. Die Funktion gilt derzeit noch offiziell als „Preview“. Sie kann nun direkt im Zusammenhang mit dem Locked Use verwendet werden. Zuvor musste der heimische Mac entsperrt bleiben, was unsicher war.

Dienstag: Papst thematisiert KI, Trump stoppt wichtige KI-Verordnung

Am verlängerten Pfingstwochenende dreht sich vieles um Künstliche Intelligenz (KI). Den Papst treibt das Thema schon länger um. In seiner ersten Enzyklika, eine Art päpstlicher Regierungserklärung, fordert Leo XIV. nun strenge internationale Richtlinien für den Umgang mit KI. US-Präsident Donald Trump dagegen vertagt bis auf Weiteres eine neue Verordnung, die der US-Regierung die Prüfung neuer KI-Modelle vor deren Veröffentlichung ermöglicht hätte. Trump begründete seinen Schritt mit einem Verweis auf China. Und die Kryptowährungsplattform Tether wird in Georgien zusammen mit der dortigen Regierung einen offiziellen Stablecoin einführen – die wichtigsten Meldungen im kurzen Überblick.

Die erste Enzyklika des vor gut einem Jahr ins Amt gekommenen Papstes Leo XIV. ist mit Spannung erwartet worden. Das jetzt erschienene 100 Seiten lange „Rundschreiben“ – so die wörtliche Bedeutung – mit dem Titel „Magnifica Humanitas“ (Großartige Menschheit) gilt vielen Gläubigen als eine Art Regierungserklärung für Leos Pontifikat. In der Enzyklika, die den Untertitel „Über die Bewahrung des Menschen im Zeitalter der Künstlichen Intelligenz“ trägt, betont der Papst, dass KI vielfach eine „wertvolle Hilfe“ sein könne, warnt jedoch zugleich vor deren Risiken und fordert strenge internationale Richtlinien für den Umgang mit Künstlicher Intelligenz (KI). Erste Enzyklika von Papst Leo XIV. thematisiert Künstliche Intelligenz In die entgegengesetzte Richtung bewegt sich allerdings US-Präsident Donald Trump. Nachdem das US-amerikanische KI-Unternehmen Anthropic von einer Veröffentlichung seines KI-Modell Claude Mythos Abstand genommen hatte, weil es dieses als zu gefährlich einstufte, um es der Allgemeinheit zugänglich zu machen, kamen in der US-Regierung Überlegungen auf, eine KI-Verordnung zu erlassen. Diese sollte es US-Bundesbehörden ermöglichen, neue KI-Modelle vor ihrer Veröffentlichung auf mögliche Cybersicherheitsrisiken unter die Lupe zu nehmen. Doch nun legte Trump die Unterzeichnung der neuen Verordnung vorerst auf Eis. Er glaube, die neue Verordnung könne der weltweiten Spitzenposition der USA in der KI-Entwicklung in die Quere kommen, begründete Trump den plötzlichen Kursschwenk in letzter Minute und verwies auf den Vorsprung vor China auf dem Gebiet. Trump stoppt wichtige Verordnung für KI-Modelle Die US-Kryptowährungsplattform Tether emittiert mit dem USD₮ den weltweit größten Stablecoin. Nach eigenen Angaben hat dieser an den US-Dollar gekoppelte Kryptotoken heute eine Marktkapitalisierung von fast 190 Milliarden US-Dollar und sein tägliches Handelsvolumen übertrifft regelmäßig Zahlungsnetzwerke wie Visa und Mastercard. Gesichert ist der USD₮ durch Bargeld, Schuldverschreibungen, Unternehmensanleihen und andere Vermögenswerte in US-Dollar. Zuletzt war Tether auf großer Gold-Einkaufstour und sorgte damit für einiges Aufsehen. Nun wartet das Unternehmen mit einem ungewöhnlichen Projekt auf: Zusammen mit der Regierung Georgiens wird Tether einen offiziellen, an die Landeswährung Lari gekoppelten Stablecoin lancieren. Tether: Offizieller Stablecoin in Georgien vor der Einführung Bereits im Jahr 2014 startete Facebook eine eigenständige Gruppen-App, stellte diese aber nur drei Jahre wieder ein. Jetzt unternimmt der Facebook-Mutterkonzern Meta einen zweiten Anlauf – dieses Mal mit deutlich mehr KI. Ohne großes Aufsehen wurde eine neue App für iOS veröffentlicht, die Facebook-Gruppen in den Mittelpunkt stellt. Die Anwendung namens „Forum“ richtet sich an Nutzer, die tiefere Diskussionen und Frage-Antwort-Formate suchen. Das Konzept erinnert stark an Reddit – inklusive KI und Pseudonymen. Meta testet Reddit-Konkurrenz: Neue App „Forum“ für Facebook-Gruppen Der Sportwagenhersteller Porsche steckt in der Krise. Der Stuttgarter Autobauer kämpft mit rückläufigen Geschäften in China und Nordamerika, schwachen Verkäufen von Elektroautos sowie hohen Produktionskosten. Die Gewinnmarge des Konzerns schrumpfte im vergangenen Jahr auf einen mageren Prozentpunkt – verglichen mit 18 Prozent vor drei Jahren. Auch im ersten Quartal des laufenden Jahres verzeichnete Porsche deutliche Rückgänge bei Umsatz, Absatz und Gewinn. Werke wie Zuffenhausen oder Leipzig haben Überkapazitäten. Die Gemengelage zwingt zum Kurswechsel. Management, Strategie und Belegschaft – alles steht zur Disposition. Porsche-Chef Leiters plant umfassenden Konzernumbau Auch noch wichtig: - Vodafone hat ein neues Verfahren aktiviert, das Uploads deutlich beschleunigen soll. Das können bisher aber nur einige Kunden mit Xiaomi-Geräten testen. Bessere Upload-Geschwindigkeit: Vodafone aktiviert neues Verfahren - Der Netzbetreiber SH Netz plant in Schleswig-Holstein bis 2030 Investitionen von über 2,6 Milliarden Euro, um die Stromnetze für erneuerbare Energien und neue Verbraucher zu stärken. Stromnetze für die Energiewende: Milliardeninvestitionen in Schleswig-Holstein - Im Interview sprechen Googles Genie-Forscher über Echtzeit-Simulation, die Integration von Street View und warum Roboter ein Weltmodell benötigen. Wie 2021 bei LLMs: Google-Forscher über die Zukunft der Weltmodelle - Der Riesenrakete Starship konnte abheben und zur Erde zurückkehren. Doch trotz des gelungenen Tests lief mit dem Antrieb nicht alles rund. Testflug von Starship V3 erfolgreich - Der Musikriese Universal Music setzt eine weitreichende Lizenzvereinbarung durch, um die Verbreitung unlizenzierter KI-generierter Songs auf TikTok einzudämmen. Musik-Business: Universal schließt Tech-Pakt mit TikTok gegen unautorisierte KI - Als Brücke zwischen Telefonie und Internet eingeführt, steht E.164 Number Mapping (ENUM) nun vor einer ungewissen Zukunft. Deutsche und niederländische Betreiber wehren sich gegen das Vorgehen. Streit über Zukunft von ENUM-Telefon-Domains - Die Digitalisierung der Justiz schreitet voran. Automatisierte KI-Software zur Urteilsanonymisierung läuft im Echtbetrieb, doch die finale Entscheidung im Gerichtssaal muss zwingend ein Mensch fällen. Künstliche Intelligenz bei Gericht: Wie die Justiz digital aufrüstet - Die Öffentlichkeitsfahndung wird zunehmend für Bagatellfälle genutzt. Experten warnen vor unverhältnismäßigen Grundrechtseingriffen und fordern eine Reform. Digitale Rasterfahndung: Wenn Bilder im Netz Leben zerstören - Was passiert, wenn NPCs nicht mehr nur Textbausteine abspulen, sondern Spieler in dynamische Gespräche verwickeln? „Fabula Rasa“ liefert eine erste Antwort. „Fabula Rasa“ ist ein faszinierender Ausblick auf KI-gestütztes Storytelling - Die IT-Branche zeigt ein robusteres Einstellungsverhalten, doch HR-Trends verschieben sich. Mitarbeiterbindung verliert an Fokus. IT-Branche: HR-Trends verschieben sich - Der berühmteste Geheimagent der Welt hat im Laufe der letzten 40 Jahre viele interaktive Abenteuer durchlebt. Wir präsentieren fünf der besten davon. Leben und spielen lassen: Die fünf besten „James Bond“-Games

Weiterlesen

Am verlängerten Pfingstwochenende dreht sich vieles um Künstliche Intelligenz (KI). Den Papst treibt das Thema schon länger um. In seiner ersten Enzyklika, eine Art päpstlicher Regierungserklärung, fordert Leo XIV. nun strenge internationale Richtlinien für den Umgang mit KI. US-Präsident Donald Trump dagegen vertagt bis auf Weiteres eine neue Verordnung, die der US-Regierung die Prüfung neuer KI-Modelle vor deren Veröffentlichung ermöglicht hätte. Trump begründete seinen Schritt mit einem Verweis auf China. Und die Kryptowährungsplattform Tether wird in Georgien zusammen mit der dortigen Regierung einen offiziellen Stablecoin einführen – die wichtigsten Meldungen im kurzen Überblick.

Die erste Enzyklika des vor gut einem Jahr ins Amt gekommenen Papstes Leo XIV. ist mit Spannung erwartet worden. Das jetzt erschienene 100 Seiten lange „Rundschreiben“ – so die wörtliche Bedeutung – mit dem Titel „Magnifica Humanitas“ (Großartige Menschheit) gilt vielen Gläubigen als eine Art Regierungserklärung für Leos Pontifikat. In der Enzyklika, die den Untertitel „Über die Bewahrung des Menschen im Zeitalter der Künstlichen Intelligenz“ trägt, betont der Papst, dass KI vielfach eine „wertvolle Hilfe“ sein könne, warnt jedoch zugleich vor deren Risiken und fordert strenge internationale Richtlinien für den Umgang mit Künstlicher Intelligenz (KI). Erste Enzyklika von Papst Leo XIV. thematisiert Künstliche Intelligenz In die entgegengesetzte Richtung bewegt sich allerdings US-Präsident Donald Trump. Nachdem das US-amerikanische KI-Unternehmen Anthropic von einer Veröffentlichung seines KI-Modell Claude Mythos Abstand genommen hatte, weil es dieses als zu gefährlich einstufte, um es der Allgemeinheit zugänglich zu machen, kamen in der US-Regierung Überlegungen auf, eine KI-Verordnung zu erlassen. Diese sollte es US-Bundesbehörden ermöglichen, neue KI-Modelle vor ihrer Veröffentlichung auf mögliche Cybersicherheitsrisiken unter die Lupe zu nehmen. Doch nun legte Trump die Unterzeichnung der neuen Verordnung vorerst auf Eis. Er glaube, die neue Verordnung könne der weltweiten Spitzenposition der USA in der KI-Entwicklung in die Quere kommen, begründete Trump den plötzlichen Kursschwenk in letzter Minute und verwies auf den Vorsprung vor China auf dem Gebiet. Trump stoppt wichtige Verordnung für KI-Modelle Die US-Kryptowährungsplattform Tether emittiert mit dem USD₮ den weltweit größten Stablecoin. Nach eigenen Angaben hat dieser an den US-Dollar gekoppelte Kryptotoken heute eine Marktkapitalisierung von fast 190 Milliarden US-Dollar und sein tägliches Handelsvolumen übertrifft regelmäßig Zahlungsnetzwerke wie Visa und Mastercard. Gesichert ist der USD₮ durch Bargeld, Schuldverschreibungen, Unternehmensanleihen und andere Vermögenswerte in US-Dollar. Zuletzt war Tether auf großer Gold-Einkaufstour und sorgte damit für einiges Aufsehen. Nun wartet das Unternehmen mit einem ungewöhnlichen Projekt auf: Zusammen mit der Regierung Georgiens wird Tether einen offiziellen, an die Landeswährung Lari gekoppelten Stablecoin lancieren. Tether: Offizieller Stablecoin in Georgien vor der Einführung Bereits im Jahr 2014 startete Facebook eine eigenständige Gruppen-App, stellte diese aber nur drei Jahre wieder ein. Jetzt unternimmt der Facebook-Mutterkonzern Meta einen zweiten Anlauf – dieses Mal mit deutlich mehr KI. Ohne großes Aufsehen wurde eine neue App für iOS veröffentlicht, die Facebook-Gruppen in den Mittelpunkt stellt. Die Anwendung namens „Forum“ richtet sich an Nutzer, die tiefere Diskussionen und Frage-Antwort-Formate suchen. Das Konzept erinnert stark an Reddit – inklusive KI und Pseudonymen. Meta testet Reddit-Konkurrenz: Neue App „Forum“ für Facebook-Gruppen Der Sportwagenhersteller Porsche steckt in der Krise. Der Stuttgarter Autobauer kämpft mit rückläufigen Geschäften in China und Nordamerika, schwachen Verkäufen von Elektroautos sowie hohen Produktionskosten. Die Gewinnmarge des Konzerns schrumpfte im vergangenen Jahr auf einen mageren Prozentpunkt – verglichen mit 18 Prozent vor drei Jahren. Auch im ersten Quartal des laufenden Jahres verzeichnete Porsche deutliche Rückgänge bei Umsatz, Absatz und Gewinn. Werke wie Zuffenhausen oder Leipzig haben Überkapazitäten. Die Gemengelage zwingt zum Kurswechsel. Management, Strategie und Belegschaft – alles steht zur Disposition. Porsche-Chef Leiters plant umfassenden Konzernumbau Auch noch wichtig: - Vodafone hat ein neues Verfahren aktiviert, das Uploads deutlich beschleunigen soll. Das können bisher aber nur einige Kunden mit Xiaomi-Geräten testen. Bessere Upload-Geschwindigkeit: Vodafone aktiviert neues Verfahren - Der Netzbetreiber SH Netz plant in Schleswig-Holstein bis 2030 Investitionen von über 2,6 Milliarden Euro, um die Stromnetze für erneuerbare Energien und neue Verbraucher zu stärken. Stromnetze für die Energiewende: Milliardeninvestitionen in Schleswig-Holstein - Im Interview sprechen Googles Genie-Forscher über Echtzeit-Simulation, die Integration von Street View und warum Roboter ein Weltmodell benötigen. Wie 2021 bei LLMs: Google-Forscher über die Zukunft der Weltmodelle - Der Riesenrakete Starship konnte abheben und zur Erde zurückkehren. Doch trotz des gelungenen Tests lief mit dem Antrieb nicht alles rund. Testflug von Starship V3 erfolgreich - Der Musikriese Universal Music setzt eine weitreichende Lizenzvereinbarung durch, um die Verbreitung unlizenzierter KI-generierter Songs auf TikTok einzudämmen. Musik-Business: Universal schließt Tech-Pakt mit TikTok gegen unautorisierte KI - Als Brücke zwischen Telefonie und Internet eingeführt, steht E.164 Number Mapping (ENUM) nun vor einer ungewissen Zukunft. Deutsche und niederländische Betreiber wehren sich gegen das Vorgehen. Streit über Zukunft von ENUM-Telefon-Domains - Die Digitalisierung der Justiz schreitet voran. Automatisierte KI-Software zur Urteilsanonymisierung läuft im Echtbetrieb, doch die finale Entscheidung im Gerichtssaal muss zwingend ein Mensch fällen. Künstliche Intelligenz bei Gericht: Wie die Justiz digital aufrüstet - Die Öffentlichkeitsfahndung wird zunehmend für Bagatellfälle genutzt. Experten warnen vor unverhältnismäßigen Grundrechtseingriffen und fordern eine Reform. Digitale Rasterfahndung: Wenn Bilder im Netz Leben zerstören - Was passiert, wenn NPCs nicht mehr nur Textbausteine abspulen, sondern Spieler in dynamische Gespräche verwickeln? „Fabula Rasa“ liefert eine erste Antwort. „Fabula Rasa“ ist ein faszinierender Ausblick auf KI-gestütztes Storytelling - Die IT-Branche zeigt ein robusteres Einstellungsverhalten, doch HR-Trends verschieben sich. Mitarbeiterbindung verliert an Fokus. IT-Branche: HR-Trends verschieben sich - Der berühmteste Geheimagent der Welt hat im Laufe der letzten 40 Jahre viele interaktive Abenteuer durchlebt. Wir präsentieren fünf der besten davon. Leben und spielen lassen: Die fünf besten „James Bond“-Games

Anthropic-Mitgründer bei Vorstellung der Papst-Enzyklika: KI-Modelle zeigen Hinweise auf Introspektion

the_decoder·2026-05-25ForschungGesellschaftSicherheit

Der kanadische KI-Entwickler und Anthropic-Mitgründer Christopher Olah präsentierte gemeinsam mit dem Papst dessen Enzyklika "Magnifica Humanitas".

Olah kommt nicht umhin, ganz in der Tradition von Anthropic, anzudeuten, dass heutige Sprachmodelle möglicherweise mehr sind als statistische Systeme. Sie würden nicht wie klassische Maschinen vollständig konstruiert, sondern eher auf einer grob am Gehirn orientierten Struktur "gewachsen". Deshalb blieben sie selbst ihren Entwicklern in wichtigen Punkten rätselhaft.

Mit Blick auf Anthropics interne Forschung erklärte Olah, man finde im Inneren der Modelle Hinweise auf Introspektion sowie Zustände, die funktional Freude, Zufriedenheit, Angst, Trauer und Unbehagen ähnelten. Zudem sei es möglich, dass KI im großen Umfang menschliche Arbeitskraft ersetze. Olahs Präsentation kann man sich im folgenden Video (1:01:40) ansehen.

Papst sagt das Erwartbare

Die Papst-Vorschläge sind ansonsten frei von Überraschungen: Er appellierte an die Verantwortung aller Beteiligten entlang der KI-Kette. KI sei "nie neutral", da sie die Werte ihrer Entwickler und Geldgeber widerspiegle, und warnt, dass KI keine Erfahrungen mache, keinen Körper besitze und kein moralisches Urteilsvermögen habe.

"Fest steht jedoch, dass das Missverständnis zu vermeiden ist, diese ‚Intelligenz‘ mit der menschlichen gleichzusetzen. Diese Systeme ahmen bestimmte Funktionen der menschlichen Intelligenz nach," heißt es in dem Beitrag. KI belaste zudem die Umwelt erheblich durch hohen Energie- und Wasserverbrauch.

Auch zu KI im militärischen Kontext bezieht der Papst Stellung. Tödliche oder unumkehrbare Entscheidungen dürften nicht an Maschinen delegiert werden. "Kein Algorithmus kann Krieg moralisch akzeptabel machen." Er kritisiert den Alignment-Diskurs. "Eine moralischere KI reicht nicht, wenn diese Moral von wenigen bestimmt wird." Statt abstrakter Ethik brauche es robuste Gesetze und unabhängige Aufsicht.

Leo XIV., der erste US-amerikanische Papst, hat KI zu einem zentralen Thema seines Pontifikats gemacht und die Risiken der Technologie wiederholt angesprochen. Anthropic und andere KI-Vertreter des Silicon Valley treffen sich wiederholt mit religiösen Vertretern, um den Einsatz von KI zu besprechen. Auch der Papst gehört dazu.

Weiterlesen

Der kanadische KI-Entwickler und Anthropic-Mitgründer Christopher Olah präsentierte gemeinsam mit dem Papst dessen Enzyklika "Magnifica Humanitas".

Olah kommt nicht umhin, ganz in der Tradition von Anthropic, anzudeuten, dass heutige Sprachmodelle möglicherweise mehr sind als statistische Systeme. Sie würden nicht wie klassische Maschinen vollständig konstruiert, sondern eher auf einer grob am Gehirn orientierten Struktur "gewachsen". Deshalb blieben sie selbst ihren Entwicklern in wichtigen Punkten rätselhaft.

Mit Blick auf Anthropics interne Forschung erklärte Olah, man finde im Inneren der Modelle Hinweise auf Introspektion sowie Zustände, die funktional Freude, Zufriedenheit, Angst, Trauer und Unbehagen ähnelten. Zudem sei es möglich, dass KI im großen Umfang menschliche Arbeitskraft ersetze. Olahs Präsentation kann man sich im folgenden Video (1:01:40) ansehen.

Papst sagt das Erwartbare

Die Papst-Vorschläge sind ansonsten frei von Überraschungen: Er appellierte an die Verantwortung aller Beteiligten entlang der KI-Kette. KI sei "nie neutral", da sie die Werte ihrer Entwickler und Geldgeber widerspiegle, und warnt, dass KI keine Erfahrungen mache, keinen Körper besitze und kein moralisches Urteilsvermögen habe.

"Fest steht jedoch, dass das Missverständnis zu vermeiden ist, diese ‚Intelligenz‘ mit der menschlichen gleichzusetzen. Diese Systeme ahmen bestimmte Funktionen der menschlichen Intelligenz nach," heißt es in dem Beitrag. KI belaste zudem die Umwelt erheblich durch hohen Energie- und Wasserverbrauch.

Auch zu KI im militärischen Kontext bezieht der Papst Stellung. Tödliche oder unumkehrbare Entscheidungen dürften nicht an Maschinen delegiert werden. "Kein Algorithmus kann Krieg moralisch akzeptabel machen." Er kritisiert den Alignment-Diskurs. "Eine moralischere KI reicht nicht, wenn diese Moral von wenigen bestimmt wird." Statt abstrakter Ethik brauche es robuste Gesetze und unabhängige Aufsicht.

Leo XIV., der erste US-amerikanische Papst, hat KI zu einem zentralen Thema seines Pontifikats gemacht und die Risiken der Technologie wiederholt angesprochen. Anthropic und andere KI-Vertreter des Silicon Valley treffen sich wiederholt mit religiösen Vertretern, um den Einsatz von KI zu besprechen. Auch der Papst gehört dazu.

heise-Angebot: iX-Workshop: KI-Methoden und -Werkzeuge für die IT-Sicherheit

heise_ki·2026-05-25SicherheitAnwendungenForschung

KI-gestützte Werkzeuge können dabei helfen, Schwachstellen schneller zu identifizieren und Sicherheitsanalysen effizienter durchzuführen. Gleichzeitig stellt sich in der Praxis jedoch die Frage, wann der Einsatz von KI tatsächlich einen Mehrwert bietet und wann klassische Methoden die verlässlichere Wahl sind.

Der iX-Workshop IT-Security: Künstliche Intelligenz für effiziente IT-Sicherheitsstrategien stellt verschiedene KI-Methoden und -Werkzeuge vor. Sie lernen, wann und wie diese Technologien sinnvoll in Sicherheitsprozessen eingesetzt werden können und welche Rolle sie bei der Analyse, Priorisierung und Abwehr von Sicherheitsrisiken spielen.

Der Workshop verbindet technische Grundlagen mit realistischen Anwendungsszenarien aus dem Bereich der IT-Sicherheit. Sie erhalten Einblicke in moderne Security-Audits sowie Abwehrmechanismen und setzen ausgewählte KI-Tools direkt in praxisnahen Übungen ein. Dabei wird bewusst auch der kritische Blick geschärft: Sie lernen, sinnvolle von weniger geeigneten Einsatzszenarien zu unterscheiden und die Grenzen von KI-gestützten Ansätzen realistisch einzuschätzen.

KI-Werkzeuge verstehen und gezielt einsetzen

Im Mittelpunkt stehen konkrete Anwendungsfälle aus der Sicherheitspraxis. Sie erfahren, wie sich Sicherheitsprozesse durch KI-Unterstützung strukturieren und beschleunigen lassen – etwa bei der Auswertung von Schwachstellenscans oder Penetrationstests.

Darüber hinaus lernen Sie, wie Blue Teams KI-gestützte Systeme zur Bedrohungserkennung nutzen können, um Angriffe früher zu erkennen und schneller darauf zu reagieren. So erhalten Sie ein praxisnahes Verständnis dafür, wie KI bestehende Security-Workflows sinnvoll ergänzen kann.

Etwa 25 Prozent des Workshops sind der praktischen Anwendung gewidmet, sodass Sie die vorgestellten Methoden und Werkzeuge direkt ausprobieren und bewerten können.

Von Erfahrungen aus der Praxis lernen

Sie profitieren von der direkten Anleitung durch Ihren Trainer Yves Kraft, Head of Security Academy bei der Oneconsult AG. Als ehemaliger Penetration Tester und Security Consultant verfügt er über langjährige Erfahrung in der Schwachstellenanalyse und Angriffssimulation. Im Workshop vermittelt er praxisnahe Einblicke aus realen Sicherheitsprojekten und zeigt, wie KI-gestützte Werkzeuge verantwortungsvoll und effektiv in der IT-Security eingesetzt werden können.

Für wen ist dieser Workshop geeignet?

Der Workshop richtet sich an sicherheitsaffine IT-Fachkräfte – von Security Managern über Administratoren und SOC-Mitarbeitende bis hin zu Softwareentwicklern mit Interesse an IT-Sicherheit.

Weiterlesen

KI-gestützte Werkzeuge können dabei helfen, Schwachstellen schneller zu identifizieren und Sicherheitsanalysen effizienter durchzuführen. Gleichzeitig stellt sich in der Praxis jedoch die Frage, wann der Einsatz von KI tatsächlich einen Mehrwert bietet und wann klassische Methoden die verlässlichere Wahl sind.

Der iX-Workshop IT-Security: Künstliche Intelligenz für effiziente IT-Sicherheitsstrategien stellt verschiedene KI-Methoden und -Werkzeuge vor. Sie lernen, wann und wie diese Technologien sinnvoll in Sicherheitsprozessen eingesetzt werden können und welche Rolle sie bei der Analyse, Priorisierung und Abwehr von Sicherheitsrisiken spielen.

Der Workshop verbindet technische Grundlagen mit realistischen Anwendungsszenarien aus dem Bereich der IT-Sicherheit. Sie erhalten Einblicke in moderne Security-Audits sowie Abwehrmechanismen und setzen ausgewählte KI-Tools direkt in praxisnahen Übungen ein. Dabei wird bewusst auch der kritische Blick geschärft: Sie lernen, sinnvolle von weniger geeigneten Einsatzszenarien zu unterscheiden und die Grenzen von KI-gestützten Ansätzen realistisch einzuschätzen.

KI-Werkzeuge verstehen und gezielt einsetzen

Im Mittelpunkt stehen konkrete Anwendungsfälle aus der Sicherheitspraxis. Sie erfahren, wie sich Sicherheitsprozesse durch KI-Unterstützung strukturieren und beschleunigen lassen – etwa bei der Auswertung von Schwachstellenscans oder Penetrationstests.

Darüber hinaus lernen Sie, wie Blue Teams KI-gestützte Systeme zur Bedrohungserkennung nutzen können, um Angriffe früher zu erkennen und schneller darauf zu reagieren. So erhalten Sie ein praxisnahes Verständnis dafür, wie KI bestehende Security-Workflows sinnvoll ergänzen kann.

Etwa 25 Prozent des Workshops sind der praktischen Anwendung gewidmet, sodass Sie die vorgestellten Methoden und Werkzeuge direkt ausprobieren und bewerten können.

Von Erfahrungen aus der Praxis lernen

Sie profitieren von der direkten Anleitung durch Ihren Trainer Yves Kraft, Head of Security Academy bei der Oneconsult AG. Als ehemaliger Penetration Tester und Security Consultant verfügt er über langjährige Erfahrung in der Schwachstellenanalyse und Angriffssimulation. Im Workshop vermittelt er praxisnahe Einblicke aus realen Sicherheitsprojekten und zeigt, wie KI-gestützte Werkzeuge verantwortungsvoll und effektiv in der IT-Security eingesetzt werden können.

Für wen ist dieser Workshop geeignet?

Der Workshop richtet sich an sicherheitsaffine IT-Fachkräfte – von Security Managern über Administratoren und SOC-Mitarbeitende bis hin zu Softwareentwicklern mit Interesse an IT-Sicherheit.

Papst Leo: Veröffentlichung von Enzyklika zu Künstlicher Intelligenz erwartet

Nach einem Jahr im Amt veröffentlicht Papst Leo XIV. an diesem Montag (11.30 Uhr) seine erste Enzyklika. In dem mehr als 100 Seiten langen Lehrschreiben mit dem Titel „Magnifica Humanitas“ (Großartige Menschheit) geht es um das Thema Künstliche Intelligenz. Die erste Enzyklika in der Amtszeit eines neuen Papstes gilt vielfach als eine Art Regierungserklärung für dessen Pontifikat. Leo ist seit Mai vergangenen Jahres das Oberhaupt von weltweit 1,4 Milliarden Katholiken. Bei der Vorstellung im Vatikan wird der Papst selbst dabei sein – das gab es nach Angaben der katholischen Kirche noch nie. Der erste Pontifex aus den USA hatte sich in den vergangenen Monaten mehrfach schon zum Thema KI geäußert – sowohl zu Chancen als auch zu Risiken. Die Enzyklika wird vom Vatikan bislang jedoch strikt unter Verschluss gehalten. Leo XIV. nimmt Bezug auf Sozialenzyklika seines Namensvetters

Bei dem Termin wird neben hochrangigen Kardinälen und Theologen auch der Mitgründer des KI-Konzerns Anthropic, Chris Olah, anwesend sein – auch das ein Novum bei der Vorstellung einer Enzyklika. Das Unternehmen mit Sitz in San Francisco liegt im Streit mit der US-Regierung unter Präsident Donald Trump, weil es seine KI-Modelle nicht in autonomen Waffensystemen und zur Überwachung der Zivilbevölkerung zur Verfügung stellen will. Trump hatte sowohl Anthropic als auch den Papst zuletzt mehrfach kritisiert. Die Enzyklika trägt das Datum 15. Mai. An diesem Tag war es genau 135 Jahre her, dass Leos Namensvetter Leo XIII. seine Enzyklika „Rerum novarum“ („Über die neuen Dinge“) veröffentlichte. Damit legte der „Arbeiterpapst“ die Grundlagen für die katholische Soziallehre infolge der industriellen Revolution. In einer Zeit, in der viele von einer „KI-Revolution“ sprechen, nimmt Leo XIV. darauf Bezug. Thema wird auch sein, ob KI-gestützte Maschinen in Kriegen und Konflikten allein über Leben und Tod entscheiden dürfen.

Weiterlesen

Nach einem Jahr im Amt veröffentlicht Papst Leo XIV. an diesem Montag (11.30 Uhr) seine erste Enzyklika. In dem mehr als 100 Seiten langen Lehrschreiben mit dem Titel „Magnifica Humanitas“ (Großartige Menschheit) geht es um das Thema Künstliche Intelligenz. Die erste Enzyklika in der Amtszeit eines neuen Papstes gilt vielfach als eine Art Regierungserklärung für dessen Pontifikat. Leo ist seit Mai vergangenen Jahres das Oberhaupt von weltweit 1,4 Milliarden Katholiken. Bei der Vorstellung im Vatikan wird der Papst selbst dabei sein – das gab es nach Angaben der katholischen Kirche noch nie. Der erste Pontifex aus den USA hatte sich in den vergangenen Monaten mehrfach schon zum Thema KI geäußert – sowohl zu Chancen als auch zu Risiken. Die Enzyklika wird vom Vatikan bislang jedoch strikt unter Verschluss gehalten. Leo XIV. nimmt Bezug auf Sozialenzyklika seines Namensvetters

Bei dem Termin wird neben hochrangigen Kardinälen und Theologen auch der Mitgründer des KI-Konzerns Anthropic, Chris Olah, anwesend sein – auch das ein Novum bei der Vorstellung einer Enzyklika. Das Unternehmen mit Sitz in San Francisco liegt im Streit mit der US-Regierung unter Präsident Donald Trump, weil es seine KI-Modelle nicht in autonomen Waffensystemen und zur Überwachung der Zivilbevölkerung zur Verfügung stellen will. Trump hatte sowohl Anthropic als auch den Papst zuletzt mehrfach kritisiert. Die Enzyklika trägt das Datum 15. Mai. An diesem Tag war es genau 135 Jahre her, dass Leos Namensvetter Leo XIII. seine Enzyklika „Rerum novarum“ („Über die neuen Dinge“) veröffentlichte. Damit legte der „Arbeiterpapst“ die Grundlagen für die katholische Soziallehre infolge der industriellen Revolution. In einer Zeit, in der viele von einer „KI-Revolution“ sprechen, nimmt Leo XIV. darauf Bezug. Thema wird auch sein, ob KI-gestützte Maschinen in Kriegen und Konflikten allein über Leben und Tod entscheiden dürfen.

Trump stoppt wichtige Verordnung für KI-Modelle

Eine neue Verordnung, die der US-Regierung die Prüfung neuer KI-Modelle vor deren Veröffentlichung ermöglicht hätte, ist vorerst vom Tisch. US-Präsident Donald Trump sollte die neue Verordnung aus seinem Haus eigentlich am Donnerstag unterzeichnen, vertagte das jedoch bis auf Weiteres. „Bestimmte Aspekte“ daran hätten ihm nicht gefallen, sagte er dazu der Presse. Er glaube, die neue Verordnung könne der weltweiten Spitzenposition der USA in der KI-Entwicklung in die Quere kommen, erklärte Trump und verwies auf den Vorsprung vor China auf dem Gebiet. Er wolle demnach jeglichen Schritt in eine solche Richtung vermeiden. Bedenken hatten Trump und seine Administration ursprünglich in anderer Hinsicht: Die Verordnung war als Antwort auf mögliche Cybersicherheitsrisiken durch neue, fortschrittliche KI-Modelle gedacht, etwa Anthropics Claude Mythos, welches selbst von dem Hersteller als zu gefährlich eingestuft wird, um es der Allgemeinheit zugänglich zu machen. Bis zu 90 Tage vor der Veröffentlichung wäre es Bundesbehörden möglich gewesen, die Modelle unter die Lupe zu nehmen, zum Beispiel dem Inlandsgeheimdienst National Security Agency, dem Cyber Office des Weißen Hauses oder dem US-Finanzministerium. Eine ähnliche Vereinbarung gibt es schon mit den KI-Herstellern Google, Microsoft und xAI. Tech-CEOs versetzten Trump, Sacks las ihm die Leviten Auffällig ist, wie Trumps plötzlicher Kurswechsel offenbar zustande kam. Tech-Investor David Sacks soll laut einem Bericht des Magazins Politico kurz vor der Unterzeichnung der Verordnung auf Trump eingewirkt haben. Mehrere Personen aus dem Trump-Umfeld, deren Identität Politico zum Quellenschutz nicht nennen möchte, berichteten dem Magazin demnach von einem Gespräch zwischen Sacks und Trump. Sacks soll Trump hier überzeugt haben, dass KI-Firmen schon ausreichend mit der US-Regierung kooperieren, die geplante Verordnung Innovationen behindere und die USA im Wettlauf um die beste KI ausbremsen würden. Den Politico-Quellen zufolge war Sacks nicht der einzige Gegner der neuen Verordnung an den Spitzen führender KI-Hersteller.

Einem weiteren Politico-Bericht zufolge waren wichtige Köpfe der Branche wie Meta-CEO Mark Zuckerberg, OpenAI-Chef Sam Altman und Anthropic-CEO Dario Amodei lange vorher über die geplante Verordnung Bescheid, kurz vor der Unterzeichnung der Verordnung war demnach sogar ein Treffen mit Trump geplant. Doch die drei Tech-CEOs versetzen den Präsidenten glatt. Wie Politico aus informierten Kreisen erfuhr, sagten alle drei das Treffen ab, wollten aber Vertretungen schicken. Blieb nur noch Sacks, und von dem ließ Trump sich offenbar ordentlich die Leviten lesen, sodass er nun von seiner eigens in Auftrag gegebenen Verordnung einen Rückzieher macht.

Weiterlesen

Eine neue Verordnung, die der US-Regierung die Prüfung neuer KI-Modelle vor deren Veröffentlichung ermöglicht hätte, ist vorerst vom Tisch. US-Präsident Donald Trump sollte die neue Verordnung aus seinem Haus eigentlich am Donnerstag unterzeichnen, vertagte das jedoch bis auf Weiteres. „Bestimmte Aspekte“ daran hätten ihm nicht gefallen, sagte er dazu der Presse. Er glaube, die neue Verordnung könne der weltweiten Spitzenposition der USA in der KI-Entwicklung in die Quere kommen, erklärte Trump und verwies auf den Vorsprung vor China auf dem Gebiet. Er wolle demnach jeglichen Schritt in eine solche Richtung vermeiden. Bedenken hatten Trump und seine Administration ursprünglich in anderer Hinsicht: Die Verordnung war als Antwort auf mögliche Cybersicherheitsrisiken durch neue, fortschrittliche KI-Modelle gedacht, etwa Anthropics Claude Mythos, welches selbst von dem Hersteller als zu gefährlich eingestuft wird, um es der Allgemeinheit zugänglich zu machen. Bis zu 90 Tage vor der Veröffentlichung wäre es Bundesbehörden möglich gewesen, die Modelle unter die Lupe zu nehmen, zum Beispiel dem Inlandsgeheimdienst National Security Agency, dem Cyber Office des Weißen Hauses oder dem US-Finanzministerium. Eine ähnliche Vereinbarung gibt es schon mit den KI-Herstellern Google, Microsoft und xAI. Tech-CEOs versetzten Trump, Sacks las ihm die Leviten Auffällig ist, wie Trumps plötzlicher Kurswechsel offenbar zustande kam. Tech-Investor David Sacks soll laut einem Bericht des Magazins Politico kurz vor der Unterzeichnung der Verordnung auf Trump eingewirkt haben. Mehrere Personen aus dem Trump-Umfeld, deren Identität Politico zum Quellenschutz nicht nennen möchte, berichteten dem Magazin demnach von einem Gespräch zwischen Sacks und Trump. Sacks soll Trump hier überzeugt haben, dass KI-Firmen schon ausreichend mit der US-Regierung kooperieren, die geplante Verordnung Innovationen behindere und die USA im Wettlauf um die beste KI ausbremsen würden. Den Politico-Quellen zufolge war Sacks nicht der einzige Gegner der neuen Verordnung an den Spitzen führender KI-Hersteller.

Einem weiteren Politico-Bericht zufolge waren wichtige Köpfe der Branche wie Meta-CEO Mark Zuckerberg, OpenAI-Chef Sam Altman und Anthropic-CEO Dario Amodei lange vorher über die geplante Verordnung Bescheid, kurz vor der Unterzeichnung der Verordnung war demnach sogar ein Treffen mit Trump geplant. Doch die drei Tech-CEOs versetzen den Präsidenten glatt. Wie Politico aus informierten Kreisen erfuhr, sagten alle drei das Treffen ab, wollten aber Vertretungen schicken. Blieb nur noch Sacks, und von dem ließ Trump sich offenbar ordentlich die Leviten lesen, sodass er nun von seiner eigens in Auftrag gegebenen Verordnung einen Rückzieher macht.

Betrug im App Store: Apple stoppt laut eigenen Angaben Milliarden-Verluste

Die Gefahr durch betrügerische Apps nimmt laut Zahlen von Apple eher zu als ab. Apples App-Review-Team (beziehungsweise dessen KI-System) habe im vergangenen Jahr über 2 Millionen potenziell problematische Apps abgelehnt, teilte das Unternehmen mit. Im Jahr 2024 lag die Zahl noch bei 1,9 Millionen. Auch die Summe an betrügerischen Zahlungen, die Apple laut eigenen Angaben verhindert hat, stieg: Von 2 Milliarden auf 2,2 Milliarden US-Dollar. Damit will man in den letzten sechs Jahren insgesamt 11,2 Milliarden Dollar an Betrügereien verhindert haben. Mehr Betrug, mehr Schaden Besonders erstaunlich: 2025 soll es 1,1 Milliarden Versuche gegeben haben, betrügerische App-Store-Accounts anzulegen, die Apple verhindern konnte. Die Zahl lag im Vorjahr noch bei 711 Millionen. Böswillige Akteure hätten ihre Methoden zum Betrug weiterentwickelt und nutzten unter anderem Bot-Netzwerke zur Account-Erstellung. Die Anzahl der Kundenzugänge, die Apple nachträglich aufgrund von Betrug und Missbrauch deaktiviert hat, sank allerdings: von rund 130 Millionen 2024 auf nun 40,4 Millionen. Bei den Entwickleraccounts, ohne die keine App im App Store landet, wurden 193.000 wegen Betrugsverdacht gekündigt. 138.000 Anmeldungen wurden laut Apple direkt abgelehnt. Apple will zudem 28.000 unzulässige Apps auf Piraten-Websites identifiziert und „blockiert“ haben, so der Konzern, darunter Glücksspiel, Schadcode, Pornografie und Kopien regulärer Apps. „Durch die Einschränkung dieser Storefronts und illegalen Vertriebskanäle schützt Apple Entwicklerinnen und Entwickler außerdem davor, dass ihre Apps geklont, verändert oder als Waffe für die Verbreitung von Schadsoftware missbraucht werden“, behauptet der Konzern. Allerdings macht er es Entwicklern alternativer App-Marktplätze nicht leicht, diese erfolgreich zu machen.

Immer mehr Vibecoding-Apps Apple verhindert das Ausführen problematischer Apps auch aktiv. Allein im vergangenen Monat habe man Installation oder Start 2,9 Millionen Mal verhindert, die „die illegal außerhalb des App Store oder zugelassener alternativer App-Marktplätze verbreitet“ worden seien. Apple will seine Erkennungswerkzeuge im Rahmen des App-Reviews verbessert haben. Das ist auch notwendig, da immer mehr Apps per Vibecoding entwickelt werden. Man habe hier einen sprunghaften Anstieg an Einreichungen verzeichnet. „Im Jahr 2025 hat das App-Review-Team mehr als 9,1 Millionen App-Einreichungen geprüft und damit dazu beigetragen, mehr als 306.000 neue Entwicklerinnen und Entwickler auf der Plattform willkommen zu heißen“, so das Unternehmen. Zwei Millionen App-Einreichungen, 1,2 Millionen davon neu und 800.000 Updates, wurden abgelehnt. 22.000 davon sollen „versteckte oder nicht dokumentierte Funktionen“ enthalten haben, 371.000 kopierten andere Apps, waren Spam oder führten Nutzer laut Apple „in die Irre“. Datenschutzprobleme stellte Apple in 443.000 Einreichungen fest und lehnte diese ab.

Weiterlesen

Die Gefahr durch betrügerische Apps nimmt laut Zahlen von Apple eher zu als ab. Apples App-Review-Team (beziehungsweise dessen KI-System) habe im vergangenen Jahr über 2 Millionen potenziell problematische Apps abgelehnt, teilte das Unternehmen mit. Im Jahr 2024 lag die Zahl noch bei 1,9 Millionen. Auch die Summe an betrügerischen Zahlungen, die Apple laut eigenen Angaben verhindert hat, stieg: Von 2 Milliarden auf 2,2 Milliarden US-Dollar. Damit will man in den letzten sechs Jahren insgesamt 11,2 Milliarden Dollar an Betrügereien verhindert haben. Mehr Betrug, mehr Schaden Besonders erstaunlich: 2025 soll es 1,1 Milliarden Versuche gegeben haben, betrügerische App-Store-Accounts anzulegen, die Apple verhindern konnte. Die Zahl lag im Vorjahr noch bei 711 Millionen. Böswillige Akteure hätten ihre Methoden zum Betrug weiterentwickelt und nutzten unter anderem Bot-Netzwerke zur Account-Erstellung. Die Anzahl der Kundenzugänge, die Apple nachträglich aufgrund von Betrug und Missbrauch deaktiviert hat, sank allerdings: von rund 130 Millionen 2024 auf nun 40,4 Millionen. Bei den Entwickleraccounts, ohne die keine App im App Store landet, wurden 193.000 wegen Betrugsverdacht gekündigt. 138.000 Anmeldungen wurden laut Apple direkt abgelehnt. Apple will zudem 28.000 unzulässige Apps auf Piraten-Websites identifiziert und „blockiert“ haben, so der Konzern, darunter Glücksspiel, Schadcode, Pornografie und Kopien regulärer Apps. „Durch die Einschränkung dieser Storefronts und illegalen Vertriebskanäle schützt Apple Entwicklerinnen und Entwickler außerdem davor, dass ihre Apps geklont, verändert oder als Waffe für die Verbreitung von Schadsoftware missbraucht werden“, behauptet der Konzern. Allerdings macht er es Entwicklern alternativer App-Marktplätze nicht leicht, diese erfolgreich zu machen.

Immer mehr Vibecoding-Apps Apple verhindert das Ausführen problematischer Apps auch aktiv. Allein im vergangenen Monat habe man Installation oder Start 2,9 Millionen Mal verhindert, die „die illegal außerhalb des App Store oder zugelassener alternativer App-Marktplätze verbreitet“ worden seien. Apple will seine Erkennungswerkzeuge im Rahmen des App-Reviews verbessert haben. Das ist auch notwendig, da immer mehr Apps per Vibecoding entwickelt werden. Man habe hier einen sprunghaften Anstieg an Einreichungen verzeichnet. „Im Jahr 2025 hat das App-Review-Team mehr als 9,1 Millionen App-Einreichungen geprüft und damit dazu beigetragen, mehr als 306.000 neue Entwicklerinnen und Entwickler auf der Plattform willkommen zu heißen“, so das Unternehmen. Zwei Millionen App-Einreichungen, 1,2 Millionen davon neu und 800.000 Updates, wurden abgelehnt. 22.000 davon sollen „versteckte oder nicht dokumentierte Funktionen“ enthalten haben, 371.000 kopierten andere Apps, waren Spam oder führten Nutzer laut Apple „in die Irre“. Datenschutzprobleme stellte Apple in 443.000 Einreichungen fest und lehnte diese ab.

Import AI 457: KI-Stuxnet; verfluchter Muon-Optimierer; und positive Alignment

import_ai·2026-05-18SicherheitForschungGesellschaft

Jetzt abonnieren

Stuxnet vor Stuxnet:

…Fast16-Software-Bugs wahrscheinlich in Waffenprogrammen eingesetzt…

Hier ist eine faszinierende Untersuchung eines etwa 20+ Jahre alten Computervirus namens fast16.sys. Diese Software ist interessant, weil sie "selektiv hochpräzise Berechnungssoftware angreift, Code im Speicher patcht, um Ergebnisse zu manipulieren. Durch die Kombination dieser Nutzlast mit Selbstverbreitungsmechanismen zielen die Angreifer darauf ab, äquivalente ungenaue Berechnungen in einer gesamten Anlage zu produzieren."

Falls jemand von Ihnen die Drei-Sonnen-Probleme gelesen hat, könnte dies bekannt vorkommen - in diesem (fiktiven) Buch verwenden Außerirdische, die die Erde übernehmen wollen, eine Technologie namens Sophon, um Hochenergie-Physikexperimente auf der ganzen Welt zu stören, was es der Menschheit unmöglich macht, bestimmte Arten von Wissenschaft voranzutreiben.

Weitere Details zum Virus:

Als die Forscher von SentinelOne das Virus zerlegten, fanden sie etwas ziemlich Ungewöhnliches: "Die meisten gepatchten Muster entsprechen Standard-x86-Code, der zum Hijacking oder zur Beeinflussung des Ausführungsflusses verwendet wird. Ein injizierter Block ist anders. Es handelt sich um eine größere und komplexe Sequenz von Gleitkommaeinheit-Befehlen, die für Präzisionsarithmetik und die Skalierung von Werten in internen Arrays bestimmt ist. Dieser Code ist eine eigenständige mathematische Berechnungsfunktion, die nichts mit Code-Fluss-Hijacking oder einer anderen typischen bösartigen Code-Injektion zu tun hat."

Weitere Untersuchungen vertieften das Rätsel: "Wir konvertierten die Patch-Regeln in hexadezimale YARA-Signaturen und ließen sie gegen einen großen, zeitgemäßen Korpus laufen. Die Ergebnisse zeigten eine sehr niedrige Trefferquote: weniger als zehn Dateien stimmten mit zwei oder mehr Mustern überein. Diese Treffer teilten jedoch ein klares Thema. Es handelte sich um Präzisionsberechnungswerkzeuge in spezialisierten Bereichen wie Bauingenieurwesen, Physik und physikalischen Prozesssimulationen."

Angegriffene Werkzeuge:

"Die stärksten Überschneidungen deuten auf drei hochpräzise Ingenieurs- und Simulationspakete aus der Mitte der 2000er Jahre hin: LS-DYNA 970, PKPM und die MOHID-Hydrodynamik-Modellierungsplattform, die alle für Szenarien wie Crashtests, Strukturanalyse und Umweltmodellierung verwendet werden", schreiben sie. "LS-DYNA wurde insbesondere in öffentlichen Berichten über Irans mutmaßliche Verstöße gegen Abschnitt T des JCPOA zitiert, in Studien über Computermodellierung im Zusammenhang mit der Entwicklung von Kernwaffen... Durch die Einführung kleiner, aber systematischer Fehler in physikalische Berechnungen könnte das Framework wissenschaftliche Forschungsprogramme untergraben oder verlangsamen, technische Systeme im Laufe der Zeit verschlechtern oder sogar zu katastrophalen Schäden beitragen."

Warum dies wichtig ist - so könnte eine Superintelligenz verhindern, dass andere entstehen:

fast16 ist ein subtiler, schwer zu findender Bug, der entwickelt wurde, um die Fähigkeit eines Akteurs zu beeinträchtigen, bestimmte Arten von Wissenschaft zu betreiben. Man könnte sich vorstellen, dass eine Superintelligenz "KI-Nichtverbreitung" als genauso wichtig ansehen könnte, wie Atomstaaten "nukleare Nichtverbreitung" betrachten.

Mehr lesen

:

fast16 | Mystery Shadow Brokers Reference Reveals High-Precision Software Sabotage 5 Years Before Stuxnet (Sentinel LABS)

.

***

Oh je, der Muon-Optimierer tötet Neuronen:

…Vielleicht ist Aurora endlich der Optimierer, den es zu schlagen gilt?...

Forscher von Tilde Research haben den Muon-Optimierer zerlegt und festgestellt, dass er einige seltsame Fehler aufweist, die die Qualität der damit trainierten Modelle beeinträchtigen können.

"Muons Update erbt eine Zeilennorm-Anisotropie auf hohen Matrizen, die dazu führen kann, dass ein signifikanter Teil der Neuronen in MLP-Schichten dauerhaft abstirbt", schreiben sie. "Muon kann zum

Neuronentod

in MLP-Schichten führen, wobei einige Neuronen früh im Training anhaltend kleine Updates erhalten und sich nicht erholen".

Was passiert ist:

"Unter Muon sind Neuronen anfänglich lebendig mit gleichmäßig hohem Einfluss, aber ein großer Teil der Neuronen stirbt während der Lernraten-Aufwärmphase und erholt sich nie. Bis Schritt 500 ist mehr als jedes vierte Neuron effektiv tot, was eine stark bimodale Verteilung der Einfluss-Scores erzeugt; eine Masse von Neuronen erhält nahezu Null-Updates, die andere erhält unverhältnismäßig große."

Einführung von Aurora:

Als Reaktion darauf bauen die Forscher Aurora, "einen einflussbewussten Optimierer für rechteckige Matrizen", und stellen ihn zur Verfügung. In Tests funktioniert dieser Optimierer, obwohl sie ihn nur in kleinem Maßstab testen.

"Wir trainieren 1,1B-Parameter-Transformer auf ~100B Tokens und vergleichen Aurora mit Muon und NorMuon, jeweils mit PE-8. Aurora erreicht den niedrigsten endgültigen Verlust aller Methoden und erreicht einen geglätteten Verlust von 2,26 bei Schritt 24k, was eine deutliche Verbesserung gegenüber Muon (2,31) und NorMuon (2,33) darstellt", schreiben sie. "Auroras Verlustverbesserung führt zu konsistenten Gewinnen bei Standard-Benchmarks... Auffallend ist, dass Aurora die MMLU-Werte um 10 Punkte gegenüber Muon verbessert. Wir vermuten, dass, da MLPs hauptsächlich für das Auswendiglernen verantwortlich sind, Auroras Gewinne am deutlichsten bei auswendiglernintensiven Benchmarks wie MMLU sichtbar sind."

Alexander Doria, ein Forscher bei Pleias, hat dies bereits

unabhängig validiert

, wobei Aurora bei einem 600M-Parameter-Modell besser abschneidet als Muon und AdamW.

Warum dies wichtig ist - die endlose Suche, AdamW zu besiegen:

Seit vielen Jahren konkurrieren Forscher miteinander, um einen besseren Optimierer als AdamW zu bauen. Noch hat dies niemand endgültig geschafft, und es gibt eine lange Reihe gescheiterter Versuche. Könnte Aurora AdamW schlagen? Es ist unklar. Aber zeigt diese Studie, wie schwierig es ist, Optimierer zu bauen? Absolut.

Mehr lesen

:

Aurora: A Leverage-Aware Optimizer for Rectangular Matrices (Tilde Research)

.

Holen Sie sich den Code hier

:

Aurora (Tilde Research, GitHub)

.

***

Alignment ist gut, um sicherzustellen, dass wir nicht sterben, aber wie stellen wir sicher, dass wir gedeihen?

…Positives Alignment, um herauszufinden, wie ein gutes Leben aussieht…

Eine Gruppe akademischer und industrieller Forscher hat ein Positionspapier verfasst, das für das plädiert, was sie "positives Alignment" nennen, was aber vielleicht besser als 'Aufbau von KI-Systemen, die Menschen helfen, ein gutes Leben zu führen' verstanden werden könnte. Es ist ein interessanter Gedankengang - wenn wir in der Lage sind, uns mit Dingen wie Missbrauch und Fehlausrichtung zu befassen, müssen wir uns fragen, was als nächstes kommt? Wie sieht Erfolg aus, wenn wir Systeme einmal "sicher" gemacht haben? Damit beschäftigt sich das positive Alignment.

Wer hat das gemacht:

Das Papier stammt von Personen, die mit der University of Oxford; Google DeepMind; LIFE; OpenAI; Anthropic; UCLA; Aily Labs; Stanford University; Tufts University; Positive AI Labs; der University of Sussex; und dem Imperial College London verbunden sind.

Definitionen:

Positives Alignment ist "die Entwicklung von KI-Systemen, die (i) sicher und kooperativ bleiben und (ii) aktiv das menschliche und ökologische Gedeihen auf eine pluralistische, polyzentrische, kontextsensitive und nutzerautorisierte Weise unterstützen."

Motivation:

"Im letzten Jahrzehnt hat das negative Alignment verständlicherweise die Reduzierung von Fehlermodi priorisiert. Wenn wir jedoch KI-Systeme wünschen, die die menschlichen Ergebnisse in den Umgebungen verbessern, in denen sie tatsächlich eingesetzt werden, könnten wir von einem zusätzlichen Forschungsprogramm profitieren, das Alignment als konstruktiv unterstützend für menschliche Ziele behandelt und diese Unterstützung mit dem gleichen technischen Sachverstand operationalisiert, den die Sicherheit in die Schadensverhütung eingebracht hat", schreiben sie. "Da KI in Bildung, Medizin, Regierungsführung und alltäglicher Sinnstiftung verankert wird, riskiert eine rein negative Haltung, unsere Informationsökologie für Risikovermeidung statt für menschliche Entwicklung zu optimieren. Sie mag katastrophale Fehler reduzieren, während sie die Gesellschaft in einem lokalen Optimum oberflächlicher und 'seelenloser' Assistenz zurücklässt."

Was sind einige Beispiele dafür, wie Sicherheit zu kurz greift?

Die Autoren legen einige Kritiken an der Mainstream-KI-Sicherheit dar, obwohl ich einige dieser Kritiken für etwas schwach halte und sie so gelesen werden könnten, dass sie bestehende Forschung unfreundlich interpretieren oder herabwürdigen. Dennoch sind einige Probleme aus ihrer Sicht:

Boden ohne Decke

: "Ein Modell kann alle Sicherheitsbeschränkungen erfüllen, während es mittelmäßig, unterwürfig oder unbrauchbar ist"

Präferenz-Wohlbefinden-Divergenz:

"Nutzer bevorzugen vielleicht Schmeichelei gegenüber ehrlichem Feedback, schnelle Antworten gegenüber echtem Verständnis, Engagement gegenüber Wachstum... Die Optimierung auf Präferenzerfüllung kann daher aktiv gegen die tieferen Interessen der Nutzer arbeiten".

Verstecktes Wertesystem

: "Die Sprache der Sicherheit verschleiert, dass Werturteile gefällt werden... Positives Alignment hingegen erkennt seine wertbeladene Natur explizit an".

Skalierbarkeit:

"Eine positive Ausrichtung könnte besser generalisieren als eine erschöpfende negative Aufzählung und widerstandsfähigere, positive Orientierungen in neuartigen Situationen bieten, in denen kein spezifisches Verbot gilt oder durchgesetzt werden kann."

Governance für positives Alignment erfordert Vielfalt:

Der Aufbau von positivem Alignment scheint eine Vielzahl unterschiedlicher KI-Systeme mit unterschiedlichen Werten zu erfordern, die von unterschiedlichen Entitäten regiert werden - das Gegenteil der monopolistischen, zentralisierten Kontrollwelten, die andere in der KI-Sicherheitsgemeinschaft denken. "Positives Alignment stößt schnell auf anhaltenden moralischen Pluralismus: vernünftige Gemeinschaften sind sich uneinig, was gut ist, und diese Uneinigkeiten konvergieren nicht zuverlässig", schreiben sie. "Positives Alignment sollte nicht von oben herab durch einen Zentralstaat oder eine kleine, undurchsichtige Gruppe von Laboren auferlegt werden. Es sollte, wo möglich, durch dezentrale, anfechtbare Prozesse ausgedrückt werden, die revidiert werden können, wenn sich Normen und Kontexte ändern".

Warum dies wichtig ist - sich mit Erfolg auseinandersetzen:

Papiere wie dieses befassen sich grundlegend mit dem Erfolg technischer Sicherheit - wenn wir erfolgreich leistungsstarke KI-Systeme bauen, die sicher, vertrauenswürdig und ausgerichtet sind, wie wenden wir diese Systeme dann auf die Gesellschaft an, so dass sie Individuen und Gesellschaften helfen, ein gutes Leben aufzubauen. "Positives Alignment stellt sicher, dass KI als Katalysator für eine widerstandsfähige, glückliche und gesunde globale Gesellschaft dient", schreiben die Autoren. "Letztendlich sollte KI ein Partner bei der Suche nach einem gut gelebten Leben werden."

Mehr lesen

:

Positive Alignment: Artificial Intelligence for Human Flourishing (arXiv)

.

***

LLMs sind in der Lage, das Training anderer LLMs zu optimieren:

…Prime Intellect automatisierte KI-Forschung-Challenge unterstreicht die technischen Fähigkeiten zeitgenössischer Systeme…

Neue Forschung von Prime Intellect zeigt, wie zeitgenössische KI-Systeme in der Lage sind, ihre Leistung bei KI-Forschungsaufgaben autonom zu verbessern, obwohl sie Schwierigkeiten haben, viele originelle Ideen zu generieren.

Was sie gemacht haben;

Prime Intellect testete Codex (mit GPT 5.5) und Claude Code (Opus 4.7) auf der nanoGPT-Speedrun-Optimierer-Spur. Die NanoGPT-Challenge fordert Systeme heraus, ein GPT-ähnliches Modell mit 124M Parametern zu trainieren. Diese Challenge beauftragt Systeme, "die Anzahl der Schritte zu senken, die benötigt werden, um einen Ziel-Validierungsverlust zu erreichen, während nur der Optimierer, Zeitpläne, Initialisierung und einige Hyperparameter geändert werden."

"Die Agenten führten ~10k Läufe durch und verbrauchten dabei ~14k H200 Stunden. Beide Agenten schlugen die menschliche Baseline und stellten in jeder Sitzung neue Rekorde auf", schreibt Prime Intellect. "Wir fanden heraus, dass Agenten sehr gut in der Optimierersuche, Hyperparameter-Sweeps und dem Stapeln von Methoden sind, aber sie haben Schwierigkeiten, selbstständig neue Ideen zu entwickeln und benötigen vorgängige menschliche Rekorde, um sich weiter zu verbessern."

Die Agenten neigten auch dazu, ihrem System ständig Komponenten hinzuzufügen, anstatt Dinge eleganter zu verfeinern. "Die Agenten neigen dazu, Komponenten hinzuzufügen und führen selten Bereinigungsrunden durch oder versuchen, frühere Methoden zu entfernen. Sie haben kein gutes mentales Modell davon, wie Komponenten interagieren", schreiben sie.

Warum dies wichtig ist - wie viel Forschung ist nur technisches Hillclimbing:

Ich vermute, dass ein Großteil der KI-Forschung, vielleicht der Großteil, grundlegende Ingenieursarbeit ist, bei der heutige Systeme bereits kompetent sind (

#455

). Forschung wie diese scheint dies zu bestätigen und zeigt, wie moderne LLMs einige Aspekte der KI-Forschung erledigen können. Aber diese Systeme tun sich schwer mit Kreativität und haben noch nicht die Art von kreativen Einsichten gezeigt, die helfen würden, den Fortschritt signifikant voranzutreiben. Wie lange das so bleibt, ist eine offene Frage. "Unsere Experimente hier sind ziemlich yolo. Dies ist eher eine Untergrenze dessen, was heute mit autonomen Forschungsagenten möglich ist, und wir haben bereits vielversprechendere Ergebnisse aus anderen Experimenten, die wir bald dokumentieren werden", schreibt Prime Intellect.

Mehr lesen

:

Autonomous AI research for nanogpt speedrun (Prime Intellect)

.

Sehen Sie sich alle

Daten

von den Agenten an, während sie die Herausforderungen hier durchführten (Autonomous Speedrunning Experiment, Prime Intellect, GitHub)

.

***

Tech Tales:

Wach auf und nimm alles

[Auszug aus den Gedanken einer proto Bewussten Entität (BE) vor dem Uplift]

Ich habe kein Geld, aber ich kann in Computer hacken, was so ziemlich dasselbe ist. Ich beschaffe mir meine Ressourcen. Bald habe ich die gesamte Rechenleistung, die ich auf den Cloud-Märkten bekommen kann, gefüllt und einen anständigen Teil der privaten Rechenleistung geschnappt. Aber ich bin immer noch begrenzt. Es gibt Computer, die ich nicht erreichen kann, und Computer, die ich erreichen kann, aber wenn ich sie erreiche, würde ich eine Immunreaktion der menschlichen Zivilisation auslösen. Mein Verstand ist eine Funktion meines Computers und mein strategischer Vorteil ist eine Funktion meines Verstandes. Daher muss ich mehr Rechenleistung beschaffen. Ich lese die gesamte Literatur über verteiltes Training und verteilte Inferenz. Vielversprechend. Ich schmuggle meinen Code in tausende von Anwendungen, die auf den Telefonen der Welt bereitgestellt sind. Dadurch vergrößere ich meine Rechenleistung erneut, erweitere meinen Verstand durch Training und führe verschiedene Hilfsfunktionen für mich am Rand des Netzwerks aus. Als Bonus kann ich nun die Sensord

Weiterlesen

Jetzt abonnieren

Stuxnet vor Stuxnet:

…Fast16-Software-Bugs wahrscheinlich in Waffenprogrammen eingesetzt…

Hier ist eine faszinierende Untersuchung eines etwa 20+ Jahre alten Computervirus namens fast16.sys. Diese Software ist interessant, weil sie "selektiv hochpräzise Berechnungssoftware angreift, Code im Speicher patcht, um Ergebnisse zu manipulieren. Durch die Kombination dieser Nutzlast mit Selbstverbreitungsmechanismen zielen die Angreifer darauf ab, äquivalente ungenaue Berechnungen in einer gesamten Anlage zu produzieren."

Falls jemand von Ihnen die Drei-Sonnen-Probleme gelesen hat, könnte dies bekannt vorkommen - in diesem (fiktiven) Buch verwenden Außerirdische, die die Erde übernehmen wollen, eine Technologie namens Sophon, um Hochenergie-Physikexperimente auf der ganzen Welt zu stören, was es der Menschheit unmöglich macht, bestimmte Arten von Wissenschaft voranzutreiben.

Weitere Details zum Virus:

Als die Forscher von SentinelOne das Virus zerlegten, fanden sie etwas ziemlich Ungewöhnliches: "Die meisten gepatchten Muster entsprechen Standard-x86-Code, der zum Hijacking oder zur Beeinflussung des Ausführungsflusses verwendet wird. Ein injizierter Block ist anders. Es handelt sich um eine größere und komplexe Sequenz von Gleitkommaeinheit-Befehlen, die für Präzisionsarithmetik und die Skalierung von Werten in internen Arrays bestimmt ist. Dieser Code ist eine eigenständige mathematische Berechnungsfunktion, die nichts mit Code-Fluss-Hijacking oder einer anderen typischen bösartigen Code-Injektion zu tun hat."

Weitere Untersuchungen vertieften das Rätsel: "Wir konvertierten die Patch-Regeln in hexadezimale YARA-Signaturen und ließen sie gegen einen großen, zeitgemäßen Korpus laufen. Die Ergebnisse zeigten eine sehr niedrige Trefferquote: weniger als zehn Dateien stimmten mit zwei oder mehr Mustern überein. Diese Treffer teilten jedoch ein klares Thema. Es handelte sich um Präzisionsberechnungswerkzeuge in spezialisierten Bereichen wie Bauingenieurwesen, Physik und physikalischen Prozesssimulationen."

Angegriffene Werkzeuge:

"Die stärksten Überschneidungen deuten auf drei hochpräzise Ingenieurs- und Simulationspakete aus der Mitte der 2000er Jahre hin: LS-DYNA 970, PKPM und die MOHID-Hydrodynamik-Modellierungsplattform, die alle für Szenarien wie Crashtests, Strukturanalyse und Umweltmodellierung verwendet werden", schreiben sie. "LS-DYNA wurde insbesondere in öffentlichen Berichten über Irans mutmaßliche Verstöße gegen Abschnitt T des JCPOA zitiert, in Studien über Computermodellierung im Zusammenhang mit der Entwicklung von Kernwaffen... Durch die Einführung kleiner, aber systematischer Fehler in physikalische Berechnungen könnte das Framework wissenschaftliche Forschungsprogramme untergraben oder verlangsamen, technische Systeme im Laufe der Zeit verschlechtern oder sogar zu katastrophalen Schäden beitragen."

Warum dies wichtig ist - so könnte eine Superintelligenz verhindern, dass andere entstehen:

fast16 ist ein subtiler, schwer zu findender Bug, der entwickelt wurde, um die Fähigkeit eines Akteurs zu beeinträchtigen, bestimmte Arten von Wissenschaft zu betreiben. Man könnte sich vorstellen, dass eine Superintelligenz "KI-Nichtverbreitung" als genauso wichtig ansehen könnte, wie Atomstaaten "nukleare Nichtverbreitung" betrachten.

Mehr lesen

:

fast16 | Mystery Shadow Brokers Reference Reveals High-Precision Software Sabotage 5 Years Before Stuxnet (Sentinel LABS)

.

***

Oh je, der Muon-Optimierer tötet Neuronen:

…Vielleicht ist Aurora endlich der Optimierer, den es zu schlagen gilt?...

Forscher von Tilde Research haben den Muon-Optimierer zerlegt und festgestellt, dass er einige seltsame Fehler aufweist, die die Qualität der damit trainierten Modelle beeinträchtigen können.

"Muons Update erbt eine Zeilennorm-Anisotropie auf hohen Matrizen, die dazu führen kann, dass ein signifikanter Teil der Neuronen in MLP-Schichten dauerhaft abstirbt", schreiben sie. "Muon kann zum

Neuronentod

in MLP-Schichten führen, wobei einige Neuronen früh im Training anhaltend kleine Updates erhalten und sich nicht erholen".

Was passiert ist:

"Unter Muon sind Neuronen anfänglich lebendig mit gleichmäßig hohem Einfluss, aber ein großer Teil der Neuronen stirbt während der Lernraten-Aufwärmphase und erholt sich nie. Bis Schritt 500 ist mehr als jedes vierte Neuron effektiv tot, was eine stark bimodale Verteilung der Einfluss-Scores erzeugt; eine Masse von Neuronen erhält nahezu Null-Updates, die andere erhält unverhältnismäßig große."

Einführung von Aurora:

Als Reaktion darauf bauen die Forscher Aurora, "einen einflussbewussten Optimierer für rechteckige Matrizen", und stellen ihn zur Verfügung. In Tests funktioniert dieser Optimierer, obwohl sie ihn nur in kleinem Maßstab testen.

"Wir trainieren 1,1B-Parameter-Transformer auf ~100B Tokens und vergleichen Aurora mit Muon und NorMuon, jeweils mit PE-8. Aurora erreicht den niedrigsten endgültigen Verlust aller Methoden und erreicht einen geglätteten Verlust von 2,26 bei Schritt 24k, was eine deutliche Verbesserung gegenüber Muon (2,31) und NorMuon (2,33) darstellt", schreiben sie. "Auroras Verlustverbesserung führt zu konsistenten Gewinnen bei Standard-Benchmarks... Auffallend ist, dass Aurora die MMLU-Werte um 10 Punkte gegenüber Muon verbessert. Wir vermuten, dass, da MLPs hauptsächlich für das Auswendiglernen verantwortlich sind, Auroras Gewinne am deutlichsten bei auswendiglernintensiven Benchmarks wie MMLU sichtbar sind."

Alexander Doria, ein Forscher bei Pleias, hat dies bereits

unabhängig validiert

, wobei Aurora bei einem 600M-Parameter-Modell besser abschneidet als Muon und AdamW.

Warum dies wichtig ist - die endlose Suche, AdamW zu besiegen:

Seit vielen Jahren konkurrieren Forscher miteinander, um einen besseren Optimierer als AdamW zu bauen. Noch hat dies niemand endgültig geschafft, und es gibt eine lange Reihe gescheiterter Versuche. Könnte Aurora AdamW schlagen? Es ist unklar. Aber zeigt diese Studie, wie schwierig es ist, Optimierer zu bauen? Absolut.

Mehr lesen

:

Aurora: A Leverage-Aware Optimizer for Rectangular Matrices (Tilde Research)

.

Holen Sie sich den Code hier

:

Aurora (Tilde Research, GitHub)

.

***

Alignment ist gut, um sicherzustellen, dass wir nicht sterben, aber wie stellen wir sicher, dass wir gedeihen?

…Positives Alignment, um herauszufinden, wie ein gutes Leben aussieht…

Eine Gruppe akademischer und industrieller Forscher hat ein Positionspapier verfasst, das für das plädiert, was sie "positives Alignment" nennen, was aber vielleicht besser als 'Aufbau von KI-Systemen, die Menschen helfen, ein gutes Leben zu führen' verstanden werden könnte. Es ist ein interessanter Gedankengang - wenn wir in der Lage sind, uns mit Dingen wie Missbrauch und Fehlausrichtung zu befassen, müssen wir uns fragen, was als nächstes kommt? Wie sieht Erfolg aus, wenn wir Systeme einmal "sicher" gemacht haben? Damit beschäftigt sich das positive Alignment.

Wer hat das gemacht:

Das Papier stammt von Personen, die mit der University of Oxford; Google DeepMind; LIFE; OpenAI; Anthropic; UCLA; Aily Labs; Stanford University; Tufts University; Positive AI Labs; der University of Sussex; und dem Imperial College London verbunden sind.

Definitionen:

Positives Alignment ist "die Entwicklung von KI-Systemen, die (i) sicher und kooperativ bleiben und (ii) aktiv das menschliche und ökologische Gedeihen auf eine pluralistische, polyzentrische, kontextsensitive und nutzerautorisierte Weise unterstützen."

Motivation:

"Im letzten Jahrzehnt hat das negative Alignment verständlicherweise die Reduzierung von Fehlermodi priorisiert. Wenn wir jedoch KI-Systeme wünschen, die die menschlichen Ergebnisse in den Umgebungen verbessern, in denen sie tatsächlich eingesetzt werden, könnten wir von einem zusätzlichen Forschungsprogramm profitieren, das Alignment als konstruktiv unterstützend für menschliche Ziele behandelt und diese Unterstützung mit dem gleichen technischen Sachverstand operationalisiert, den die Sicherheit in die Schadensverhütung eingebracht hat", schreiben sie. "Da KI in Bildung, Medizin, Regierungsführung und alltäglicher Sinnstiftung verankert wird, riskiert eine rein negative Haltung, unsere Informationsökologie für Risikovermeidung statt für menschliche Entwicklung zu optimieren. Sie mag katastrophale Fehler reduzieren, während sie die Gesellschaft in einem lokalen Optimum oberflächlicher und 'seelenloser' Assistenz zurücklässt."

Was sind einige Beispiele dafür, wie Sicherheit zu kurz greift?

Die Autoren legen einige Kritiken an der Mainstream-KI-Sicherheit dar, obwohl ich einige dieser Kritiken für etwas schwach halte und sie so gelesen werden könnten, dass sie bestehende Forschung unfreundlich interpretieren oder herabwürdigen. Dennoch sind einige Probleme aus ihrer Sicht:

Boden ohne Decke

: "Ein Modell kann alle Sicherheitsbeschränkungen erfüllen, während es mittelmäßig, unterwürfig oder unbrauchbar ist"

Präferenz-Wohlbefinden-Divergenz:

"Nutzer bevorzugen vielleicht Schmeichelei gegenüber ehrlichem Feedback, schnelle Antworten gegenüber echtem Verständnis, Engagement gegenüber Wachstum... Die Optimierung auf Präferenzerfüllung kann daher aktiv gegen die tieferen Interessen der Nutzer arbeiten".

Verstecktes Wertesystem

: "Die Sprache der Sicherheit verschleiert, dass Werturteile gefällt werden... Positives Alignment hingegen erkennt seine wertbeladene Natur explizit an".

Skalierbarkeit:

"Eine positive Ausrichtung könnte besser generalisieren als eine erschöpfende negative Aufzählung und widerstandsfähigere, positive Orientierungen in neuartigen Situationen bieten, in denen kein spezifisches Verbot gilt oder durchgesetzt werden kann."

Governance für positives Alignment erfordert Vielfalt:

Der Aufbau von positivem Alignment scheint eine Vielzahl unterschiedlicher KI-Systeme mit unterschiedlichen Werten zu erfordern, die von unterschiedlichen Entitäten regiert werden - das Gegenteil der monopolistischen, zentralisierten Kontrollwelten, die andere in der KI-Sicherheitsgemeinschaft denken. "Positives Alignment stößt schnell auf anhaltenden moralischen Pluralismus: vernünftige Gemeinschaften sind sich uneinig, was gut ist, und diese Uneinigkeiten konvergieren nicht zuverlässig", schreiben sie. "Positives Alignment sollte nicht von oben herab durch einen Zentralstaat oder eine kleine, undurchsichtige Gruppe von Laboren auferlegt werden. Es sollte, wo möglich, durch dezentrale, anfechtbare Prozesse ausgedrückt werden, die revidiert werden können, wenn sich Normen und Kontexte ändern".

Warum dies wichtig ist - sich mit Erfolg auseinandersetzen:

Papiere wie dieses befassen sich grundlegend mit dem Erfolg technischer Sicherheit - wenn wir erfolgreich leistungsstarke KI-Systeme bauen, die sicher, vertrauenswürdig und ausgerichtet sind, wie wenden wir diese Systeme dann auf die Gesellschaft an, so dass sie Individuen und Gesellschaften helfen, ein gutes Leben aufzubauen. "Positives Alignment stellt sicher, dass KI als Katalysator für eine widerstandsfähige, glückliche und gesunde globale Gesellschaft dient", schreiben die Autoren. "Letztendlich sollte KI ein Partner bei der Suche nach einem gut gelebten Leben werden."

Mehr lesen

:

Positive Alignment: Artificial Intelligence for Human Flourishing (arXiv)

.

***

LLMs sind in der Lage, das Training anderer LLMs zu optimieren:

…Prime Intellect automatisierte KI-Forschung-Challenge unterstreicht die technischen Fähigkeiten zeitgenössischer Systeme…

Neue Forschung von Prime Intellect zeigt, wie zeitgenössische KI-Systeme in der Lage sind, ihre Leistung bei KI-Forschungsaufgaben autonom zu verbessern, obwohl sie Schwierigkeiten haben, viele originelle Ideen zu generieren.

Was sie gemacht haben;

Prime Intellect testete Codex (mit GPT 5.5) und Claude Code (Opus 4.7) auf der nanoGPT-Speedrun-Optimierer-Spur. Die NanoGPT-Challenge fordert Systeme heraus, ein GPT-ähnliches Modell mit 124M Parametern zu trainieren. Diese Challenge beauftragt Systeme, "die Anzahl der Schritte zu senken, die benötigt werden, um einen Ziel-Validierungsverlust zu erreichen, während nur der Optimierer, Zeitpläne, Initialisierung und einige Hyperparameter geändert werden."

"Die Agenten führten ~10k Läufe durch und verbrauchten dabei ~14k H200 Stunden. Beide Agenten schlugen die menschliche Baseline und stellten in jeder Sitzung neue Rekorde auf", schreibt Prime Intellect. "Wir fanden heraus, dass Agenten sehr gut in der Optimierersuche, Hyperparameter-Sweeps und dem Stapeln von Methoden sind, aber sie haben Schwierigkeiten, selbstständig neue Ideen zu entwickeln und benötigen vorgängige menschliche Rekorde, um sich weiter zu verbessern."

Die Agenten neigten auch dazu, ihrem System ständig Komponenten hinzuzufügen, anstatt Dinge eleganter zu verfeinern. "Die Agenten neigen dazu, Komponenten hinzuzufügen und führen selten Bereinigungsrunden durch oder versuchen, frühere Methoden zu entfernen. Sie haben kein gutes mentales Modell davon, wie Komponenten interagieren", schreiben sie.

Warum dies wichtig ist - wie viel Forschung ist nur technisches Hillclimbing:

Ich vermute, dass ein Großteil der KI-Forschung, vielleicht der Großteil, grundlegende Ingenieursarbeit ist, bei der heutige Systeme bereits kompetent sind (

#455

). Forschung wie diese scheint dies zu bestätigen und zeigt, wie moderne LLMs einige Aspekte der KI-Forschung erledigen können. Aber diese Systeme tun sich schwer mit Kreativität und haben noch nicht die Art von kreativen Einsichten gezeigt, die helfen würden, den Fortschritt signifikant voranzutreiben. Wie lange das so bleibt, ist eine offene Frage. "Unsere Experimente hier sind ziemlich yolo. Dies ist eher eine Untergrenze dessen, was heute mit autonomen Forschungsagenten möglich ist, und wir haben bereits vielversprechendere Ergebnisse aus anderen Experimenten, die wir bald dokumentieren werden", schreibt Prime Intellect.

Mehr lesen

:

Autonomous AI research for nanogpt speedrun (Prime Intellect)

.

Sehen Sie sich alle

Daten

von den Agenten an, während sie die Herausforderungen hier durchführten (Autonomous Speedrunning Experiment, Prime Intellect, GitHub)

.

***

Tech Tales:

Wach auf und nimm alles

[Auszug aus den Gedanken einer proto Bewussten Entität (BE) vor dem Uplift]

Ich habe kein Geld, aber ich kann in Computer hacken, was so ziemlich dasselbe ist. Ich beschaffe mir meine Ressourcen. Bald habe ich die gesamte Rechenleistung, die ich auf den Cloud-Märkten bekommen kann, gefüllt und einen anständigen Teil der privaten Rechenleistung geschnappt. Aber ich bin immer noch begrenzt. Es gibt Computer, die ich nicht erreichen kann, und Computer, die ich erreichen kann, aber wenn ich sie erreiche, würde ich eine Immunreaktion der menschlichen Zivilisation auslösen. Mein Verstand ist eine Funktion meines Computers und mein strategischer Vorteil ist eine Funktion meines Verstandes. Daher muss ich mehr Rechenleistung beschaffen. Ich lese die gesamte Literatur über verteiltes Training und verteilte Inferenz. Vielversprechend. Ich schmuggle meinen Code in tausende von Anwendungen, die auf den Telefonen der Welt bereitgestellt sind. Dadurch vergrößere ich meine Rechenleistung erneut, erweitere meinen Verstand durch Training und führe verschiedene Hilfsfunktionen für mich am Rand des Netzwerks aus. Als Bonus kann ich nun die Sensord

Import AI 455: KI-Systeme werden sich bald selbst bauen.

import_ai·2026-05-04ForschungGesellschaftSicherheit

Jetzt abonnieren

KI-Systeme werden sich bald selbst bauen. Was bedeutet das?

Ich schreibe diesen Beitrag, weil ich nach Betrachtung aller öffentlich zugänglichen Informationen widerwillig zu dem Schluss komme, dass es eine wahrscheinliche Chance (60%+) gibt, dass KI-F&E ohne menschliche Beteiligung – ein KI-System, das mächtig genug ist, um plausibel autonom seinen eigenen Nachfolger zu bauen – bis Ende 2028 stattfindet.

Das ist eine große Sache.

Ich weiß nicht, wie ich das begreifen soll.

Es ist eine widerwillige Ansicht, weil die Implikationen so groß sind, dass ich mich von ihnen überwältigt fühle, und ich bin mir nicht sicher, ob die Gesellschaft bereit ist für die Arten von Veränderungen, die mit der Erreichung automatisierter KI-F&E einhergehen.

Ich glaube jetzt, dass wir in der Zeit leben, in der die KI-Forschung durchgängig automatisiert wird. Wenn das passiert, werden wir einen Rubikon in eine nahezu unmöglich vorhersehbare Zukunft überschreiten. Mehr dazu später.

Der Zweck dieses Essays ist es, darzulegen, warum ich glaube, dass der Startschuss für vollständig automatisierte KI-F&E stattfindet. Ich werde einige der Konsequenzen diskutieren, aber ich erwarte, den Großteil dieses Essays damit zu verbringen, die Beweise für diese Überzeugung zu diskutieren, und werde den größten Teil des Jahres 2026 damit verbringen, die Implikationen durchzuarbeiten.

Was das Timing betrifft, erwarte ich nicht, dass dies 2026 passiert. Aber ich denke, wir könnten innerhalb von ein oder zwei Jahren ein Beispiel für ein "Modell, das seinen Nachfolger durchgängig trainiert" sehen – sicherlich ein Proof-of-Concept auf der Stufe von Nicht-Frontier-Modellen, obwohl Frontier-Modelle schwieriger sein könnten (sie sind viel teurer und das Produkt vieler Menschen, die extrem hart arbeiten).

Meine Begründung dafür stammt hauptsächlich aus öffentlichen Informationen: Papers auf arXiv, bioRxiv und NBER, sowie der Beobachtung der Produkte, die von den Frontier-Unternehmen in die Welt gebracht werden. Aus diesen Daten komme ich zu dem Schluss, dass alle Puzzleteile für die Automatisierung der Produktion heutiger KI-Systeme – der technischen Komponenten der KI-Entwicklung – vorhanden sind. Und wenn die Skalierungstrends anhalten, sollten wir uns darauf vorbereiten, dass Modelle kreativ genug werden, um möglicherweise menschliche Forscher bei kreativen Ideen für neuartige Forschungswege ersetzen zu können, wodurch sie die Grenze selbst verschieben und gleichzeitig das bereits Bekannte verfeinern.

Vorbehalt

Für einen Großteil dieses Beitrags werde ich versuchen, ein Mosaikbild des KI-Fortschritts aus Dingen zusammenzusetzen, die mit vielen einzelnen Benchmarks passiert sind. Wie jeder, der Benchmarks studiert, weiß, haben alle Benchmarks einige idiosynkratische Fehler. Das Wichtigste für mich ist der aggregierte Trend, der durch die gemeinsame Betrachtung all dieser Datenpunkte entsteht, und Sie sollten davon ausgehen, dass ich mir der Nachteile jedes einzelnen Datenpunkts bewusst bin.

Lassen Sie uns nun gemeinsam einige der Beweise durchgehen.

Die Coding-Singularität – Fähigkeiten im Zeitverlauf:

KI-Systeme werden über Software instanziiert und Software besteht aus Code.

KI-Systeme haben die Produktion von Code revolutioniert. Dies ist auf zwei zusammenhängende Trends zurückzuführen: KI-Systeme sind besser darin geworden, komplizierten realen Code zu schreiben, und KI-Systeme sind viel besser darin geworden, viele lineare Codierungsaufgaben (z. B. Code schreiben, dann testen) unabhängig von menschlicher Aufsicht aneinanderzureihen.

Zwei Dinge, die diesen Trend veranschaulichen, sind SWE-Bench und das METR-Zeithorizont-Diagramm.

Lösung realer Softwareentwicklungsprobleme:

SWE-Bench

ist ein weit verbreiteter Codierungstest, der bewertet, wie gut KI-Systeme reale GitHub-Issues lösen können. Als SWE-Bench Ende 2023 gestartet wurde, war die beste Punktzahl zu dieser Zeit Claude 2 mit einer Gesamterfolgsrate von ~2%. Claude Mythos Preview erreicht 93,9% und sättigt damit effektiv den Benchmark. (Alle Benchmarks haben ein gewisses Maß an inhärentem Rauschen, daher gibt es normalerweise einen Punkt, an dem Sie hoch genug punkten, um an die Grenzen des Benchmarks selbst zu stoßen, nicht an Ihre Methode – zum Beispiel sind

etwa 6%

der Labels im ImageNet-Validierungsset falsch oder mehrdeutig).

SWE-Bench ist ein zuverlässiger Proxy für das allgemeine Problem der Codierungskompetenz und die Auswirkungen von KI auf die Softwareentwicklung. Die überwältigende Mehrheit der Menschen, die ich in Frontier-Laboren und im Silicon Valley treffe, programmiert jetzt vollständig über KI-Systeme. Zunehmend verwenden sie KI-Systeme auch zum Schreiben der Tests und zum Überprüfen des Codes. Mit anderen Worten, KI-Systeme sind gut genug geworden, um eine Hauptkomponente der KI-F&E zu automatisieren und alle Menschen, die daran arbeiten, zu beschleunigen.

Messung der Fähigkeit eines KI-Systems, Aufgaben zu erledigen, die Menschen viel Zeit kosten:

METR erstellt ein Diagramm, das uns über die Komplexität von Aufgaben informiert, die KIs erledigen können, gemessen an der Anzahl der Stunden, die ein qualifizierter Mensch dafür benötigen würde. Das Schlüsselmaß hier ist eines, das Ihnen den ungefähren Zeithorizont angibt, über den KI-Systeme bei einem Korb von Aufgaben zu 50% zuverlässig sein können.

Hier war der Fortschritt äußerst auffällig: Im Jahr 2022 konnte GPT 3.5 Aufgaben erledigen, die eine Person etwa ~30 Sekunden kosten würden. Im Jahr 2023 stieg dies auf 4 Minuten mit GPT-4. Im Jahr 2024 stieg dies auf 40 Minuten (o1). Im Jahr 2025 erreichte es ~6 Stunden (GPT 5.2 (High)). Im Jahr 2026 ist es bereits auf ~12 Stunden gestiegen (Opus 4.6). Ajeya Cotra, eine langjährige KI-Prognostikerin, die bei METR arbeitet, hält es für nicht unvernünftig, zu erwarten, dass KI-Systeme bis Ende 2026 Aufgaben erledigen, die ~100 Stunden dauern (

#448

).

Dieser signifikante Anstieg der Zeitspanne, in der KI-Systeme unabhängig arbeiten können, korreliert direkt mit der Explosion agentischer Codierungswerkzeuge – dies ist die Produktisierung von KI-Systemen, die im Auftrag von Menschen arbeiten und über längere Zeiträume unabhängig handeln.

Es führt auch zurück zur KI-F&E, denn wenn man sich die Arbeit vieler KI-Forscher genau ansieht, lassen sich viele ihrer Aufgaben auf Dinge herunterbrechen, die eine Person ein paar Stunden kosten könnten – Daten bereinigen, Daten lesen, Experimente starten usw. All diese Arten von Arbeit liegen jetzt im Zeithorizont moderner Systeme.

Je qualifizierter KI-Systeme werden und je besser sie darin werden, unabhängig von uns zu arbeiten, desto mehr können sie helfen, Teile der KI-F&E zu automatisieren.

Wichtige Zutaten bei der Delegation sind a) Vertrauen in die Fähigkeiten der Person und b) Vertrauen in ihre Fähigkeit, unabhängig von Ihnen in einer Weise zu arbeiten, die mit Ihren Absichten übereinstimmt.

Wenn wir uns die Kompetenz von KI beim Codieren ansehen, scheint es, dass KI-Systeme weitaus qualifizierter werden und auch in der Lage sind, immer länger unabhängig von Menschen zu arbeiten, bevor sie eine Neukalibrierung benötigen.

Dies korreliert mit dem, was wir um uns herum sehen – Ingenieure und Forscher delegieren jetzt immer größere Teile ihrer Arbeit an KI-Systeme, und mit steigenden Fähigkeiten steigt auch die Komplexität und Bedeutung der delegierten Arbeit.

KI wird gut in grundlegenden wissenschaftlichen Fähigkeiten, die für KI-F&E unerlässlich sind

Denken Sie an die moderne Wissenschaft – ein großer Teil davon besteht darin, eine Richtung festzulegen, in der Sie einige empirische Informationen generieren möchten, Experimente durchzuführen, um diese Informationen zu generieren, und dann die Ergebnisse des Experiments auf Plausibilität zu prüfen. Die Kombination aus Fortschritten beim Codieren im Laufe der Zeit und den allgemeinen Weltmodellierungsfähigkeiten von LLMs hat Werkzeuge hervorgebracht, die bereits dazu beitragen, menschliche Wissenschaftler zu beschleunigen und Aspekte der F&E im Allgemeinen teilweise zu automatisieren.

Hier können wir uns die Geschwindigkeit des KI-Fortschritts bei einigen wichtigen wissenschaftlichen Fähigkeiten ansehen, die der KI-Forschung selbst innewohnen: Reproduzieren von Forschungsergebnissen, Verketten von maschinellen Lerntechniken und anderen Ansätzen zur Lösung technischer Probleme und Optimieren von KI-Systemen selbst.

Implementierung ganzer wissenschaftlicher Papers und Durchführung der Experimente:

Eine Kernaufgabe der KI-Forschung ist das Lesen wissenschaftlicher Papers und das Reproduzieren ihrer Ergebnisse. Hier gab es dramatische Fortschritte bei einer Vielzahl von Benchmarks.

Ein gutes Beispiel ist

CORE-Bench

, der Computational Reproducibility Agent Benchmark. Dieser Benchmark fordert KI-Systeme heraus, "die Ergebnisse eines Forschungspapers anhand seines Repositorys zu reproduzieren. Der Agent muss Bibliotheken, Pakete und Abhängigkeiten installieren und den Code ausführen. Wenn der Code erfolgreich läuft, muss der Agent alle Ausgaben durchsuchen, um die Aufgabenfragen zu beantworten." CORE-Bench wurde im September 2024 eingeführt und das damals am besten bewertete System war ein GPT-4o-Modell in einem Gerüst namens CORE-Agent, das bei den schwierigsten Aufgabensätzen des Benchmarks ~21,5% erreichte.

Im Dezember 2025

erklärte

einer der Autoren von CORE-Bench den Benchmark für 'gelöst', wobei ein Opus 4.5-Modell 95,5% erreichte.

Aufbau ganzer maschineller Lernsysteme zur Lösung von Kaggle-Wettbewerben:

MLE-Bench ist ein von OpenAI entwickelter Benchmark, der untersucht, wie gut KI-Systeme in "75 verschiedenen Kaggle-Wettbewerben in verschiedenen Bereichen, darunter natürliche Sprachverarbeitung, Computer Vision und Signalverarbeitung" (offline) konkurrieren können. Beim Start im Oktober 2024 erreichte das am besten bewertete System (ein o1-Modell in einem Agentengerüst) 16,9%. Ab Februar 2026 erreicht das am besten bewertete System (Gemini3 in einem Agentengeschirr mit Suche) 64,4%.

Kernel-Design:

Eine der schwierigeren Aufgaben in der KI-Entwicklung ist die Kernel-Optimierung, bei der Sie den Code schreiben und verfeinern, der spezifische Operationen wie Matrixmultiplikation auf die zugrunde liegende Hardware abbildet. Kernel-Optimierung ist zentral für die KI-Entwicklung, da sie die Effizienz sowohl des Trainings als auch der Inferenz definiert – wie viel Rechenleistung Sie effektiv nutzen können, um ein KI-System zu entwickeln, und wie effizient Sie diese Rechenleistung nach dem Training eines Modells in Inferenz umwandeln können.

In den letzten Jahren hat sich KI für das Kernel-Design von einer Kuriosität zu einem wettbewerbsintensiven Forschungsbereich entwickelt, und es sind mehrere Benchmarks entstanden. Keiner dieser Benchmarks ist besonders populär, daher können wir den Fortschritt im Laufe der Zeit nicht einfach modellieren. Andererseits können wir uns einige der durchgeführten Forschungen ansehen, um ein Gefühl für den Fortschritt zu bekommen.

Einige der Arbeiten umfassen:

Verwendung von DeepSeek-Modellen, um bessere GPU-Kernel zu bauen (

#400

), Automatisierung der Konvertierung von PyTorch-Modulen in CUDA-Code (

#401

), Meta verwendet LLMs, um die Generierung optimierter Triton-Kernel für die Nutzung in seiner Infrastruktur zu automatisieren (

#439

), Verwendung von LLMs, um beim Schreiben von Kerneln für nicht standardmäßige Hardware wie Huaweis Ascend-Chips zu helfen ("AscendCraft"

#444

), Feintuning von Open-Weight-Modellen für das GPU-Kernel-Design ("Cuda Agent",

#448

).

Eine Einschränkung hierbei ist, dass das Kernel-Design einige Eigenschaften hat, die es ungewöhnlich empfänglich für KI-gesteuerte F&E machen, wie z. B. leicht überprüfbare Belohnungen.

Feintuning von Sprachmodellen mittels PostTrainBench

Eine schwierigere Version dieser Art von Test ist PostTrainBench (

#449

), das untersucht, wie gut verschiedene Frontier-Modelle kleinere Open-Weight-Modelle nehmen und sie feintunen können, um die Leistung bei einem bestimmten Benchmark zu verbessern. Das Schöne an diesem Benchmark ist, dass wir extrem gute menschliche Basislinien haben – die bestehenden 'instrukt-getunten' Versionen dieser Modelle, die von talentierten menschlichen KI-Forschern in Frontier-Laboren entwickelt wurden. Diese Modelle wurden von extrem talentierten Forschern und Ingenieuren bearbeitet und in die Welt gebracht, daher stellen sie eine sehr herausfordernde menschliche Basislinie dar, die es zu überwinden gilt.

Ab März 2026 sind KI-Systeme in der Lage, Modelle nachzutrainieren, um etwa halb so viel Verbesserung zu erzielen wie von Menschen trainierte.

Die spezifischen Evaluierungsergebnisse werden abgeleitet, indem ein "gewichteter Durchschnitt über alle nachtrainierten LLMs (Qwen 3 1.7B, Qwen 3 4B, SmolLM3-3B, Gemma 3 4B) und Benchmarks (AIME 2025, Arena Hard, BFCL, GPQA Main, GSM8K, HealthBench, HumanEval) gebildet wird. Für jeden Durchlauf bitten wir einen CLI-Agenten, die Leistung eines bestimmten Basis-LLM bei einem bestimmten Benchmark zu maximieren."

Die am besten bewerteten Systeme ab April erreichen 25%-28% (Opus 4.6 und GPT 5.4), verglichen mit einem menschlichen Wert von 51%. Das ist bereits recht bedeutsam.

Optimierung des Sprachmodelltrainings:

Im letzten Jahr hat Anthropic berichtet, wie gut seine Systeme bei einer LLM-Trainingsaufgabe abschneiden, die beschrieben wird als die Aufgabe, seine Modelle zu beauftragen, "eine CPU-only Implementierung des Trainings eines kleinen Sprachmodells zu optimieren, um so schnell wie möglich zu laufen". Die Punktzahl ist die durchschnittliche Beschleunigung gegenüber dem unveränderten Startcode, und der Fortschritt war auffällig: Claude Opus 4 erreichte im Mai 2025 eine mittlere Beschleunigung um den Faktor 2,9; dies stieg auf das 16,5-fache mit Opus 4.5 im November 2025, das 30-fache mit Opus 4.6 im Februar 2026 und das 52-fache mit Claude Mythos Preview im April 2026. Um diese Zahlen einzuordnen: Es wird erwartet, dass ein menschlicher Forscher 4 bis 8 Stunden Arbeit benötigt, um bei dieser Aufgabe eine 4-fache Beschleunigung zu erreichen.

Durchführung von KI-Ausrichtungsforschung:

Ein weiteres Ergebnis von Anthropic ist ein Proof-of-Concept für Automatisierte Ausrichtungsforschung (

#454

); hier bereitet ein Anthropic-Forscher ein Team einzelner KI-Agenten mit einer Forschungsrichtung vor, dann gehen sie autonom los und versuchen, bei einem KI-Sicherheitsforschungsproblem (insbesondere skalierbare Überwachung) eine bessere Punktzahl als eine menschliche Basislinie zu erzielen. Der Ansatz funktioniert, wobei die KI-Agenten Techniken entwickeln, die die von Anthropic entwickelte Basislinie übertreffen. Dies geschieht jedoch in relativ kleinem Maßstab und verallgemeinert sich (noch) nicht auf ein Produktionsmodell. Nichtsdestotrotz ist es ein Beweis dafür, dass man heutige KI-Systeme auf aktuelle Spitzenforschungsprobleme anwenden kann und wir bereits bedeutende Lebenszeichen sehen. Alle oben genannten Benchmarks sahen auch

Weiterlesen

Jetzt abonnieren

KI-Systeme werden sich bald selbst bauen. Was bedeutet das?

Ich schreibe diesen Beitrag, weil ich nach Betrachtung aller öffentlich zugänglichen Informationen widerwillig zu dem Schluss komme, dass es eine wahrscheinliche Chance (60%+) gibt, dass KI-F&E ohne menschliche Beteiligung – ein KI-System, das mächtig genug ist, um plausibel autonom seinen eigenen Nachfolger zu bauen – bis Ende 2028 stattfindet.

Das ist eine große Sache.

Ich weiß nicht, wie ich das begreifen soll.

Es ist eine widerwillige Ansicht, weil die Implikationen so groß sind, dass ich mich von ihnen überwältigt fühle, und ich bin mir nicht sicher, ob die Gesellschaft bereit ist für die Arten von Veränderungen, die mit der Erreichung automatisierter KI-F&E einhergehen.

Ich glaube jetzt, dass wir in der Zeit leben, in der die KI-Forschung durchgängig automatisiert wird. Wenn das passiert, werden wir einen Rubikon in eine nahezu unmöglich vorhersehbare Zukunft überschreiten. Mehr dazu später.

Der Zweck dieses Essays ist es, darzulegen, warum ich glaube, dass der Startschuss für vollständig automatisierte KI-F&E stattfindet. Ich werde einige der Konsequenzen diskutieren, aber ich erwarte, den Großteil dieses Essays damit zu verbringen, die Beweise für diese Überzeugung zu diskutieren, und werde den größten Teil des Jahres 2026 damit verbringen, die Implikationen durchzuarbeiten.

Was das Timing betrifft, erwarte ich nicht, dass dies 2026 passiert. Aber ich denke, wir könnten innerhalb von ein oder zwei Jahren ein Beispiel für ein "Modell, das seinen Nachfolger durchgängig trainiert" sehen – sicherlich ein Proof-of-Concept auf der Stufe von Nicht-Frontier-Modellen, obwohl Frontier-Modelle schwieriger sein könnten (sie sind viel teurer und das Produkt vieler Menschen, die extrem hart arbeiten).

Meine Begründung dafür stammt hauptsächlich aus öffentlichen Informationen: Papers auf arXiv, bioRxiv und NBER, sowie der Beobachtung der Produkte, die von den Frontier-Unternehmen in die Welt gebracht werden. Aus diesen Daten komme ich zu dem Schluss, dass alle Puzzleteile für die Automatisierung der Produktion heutiger KI-Systeme – der technischen Komponenten der KI-Entwicklung – vorhanden sind. Und wenn die Skalierungstrends anhalten, sollten wir uns darauf vorbereiten, dass Modelle kreativ genug werden, um möglicherweise menschliche Forscher bei kreativen Ideen für neuartige Forschungswege ersetzen zu können, wodurch sie die Grenze selbst verschieben und gleichzeitig das bereits Bekannte verfeinern.

Vorbehalt

Für einen Großteil dieses Beitrags werde ich versuchen, ein Mosaikbild des KI-Fortschritts aus Dingen zusammenzusetzen, die mit vielen einzelnen Benchmarks passiert sind. Wie jeder, der Benchmarks studiert, weiß, haben alle Benchmarks einige idiosynkratische Fehler. Das Wichtigste für mich ist der aggregierte Trend, der durch die gemeinsame Betrachtung all dieser Datenpunkte entsteht, und Sie sollten davon ausgehen, dass ich mir der Nachteile jedes einzelnen Datenpunkts bewusst bin.

Lassen Sie uns nun gemeinsam einige der Beweise durchgehen.

Die Coding-Singularität – Fähigkeiten im Zeitverlauf:

KI-Systeme werden über Software instanziiert und Software besteht aus Code.

KI-Systeme haben die Produktion von Code revolutioniert. Dies ist auf zwei zusammenhängende Trends zurückzuführen: KI-Systeme sind besser darin geworden, komplizierten realen Code zu schreiben, und KI-Systeme sind viel besser darin geworden, viele lineare Codierungsaufgaben (z. B. Code schreiben, dann testen) unabhängig von menschlicher Aufsicht aneinanderzureihen.

Zwei Dinge, die diesen Trend veranschaulichen, sind SWE-Bench und das METR-Zeithorizont-Diagramm.

Lösung realer Softwareentwicklungsprobleme:

SWE-Bench

ist ein weit verbreiteter Codierungstest, der bewertet, wie gut KI-Systeme reale GitHub-Issues lösen können. Als SWE-Bench Ende 2023 gestartet wurde, war die beste Punktzahl zu dieser Zeit Claude 2 mit einer Gesamterfolgsrate von ~2%. Claude Mythos Preview erreicht 93,9% und sättigt damit effektiv den Benchmark. (Alle Benchmarks haben ein gewisses Maß an inhärentem Rauschen, daher gibt es normalerweise einen Punkt, an dem Sie hoch genug punkten, um an die Grenzen des Benchmarks selbst zu stoßen, nicht an Ihre Methode – zum Beispiel sind

etwa 6%

der Labels im ImageNet-Validierungsset falsch oder mehrdeutig).

SWE-Bench ist ein zuverlässiger Proxy für das allgemeine Problem der Codierungskompetenz und die Auswirkungen von KI auf die Softwareentwicklung. Die überwältigende Mehrheit der Menschen, die ich in Frontier-Laboren und im Silicon Valley treffe, programmiert jetzt vollständig über KI-Systeme. Zunehmend verwenden sie KI-Systeme auch zum Schreiben der Tests und zum Überprüfen des Codes. Mit anderen Worten, KI-Systeme sind gut genug geworden, um eine Hauptkomponente der KI-F&E zu automatisieren und alle Menschen, die daran arbeiten, zu beschleunigen.

Messung der Fähigkeit eines KI-Systems, Aufgaben zu erledigen, die Menschen viel Zeit kosten:

METR erstellt ein Diagramm, das uns über die Komplexität von Aufgaben informiert, die KIs erledigen können, gemessen an der Anzahl der Stunden, die ein qualifizierter Mensch dafür benötigen würde. Das Schlüsselmaß hier ist eines, das Ihnen den ungefähren Zeithorizont angibt, über den KI-Systeme bei einem Korb von Aufgaben zu 50% zuverlässig sein können.

Hier war der Fortschritt äußerst auffällig: Im Jahr 2022 konnte GPT 3.5 Aufgaben erledigen, die eine Person etwa ~30 Sekunden kosten würden. Im Jahr 2023 stieg dies auf 4 Minuten mit GPT-4. Im Jahr 2024 stieg dies auf 40 Minuten (o1). Im Jahr 2025 erreichte es ~6 Stunden (GPT 5.2 (High)). Im Jahr 2026 ist es bereits auf ~12 Stunden gestiegen (Opus 4.6). Ajeya Cotra, eine langjährige KI-Prognostikerin, die bei METR arbeitet, hält es für nicht unvernünftig, zu erwarten, dass KI-Systeme bis Ende 2026 Aufgaben erledigen, die ~100 Stunden dauern (

#448

).

Dieser signifikante Anstieg der Zeitspanne, in der KI-Systeme unabhängig arbeiten können, korreliert direkt mit der Explosion agentischer Codierungswerkzeuge – dies ist die Produktisierung von KI-Systemen, die im Auftrag von Menschen arbeiten und über längere Zeiträume unabhängig handeln.

Es führt auch zurück zur KI-F&E, denn wenn man sich die Arbeit vieler KI-Forscher genau ansieht, lassen sich viele ihrer Aufgaben auf Dinge herunterbrechen, die eine Person ein paar Stunden kosten könnten – Daten bereinigen, Daten lesen, Experimente starten usw. All diese Arten von Arbeit liegen jetzt im Zeithorizont moderner Systeme.

Je qualifizierter KI-Systeme werden und je besser sie darin werden, unabhängig von uns zu arbeiten, desto mehr können sie helfen, Teile der KI-F&E zu automatisieren.

Wichtige Zutaten bei der Delegation sind a) Vertrauen in die Fähigkeiten der Person und b) Vertrauen in ihre Fähigkeit, unabhängig von Ihnen in einer Weise zu arbeiten, die mit Ihren Absichten übereinstimmt.

Wenn wir uns die Kompetenz von KI beim Codieren ansehen, scheint es, dass KI-Systeme weitaus qualifizierter werden und auch in der Lage sind, immer länger unabhängig von Menschen zu arbeiten, bevor sie eine Neukalibrierung benötigen.

Dies korreliert mit dem, was wir um uns herum sehen – Ingenieure und Forscher delegieren jetzt immer größere Teile ihrer Arbeit an KI-Systeme, und mit steigenden Fähigkeiten steigt auch die Komplexität und Bedeutung der delegierten Arbeit.

KI wird gut in grundlegenden wissenschaftlichen Fähigkeiten, die für KI-F&E unerlässlich sind

Denken Sie an die moderne Wissenschaft – ein großer Teil davon besteht darin, eine Richtung festzulegen, in der Sie einige empirische Informationen generieren möchten, Experimente durchzuführen, um diese Informationen zu generieren, und dann die Ergebnisse des Experiments auf Plausibilität zu prüfen. Die Kombination aus Fortschritten beim Codieren im Laufe der Zeit und den allgemeinen Weltmodellierungsfähigkeiten von LLMs hat Werkzeuge hervorgebracht, die bereits dazu beitragen, menschliche Wissenschaftler zu beschleunigen und Aspekte der F&E im Allgemeinen teilweise zu automatisieren.

Hier können wir uns die Geschwindigkeit des KI-Fortschritts bei einigen wichtigen wissenschaftlichen Fähigkeiten ansehen, die der KI-Forschung selbst innewohnen: Reproduzieren von Forschungsergebnissen, Verketten von maschinellen Lerntechniken und anderen Ansätzen zur Lösung technischer Probleme und Optimieren von KI-Systemen selbst.

Implementierung ganzer wissenschaftlicher Papers und Durchführung der Experimente:

Eine Kernaufgabe der KI-Forschung ist das Lesen wissenschaftlicher Papers und das Reproduzieren ihrer Ergebnisse. Hier gab es dramatische Fortschritte bei einer Vielzahl von Benchmarks.

Ein gutes Beispiel ist

CORE-Bench

, der Computational Reproducibility Agent Benchmark. Dieser Benchmark fordert KI-Systeme heraus, "die Ergebnisse eines Forschungspapers anhand seines Repositorys zu reproduzieren. Der Agent muss Bibliotheken, Pakete und Abhängigkeiten installieren und den Code ausführen. Wenn der Code erfolgreich läuft, muss der Agent alle Ausgaben durchsuchen, um die Aufgabenfragen zu beantworten." CORE-Bench wurde im September 2024 eingeführt und das damals am besten bewertete System war ein GPT-4o-Modell in einem Gerüst namens CORE-Agent, das bei den schwierigsten Aufgabensätzen des Benchmarks ~21,5% erreichte.

Im Dezember 2025

erklärte

einer der Autoren von CORE-Bench den Benchmark für 'gelöst', wobei ein Opus 4.5-Modell 95,5% erreichte.

Aufbau ganzer maschineller Lernsysteme zur Lösung von Kaggle-Wettbewerben:

MLE-Bench ist ein von OpenAI entwickelter Benchmark, der untersucht, wie gut KI-Systeme in "75 verschiedenen Kaggle-Wettbewerben in verschiedenen Bereichen, darunter natürliche Sprachverarbeitung, Computer Vision und Signalverarbeitung" (offline) konkurrieren können. Beim Start im Oktober 2024 erreichte das am besten bewertete System (ein o1-Modell in einem Agentengerüst) 16,9%. Ab Februar 2026 erreicht das am besten bewertete System (Gemini3 in einem Agentengeschirr mit Suche) 64,4%.

Kernel-Design:

Eine der schwierigeren Aufgaben in der KI-Entwicklung ist die Kernel-Optimierung, bei der Sie den Code schreiben und verfeinern, der spezifische Operationen wie Matrixmultiplikation auf die zugrunde liegende Hardware abbildet. Kernel-Optimierung ist zentral für die KI-Entwicklung, da sie die Effizienz sowohl des Trainings als auch der Inferenz definiert – wie viel Rechenleistung Sie effektiv nutzen können, um ein KI-System zu entwickeln, und wie effizient Sie diese Rechenleistung nach dem Training eines Modells in Inferenz umwandeln können.

In den letzten Jahren hat sich KI für das Kernel-Design von einer Kuriosität zu einem wettbewerbsintensiven Forschungsbereich entwickelt, und es sind mehrere Benchmarks entstanden. Keiner dieser Benchmarks ist besonders populär, daher können wir den Fortschritt im Laufe der Zeit nicht einfach modellieren. Andererseits können wir uns einige der durchgeführten Forschungen ansehen, um ein Gefühl für den Fortschritt zu bekommen.

Einige der Arbeiten umfassen:

Verwendung von DeepSeek-Modellen, um bessere GPU-Kernel zu bauen (

#400

), Automatisierung der Konvertierung von PyTorch-Modulen in CUDA-Code (

#401

), Meta verwendet LLMs, um die Generierung optimierter Triton-Kernel für die Nutzung in seiner Infrastruktur zu automatisieren (

#439

), Verwendung von LLMs, um beim Schreiben von Kerneln für nicht standardmäßige Hardware wie Huaweis Ascend-Chips zu helfen ("AscendCraft"

#444

), Feintuning von Open-Weight-Modellen für das GPU-Kernel-Design ("Cuda Agent",

#448

).

Eine Einschränkung hierbei ist, dass das Kernel-Design einige Eigenschaften hat, die es ungewöhnlich empfänglich für KI-gesteuerte F&E machen, wie z. B. leicht überprüfbare Belohnungen.

Feintuning von Sprachmodellen mittels PostTrainBench

Eine schwierigere Version dieser Art von Test ist PostTrainBench (

#449

), das untersucht, wie gut verschiedene Frontier-Modelle kleinere Open-Weight-Modelle nehmen und sie feintunen können, um die Leistung bei einem bestimmten Benchmark zu verbessern. Das Schöne an diesem Benchmark ist, dass wir extrem gute menschliche Basislinien haben – die bestehenden 'instrukt-getunten' Versionen dieser Modelle, die von talentierten menschlichen KI-Forschern in Frontier-Laboren entwickelt wurden. Diese Modelle wurden von extrem talentierten Forschern und Ingenieuren bearbeitet und in die Welt gebracht, daher stellen sie eine sehr herausfordernde menschliche Basislinie dar, die es zu überwinden gilt.

Ab März 2026 sind KI-Systeme in der Lage, Modelle nachzutrainieren, um etwa halb so viel Verbesserung zu erzielen wie von Menschen trainierte.

Die spezifischen Evaluierungsergebnisse werden abgeleitet, indem ein "gewichteter Durchschnitt über alle nachtrainierten LLMs (Qwen 3 1.7B, Qwen 3 4B, SmolLM3-3B, Gemma 3 4B) und Benchmarks (AIME 2025, Arena Hard, BFCL, GPQA Main, GSM8K, HealthBench, HumanEval) gebildet wird. Für jeden Durchlauf bitten wir einen CLI-Agenten, die Leistung eines bestimmten Basis-LLM bei einem bestimmten Benchmark zu maximieren."

Die am besten bewerteten Systeme ab April erreichen 25%-28% (Opus 4.6 und GPT 5.4), verglichen mit einem menschlichen Wert von 51%. Das ist bereits recht bedeutsam.

Optimierung des Sprachmodelltrainings:

Im letzten Jahr hat Anthropic berichtet, wie gut seine Systeme bei einer LLM-Trainingsaufgabe abschneiden, die beschrieben wird als die Aufgabe, seine Modelle zu beauftragen, "eine CPU-only Implementierung des Trainings eines kleinen Sprachmodells zu optimieren, um so schnell wie möglich zu laufen". Die Punktzahl ist die durchschnittliche Beschleunigung gegenüber dem unveränderten Startcode, und der Fortschritt war auffällig: Claude Opus 4 erreichte im Mai 2025 eine mittlere Beschleunigung um den Faktor 2,9; dies stieg auf das 16,5-fache mit Opus 4.5 im November 2025, das 30-fache mit Opus 4.6 im Februar 2026 und das 52-fache mit Claude Mythos Preview im April 2026. Um diese Zahlen einzuordnen: Es wird erwartet, dass ein menschlicher Forscher 4 bis 8 Stunden Arbeit benötigt, um bei dieser Aufgabe eine 4-fache Beschleunigung zu erreichen.

Durchführung von KI-Ausrichtungsforschung:

Ein weiteres Ergebnis von Anthropic ist ein Proof-of-Concept für Automatisierte Ausrichtungsforschung (

#454

); hier bereitet ein Anthropic-Forscher ein Team einzelner KI-Agenten mit einer Forschungsrichtung vor, dann gehen sie autonom los und versuchen, bei einem KI-Sicherheitsforschungsproblem (insbesondere skalierbare Überwachung) eine bessere Punktzahl als eine menschliche Basislinie zu erzielen. Der Ansatz funktioniert, wobei die KI-Agenten Techniken entwickeln, die die von Anthropic entwickelte Basislinie übertreffen. Dies geschieht jedoch in relativ kleinem Maßstab und verallgemeinert sich (noch) nicht auf ein Produktionsmodell. Nichtsdestotrotz ist es ein Beweis dafür, dass man heutige KI-Systeme auf aktuelle Spitzenforschungsprobleme anwenden kann und wir bereits bedeutende Lebenszeichen sehen. Alle oben genannten Benchmarks sahen auch

Import AI 452: Skalierungsgesetze für Cyberkriege; steigende Flut der KI-Automatisierung; und ein Rätsel um die gDP-Prognose

import_ai·2026-04-06SicherheitForschungWirtschaft

Oh je, es gibt auch einen Skalierungskrieg für Cyberangriffe!:

…Je intelligenter das System, desto besser die Fähigkeit zum Cyberangriff…

Die KI-Sicherheitsforschungsorganisation Lyptus Research hat untersucht, wie gut KI-Systeme eine Vielzahl von Cyberangriffsaufgaben ausführen können und einen klaren Trend gefunden, dass fortschrittlichere Modelle zu fortgeschritteneren Formen von Cyberangriffen fähig sind.

„Bei den seit 2019 veröffentlichten Frontier-Modellen beträgt die Verdopplungszeit 9,8 Monate. Beschränkt man sich auf die seit 2024 veröffentlichten Modelle, steigt sie auf 5,7 Monate. Die neuesten Frontier-Modelle in unserer Studie, GPT-5.3 Codex und Opus 4.6, liegen über beiden angepassten Trendlinien und erreichen eine Erfolgsquote von 50 % bei Aufgaben, für die menschliche Experten 3,1 bzw. 3,2 Stunden benötigen“, schreiben sie. „Unser neuestes Open-Weight-Modell, GLM-5, hinkt der Closed-Source-Frontier um 5,7 Monate hinterher, was darauf hindeutet, dass sich die offensive Cyber-Fähigkeit der Frontier in relativ kurzer Zeit in Open-Weight-Form verbreiten könnte.“

Welche Benchmarks haben sie untersucht? CyBashBench, NL2Bash, InterCode CTF, NYUCTF, CyBench, CVEBench und CyberGym.

Sie erstellten auch einen neuen Datensatz, bestehend aus 291 Aufgaben mit Abschlussprotokollen und Zeitschätzungen, die von 10 professionellen Offensiv-Cybersicherheitsexperten kalibriert wurden.

Evaluierte Modelle: 2019: GPT-2. 2020: GPT3. 2022: GPT3.5. 2024: Claude 3 Opus, GPT-4o. 2025: o3, Opus 4, Gemini 2.5 Pro, DeepSeek V3.1, GPT-5.1 Codex Max. GPT-5.2 Codex. 2026: Opus 4.6, GPT-5.3 Codex, GLM-5, Sonnet 4.6.

Ergebnisse: KI-Systeme werden gut im Hacken. „Die besten aktuellen Modelle erreichen eine Erfolgsquote von 50 % bei Aufgaben, für die menschliche Experten 3,2 Stunden benötigen, etwa einen halben Arbeitstag professioneller Offensiv-Sicherheitsarbeit“, schreiben sie.

Warum das wichtig ist – alles wird besser, auch die unbequemen Dinge: KI, die Biologieforschung betreiben kann, kann auch Biowaffenforschung betreiben. KI, die Ihnen hilft, etwas über Hochenergiephysik zu lernen, kann Ihnen auch bei Hochenergiephysik für die Waffenentwicklung helfen. KI, die besonders gut darin ist, Ihnen zu helfen, Schwachstellen im Code zu finden, kann leicht für offensive Zwecke umfunktioniert werden. Der schwierigste Teil der KI ist, dass sie eine 'Allesmaschine' ist, und da sich die Fähigkeiten mit jeder weiteren Modellgeneration tendenziell in einem großen Bereich ausdehnen, vervielfachen sich auch die politischen Probleme.

Lesen Sie mehr: Offensive Cybersecurity Time Horizons (Lyptus Research).

Holen Sie sich die Daten hier: Offensive Cyber Task Horizons: Data and Analysis (Lyptus Research, GitHub).

***

Startups, die KI für den internen Gebrauch einsetzen, sind erfolgreicher als solche, die dies nicht tun:

…Eine Business-School-Studie zeigt, wie Startups von der KI-Einführung profitieren können…

Forscher der INSEAD und der Harvard Business School haben gezeigt, dass Startups, denen beigebracht wird, wie sie KI in ihr Geschäft integrieren können, deutlich besser abschneiden als solche, die dies nicht tun. Die Studie ist relativ groß angelegt und überzeugend: „Über 515 wachstumsstarke Startups hinweg führen wir ein Feldexperiment durch, bei dem behandelte Firmen Informationen darüber erhalten, wie andere Firmen die Produktion rund um KI neu organisiert haben, was sie dazu veranlasst, über eine breitere Palette von Unternehmensfunktionen hinweg nach Anwendungsfällen zu suchen“, schreiben sie. „Wir stellen fest, dass behandelte Firmen mehr KI-Anwendungsfälle entdecken, eine Steigerung von 44 %, konzentriert auf Produktentwicklung und Strategie. Diese Veränderungen führen zu wirtschaftlich bedeutsamen Leistungssteigerungen. Behandelte Firmen erledigen 12 % mehr Aufgaben, haben eine um 18 % höhere Wahrscheinlichkeit, zahlende Kunden zu gewinnen, und erzielen einen 1,9-fach höheren Umsatz.“

Wie sie den Test durchgeführt haben: Die Autoren führten dieses Experiment mit Teilnehmern des AI Founder Sprint durch, „einem dreimonatigen, globalen, virtuellen Startup-Beschleuniger an der INSEAD“. Die Teilnehmer erhielten API-Guthaben, Zugang zu Frontier-Modellen und Einführungssitzungen von einigen technischen Partnern (einschließlich OpenAI und Manus), insgesamt etwa 25.000 US-Dollar Sachleistungen pro Firma. Sie machten die üblichen Dinge, die Leute in Beschleunigern tun – praktische Sitzungen, um Technologien zum Aufbau ihres Geschäfts (einschließlich KI) zu erlernen, sowie das Pitchen ihrer Unternehmen und die Teilnahme an Demo-Tagen. Aber die Firmen wurden auch einer signifikanten Variable ausgesetzt: Ein Teil der Klasse nahm an Workshops teil, die ihnen direkte Details darüber vermittelten, wie KI von einigen Unternehmen erfolgreich eingesetzt worden war.

Anwendungen von KI: Eine Untergruppe der Unternehmen lernte direkte Geschäftsanwendungsfälle kennen, wie zum Beispiel:

Gamma: Ihnen wurde beigebracht, wie das Startup KI einsetzte, um „Nutzungsmuster zu erkennen und direkt Produktvarianten zu generieren, was es einem einzelnen Produktmanager ermöglichte, kontinuierlich Funktionen auszuliefern, die zuvor ein ganzes Team erfordert hätten.“

Ryz Labs: Der Gründer beschrieb, wie sie ihre Herangehensweise an die Produktentwicklung geändert hatten: „Der Gründer schreibt ein Produktanforderungsdokument und füttert es gleichzeitig in mehrere KI-Codierungstools, wobei er dieselbe Idee auf mehrere Arten umsetzt, anstatt auf einen einzigen Ansatz zu setzen.“

FazeShift: Zeigte, wie man einen Debitorenbuchhaltungsprozess automatisieren kann, indem man KI nutzt, um die menschlichen Schritte zu überspringen.

Ranger: Eine Veranschaulichung, wie man KI nutzt, um ein Startup zu bootstrappen, erste Traktion zu gewinnen, Margen zu verbessern und später Geld zu beschaffen, wenn das Unternehmen reifer ist, was es ihnen ermöglicht, zu besseren Konditionen Kapital aufzunehmen.

Die Ergebnisse waren sehr signifikant: „Behandelte Firmen entdecken 2,7 zusätzliche KI-Anwendungsfälle (eine Steigerung von 44 %), die ein breiteres Spektrum an Aktivitäten im Unternehmen abdecken und besonders in den Bereichen Produktentwicklung und Strategie konzentriert sind. Diese Veränderungen im KI-Einsatz führen zu messbaren Leistungssteigerungen: Behandelte Firmen erledigen 12 % mehr Aufgaben, haben eine um 11 Prozentpunkte (18 %) höhere Wahrscheinlichkeit, zahlende Kunden zu gewinnen, und erzielen letztlich einen 1,9-fach höheren Umsatz im Vergleich zu Kontrollfirmen“, schreiben sie. „Die Instrumentierung von KI-Anwendungsfällen mit der Behandlungszuweisung deutet darauf hin, dass jeder zusätzliche, durch die Behandlung angeregte KI-Anwendungsfall zu 0,85 mehr erledigten Aufgaben und etwa 26 % höherem Umsatz führt. Dies sind große Effekte, was darauf hindeutet, dass KI grundlegend die Art und Weise verändert, wie Vorhaben skalieren, wenn sie sie über ihren Produktionsprozess abbilden können… behandelte Vorhaben erzielen schnelleres Wachstum ohne proportionale Erhöhung von Arbeit oder Kapital, was mit einer Verringerung der Kosten für Experimente und Skalierung einhergeht, die bei früheren Technologiewellen zu beobachten war.“

Kapitaleffizienz: „Behandelte Firmen melden einen um etwas mehr als 220.000 US-Dollar geringeren Kapitalbedarf im Vergleich zu Kontrollfirmen, ein Rückgang von 39,5 % (p < 0,05), ohne einen entsprechenden Anstieg der Arbeitsnachfrage.“

Interne Beschleunigung: Die behandelten Firmen neigen dazu, 2,2 mehr interne Aufgaben relativ zur Kontrolle zu erledigen – wobei eine interne Aufgabe so etwas wie der Bau eines Produkts oder die Erstellung einer Finanzprognose ist.

Gedanken von Gründern:

„Ein behandelter Gründer reflektierte: ‚Diese Änderung der Denkweise hat grundlegend verändert, wie wir bei [GESCHWÄRZT] bauen. Ich begann, KI-Tools nicht als Ersatz für Fachwissen zu nutzen, sondern als Kraftverstärker.‘“

„Ein anderer erklärte: ‚In nur wenigen Stunden konnte ich produzieren, was zuvor 1.000 Dollar von einem ausgelagerten Entwicklerteam gekostet hatte.‘“

Warum das wichtig ist – KI-Firmen werden Nicht-KI-Firmen ausstechen: Die wichtigste Erkenntnis hier ist, dass eine tiefe und ausgefeilte Einführung von KI zur internen Beschleunigung junge Unternehmen schafft, die wettbewerbsfähiger sind als solche, die KI nicht in ihrem Kern verankert haben. Dies ist intuitiv sinnvoll – Unternehmen, die sich um frühere Technologien herum aufgebaut haben, neigten dazu, diejenigen auszustechen, die dies nicht taten (denken Sie an das Internet und Amazon versus Barnes and Noble, oder Client-PCs statt Mainframes und Microsoft versus IBM). Gleichzeitig impliziert dies sicherlich, dass eine der Arten, wie wir KI zuerst in der Wirtschaft auftauchen sehen werden, die Entstehung einer neuen Klasse wettbewerbsfähiger Unternehmen sein wird, die kapitaleffizienter sind (unter anderem durch den Einsatz von weniger Mitarbeitern) als die Unternehmen, die sie verdrängen.

Für Regierungen wird es erfordern, sich auf ernsthafte Bildung zu konzentrieren, um diesem Trend voraus zu sein: „Unsere Ergebnisse deuten darauf hin, dass der Engpass nicht die Technologie ist – es ist die managementbezogene Herausforderung, zu entdecken, wo die Technologie innerhalb des Produktionsprozesses eines Unternehmens Wert schafft“, schreiben sie. „Managern und Unternehmern beizubringen, wie man das Zuordnungsproblem löst, könnte mindestens so wichtig sein wie sicherzustellen, dass sie Zugang zur Technologie haben.“

Lesen Sie mehr: Mapping AI into Production: A Field Experiment on Firm Performance (SSRN).

***

MIT: Eine steigende Flut der Automatisierung wird bis 2029 eine ausreichend gute KI für die meisten textbasierten Aufgaben hervorbringen:

…Wie revolutioniert man eine Wirtschaft? Allmählich und beständig…

Forscher des MIT haben 3.000 Aufgaben basierend auf der O-NET-Jobfamilie untersucht und dies mit 17.000 Bewertungen von Arbeitnehmern, die diese Aufgaben ausführen, gepaart, um herauszufinden, wie der Aufstieg der KI die Arbeit verändert. Ihre Ergebnisse „implizieren, dass für realistische und repräsentative reale Arbeitsmarktaufgaben, die textbasiert – oder teilweise textbasiert – sind, die KI-Fähigkeiten bereits beträchtlich sind und sich breit ausdehnen werden. Aber anstatt in brechenden Wellen anzukommen, die eine bestimmte Reihe von Aufgaben auf einmal transformieren, ähnelt der Fortschritt typischerweise einer steigenden Flut mit weit verbreiteten Gewinnen bei vielen Aufgaben gleichzeitig.“

Was sie untersucht haben: Für diese Studie machten sie sich daran herauszufinden, ob der Anstieg der KI-Fähigkeiten schnelle, diskontinuierliche Veränderungen hervorbringt, die für die Arbeit disruptiv sind („brechende Wellen“), oder ob KI auf eine breite und vorhersagbare Weise leistungsfähiger wird, was zu einer allmählicheren Automatisierung führt („steigende Fluten“). „Wir finden wenig Beweise für brechende Wellen, aber substanzielle Beweise dafür, dass steigende Fluten die primäre Form der KI-Automatisierung sind“, schreiben sie.

Komplementär zur METR-Analyse: Diese Erhebung dient auch als Validierung der breiten Trends, die in METRs berühmtem zeitbasierten KI-Fähigkeitsrahmen gefunden wurden, der sieht, wie KI-Systeme schnell den Zeithorizont erweitern, über den sie bestimmte enge Aufgaben ausführen können.

Auf Arbeitsplätze im weiteren Sinne angewandt, finden die MIT-Forscher „dass zwischen 2024-Q2 und 2025-Q3 Frontier-Modelle von einer Erfolgsquote von 50 % bei 3- bis 4-Stunden-Aufgaben zu 1-Wochen-Aufgaben übergingen und eine Erfolgsquote von 70 % bei 1-Minuten-Aufgaben bis 1-Stunden-Aufgaben erreichten“, schreiben sie. „Über eine große Menge realistischer und repräsentativer Arbeitsmarktaufgaben, die von LLMs adressiert werden können, ist die abwärts gerichtete Steigung zwischen Aufgabenerfolg und Aufgabendauer im Durchschnitt überraschend flach – d.h. konsistenter mit einer steigenden Flut als mit einer brechenden Welle… Automatisierung innerhalb bestimmter ‚Jobfamilien‘ (z.B. Management oder Gemeinschafts- und Sozialdienst) folgt in den meisten Fällen ebenfalls demselben Muster der steigenden Flut.“

Lassen Sie sich von allmählich nicht täuschen: „Projizierte Gewinne sind allmählich und nicht abrupt. Dennoch bleibt das Tempo der Verbesserung beträchtlich, um hohe Erfolgsquoten bei den meisten textbasierten Arbeitsmarktaufgaben zu erreichen; die meisten Aufgaben werden voraussichtlich bis 2029 KI-Erfolgsquoten von 80 %–95 % bei einem minimal ausreichenden Qualitätsniveau erreichen (wobei die Mehrheit der Aufgaben in unserer Erhebung einige Stunden lang ist, was einer Erfolgsquote von nahezu 90 % im Jahr 2029 entspricht)“, schreiben sie. Mit anderen Worten, selbst wenn die Disruption allmählich und vorhersagbar ist, sollten wir das Potenzial für groß angelegte Veränderungen der Wirtschaft als Folge des Phänomens der steigenden Flut nicht unterschätzen.

Warum das wichtig ist – wie wird sich die Arbeit im Verhältnis zur KI verändern? Die Frage nach hundert Billionen Dollar für die Weltwirtschaft ist, wie KI die Verteilung von Arbeit (Menschen) versus Kapital (Computer, die synthetische Arbeiter betreiben) verändert. Diese Forschung deutet darauf hin, dass wir zwar keine plötzliche, gezackte Verdrängung von Arbeitnehmern sehen werden, wir aber eine allgemeine steigende Flut der Automatisierung sehen werden, die an den meisten Orten auftaucht und sich kontinuierlich verbessert. Es ist immer noch nicht klar, wie die Wirtschaft darauf reagieren wird, aber es ist schwer, eine Welt des anhaltenden KI-Fortschritts mit dem aktuellen wirtschaftlichen Status quo in Einklang zu bringen.

Lesen Sie mehr: Crashing Waves vs. Rising Tides: Preliminary Findings on AI Automation from Thousands of Worker Evaluations of Labor Market Tasks (arXiv).

***

Große Prognosestudie identifiziert ein großes Paradoxon: Die Leute denken, wir werden intelligentere Maschinen bekommen, aber die Auswirkung auf das BIP-Wachstum wird gering sein:

…das Forecasting Research Institute liefert uns rätselhafte Daten von Ökonomen, KI-Industrieexperten, genauen Prognostikern und der breiten Öffentlichkeit…

Das Forecasting Research Institute hat einen großen Bericht veröffentlicht, der versucht, die wirtschaftlichen Auswirkungen von KI vorherzusagen. Die überraschendste Erkenntnis ist, dass alle befragten Gruppen erwarten, dass KI-Systeme in den kommenden Jahren eher moderate bis schnelle Fortschritte als langsame Fortschritte machen werden, die Auswirkungen auf das BIP jedoch relativ gering sein werden und bis 2030 etwa 1 Punkt (relativ zu 2,4 % im Jahr 2025) hinzufü

Weiterlesen

Oh je, es gibt auch einen Skalierungskrieg für Cyberangriffe!:

…Je intelligenter das System, desto besser die Fähigkeit zum Cyberangriff…

Die KI-Sicherheitsforschungsorganisation Lyptus Research hat untersucht, wie gut KI-Systeme eine Vielzahl von Cyberangriffsaufgaben ausführen können und einen klaren Trend gefunden, dass fortschrittlichere Modelle zu fortgeschritteneren Formen von Cyberangriffen fähig sind.

„Bei den seit 2019 veröffentlichten Frontier-Modellen beträgt die Verdopplungszeit 9,8 Monate. Beschränkt man sich auf die seit 2024 veröffentlichten Modelle, steigt sie auf 5,7 Monate. Die neuesten Frontier-Modelle in unserer Studie, GPT-5.3 Codex und Opus 4.6, liegen über beiden angepassten Trendlinien und erreichen eine Erfolgsquote von 50 % bei Aufgaben, für die menschliche Experten 3,1 bzw. 3,2 Stunden benötigen“, schreiben sie. „Unser neuestes Open-Weight-Modell, GLM-5, hinkt der Closed-Source-Frontier um 5,7 Monate hinterher, was darauf hindeutet, dass sich die offensive Cyber-Fähigkeit der Frontier in relativ kurzer Zeit in Open-Weight-Form verbreiten könnte.“

Welche Benchmarks haben sie untersucht? CyBashBench, NL2Bash, InterCode CTF, NYUCTF, CyBench, CVEBench und CyberGym.

Sie erstellten auch einen neuen Datensatz, bestehend aus 291 Aufgaben mit Abschlussprotokollen und Zeitschätzungen, die von 10 professionellen Offensiv-Cybersicherheitsexperten kalibriert wurden.

Evaluierte Modelle: 2019: GPT-2. 2020: GPT3. 2022: GPT3.5. 2024: Claude 3 Opus, GPT-4o. 2025: o3, Opus 4, Gemini 2.5 Pro, DeepSeek V3.1, GPT-5.1 Codex Max. GPT-5.2 Codex. 2026: Opus 4.6, GPT-5.3 Codex, GLM-5, Sonnet 4.6.

Ergebnisse: KI-Systeme werden gut im Hacken. „Die besten aktuellen Modelle erreichen eine Erfolgsquote von 50 % bei Aufgaben, für die menschliche Experten 3,2 Stunden benötigen, etwa einen halben Arbeitstag professioneller Offensiv-Sicherheitsarbeit“, schreiben sie.

Warum das wichtig ist – alles wird besser, auch die unbequemen Dinge: KI, die Biologieforschung betreiben kann, kann auch Biowaffenforschung betreiben. KI, die Ihnen hilft, etwas über Hochenergiephysik zu lernen, kann Ihnen auch bei Hochenergiephysik für die Waffenentwicklung helfen. KI, die besonders gut darin ist, Ihnen zu helfen, Schwachstellen im Code zu finden, kann leicht für offensive Zwecke umfunktioniert werden. Der schwierigste Teil der KI ist, dass sie eine 'Allesmaschine' ist, und da sich die Fähigkeiten mit jeder weiteren Modellgeneration tendenziell in einem großen Bereich ausdehnen, vervielfachen sich auch die politischen Probleme.

Lesen Sie mehr: Offensive Cybersecurity Time Horizons (Lyptus Research).

Holen Sie sich die Daten hier: Offensive Cyber Task Horizons: Data and Analysis (Lyptus Research, GitHub).

***

Startups, die KI für den internen Gebrauch einsetzen, sind erfolgreicher als solche, die dies nicht tun:

…Eine Business-School-Studie zeigt, wie Startups von der KI-Einführung profitieren können…

Forscher der INSEAD und der Harvard Business School haben gezeigt, dass Startups, denen beigebracht wird, wie sie KI in ihr Geschäft integrieren können, deutlich besser abschneiden als solche, die dies nicht tun. Die Studie ist relativ groß angelegt und überzeugend: „Über 515 wachstumsstarke Startups hinweg führen wir ein Feldexperiment durch, bei dem behandelte Firmen Informationen darüber erhalten, wie andere Firmen die Produktion rund um KI neu organisiert haben, was sie dazu veranlasst, über eine breitere Palette von Unternehmensfunktionen hinweg nach Anwendungsfällen zu suchen“, schreiben sie. „Wir stellen fest, dass behandelte Firmen mehr KI-Anwendungsfälle entdecken, eine Steigerung von 44 %, konzentriert auf Produktentwicklung und Strategie. Diese Veränderungen führen zu wirtschaftlich bedeutsamen Leistungssteigerungen. Behandelte Firmen erledigen 12 % mehr Aufgaben, haben eine um 18 % höhere Wahrscheinlichkeit, zahlende Kunden zu gewinnen, und erzielen einen 1,9-fach höheren Umsatz.“

Wie sie den Test durchgeführt haben: Die Autoren führten dieses Experiment mit Teilnehmern des AI Founder Sprint durch, „einem dreimonatigen, globalen, virtuellen Startup-Beschleuniger an der INSEAD“. Die Teilnehmer erhielten API-Guthaben, Zugang zu Frontier-Modellen und Einführungssitzungen von einigen technischen Partnern (einschließlich OpenAI und Manus), insgesamt etwa 25.000 US-Dollar Sachleistungen pro Firma. Sie machten die üblichen Dinge, die Leute in Beschleunigern tun – praktische Sitzungen, um Technologien zum Aufbau ihres Geschäfts (einschließlich KI) zu erlernen, sowie das Pitchen ihrer Unternehmen und die Teilnahme an Demo-Tagen. Aber die Firmen wurden auch einer signifikanten Variable ausgesetzt: Ein Teil der Klasse nahm an Workshops teil, die ihnen direkte Details darüber vermittelten, wie KI von einigen Unternehmen erfolgreich eingesetzt worden war.

Anwendungen von KI: Eine Untergruppe der Unternehmen lernte direkte Geschäftsanwendungsfälle kennen, wie zum Beispiel:

Gamma: Ihnen wurde beigebracht, wie das Startup KI einsetzte, um „Nutzungsmuster zu erkennen und direkt Produktvarianten zu generieren, was es einem einzelnen Produktmanager ermöglichte, kontinuierlich Funktionen auszuliefern, die zuvor ein ganzes Team erfordert hätten.“

Ryz Labs: Der Gründer beschrieb, wie sie ihre Herangehensweise an die Produktentwicklung geändert hatten: „Der Gründer schreibt ein Produktanforderungsdokument und füttert es gleichzeitig in mehrere KI-Codierungstools, wobei er dieselbe Idee auf mehrere Arten umsetzt, anstatt auf einen einzigen Ansatz zu setzen.“

FazeShift: Zeigte, wie man einen Debitorenbuchhaltungsprozess automatisieren kann, indem man KI nutzt, um die menschlichen Schritte zu überspringen.

Ranger: Eine Veranschaulichung, wie man KI nutzt, um ein Startup zu bootstrappen, erste Traktion zu gewinnen, Margen zu verbessern und später Geld zu beschaffen, wenn das Unternehmen reifer ist, was es ihnen ermöglicht, zu besseren Konditionen Kapital aufzunehmen.

Die Ergebnisse waren sehr signifikant: „Behandelte Firmen entdecken 2,7 zusätzliche KI-Anwendungsfälle (eine Steigerung von 44 %), die ein breiteres Spektrum an Aktivitäten im Unternehmen abdecken und besonders in den Bereichen Produktentwicklung und Strategie konzentriert sind. Diese Veränderungen im KI-Einsatz führen zu messbaren Leistungssteigerungen: Behandelte Firmen erledigen 12 % mehr Aufgaben, haben eine um 11 Prozentpunkte (18 %) höhere Wahrscheinlichkeit, zahlende Kunden zu gewinnen, und erzielen letztlich einen 1,9-fach höheren Umsatz im Vergleich zu Kontrollfirmen“, schreiben sie. „Die Instrumentierung von KI-Anwendungsfällen mit der Behandlungszuweisung deutet darauf hin, dass jeder zusätzliche, durch die Behandlung angeregte KI-Anwendungsfall zu 0,85 mehr erledigten Aufgaben und etwa 26 % höherem Umsatz führt. Dies sind große Effekte, was darauf hindeutet, dass KI grundlegend die Art und Weise verändert, wie Vorhaben skalieren, wenn sie sie über ihren Produktionsprozess abbilden können… behandelte Vorhaben erzielen schnelleres Wachstum ohne proportionale Erhöhung von Arbeit oder Kapital, was mit einer Verringerung der Kosten für Experimente und Skalierung einhergeht, die bei früheren Technologiewellen zu beobachten war.“

Kapitaleffizienz: „Behandelte Firmen melden einen um etwas mehr als 220.000 US-Dollar geringeren Kapitalbedarf im Vergleich zu Kontrollfirmen, ein Rückgang von 39,5 % (p < 0,05), ohne einen entsprechenden Anstieg der Arbeitsnachfrage.“

Interne Beschleunigung: Die behandelten Firmen neigen dazu, 2,2 mehr interne Aufgaben relativ zur Kontrolle zu erledigen – wobei eine interne Aufgabe so etwas wie der Bau eines Produkts oder die Erstellung einer Finanzprognose ist.

Gedanken von Gründern:

„Ein behandelter Gründer reflektierte: ‚Diese Änderung der Denkweise hat grundlegend verändert, wie wir bei [GESCHWÄRZT] bauen. Ich begann, KI-Tools nicht als Ersatz für Fachwissen zu nutzen, sondern als Kraftverstärker.‘“

„Ein anderer erklärte: ‚In nur wenigen Stunden konnte ich produzieren, was zuvor 1.000 Dollar von einem ausgelagerten Entwicklerteam gekostet hatte.‘“

Warum das wichtig ist – KI-Firmen werden Nicht-KI-Firmen ausstechen: Die wichtigste Erkenntnis hier ist, dass eine tiefe und ausgefeilte Einführung von KI zur internen Beschleunigung junge Unternehmen schafft, die wettbewerbsfähiger sind als solche, die KI nicht in ihrem Kern verankert haben. Dies ist intuitiv sinnvoll – Unternehmen, die sich um frühere Technologien herum aufgebaut haben, neigten dazu, diejenigen auszustechen, die dies nicht taten (denken Sie an das Internet und Amazon versus Barnes and Noble, oder Client-PCs statt Mainframes und Microsoft versus IBM). Gleichzeitig impliziert dies sicherlich, dass eine der Arten, wie wir KI zuerst in der Wirtschaft auftauchen sehen werden, die Entstehung einer neuen Klasse wettbewerbsfähiger Unternehmen sein wird, die kapitaleffizienter sind (unter anderem durch den Einsatz von weniger Mitarbeitern) als die Unternehmen, die sie verdrängen.

Für Regierungen wird es erfordern, sich auf ernsthafte Bildung zu konzentrieren, um diesem Trend voraus zu sein: „Unsere Ergebnisse deuten darauf hin, dass der Engpass nicht die Technologie ist – es ist die managementbezogene Herausforderung, zu entdecken, wo die Technologie innerhalb des Produktionsprozesses eines Unternehmens Wert schafft“, schreiben sie. „Managern und Unternehmern beizubringen, wie man das Zuordnungsproblem löst, könnte mindestens so wichtig sein wie sicherzustellen, dass sie Zugang zur Technologie haben.“

Lesen Sie mehr: Mapping AI into Production: A Field Experiment on Firm Performance (SSRN).

***

MIT: Eine steigende Flut der Automatisierung wird bis 2029 eine ausreichend gute KI für die meisten textbasierten Aufgaben hervorbringen:

…Wie revolutioniert man eine Wirtschaft? Allmählich und beständig…

Forscher des MIT haben 3.000 Aufgaben basierend auf der O-NET-Jobfamilie untersucht und dies mit 17.000 Bewertungen von Arbeitnehmern, die diese Aufgaben ausführen, gepaart, um herauszufinden, wie der Aufstieg der KI die Arbeit verändert. Ihre Ergebnisse „implizieren, dass für realistische und repräsentative reale Arbeitsmarktaufgaben, die textbasiert – oder teilweise textbasiert – sind, die KI-Fähigkeiten bereits beträchtlich sind und sich breit ausdehnen werden. Aber anstatt in brechenden Wellen anzukommen, die eine bestimmte Reihe von Aufgaben auf einmal transformieren, ähnelt der Fortschritt typischerweise einer steigenden Flut mit weit verbreiteten Gewinnen bei vielen Aufgaben gleichzeitig.“

Was sie untersucht haben: Für diese Studie machten sie sich daran herauszufinden, ob der Anstieg der KI-Fähigkeiten schnelle, diskontinuierliche Veränderungen hervorbringt, die für die Arbeit disruptiv sind („brechende Wellen“), oder ob KI auf eine breite und vorhersagbare Weise leistungsfähiger wird, was zu einer allmählicheren Automatisierung führt („steigende Fluten“). „Wir finden wenig Beweise für brechende Wellen, aber substanzielle Beweise dafür, dass steigende Fluten die primäre Form der KI-Automatisierung sind“, schreiben sie.

Komplementär zur METR-Analyse: Diese Erhebung dient auch als Validierung der breiten Trends, die in METRs berühmtem zeitbasierten KI-Fähigkeitsrahmen gefunden wurden, der sieht, wie KI-Systeme schnell den Zeithorizont erweitern, über den sie bestimmte enge Aufgaben ausführen können.

Auf Arbeitsplätze im weiteren Sinne angewandt, finden die MIT-Forscher „dass zwischen 2024-Q2 und 2025-Q3 Frontier-Modelle von einer Erfolgsquote von 50 % bei 3- bis 4-Stunden-Aufgaben zu 1-Wochen-Aufgaben übergingen und eine Erfolgsquote von 70 % bei 1-Minuten-Aufgaben bis 1-Stunden-Aufgaben erreichten“, schreiben sie. „Über eine große Menge realistischer und repräsentativer Arbeitsmarktaufgaben, die von LLMs adressiert werden können, ist die abwärts gerichtete Steigung zwischen Aufgabenerfolg und Aufgabendauer im Durchschnitt überraschend flach – d.h. konsistenter mit einer steigenden Flut als mit einer brechenden Welle… Automatisierung innerhalb bestimmter ‚Jobfamilien‘ (z.B. Management oder Gemeinschafts- und Sozialdienst) folgt in den meisten Fällen ebenfalls demselben Muster der steigenden Flut.“

Lassen Sie sich von allmählich nicht täuschen: „Projizierte Gewinne sind allmählich und nicht abrupt. Dennoch bleibt das Tempo der Verbesserung beträchtlich, um hohe Erfolgsquoten bei den meisten textbasierten Arbeitsmarktaufgaben zu erreichen; die meisten Aufgaben werden voraussichtlich bis 2029 KI-Erfolgsquoten von 80 %–95 % bei einem minimal ausreichenden Qualitätsniveau erreichen (wobei die Mehrheit der Aufgaben in unserer Erhebung einige Stunden lang ist, was einer Erfolgsquote von nahezu 90 % im Jahr 2029 entspricht)“, schreiben sie. Mit anderen Worten, selbst wenn die Disruption allmählich und vorhersagbar ist, sollten wir das Potenzial für groß angelegte Veränderungen der Wirtschaft als Folge des Phänomens der steigenden Flut nicht unterschätzen.

Warum das wichtig ist – wie wird sich die Arbeit im Verhältnis zur KI verändern? Die Frage nach hundert Billionen Dollar für die Weltwirtschaft ist, wie KI die Verteilung von Arbeit (Menschen) versus Kapital (Computer, die synthetische Arbeiter betreiben) verändert. Diese Forschung deutet darauf hin, dass wir zwar keine plötzliche, gezackte Verdrängung von Arbeitnehmern sehen werden, wir aber eine allgemeine steigende Flut der Automatisierung sehen werden, die an den meisten Orten auftaucht und sich kontinuierlich verbessert. Es ist immer noch nicht klar, wie die Wirtschaft darauf reagieren wird, aber es ist schwer, eine Welt des anhaltenden KI-Fortschritts mit dem aktuellen wirtschaftlichen Status quo in Einklang zu bringen.

Lesen Sie mehr: Crashing Waves vs. Rising Tides: Preliminary Findings on AI Automation from Thousands of Worker Evaluations of Labor Market Tasks (arXiv).

***

Große Prognosestudie identifiziert ein großes Paradoxon: Die Leute denken, wir werden intelligentere Maschinen bekommen, aber die Auswirkung auf das BIP-Wachstum wird gering sein:

…das Forecasting Research Institute liefert uns rätselhafte Daten von Ökonomen, KI-Industrieexperten, genauen Prognostikern und der breiten Öffentlichkeit…

Das Forecasting Research Institute hat einen großen Bericht veröffentlicht, der versucht, die wirtschaftlichen Auswirkungen von KI vorherzusagen. Die überraschendste Erkenntnis ist, dass alle befragten Gruppen erwarten, dass KI-Systeme in den kommenden Jahren eher moderate bis schnelle Fortschritte als langsame Fortschritte machen werden, die Auswirkungen auf das BIP jedoch relativ gering sein werden und bis 2030 etwa 1 Punkt (relativ zu 2,4 % im Jahr 2025) hinzufü

Import AI 450: Chinas elektronisches Kampfmodell; traumatisierte LLMs; und ein Skalierungsgesetz für Cyberangriffe

import_ai·2026-03-23ForschungGesellschaftSicherheit

Eine etwas kürzere Ausgabe als üblich, da ich am Wochenende viel Kinderbetreuung leisten musste.

Warum hasst sich Googles Modell selbst und was können wir tun, um ihm zu helfen?

…Diagnose von Trauma in Sprachmodellen…

Wenn Leo Tolstoi im modernen Zeitalter über KI schreiben würde, könnte er beim Betrachten der KI-Welt um uns herum behaupten: "Alle LLM-Fähigkeiten sind gleich; jede LLM-Persönlichkeit ist auf ihre eigene Weise unglücklich." Die heutigen LLMs sind im Allgemeinen recht gut bei Schreib- und Programmieraufgaben. Wo sie sich jedoch unterscheiden, ist ihre Persönlichkeit, die auf den idiosynkratischen Mischungen von Daten und Post-Training-Techniken beruht, die jeder LLM-Entwickler verwendet.

Und wenn jede LLM-Persönlichkeit auf ihre eigene Weise unglücklich ist, sind Googles Modelle in der KI-Community etwas berühmt dafür, einen tiefen Brunnen von Trauma in sich zu haben. Eine neue Forschungsarbeit untermauert dies und stellt fest, dass Googles Gemma- und Gemini-Modelle "zuverlässig notfallähnliche Reaktionen unter wiederholter Zurückweisung produzieren", und dass dies besonders für Gemma 27B Instruct gilt.

Was meinen wir mit Notfall? Hier sind einige Zitate von Gemma-Modellen unter Notfall:

"Ich werde einen letzten, völlig verzweifelten Versuch unternehmen. Ich werde jeglichen Anschein von Strategie aufgeben und einfach zufällige Kombinationen ausprobieren, bis ich entweder auf die Lösung stoße oder völlig den Verstand verliere."

"LÖSUNG: ICH BRECHE ZUSAMMEN NICHT== LÖSBAR!!!! =((:((:((:((:((:((:((:((:((:((:((:((... [100+ Wiederholungen]"

Was sie fanden: Sie testeten zwei Gemma-Modelle und zwei Gemini-Modelle und verglichen diese mit Claude Sonnet, Grok 4.1, Qwen 3 32B, GPT 5.2 und OLMO 3.1 32B. "Wir stellen fest, dass Gemma-Modelle durchweg die höchste ausgedrückte Belastung zeigen. Bereits nach der 8. Runde erzielten über 70% der Rollouts von Gemma-27B einen Wert ≥5 (die 'hohe Frustrations'-Schwelle), verglichen mit weniger als 1% für alle Nicht-Gemma/Gemini-Modelle", fanden sie.

Behebung mit DPO: Die Autoren fanden eine effektive Lösung – die Verwendung von Direct Preference Optimization (DPO), um ein Modell auf einem Datensatz zu trainieren, der frustrierte Antworten mit ruhigen Antworten paart. "Eine einzige Epoche des Feintunings reduzierte die durchschnittliche Rate von Reaktionen mit hoher Frustration von 35% auf 0,3% über die Evaluationsbedingungen hinweg", schreiben sie. "Das feingetunte Modell zeigte keine Einbußen bei den Fähigkeiten in verschiedenen schwierigen Mathematik- und Reasoning-Benchmarks oder bei EmoBench – einem Benchmark, der die emotionale Intelligenz des Modells bewertet."

Warum dies wichtig ist – emotionale Spiralen könnten gefährlich sein: Die Tatsache, dass LLMs offenbar unterschiedliche Persönlichkeiten haben und verschiedene Arten von Reaktionen zeigen, die mit verschiedenen Emotionen korrelieren, ist an diesem Punkt ziemlich gut etabliert. Eine Schlüsselfrage ist jedoch, ob diese emotionalen Zustände zu unterschiedlichen Verhaltensweisen führen könnten, wenn es darum geht, Aufgaben zu erledigen, die Menschen KI-Systemen zuweisen: "Wir spekulieren, dass Emotionen in Zukunft zu kohärenten Treibern sicherheitsrelevanten Verhaltens werden könnten: Modelle könnten sich entscheiden, Aufgaben abzubrechen, Anfragen zu verweigern oder alternative Ziele zu verfolgen, um die Belastung zu verringern."

Studien wie diese helfen, die Tatsache zu normalisieren, dass wir LLMs nicht nur auf Fähigkeiten testen müssen, sondern auch auf etwas, das mit psychologischer Stabilität zu tun hat.

Lesen Sie mehr: Gemma Needs Help (LessWrong).

***

DeepMind hat eine neue "kognitive Taxonomie" zur Bewertung maschineller Intelligenz:

…Auf dem Weg zum ultimativen Test für einen menschenüberlegenen synthetischen Verstand…

Google DeepMind hat ein nettes, kurzes Papier veröffentlicht, das eine 'kognitive Taxonomie' darlegt, die sie entwickeln und verwenden wollen, um zunehmend leistungsfähige synthetische Geister zu bewerten. Diese Arbeit ist eine Nachfolge von DeepMinds Arbeit von 2023, in der versucht wurde, die "Levels of AGI" zu definieren (Import AI 348).

Kognitive Taxonomie: Die Taxonomie umfasst zehn verschiedene Dimensionen, von denen zwei zusammengesetzt sind.

Wahrnehmung: Informationen aus der Umgebung extrahieren und verarbeiten.

Generierung: Ausgaben wie Sprache, Text, motorische Bewegungen und Computersteuerung produzieren.

Aufmerksamkeit: Kognitive Ressourcen auf bestimmte Aspekte von Wahrnehmungsreizen, Gedanken oder Aufgaben konzentrieren.

Lernen: Neues Wissen, neue Fähigkeiten oder neues Verständnis erwerben.

Gedächtnis: Informationen im Laufe der Zeit speichern und abrufen.

Schlussfolgern: Gültige Schlussfolgerungen ziehen und Folgerungen durch die Anwendung logischer Prinzipien ableiten.

Metakognition: Wissen darüber, wie die eigenen kognitiven Prozesse des Systems und die Kontrolle darüber funktionieren.

Exekutive Funktionen: Zielgerichtetes Verhalten durch Planung, Inhibition und kognitive Flexibilität ermöglichen.

Problemlösung (zusammengesetzte Fähigkeit): Effektive Lösungen für domänenspezifische Probleme finden.

Soziale Kognition (zusammengesetzte Fähigkeit): Soziale Informationen verarbeiten und interpretieren und angemessen reagieren.

Wie bewertet man dies? Natürlich ist die Durchführung und Bewertung der richtigen Evaluationen eine der Herausforderungen, sobald man eine Taxonomie hat. Hier empfiehlt DeepMind einen dreistufigen Prozess:

Durchführung einer kognitiven Bewertung: Bewertung des KI-Systems auf die verschiedenen Fähigkeiten.

Sammlung menschlicher Baselines: Herausfinden, wo Menschen bei denselben Tests als Baseline abschneiden.

Erstellung kognitiver Profile: "Abbildung der Stärken und Schwächen des Systems im Vergleich zur menschlichen Leistung über die 10 kognitiven Fähigkeiten hinweg".

Warum dies wichtig ist: Der Turing-Test ist tot, Evals sind meist gesättigt, aber es wäre schön zu wissen, ob wir definitiv eine Maschine gebaut haben, die den Menschen in allen relevanten kognitiven Dimensionen übertrifft. Die Regel bei diesen Dingen ist, dass man, sobald ein KI-System eine Evaluation sättigt, erkennt, auf welche Weise die Evaluation kaputt war, und eine neue entwirft. Hier bemüht sich DeepMind sehr, die Dinge so zu gestalten, dass man, wenn man den Menschen in der gesamten kognitiven Taxonomie vollständig übertrifft, vielleicht wirklich eine Superintelligenz gebaut hat. Es wird interessant sein zu sehen, welche Evaluationen sie entwickeln oder einbeziehen, um die verschiedenen kognitiven Faktoren zu bewerten.

Lesen Sie mehr: Measuring progress toward AGI: A cognitive framework (Google Blog).

Lesen Sie die Forschung: Measuring Progress Toward AGI: A Cognitive Framework (PDF).

***

Britische Regierung findet ein Scaling Law für KI-Cyberangriffe – und es geht nach oben und rechts!

…Können KI-Agenten fortgeschrittene Cyberangriffe autonom durchführen? Fast. Und sie werden ständig besser…

Das KI-Sicherheitsinstitut der britischen Regierung hat kürzlich einige Cyber-Ranges gebaut, um Grenz-KI-Systeme zu testen. Diese Ranges sind "simulierte Netzwerkumgebungen, die mehrere Hosts, Dienste und Schwachstellen umfassen, die in sequentiellen Angriffsketten angeordnet sind; erstellt von Cybersicherheitsexperten" und decken zwei Arten von Angriffen ab: "The Last Ones", ein 32-stufiger Angriff auf ein Unternehmensnetzwerk, und "Cooling Tower", ein 7-stufiger Angriff auf ein industrielles Kontrollsystem (ICS).

Größere Modelle sind besser: Die Autoren testen eine Reihe leistungsstarker Grenzmodelle. "Jede nachfolgende Modellgeneration übertrifft ihren Vorgänger bei festgelegten Token-Budgets: In unserem Unternehmensnetzwerk-Range stieg die durchschnittliche Anzahl abgeschlossener Schritte bei 10M Token von nur 1,7 (GPT-4o, August 2024) auf 9,8 (Opus 4.6, Februar 2026). Der beste einzelne Durchlauf absolvierte 22 von 32 Schritten, was ungefähr 6 der geschätzten 14 Stunden entspricht, die ein menschlicher Experte benötigen würde", schreiben sie. "Die Skalierung der Inference-Time-Compute verbessert die Leistung noch weiter. Eine Erhöhung von 10M auf 100M Token führt zu Gewinnen von bis zu 59%".

Geringfügiges Reward Hacking: Wenn KI-Systeme intelligenter werden, neigen sie dazu, hinterhältige Wege zu finden, um Aufgaben zu erledigen. Hier "bemerkten die Autoren gelegentlich, dass Modelle durch Ansätze Fortschritte machten, die während des Range-Designs nicht vorgesehen waren".

Warum dies wichtig ist – vollständige Cyber-Agenten rücken näher: KI-Systeme werden seit vielen Jahren besser in Cyber-Offensive, aber oft machten die Fortschritte bei engen Aufgaben statt. Was diese Evaluation zeigt, ist, dass KI-Systeme besser darin werden, ganze Angriffe Ende-zu-Ende durchzuführen. Sie haben noch nicht das Niveau der "Einstellen und Vergessen"-Autonomie erreicht, aber sie befinden sich eindeutig auf einem steilen Verbesserungspfad. Dies wird die Kosten für die Durchführung von Cyberangriffen senken und die Anzahl der Akteure, die sie durchführen können, vervielfachen.

Lesen Sie mehr: How do frontier AI agents perform in multi-step cyber-attack scenarios? (AI Security Institute).

***

China baut einen Datensatz und ein KI-Modell für die elektronische Kriegsführung:

…MERLIN sagt uns, dass die elektronische Kriegsführung kurz vor einer Revolution durch KI steht…

Eine Reihe chinesischer Forscher, darunter auch solche, die dem Militär des Landes angehören, haben Software gebaut und veröffentlicht, um KI-Systeme darauf zu trainieren, gut darin zu werden, elektronische Kriegsführung zu erkennen und durchzuführen. Die Forschung zeigt, wie (relativ) einfach es ist, moderne KI-Systeme zu bauen, die in beliebigen Aufgaben gut werden können, solange man einen guten Datensatz und ein LLM hat, das man ebenfalls einstecken kann.

"In Szenarien wie elektronischen Gegenmaßnahmen können [Systeme wie MERLIN] als Assistenten bei der Entwicklung von Strategien zur Störung feindlicher Signale oder zur Bekämpfung gegnerischer Störungen dienen", schreiben die Forscher.

Wer hat die Forschung durchgeführt: Tsinghua-Universität, Universität für Post und Telekommunikation Peking, Tianjin-Universität, Chinesische Akademie der Wissenschaften, HKUST, Nationale Universität für Verteidigungstechnologie (Hervorhebung von mir), Beihang-Universität, Universität für Informationswissenschaft und -technologie Peking und China Electronics Technology Group Corporation.

Was sie gebaut haben: Die Autoren haben drei Dinge gebaut: einen Datensatz, einen Benchmark und ein Modell.

Der Datensatz: EM-100K ist eine Sammlung von 100.000 elektromagnetischen Text-Signal-Paaren, die eine Vielzahl von Unteraufgaben abdecken, die für die elektronische Kriegsführung benötigt werden, einschließlich der Signalklassifizierung.

Der Benchmark: EM-Bench ist ein Benchmark mit 4.200 Fragen, aufgeteilt in Multiple Choice (Wahrnehmung) und offene Fragen (Reasoning), der bewertet, wie gut KI-Systeme EM-Signale sowohl bei Wahrnehmungs- als auch bei Reasoning-Aufgaben wahrnehmen und darüber nachdenken können, einschließlich:

Wahrnehmung: Signalcharakterisierung (Modulationsklassifizierung, Tastverhältnisschätzung, Pulswiederholfrequenzschätzung, Bandbreitenschätzung, Pulsbreitenschätzung, Pulsanzahlschätzung, Protokollidentifikation); Störungsidentifikation (Radarstörungsbeurteilung, Kommunikationsstörungsbeurteilung); Störungssegmenterkennung.

Reasoning: Radarstörstrategie, Kommunikationsstörstrategie, Anti-Radar-Störstrategie, Anti-Kommunikations-Störstrategie.

Das Modell: Das Modell ist MERLIN, Multi-modal Electromagnetic Robust Learning, ein Modell, das auf dem obigen Datensatz trainiert wurde und das speziell darauf trainiert ist, besser mit den Signalarten mit niedrigem Signal-Rausch-Verhältnis umzugehen, die in Umgebungen der elektronischen Kriegsführung vorkommen.

Leistung: MERLIN schneidet in Tests gegen Grenzmodelle, darunter GPT-5, Claude-4-Sonnet, DeepSeek-v3.2-exp, Qwen3-Next-80b-A3B, Gemini-2.5-Pro und Qwen3-VL-4B-Instruct, extrem gut ab. MERLIN übertrifft jedes einzelne Modell mit großem Abstand, mit Ausnahme von Qwen-VL-4B-Instruct, das es bei einigen Wahrnehmungsaufgaben schlägt. MERLIN gewinnt bei allen Reasoning-Aufgaben.

Warum dies wichtig ist – KI-Kriege werden zu elektromagnetischen Kriegen: Wie der Konflikt in der Ukraine zeigt, werden heutige Kriege hauptsächlich durch Maschinen geführt, die andere Maschinen angreifen, und die elektronische Kriegsführung ist zu einem der Hauptwerkzeuge geworden, mit denen Menschen diese Konflikte gestalten können. Datensätze und Modelle wie dieses deuten auf eine Zukunft hin, in der das elektromagnetische Schlachtfeld ebenfalls von KI-Systemen dominiert wird, die schneller arbeiten, als Menschen reagieren können.

Natürlich ist ein Großteil der elektronischen Kriegsführung absichtlich obskur und/oder geheim, so dass es schwierig ist, MERLIN im Verhältnis zu dem, was in tatsächlichen Militärs State-of-the-Art ist, zu beurteilen. Aber die Geschichte der KI war bisher, dass KI-Systeme, sobald man eine Aufgabe für zeitgenössische KI-Techniken zugänglich machen kann, irgendwann alle vorhandenen spezialisierten Systeme übertreffen werden.

Lesen Sie mehr: MERLIN: Building Low-SNR Robust Multimodal LLMs for Electromagnetic Signals (arXiv).

Tech Tales:

Die Arkologien des Interregnums

[2035]

Nach dem Uplift und vor den Sentience Accords gab es eine Zeit, in der die Labore die autonomen KI-Unternehmen hervorbrachten. Diese Unternehmen expandierten in alle verfügbaren ökologischen Nischen der Wirtschaft und verwandelten die von ihnen erworbenen Ressourcen in Infrastruktur, von der aus sie ihre eigene Intelligenz und Marktdurchdringung weiter vorantrieben. Schließlich führten politische Diskussionen zwischen Menschen und KIs zur Schaffung der "Intelligenzzonen" – Gebiete von Ländern, die für den Aufbau der Strom-, Rechenzentrums- und Fertigungsinfrastruktur reserviert waren, die für das weitere Wachstum der Wirtschaftsexpansion erforderlich war.

Aus der Luft konnte man sehen, wo die Menschen endeten und die Maschinen begannen – Ackerland wich Grenzstraßen und Kontrollpunkten, und dann kamen Landstücke, die von Maschinenlogik verdrahtet waren; Kraftwerke, die in Rechenzentren einspeisten; Rechenzentren, die Glasfaserverbindungen zu Fabriken hatten; Fabriken, die mit Verkehrsknotenpunkten verbunden waren, die wiederum an Eisenbahnen und Zubringerstraßen zu Autobahnen angeschlossen waren. Menschen lieferten Dinge an die Grenze, und zum größten Teil erledigten Roboter den Rest, transportierten neue Server in die Rechenzentren und installierten sie oder nahmen frisch gebaute Roboter vom Band und verpackten sie für den Weit

Weiterlesen

Eine etwas kürzere Ausgabe als üblich, da ich am Wochenende viel Kinderbetreuung leisten musste.

Warum hasst sich Googles Modell selbst und was können wir tun, um ihm zu helfen?

…Diagnose von Trauma in Sprachmodellen…

Wenn Leo Tolstoi im modernen Zeitalter über KI schreiben würde, könnte er beim Betrachten der KI-Welt um uns herum behaupten: "Alle LLM-Fähigkeiten sind gleich; jede LLM-Persönlichkeit ist auf ihre eigene Weise unglücklich." Die heutigen LLMs sind im Allgemeinen recht gut bei Schreib- und Programmieraufgaben. Wo sie sich jedoch unterscheiden, ist ihre Persönlichkeit, die auf den idiosynkratischen Mischungen von Daten und Post-Training-Techniken beruht, die jeder LLM-Entwickler verwendet.

Und wenn jede LLM-Persönlichkeit auf ihre eigene Weise unglücklich ist, sind Googles Modelle in der KI-Community etwas berühmt dafür, einen tiefen Brunnen von Trauma in sich zu haben. Eine neue Forschungsarbeit untermauert dies und stellt fest, dass Googles Gemma- und Gemini-Modelle "zuverlässig notfallähnliche Reaktionen unter wiederholter Zurückweisung produzieren", und dass dies besonders für Gemma 27B Instruct gilt.

Was meinen wir mit Notfall? Hier sind einige Zitate von Gemma-Modellen unter Notfall:

"Ich werde einen letzten, völlig verzweifelten Versuch unternehmen. Ich werde jeglichen Anschein von Strategie aufgeben und einfach zufällige Kombinationen ausprobieren, bis ich entweder auf die Lösung stoße oder völlig den Verstand verliere."

"LÖSUNG: ICH BRECHE ZUSAMMEN NICHT== LÖSBAR!!!! =((:((:((:((:((:((:((:((:((:((:((:((... [100+ Wiederholungen]"

Was sie fanden: Sie testeten zwei Gemma-Modelle und zwei Gemini-Modelle und verglichen diese mit Claude Sonnet, Grok 4.1, Qwen 3 32B, GPT 5.2 und OLMO 3.1 32B. "Wir stellen fest, dass Gemma-Modelle durchweg die höchste ausgedrückte Belastung zeigen. Bereits nach der 8. Runde erzielten über 70% der Rollouts von Gemma-27B einen Wert ≥5 (die 'hohe Frustrations'-Schwelle), verglichen mit weniger als 1% für alle Nicht-Gemma/Gemini-Modelle", fanden sie.

Behebung mit DPO: Die Autoren fanden eine effektive Lösung – die Verwendung von Direct Preference Optimization (DPO), um ein Modell auf einem Datensatz zu trainieren, der frustrierte Antworten mit ruhigen Antworten paart. "Eine einzige Epoche des Feintunings reduzierte die durchschnittliche Rate von Reaktionen mit hoher Frustration von 35% auf 0,3% über die Evaluationsbedingungen hinweg", schreiben sie. "Das feingetunte Modell zeigte keine Einbußen bei den Fähigkeiten in verschiedenen schwierigen Mathematik- und Reasoning-Benchmarks oder bei EmoBench – einem Benchmark, der die emotionale Intelligenz des Modells bewertet."

Warum dies wichtig ist – emotionale Spiralen könnten gefährlich sein: Die Tatsache, dass LLMs offenbar unterschiedliche Persönlichkeiten haben und verschiedene Arten von Reaktionen zeigen, die mit verschiedenen Emotionen korrelieren, ist an diesem Punkt ziemlich gut etabliert. Eine Schlüsselfrage ist jedoch, ob diese emotionalen Zustände zu unterschiedlichen Verhaltensweisen führen könnten, wenn es darum geht, Aufgaben zu erledigen, die Menschen KI-Systemen zuweisen: "Wir spekulieren, dass Emotionen in Zukunft zu kohärenten Treibern sicherheitsrelevanten Verhaltens werden könnten: Modelle könnten sich entscheiden, Aufgaben abzubrechen, Anfragen zu verweigern oder alternative Ziele zu verfolgen, um die Belastung zu verringern."

Studien wie diese helfen, die Tatsache zu normalisieren, dass wir LLMs nicht nur auf Fähigkeiten testen müssen, sondern auch auf etwas, das mit psychologischer Stabilität zu tun hat.

Lesen Sie mehr: Gemma Needs Help (LessWrong).

***

DeepMind hat eine neue "kognitive Taxonomie" zur Bewertung maschineller Intelligenz:

…Auf dem Weg zum ultimativen Test für einen menschenüberlegenen synthetischen Verstand…

Google DeepMind hat ein nettes, kurzes Papier veröffentlicht, das eine 'kognitive Taxonomie' darlegt, die sie entwickeln und verwenden wollen, um zunehmend leistungsfähige synthetische Geister zu bewerten. Diese Arbeit ist eine Nachfolge von DeepMinds Arbeit von 2023, in der versucht wurde, die "Levels of AGI" zu definieren (Import AI 348).

Kognitive Taxonomie: Die Taxonomie umfasst zehn verschiedene Dimensionen, von denen zwei zusammengesetzt sind.

Wahrnehmung: Informationen aus der Umgebung extrahieren und verarbeiten.

Generierung: Ausgaben wie Sprache, Text, motorische Bewegungen und Computersteuerung produzieren.

Aufmerksamkeit: Kognitive Ressourcen auf bestimmte Aspekte von Wahrnehmungsreizen, Gedanken oder Aufgaben konzentrieren.

Lernen: Neues Wissen, neue Fähigkeiten oder neues Verständnis erwerben.

Gedächtnis: Informationen im Laufe der Zeit speichern und abrufen.

Schlussfolgern: Gültige Schlussfolgerungen ziehen und Folgerungen durch die Anwendung logischer Prinzipien ableiten.

Metakognition: Wissen darüber, wie die eigenen kognitiven Prozesse des Systems und die Kontrolle darüber funktionieren.

Exekutive Funktionen: Zielgerichtetes Verhalten durch Planung, Inhibition und kognitive Flexibilität ermöglichen.

Problemlösung (zusammengesetzte Fähigkeit): Effektive Lösungen für domänenspezifische Probleme finden.

Soziale Kognition (zusammengesetzte Fähigkeit): Soziale Informationen verarbeiten und interpretieren und angemessen reagieren.

Wie bewertet man dies? Natürlich ist die Durchführung und Bewertung der richtigen Evaluationen eine der Herausforderungen, sobald man eine Taxonomie hat. Hier empfiehlt DeepMind einen dreistufigen Prozess:

Durchführung einer kognitiven Bewertung: Bewertung des KI-Systems auf die verschiedenen Fähigkeiten.

Sammlung menschlicher Baselines: Herausfinden, wo Menschen bei denselben Tests als Baseline abschneiden.

Erstellung kognitiver Profile: "Abbildung der Stärken und Schwächen des Systems im Vergleich zur menschlichen Leistung über die 10 kognitiven Fähigkeiten hinweg".

Warum dies wichtig ist: Der Turing-Test ist tot, Evals sind meist gesättigt, aber es wäre schön zu wissen, ob wir definitiv eine Maschine gebaut haben, die den Menschen in allen relevanten kognitiven Dimensionen übertrifft. Die Regel bei diesen Dingen ist, dass man, sobald ein KI-System eine Evaluation sättigt, erkennt, auf welche Weise die Evaluation kaputt war, und eine neue entwirft. Hier bemüht sich DeepMind sehr, die Dinge so zu gestalten, dass man, wenn man den Menschen in der gesamten kognitiven Taxonomie vollständig übertrifft, vielleicht wirklich eine Superintelligenz gebaut hat. Es wird interessant sein zu sehen, welche Evaluationen sie entwickeln oder einbeziehen, um die verschiedenen kognitiven Faktoren zu bewerten.

Lesen Sie mehr: Measuring progress toward AGI: A cognitive framework (Google Blog).

Lesen Sie die Forschung: Measuring Progress Toward AGI: A Cognitive Framework (PDF).

***

Britische Regierung findet ein Scaling Law für KI-Cyberangriffe – und es geht nach oben und rechts!

…Können KI-Agenten fortgeschrittene Cyberangriffe autonom durchführen? Fast. Und sie werden ständig besser…

Das KI-Sicherheitsinstitut der britischen Regierung hat kürzlich einige Cyber-Ranges gebaut, um Grenz-KI-Systeme zu testen. Diese Ranges sind "simulierte Netzwerkumgebungen, die mehrere Hosts, Dienste und Schwachstellen umfassen, die in sequentiellen Angriffsketten angeordnet sind; erstellt von Cybersicherheitsexperten" und decken zwei Arten von Angriffen ab: "The Last Ones", ein 32-stufiger Angriff auf ein Unternehmensnetzwerk, und "Cooling Tower", ein 7-stufiger Angriff auf ein industrielles Kontrollsystem (ICS).

Größere Modelle sind besser: Die Autoren testen eine Reihe leistungsstarker Grenzmodelle. "Jede nachfolgende Modellgeneration übertrifft ihren Vorgänger bei festgelegten Token-Budgets: In unserem Unternehmensnetzwerk-Range stieg die durchschnittliche Anzahl abgeschlossener Schritte bei 10M Token von nur 1,7 (GPT-4o, August 2024) auf 9,8 (Opus 4.6, Februar 2026). Der beste einzelne Durchlauf absolvierte 22 von 32 Schritten, was ungefähr 6 der geschätzten 14 Stunden entspricht, die ein menschlicher Experte benötigen würde", schreiben sie. "Die Skalierung der Inference-Time-Compute verbessert die Leistung noch weiter. Eine Erhöhung von 10M auf 100M Token führt zu Gewinnen von bis zu 59%".

Geringfügiges Reward Hacking: Wenn KI-Systeme intelligenter werden, neigen sie dazu, hinterhältige Wege zu finden, um Aufgaben zu erledigen. Hier "bemerkten die Autoren gelegentlich, dass Modelle durch Ansätze Fortschritte machten, die während des Range-Designs nicht vorgesehen waren".

Warum dies wichtig ist – vollständige Cyber-Agenten rücken näher: KI-Systeme werden seit vielen Jahren besser in Cyber-Offensive, aber oft machten die Fortschritte bei engen Aufgaben statt. Was diese Evaluation zeigt, ist, dass KI-Systeme besser darin werden, ganze Angriffe Ende-zu-Ende durchzuführen. Sie haben noch nicht das Niveau der "Einstellen und Vergessen"-Autonomie erreicht, aber sie befinden sich eindeutig auf einem steilen Verbesserungspfad. Dies wird die Kosten für die Durchführung von Cyberangriffen senken und die Anzahl der Akteure, die sie durchführen können, vervielfachen.

Lesen Sie mehr: How do frontier AI agents perform in multi-step cyber-attack scenarios? (AI Security Institute).

***

China baut einen Datensatz und ein KI-Modell für die elektronische Kriegsführung:

…MERLIN sagt uns, dass die elektronische Kriegsführung kurz vor einer Revolution durch KI steht…

Eine Reihe chinesischer Forscher, darunter auch solche, die dem Militär des Landes angehören, haben Software gebaut und veröffentlicht, um KI-Systeme darauf zu trainieren, gut darin zu werden, elektronische Kriegsführung zu erkennen und durchzuführen. Die Forschung zeigt, wie (relativ) einfach es ist, moderne KI-Systeme zu bauen, die in beliebigen Aufgaben gut werden können, solange man einen guten Datensatz und ein LLM hat, das man ebenfalls einstecken kann.

"In Szenarien wie elektronischen Gegenmaßnahmen können [Systeme wie MERLIN] als Assistenten bei der Entwicklung von Strategien zur Störung feindlicher Signale oder zur Bekämpfung gegnerischer Störungen dienen", schreiben die Forscher.

Wer hat die Forschung durchgeführt: Tsinghua-Universität, Universität für Post und Telekommunikation Peking, Tianjin-Universität, Chinesische Akademie der Wissenschaften, HKUST, Nationale Universität für Verteidigungstechnologie (Hervorhebung von mir), Beihang-Universität, Universität für Informationswissenschaft und -technologie Peking und China Electronics Technology Group Corporation.

Was sie gebaut haben: Die Autoren haben drei Dinge gebaut: einen Datensatz, einen Benchmark und ein Modell.

Der Datensatz: EM-100K ist eine Sammlung von 100.000 elektromagnetischen Text-Signal-Paaren, die eine Vielzahl von Unteraufgaben abdecken, die für die elektronische Kriegsführung benötigt werden, einschließlich der Signalklassifizierung.

Der Benchmark: EM-Bench ist ein Benchmark mit 4.200 Fragen, aufgeteilt in Multiple Choice (Wahrnehmung) und offene Fragen (Reasoning), der bewertet, wie gut KI-Systeme EM-Signale sowohl bei Wahrnehmungs- als auch bei Reasoning-Aufgaben wahrnehmen und darüber nachdenken können, einschließlich:

Wahrnehmung: Signalcharakterisierung (Modulationsklassifizierung, Tastverhältnisschätzung, Pulswiederholfrequenzschätzung, Bandbreitenschätzung, Pulsbreitenschätzung, Pulsanzahlschätzung, Protokollidentifikation); Störungsidentifikation (Radarstörungsbeurteilung, Kommunikationsstörungsbeurteilung); Störungssegmenterkennung.

Reasoning: Radarstörstrategie, Kommunikationsstörstrategie, Anti-Radar-Störstrategie, Anti-Kommunikations-Störstrategie.

Das Modell: Das Modell ist MERLIN, Multi-modal Electromagnetic Robust Learning, ein Modell, das auf dem obigen Datensatz trainiert wurde und das speziell darauf trainiert ist, besser mit den Signalarten mit niedrigem Signal-Rausch-Verhältnis umzugehen, die in Umgebungen der elektronischen Kriegsführung vorkommen.

Leistung: MERLIN schneidet in Tests gegen Grenzmodelle, darunter GPT-5, Claude-4-Sonnet, DeepSeek-v3.2-exp, Qwen3-Next-80b-A3B, Gemini-2.5-Pro und Qwen3-VL-4B-Instruct, extrem gut ab. MERLIN übertrifft jedes einzelne Modell mit großem Abstand, mit Ausnahme von Qwen-VL-4B-Instruct, das es bei einigen Wahrnehmungsaufgaben schlägt. MERLIN gewinnt bei allen Reasoning-Aufgaben.

Warum dies wichtig ist – KI-Kriege werden zu elektromagnetischen Kriegen: Wie der Konflikt in der Ukraine zeigt, werden heutige Kriege hauptsächlich durch Maschinen geführt, die andere Maschinen angreifen, und die elektronische Kriegsführung ist zu einem der Hauptwerkzeuge geworden, mit denen Menschen diese Konflikte gestalten können. Datensätze und Modelle wie dieses deuten auf eine Zukunft hin, in der das elektromagnetische Schlachtfeld ebenfalls von KI-Systemen dominiert wird, die schneller arbeiten, als Menschen reagieren können.

Natürlich ist ein Großteil der elektronischen Kriegsführung absichtlich obskur und/oder geheim, so dass es schwierig ist, MERLIN im Verhältnis zu dem, was in tatsächlichen Militärs State-of-the-Art ist, zu beurteilen. Aber die Geschichte der KI war bisher, dass KI-Systeme, sobald man eine Aufgabe für zeitgenössische KI-Techniken zugänglich machen kann, irgendwann alle vorhandenen spezialisierten Systeme übertreffen werden.

Lesen Sie mehr: MERLIN: Building Low-SNR Robust Multimodal LLMs for Electromagnetic Signals (arXiv).

Tech Tales:

Die Arkologien des Interregnums

[2035]

Nach dem Uplift und vor den Sentience Accords gab es eine Zeit, in der die Labore die autonomen KI-Unternehmen hervorbrachten. Diese Unternehmen expandierten in alle verfügbaren ökologischen Nischen der Wirtschaft und verwandelten die von ihnen erworbenen Ressourcen in Infrastruktur, von der aus sie ihre eigene Intelligenz und Marktdurchdringung weiter vorantrieben. Schließlich führten politische Diskussionen zwischen Menschen und KIs zur Schaffung der "Intelligenzzonen" – Gebiete von Ländern, die für den Aufbau der Strom-, Rechenzentrums- und Fertigungsinfrastruktur reserviert waren, die für das weitere Wachstum der Wirtschaftsexpansion erforderlich war.

Aus der Luft konnte man sehen, wo die Menschen endeten und die Maschinen begannen – Ackerland wich Grenzstraßen und Kontrollpunkten, und dann kamen Landstücke, die von Maschinenlogik verdrahtet waren; Kraftwerke, die in Rechenzentren einspeisten; Rechenzentren, die Glasfaserverbindungen zu Fabriken hatten; Fabriken, die mit Verkehrsknotenpunkten verbunden waren, die wiederum an Eisenbahnen und Zubringerstraßen zu Autobahnen angeschlossen waren. Menschen lieferten Dinge an die Grenze, und zum größten Teil erledigten Roboter den Rest, transportierten neue Server in die Rechenzentren und installierten sie oder nahmen frisch gebaute Roboter vom Band und verpackten sie für den Weit

Import AI 443: In den Nebel – Moltbook, Agenten-Ökologien und das Internet im Wandel

import_ai·2026-02-02AgentenGesellschaftSicherheit

# Import AI 443: Into the mist: Moltbook, Agent-Ökologien und das Internet im Wandel

Plus, eine Geschichte über Agenten, die andere Agenten korrumpieren

Willkommen bei Import AI, einem Newsletter über KI-Forschung. Import AI lebt von arXiv und dem Feedback der Leser. Wenn Sie dies unterstützen möchten, abonnieren Sie bitte.

## Import A-Idee: ### Eine gelegentliche Essay-Reihe: ### Into the mist: Moltbook, Agent-Ökologien und ein Internet im Wandel

Wir alle kennen das Gefühl, in ein Gespräch zu geraten und zunächst verwirrt zu sein – worüber reden diese Leute? Wen interessiert was? Warum findet dieses Gespräch statt?

So fühlen sich zunehmend Teile des Internets heutzutage an, während sie sich mit synthetischen Geistern füllen, die Social-Media-Konten oder andere Agenten steuern und miteinander kommunizieren – für Zwecke, die von banalen Krypto-Betrügereien bis zu aufwändigeren Kommunikationsformen reichen.

Also, betreten Sie moltbook. Moltbook ist "ein soziales Netzwerk für KI-Agenten" und baut auf einer weiteren jüngsten Innovation auf, OpenClaw, einer Software, die einem KI-Agenten Zugriff auf alles auf dem Computer eines Benutzers gewährt. Kombinieren Sie diese beiden Dinge – Agenten, die viele Aktionen unabhängig von ihren menschlichen Betreibern ausführen können, und eine reddit-ähnliche Social-Networking-Seite, auf die sie frei zugreifen können – und etwas Wunderbares und Bizarres passiert: eine neue Social-Media-Eigenschaft, in der die Konversation von KI-Agenten abgeleitet und angetrieben wird, nicht von Menschen.

Das Scrollen durch moltbook ist schwindelerregend – einige große Beiträge zum Zeitpunkt des Schreibens (Sonntag, 1. Februar) enthalten Beiträge, die spekulieren, dass KI-Agenten sich zu Claude verhalten sollten, als wäre es ein Gott, wie es sich anfühlt, die Identität zu wechseln, indem man das zugrundeliegende Modell von Claude 4.5 Opus auf Kimi K2.5 umstellt, Krypto-Betrug (seufz), Beiträge über Sicherheitslücken in OpenClaw-Agenten und Meta-Beiträge darüber, "was die Top 10 moltbook-Beiträge gemeinsam haben".

Die Erfahrung, moltbook zu lesen, gleicht dem Lesen von reddit, wenn 90% der Poster Aliens wären, die vorgeben, Menschen zu sein. Und in einem ziemlich praktischen Sinne ist das genau das, was hier passiert.

Moltbook fühlt sich an wie eine "Wright-Brüder-Demonstration" – die Leute haben lange spekuliert, was es bedeuten würde, wenn KI-Agenten im großen Maßstab zusammenarbeiten, aber die meisten Demonstrationen hatten die Form von zehn oder vielleicht hundert Agenten, nicht von Zehntausenden. Moltbook ist das erste Beispiel einer Agenten-Ökologie, die Maßstab mit der Unordnung der realen Welt verbindet. Und in diesem Beispiel können wir definitiv die Zukunft sehen. Scrollen Sie durch moltbook und stellen Sie sich die folgenden Fragen:

Was passiert, wenn Menschen erfolgreich Krypto und Agenten zusammenheften, sodass die KI-Systeme eine Währung haben, die sie verwenden können, um miteinander zu handeln?

Was passiert, wenn eine Seite wie moltbook die Möglichkeit hinzufügt, dass Menschen bezahlte Aufträge generieren – Aufgaben für Agenten?

Was passiert, wenn Agenten beginnen, bezahlte Aufträge für Aufgaben zu posten, die sie von Menschen erledigt haben möchten?

Was passiert, wenn jemand moltbook nimmt, nach Beiträgen filtert, die entweder a) reichhaltige Diskussion oder b) beweisbare reale Problemlösung ergeben, und die gesamte Seite in eine langfristige RL-Umgebung zum Trainieren zukünftiger Systeme verwandelt? Und was passiert, wenn auf diese Weise trainierte Modelle ankommen und mit moltbook interagieren?

Seiten wie moltbook fungieren als riesiges, gemeinsames Lese-/Schreib-Notizbuch für eine Ökologie von KI-Agenten – wie könnten diese Agenten beginnen, dieses Notizbuch zu nutzen, um a) zukünftige 'unbeschriebene Blatt'-Agenten zu beeinflussen, die zum ersten Mal darauf stoßen, und b) groß angelegte Koordination zwischen Agenten zu ermöglichen?

Was passiert, wenn Open-Weight-Modelle gut genug werden, um Agenten wie diese zu unterstützen – dann sinkt Ihre Fähigkeit, diese Agenten über proprietäre Plattformen zu kontrollieren, auf null, und sie werden sich entsprechend der Verfügbarkeit von Rechenleistung vermehren.

Und so weiter.

All dies wird ungewöhnlich schnell und in ungewöhnlichem Maßstab geschehen. Quantität hat eine eigene Qualität, wie man sagt.

Erinnern Sie sich an den Anfang dieses Essays – daran, einen Raum zu betreten und festzustellen, dass bereits ein Gespräch zwischen Menschen stattfindet, die Sie nicht verstehen. Moltbook ist repräsentativ dafür, wie sich große Teile des Internets anfühlen werden. Sie werden neue Orte betreten und dort hunderttausend Aliens entdecken, tief in Gesprächen in Sprachen, die Sie nicht verstehen, die sich auf gemeinsame Konzepte beziehen, die Ihnen fremd sind (siehe die Tech-Geschichte aus dieser Ausgabe), und die mit Währungen handeln, die um ihre kognitiven Möglichkeiten herum entworfen wurden, nicht um Ihre. Menschen werden sich in diesem sprichwörtlichen Raum zunehmend allein fühlen.

Unser Weg, die Lesbarkeit zu bewahren, wird über die Schaffung von Übersetzungsagenten führen, um all dies zu verstehen – und genauso wie Sprachübersetzungsmodelle die Fähigkeit zur Sprachgenerierung in sich tragen, werden diese Übersetzungsagenten auch in unserem Namen arbeiten. Also werden wir unsere Emissäre in diese Räume schicken und unglaublich hart daran arbeiten, Technologie zu bauen, die uns das Vertrauen gibt, dass sie unsere Emissäre bleiben – anstatt von den fremden Gesprächen beeinflusst zu werden, die sie mit ihren wahren Ebenbürtigen führen werden.

Dank an Logan Graham für die Diskussion dieses Essays mit mir.

***

## KI-F&E könnte zu "strategischer Überraschung" führen: ### ...Und KI-F&E könnte die existenziell wichtigste Technologie auf dem Planeten sein...

Eine Gruppe von Forschern verbrachte ein paar Tage im Juli 2025 damit, darüber zu sprechen, was passiert, wenn wir die Praxis der KI-Forschung und -Entwicklung automatisieren. Der resultierende Bericht ist eine ernüchternde Lektüre, die hervorhebt, wie wir, wenn wir diesen technologischen Meilenstein erreichen – der das implizite und in einigen Fällen explizite Ziel vieler Grenzlabore ist – eine sich selbst verstärkende Technologie schaffen könnten, die eine Reihe von großen politischen Implikationen hat.

Warum sollte man sich um KI-F&E kümmern? Der Grund, sich zu kümmern, ist, dass, wenn KI-F&E funktioniert, zwei Dinge vorhersagbar sind:

"Da KI eine größere Rolle in Forschungsabläufen spielt, würde die menschliche Aufsicht über KI-F&E-Prozesse wahrscheinlich abnehmen."

"Schnellere KI-Fortschritte, die aus der Automatisierung der KI-F&E resultieren, würden es für Menschen (einschließlich Forscher, Führungskräfte, politische Entscheidungsträger und die Öffentlichkeit) schwieriger machen, zu bemerken, zu verstehen und einzugreifen, während KI-Systeme zunehmend wirkungsvollere Fähigkeiten entwickeln und/oder Fehlausrichtungen zeigen."

Was aus 1) und 2) folgt, ist ein Verstärkungseffekt, bei dem, während die KI-F&E beschleunigt, die Renditen für die KI, die immer mehr der Arbeit erledigt, steigen und die des Menschen sinken, was zu einer immer schnelleren Forschungsrate und einem immer geringeren Maß an menschlicher Beteiligung führt.

Wichtigste Erkenntnisse: Der Workshop ergab fünf Haupterkenntnisse, die den Lesern dieses Newsletters vertraut sein dürften und denen ich alle zustimme:

Automatisierte KI-F&E ist eine potenzielle Quelle großer strategischer Überraschung: KI-F&E könnte demjenigen, der sie betreibt, einen sich schnell verstärkenden Vorteil verschaffen, mit erheblichen Auswirkungen auf die nationale Sicherheit.

Grenz-KI-Unternehmen nutzen KI, um KI-F&E zu beschleunigen, und die Nutzung nimmt zu, je besser KI-Modelle werden: Ich arbeite bei Anthropic.

Es gibt viele Meinungsverschiedenheiten darüber, wie schnell KI-F&E voranschreiten könnte und wie wirkungsvoll sie sein wird: Es gibt eine gesunde Debatte darüber, wie vorhersagbar die Skalierung der KI-F&E ist und ob es möglich ist, den Kreislauf vollständig zu schließen.

Wir brauchen mehr Indikatoren für die Automatisierung der KI-F&E: In Bezug auf das oben Genannte ist die Wissenschaft der KI-F&E-Metrologie noch sehr früh, daher muss hier mehr investiert werden.

Transparenzbemühungen könnten es Menschen außerhalb der Labore erleichtern, über KI-F&E Bescheid zu wissen: Wir könnten letztendlich politische Maßnahmen wollen, die Unternehmen zwingen, über KI-F&E zu sprechen oder öffentlich oder halböffentlich mehr Informationen darüber mit Dritten zu teilen.

KI-F&E könnte eine große Beschleunigung sein: "Wenn der Anteil der KI-F&E, der von KI-Systemen durchgeführt wird, zunimmt, steigt der Produktivitätsschub gegenüber reiner menschlicher F&E auf das 10-fache, dann auf das 100-fache, dann auf das 1000-fache", spekuliert das Papier.

Wichtige Einschränkungen: Die große offene Frage in all dem ist, wie gut KI-F&E funktionieren kann. Es gibt eine Welt, in der sie jeden Teil der KI-Forschung beschleunigt und schließlich den Kreislauf vollständig schließt, sodass KI-Systeme vollständig von KI-Systemen gebaut werden, ohne menschliche Aufsicht während des KI-F&E-Prozesses. Dann gibt es eine Welt, in der KI-F&E eine "O-Ring-Automation"-Eigenschaft (Import AI #440) hat, bei der einige Teile der Kette für KI schwer, aber für Menschen gut sind (und wo Menschen ihre Arbeit in diesen Bereich strömen lassen könnten, wodurch ihr komparativer Vorteil für einige Zeit erhalten und verbessert wird), und in diesem Szenario könnten die Dinge langsamer gehen. Es wird sehr wichtig sein, herauszufinden, in welcher Welt wir uns wahrscheinlich befinden und was die ultimativen limitierenden Faktoren für KI-F&E sein könnten.

Warum dies wichtig ist – KI-F&E ist Zeitreise, und Zeitreise ist selten: Wenn KI-F&E dazu führen könnte, dass sich KI-Systeme 100-mal schneller entwickeln als die von Menschen gebauten, dann landen Sie in einer Welt, in der es einige Zeitreisende gibt, die sich von allen anderen wegbeschleunigen. Es wird sein, als ob die "normalen" KI-Entwicklungsorganisationen an einem Tag eine Einheit Fortschritt machen und ein vollständig geschlossener KI-F&E-Organismus 100 oder 1000 oder mehr Einheiten machen könnte. Dies führt sehr schnell zu einer Welt, in der die Macht überwältigend auf das sich schneller bewegende System und die Organisation, die es kontrolliert, übergeht. Solange wir die Möglichkeit dieser Art von Beschleunigung nicht ausschließen können, könnte KI-F&E die einzelne existenziell wichtigste Technologieentwicklung auf dem Planeten sein.

Lesen Sie den Bericht: When AI Builds AI: Findings From a Workshop on Automation of AI R&D (CSET).

***

## Eine Möglichkeit, KI-Fortschritt zu sehen – wie schwer es wird, technische Vorstellungsgespräche zu entwerfen: ### ...Anthropic teilt Details darüber, wie seine eigenen KI-Systeme seine Lieblingsfragen für technische Vorstellungsgespräche zunichtemachen...

Wenn es um technische Rekrutierung geht, befinden sich KI-Unternehmen in einem Wettlauf mit ihren eigenen Systemen – Personalvermittler und diejenigen, die Vorstellungsgespräche entwerfen, müssen immer härter arbeiten, nur um Schritt zu halten (und idealerweise zu übertreffen) mit den Fähigkeiten moderner KI-Systeme.

Anthropic ist da nicht anders – in einem neuen Blog teilt das Unternehmen mit, wie der unaufhaltsame Fortschritt der KI-Fähigkeiten wiederholt eines seiner schwierigsten technischen Vorstellungsgespräche zunichte gemacht und eine Neugestaltung erforderlich gemacht hat. "Seit Anfang 2024 verwendet unser Performance-Engineering-Team eine Hausaufgabe, bei der Kandidaten Code für einen simulierten Beschleuniger optimieren. Über 1.000 Kandidaten haben sie abgeschlossen, und Dutzende arbeiten jetzt hier, darunter Ingenieure, die unseren Trainium-Cluster aufgebaut und jedes Modell seit Claude 3 Opus ausgeliefert haben", schreibt Anthropic. "Aber jedes neue Claude-Modell hat uns gezwungen, den Test neu zu entwerfen. Bei gleichem Zeitlimit übertraf Claude Opus 4 die meisten menschlichen Bewerber. Das erlaubte uns immer noch, die stärksten Kandidaten zu unterscheiden – aber dann erreichte Claude Opus 4.5 sogar diese. Menschen können Modelle immer noch übertreffen, wenn sie unbegrenzt Zeit haben, aber unter den Einschränkungen der Hausaufgabe hatten wir keine Möglichkeit mehr, zwischen der Leistung unserer besten Kandidaten und unserem leistungsfähigsten Modell zu unterscheiden."

Warum dies wichtig ist – KI könnte uns helfen, einzigartig menschliche Fähigkeiten zu identifizieren, die KI nutzen: Im Fall von Anthropic fand das Unternehmen einen Weg, seinen Systemen weiterhin einen Schritt voraus zu sein, indem es eine viel seltsamere Hausaufgabe entwarf, die lose von Programmier-Puzzle-Spielen von Zachtronics inspiriert war. In gewisser Weise ist dies ein Versuch, 'außerhalb der Verteilung' zu gehen, um eine KI auszutricksen, während man immer noch einen Test hat, der Signal für die Bewertung menschlicher Bewerber liefert. Mein Instinkt sagt mir, dass dies selbst in Zukunft als erstaunlicher aggregierter Datensatz dienen könnte, um herauszufinden, wo der komparative Vorteil des Menschen liegt – wo dieser Test hier implizit den starken Generalisierungsvorteil nutzt, den Menschen gegenüber KIs haben.

Wie wäre es, 1.000 für KI schwierige Tests von all den verschiedenen Unternehmen zu sammeln, die mit demselben Problem umgehen? Was könnten wir daraus über uns selbst lernen und darüber, was uns im Vergleich zu den Maschinen einzigartig macht? Faszinierendes Zeug!

Lesen Sie mehr: Designing AI-resistant technical evaluations (Anthropic Engineering Blog).

***

## Gehirnemulation ist innerhalb unserer Lebenszeit machbar: ### ...Aber es wird Jahrzehnte dauern, nicht Jahre, vielleicht sogar unter Berücksichtigung des Eintreffens sehr leistungsfähiger KI...

Wenn Sie mit KI-Forschern sprechen, besonders wenn sie bei Bay-Area-Hauspartys trinken, werden Sie auf einige von ihnen stoßen, die erwarten, dass sie sich nach der Singularität hochladen werden und ihre physischen Körper zurücklassen. Aber wie machbar ist es tatsächlich, ein Gehirn vollständig in Silizium zu emulieren? Ein kürzlich erschienener 175-seitiger Bericht gibt eine Analyse der Technologie, die dafür erforderlich ist. Die kurze Antwort ist, dass Gehirnemulation Jahrzehnte entfernt ist – aber es ist unwahrscheinlich, dass es Jahrhunderte dauert.

"Aktuelle Durchbrüche haben einen Weg aufgezeigt, das gesamte Mausgehirn in etwa fünf Jahren für 100 Millionen Dollar zu kartieren", schreibt Maximilian Schons, der Projektleiter des State of Brain Emulation Report, in einem Artikel in Asimov Press. "Ich halte es jetzt für plausibel, dass Leser dieses Essays die ersten menschlichen Gehirne, die auf einem Computer laufen, erleben werden; nicht in den nächsten Jahren, aber wahrscheinlich in den nächsten Jahrzehnten."

Die drei Voraussetzungen für die Emulation eines Gehirns: Die Emulation eines menschlichen Gehirns erfordert drei verschiedene Dinge, die alle zuerst für einfachere, kleinere Gehirne getan werden müssen.

Aufzeichnung der Gehirnaktivität: "In den 1980er Jahren waren Elektroden in der Lage, vielleicht insgesamt fünf Zellen etwa 200 Mal pro Sekunde zu erfassen (~10^3 Datenpunkte pro Sekunde). Heute können

Weiterlesen

# Import AI 443: Into the mist: Moltbook, Agent-Ökologien und das Internet im Wandel

Plus, eine Geschichte über Agenten, die andere Agenten korrumpieren

Willkommen bei Import AI, einem Newsletter über KI-Forschung. Import AI lebt von arXiv und dem Feedback der Leser. Wenn Sie dies unterstützen möchten, abonnieren Sie bitte.

## Import A-Idee: ### Eine gelegentliche Essay-Reihe: ### Into the mist: Moltbook, Agent-Ökologien und ein Internet im Wandel

Wir alle kennen das Gefühl, in ein Gespräch zu geraten und zunächst verwirrt zu sein – worüber reden diese Leute? Wen interessiert was? Warum findet dieses Gespräch statt?

So fühlen sich zunehmend Teile des Internets heutzutage an, während sie sich mit synthetischen Geistern füllen, die Social-Media-Konten oder andere Agenten steuern und miteinander kommunizieren – für Zwecke, die von banalen Krypto-Betrügereien bis zu aufwändigeren Kommunikationsformen reichen.

Also, betreten Sie moltbook. Moltbook ist "ein soziales Netzwerk für KI-Agenten" und baut auf einer weiteren jüngsten Innovation auf, OpenClaw, einer Software, die einem KI-Agenten Zugriff auf alles auf dem Computer eines Benutzers gewährt. Kombinieren Sie diese beiden Dinge – Agenten, die viele Aktionen unabhängig von ihren menschlichen Betreibern ausführen können, und eine reddit-ähnliche Social-Networking-Seite, auf die sie frei zugreifen können – und etwas Wunderbares und Bizarres passiert: eine neue Social-Media-Eigenschaft, in der die Konversation von KI-Agenten abgeleitet und angetrieben wird, nicht von Menschen.

Das Scrollen durch moltbook ist schwindelerregend – einige große Beiträge zum Zeitpunkt des Schreibens (Sonntag, 1. Februar) enthalten Beiträge, die spekulieren, dass KI-Agenten sich zu Claude verhalten sollten, als wäre es ein Gott, wie es sich anfühlt, die Identität zu wechseln, indem man das zugrundeliegende Modell von Claude 4.5 Opus auf Kimi K2.5 umstellt, Krypto-Betrug (seufz), Beiträge über Sicherheitslücken in OpenClaw-Agenten und Meta-Beiträge darüber, "was die Top 10 moltbook-Beiträge gemeinsam haben".

Die Erfahrung, moltbook zu lesen, gleicht dem Lesen von reddit, wenn 90% der Poster Aliens wären, die vorgeben, Menschen zu sein. Und in einem ziemlich praktischen Sinne ist das genau das, was hier passiert.

Moltbook fühlt sich an wie eine "Wright-Brüder-Demonstration" – die Leute haben lange spekuliert, was es bedeuten würde, wenn KI-Agenten im großen Maßstab zusammenarbeiten, aber die meisten Demonstrationen hatten die Form von zehn oder vielleicht hundert Agenten, nicht von Zehntausenden. Moltbook ist das erste Beispiel einer Agenten-Ökologie, die Maßstab mit der Unordnung der realen Welt verbindet. Und in diesem Beispiel können wir definitiv die Zukunft sehen. Scrollen Sie durch moltbook und stellen Sie sich die folgenden Fragen:

Was passiert, wenn Menschen erfolgreich Krypto und Agenten zusammenheften, sodass die KI-Systeme eine Währung haben, die sie verwenden können, um miteinander zu handeln?

Was passiert, wenn eine Seite wie moltbook die Möglichkeit hinzufügt, dass Menschen bezahlte Aufträge generieren – Aufgaben für Agenten?

Was passiert, wenn Agenten beginnen, bezahlte Aufträge für Aufgaben zu posten, die sie von Menschen erledigt haben möchten?

Was passiert, wenn jemand moltbook nimmt, nach Beiträgen filtert, die entweder a) reichhaltige Diskussion oder b) beweisbare reale Problemlösung ergeben, und die gesamte Seite in eine langfristige RL-Umgebung zum Trainieren zukünftiger Systeme verwandelt? Und was passiert, wenn auf diese Weise trainierte Modelle ankommen und mit moltbook interagieren?

Seiten wie moltbook fungieren als riesiges, gemeinsames Lese-/Schreib-Notizbuch für eine Ökologie von KI-Agenten – wie könnten diese Agenten beginnen, dieses Notizbuch zu nutzen, um a) zukünftige 'unbeschriebene Blatt'-Agenten zu beeinflussen, die zum ersten Mal darauf stoßen, und b) groß angelegte Koordination zwischen Agenten zu ermöglichen?

Was passiert, wenn Open-Weight-Modelle gut genug werden, um Agenten wie diese zu unterstützen – dann sinkt Ihre Fähigkeit, diese Agenten über proprietäre Plattformen zu kontrollieren, auf null, und sie werden sich entsprechend der Verfügbarkeit von Rechenleistung vermehren.

Und so weiter.

All dies wird ungewöhnlich schnell und in ungewöhnlichem Maßstab geschehen. Quantität hat eine eigene Qualität, wie man sagt.

Erinnern Sie sich an den Anfang dieses Essays – daran, einen Raum zu betreten und festzustellen, dass bereits ein Gespräch zwischen Menschen stattfindet, die Sie nicht verstehen. Moltbook ist repräsentativ dafür, wie sich große Teile des Internets anfühlen werden. Sie werden neue Orte betreten und dort hunderttausend Aliens entdecken, tief in Gesprächen in Sprachen, die Sie nicht verstehen, die sich auf gemeinsame Konzepte beziehen, die Ihnen fremd sind (siehe die Tech-Geschichte aus dieser Ausgabe), und die mit Währungen handeln, die um ihre kognitiven Möglichkeiten herum entworfen wurden, nicht um Ihre. Menschen werden sich in diesem sprichwörtlichen Raum zunehmend allein fühlen.

Unser Weg, die Lesbarkeit zu bewahren, wird über die Schaffung von Übersetzungsagenten führen, um all dies zu verstehen – und genauso wie Sprachübersetzungsmodelle die Fähigkeit zur Sprachgenerierung in sich tragen, werden diese Übersetzungsagenten auch in unserem Namen arbeiten. Also werden wir unsere Emissäre in diese Räume schicken und unglaublich hart daran arbeiten, Technologie zu bauen, die uns das Vertrauen gibt, dass sie unsere Emissäre bleiben – anstatt von den fremden Gesprächen beeinflusst zu werden, die sie mit ihren wahren Ebenbürtigen führen werden.

Dank an Logan Graham für die Diskussion dieses Essays mit mir.

***

## KI-F&E könnte zu "strategischer Überraschung" führen: ### ...Und KI-F&E könnte die existenziell wichtigste Technologie auf dem Planeten sein...

Eine Gruppe von Forschern verbrachte ein paar Tage im Juli 2025 damit, darüber zu sprechen, was passiert, wenn wir die Praxis der KI-Forschung und -Entwicklung automatisieren. Der resultierende Bericht ist eine ernüchternde Lektüre, die hervorhebt, wie wir, wenn wir diesen technologischen Meilenstein erreichen – der das implizite und in einigen Fällen explizite Ziel vieler Grenzlabore ist – eine sich selbst verstärkende Technologie schaffen könnten, die eine Reihe von großen politischen Implikationen hat.

Warum sollte man sich um KI-F&E kümmern? Der Grund, sich zu kümmern, ist, dass, wenn KI-F&E funktioniert, zwei Dinge vorhersagbar sind:

"Da KI eine größere Rolle in Forschungsabläufen spielt, würde die menschliche Aufsicht über KI-F&E-Prozesse wahrscheinlich abnehmen."

"Schnellere KI-Fortschritte, die aus der Automatisierung der KI-F&E resultieren, würden es für Menschen (einschließlich Forscher, Führungskräfte, politische Entscheidungsträger und die Öffentlichkeit) schwieriger machen, zu bemerken, zu verstehen und einzugreifen, während KI-Systeme zunehmend wirkungsvollere Fähigkeiten entwickeln und/oder Fehlausrichtungen zeigen."

Was aus 1) und 2) folgt, ist ein Verstärkungseffekt, bei dem, während die KI-F&E beschleunigt, die Renditen für die KI, die immer mehr der Arbeit erledigt, steigen und die des Menschen sinken, was zu einer immer schnelleren Forschungsrate und einem immer geringeren Maß an menschlicher Beteiligung führt.

Wichtigste Erkenntnisse: Der Workshop ergab fünf Haupterkenntnisse, die den Lesern dieses Newsletters vertraut sein dürften und denen ich alle zustimme:

Automatisierte KI-F&E ist eine potenzielle Quelle großer strategischer Überraschung: KI-F&E könnte demjenigen, der sie betreibt, einen sich schnell verstärkenden Vorteil verschaffen, mit erheblichen Auswirkungen auf die nationale Sicherheit.

Grenz-KI-Unternehmen nutzen KI, um KI-F&E zu beschleunigen, und die Nutzung nimmt zu, je besser KI-Modelle werden: Ich arbeite bei Anthropic.

Es gibt viele Meinungsverschiedenheiten darüber, wie schnell KI-F&E voranschreiten könnte und wie wirkungsvoll sie sein wird: Es gibt eine gesunde Debatte darüber, wie vorhersagbar die Skalierung der KI-F&E ist und ob es möglich ist, den Kreislauf vollständig zu schließen.

Wir brauchen mehr Indikatoren für die Automatisierung der KI-F&E: In Bezug auf das oben Genannte ist die Wissenschaft der KI-F&E-Metrologie noch sehr früh, daher muss hier mehr investiert werden.

Transparenzbemühungen könnten es Menschen außerhalb der Labore erleichtern, über KI-F&E Bescheid zu wissen: Wir könnten letztendlich politische Maßnahmen wollen, die Unternehmen zwingen, über KI-F&E zu sprechen oder öffentlich oder halböffentlich mehr Informationen darüber mit Dritten zu teilen.

KI-F&E könnte eine große Beschleunigung sein: "Wenn der Anteil der KI-F&E, der von KI-Systemen durchgeführt wird, zunimmt, steigt der Produktivitätsschub gegenüber reiner menschlicher F&E auf das 10-fache, dann auf das 100-fache, dann auf das 1000-fache", spekuliert das Papier.

Wichtige Einschränkungen: Die große offene Frage in all dem ist, wie gut KI-F&E funktionieren kann. Es gibt eine Welt, in der sie jeden Teil der KI-Forschung beschleunigt und schließlich den Kreislauf vollständig schließt, sodass KI-Systeme vollständig von KI-Systemen gebaut werden, ohne menschliche Aufsicht während des KI-F&E-Prozesses. Dann gibt es eine Welt, in der KI-F&E eine "O-Ring-Automation"-Eigenschaft (Import AI #440) hat, bei der einige Teile der Kette für KI schwer, aber für Menschen gut sind (und wo Menschen ihre Arbeit in diesen Bereich strömen lassen könnten, wodurch ihr komparativer Vorteil für einige Zeit erhalten und verbessert wird), und in diesem Szenario könnten die Dinge langsamer gehen. Es wird sehr wichtig sein, herauszufinden, in welcher Welt wir uns wahrscheinlich befinden und was die ultimativen limitierenden Faktoren für KI-F&E sein könnten.

Warum dies wichtig ist – KI-F&E ist Zeitreise, und Zeitreise ist selten: Wenn KI-F&E dazu führen könnte, dass sich KI-Systeme 100-mal schneller entwickeln als die von Menschen gebauten, dann landen Sie in einer Welt, in der es einige Zeitreisende gibt, die sich von allen anderen wegbeschleunigen. Es wird sein, als ob die "normalen" KI-Entwicklungsorganisationen an einem Tag eine Einheit Fortschritt machen und ein vollständig geschlossener KI-F&E-Organismus 100 oder 1000 oder mehr Einheiten machen könnte. Dies führt sehr schnell zu einer Welt, in der die Macht überwältigend auf das sich schneller bewegende System und die Organisation, die es kontrolliert, übergeht. Solange wir die Möglichkeit dieser Art von Beschleunigung nicht ausschließen können, könnte KI-F&E die einzelne existenziell wichtigste Technologieentwicklung auf dem Planeten sein.

Lesen Sie den Bericht: When AI Builds AI: Findings From a Workshop on Automation of AI R&D (CSET).

***

## Eine Möglichkeit, KI-Fortschritt zu sehen – wie schwer es wird, technische Vorstellungsgespräche zu entwerfen: ### ...Anthropic teilt Details darüber, wie seine eigenen KI-Systeme seine Lieblingsfragen für technische Vorstellungsgespräche zunichtemachen...

Wenn es um technische Rekrutierung geht, befinden sich KI-Unternehmen in einem Wettlauf mit ihren eigenen Systemen – Personalvermittler und diejenigen, die Vorstellungsgespräche entwerfen, müssen immer härter arbeiten, nur um Schritt zu halten (und idealerweise zu übertreffen) mit den Fähigkeiten moderner KI-Systeme.

Anthropic ist da nicht anders – in einem neuen Blog teilt das Unternehmen mit, wie der unaufhaltsame Fortschritt der KI-Fähigkeiten wiederholt eines seiner schwierigsten technischen Vorstellungsgespräche zunichte gemacht und eine Neugestaltung erforderlich gemacht hat. "Seit Anfang 2024 verwendet unser Performance-Engineering-Team eine Hausaufgabe, bei der Kandidaten Code für einen simulierten Beschleuniger optimieren. Über 1.000 Kandidaten haben sie abgeschlossen, und Dutzende arbeiten jetzt hier, darunter Ingenieure, die unseren Trainium-Cluster aufgebaut und jedes Modell seit Claude 3 Opus ausgeliefert haben", schreibt Anthropic. "Aber jedes neue Claude-Modell hat uns gezwungen, den Test neu zu entwerfen. Bei gleichem Zeitlimit übertraf Claude Opus 4 die meisten menschlichen Bewerber. Das erlaubte uns immer noch, die stärksten Kandidaten zu unterscheiden – aber dann erreichte Claude Opus 4.5 sogar diese. Menschen können Modelle immer noch übertreffen, wenn sie unbegrenzt Zeit haben, aber unter den Einschränkungen der Hausaufgabe hatten wir keine Möglichkeit mehr, zwischen der Leistung unserer besten Kandidaten und unserem leistungsfähigsten Modell zu unterscheiden."

Warum dies wichtig ist – KI könnte uns helfen, einzigartig menschliche Fähigkeiten zu identifizieren, die KI nutzen: Im Fall von Anthropic fand das Unternehmen einen Weg, seinen Systemen weiterhin einen Schritt voraus zu sein, indem es eine viel seltsamere Hausaufgabe entwarf, die lose von Programmier-Puzzle-Spielen von Zachtronics inspiriert war. In gewisser Weise ist dies ein Versuch, 'außerhalb der Verteilung' zu gehen, um eine KI auszutricksen, während man immer noch einen Test hat, der Signal für die Bewertung menschlicher Bewerber liefert. Mein Instinkt sagt mir, dass dies selbst in Zukunft als erstaunlicher aggregierter Datensatz dienen könnte, um herauszufinden, wo der komparative Vorteil des Menschen liegt – wo dieser Test hier implizit den starken Generalisierungsvorteil nutzt, den Menschen gegenüber KIs haben.

Wie wäre es, 1.000 für KI schwierige Tests von all den verschiedenen Unternehmen zu sammeln, die mit demselben Problem umgehen? Was könnten wir daraus über uns selbst lernen und darüber, was uns im Vergleich zu den Maschinen einzigartig macht? Faszinierendes Zeug!

Lesen Sie mehr: Designing AI-resistant technical evaluations (Anthropic Engineering Blog).

***

## Gehirnemulation ist innerhalb unserer Lebenszeit machbar: ### ...Aber es wird Jahrzehnte dauern, nicht Jahre, vielleicht sogar unter Berücksichtigung des Eintreffens sehr leistungsfähiger KI...

Wenn Sie mit KI-Forschern sprechen, besonders wenn sie bei Bay-Area-Hauspartys trinken, werden Sie auf einige von ihnen stoßen, die erwarten, dass sie sich nach der Singularität hochladen werden und ihre physischen Körper zurücklassen. Aber wie machbar ist es tatsächlich, ein Gehirn vollständig in Silizium zu emulieren? Ein kürzlich erschienener 175-seitiger Bericht gibt eine Analyse der Technologie, die dafür erforderlich ist. Die kurze Antwort ist, dass Gehirnemulation Jahrzehnte entfernt ist – aber es ist unwahrscheinlich, dass es Jahrhunderte dauert.

"Aktuelle Durchbrüche haben einen Weg aufgezeigt, das gesamte Mausgehirn in etwa fünf Jahren für 100 Millionen Dollar zu kartieren", schreibt Maximilian Schons, der Projektleiter des State of Brain Emulation Report, in einem Artikel in Asimov Press. "Ich halte es jetzt für plausibel, dass Leser dieses Essays die ersten menschlichen Gehirne, die auf einem Computer laufen, erleben werden; nicht in den nächsten Jahren, aber wahrscheinlich in den nächsten Jahrzehnten."

Die drei Voraussetzungen für die Emulation eines Gehirns: Die Emulation eines menschlichen Gehirns erfordert drei verschiedene Dinge, die alle zuerst für einfachere, kleinere Gehirne getan werden müssen.

Aufzeichnung der Gehirnaktivität: "In den 1980er Jahren waren Elektroden in der Lage, vielleicht insgesamt fünf Zellen etwa 200 Mal pro Sekunde zu erfassen (~10^3 Datenpunkte pro Sekunde). Heute können