OpenWAI News

Nvidia gibt mittlerweile bis zu 150 Milliarden US-Dollar pro Jahr für seine Zulieferer wie TSMC in Taiwan aus. Vor drei oder vier Jahren seien es nur 10 bis 15 Milliarden Dollar jährlich gewesen. Das sagte CEO Jensen Huang bei einem Firmentreffen in Taipei, laut Nikkei Asia.

Nvidia plant zudem, die Belegschaft in Taiwan von derzeit 1.000 auf 4.000 Mitarbeiter zu vervierfachen. Dafür entsteht in Taipei ein neuer Firmenkomplex namens Constellation, dessen Bau Ende 2026 starten und 2030 fertig sein soll. Das Konzept soll später am neuen kalifornischen Hauptsitz wiederholt werden.

Konkurrent AMD will ebenfalls stärker in Taiwan investieren. AMD-Chefin Lisa Su kündigte mehr als 10 Milliarden Dollar für Taiwans Chip-Ökosystem an, vor allem um Kapazität für fortschrittliches Packaging zu sichern.

Die Summe ist jedoch nicht direkt mit Nvidias Ausgaben vergleichbar: AMD nennt eine mehrjährige Investition in zusätzliche Kapazität, während Huang über Nvidias laufende jährliche Ausgaben bei taiwanischen Zulieferern sprach.

Kurz & Knapp

- Lokale Behörden in China rüsten ihr landesweites Überwachungssystem auf, indem sie Kameras mit Computer Vision und Sprachmodellen von Herstellern wie Hikvision und Huawei ausstatten.

- Die neuen Systeme ermöglichen es der Polizei, Videomaterial gezielt per Texteingabe zu durchsuchen, und können automatisch Auffälligkeiten wie Menschenansammlungen, unbefugten Zutritt oder suizidales Verhalten erkennen.

- Die Modernisierung folgt einer sicherheitspolitischen Direktive aus dem Jahr 2024 zur Vorhersage potenzieller Unruhen und weckt bei Menschenrechtsexperten die Sorge vor einer beispiellosen Überwachung des menschlichen Verhaltens in großem Maßstab.

Lokale Behörden in China statten Millionen alter Kameras mit Computer Vision und Sprachmodellen aus. Polizisten sollen Videomaterial künftig per Texteingabe durchsuchen und Unruhen vorhersagen.

China modernisiert sein landesweites Überwachungssystem mit generativer KI und gibt Polizeibehörden damit deutlich mehr Befugnisse zur automatisierten Verhaltensanalyse und Vorhersage potenzieller Unruhen. Das berichtet die Financial Times nach Auswertung von mehr als einem Dutzend Ausschreibungsdokumenten und Gesprächen mit Branchenkennern.

Gesichtserkennung, Kennzeichenscans und klassische Computer Vision setzt China seit Mitte der 2010er-Jahre flächendeckend ein. Das alte Netz war jedoch auf die Identifikation einzelner Personen ausgelegt, lief auf veralteter Hardware und schickte Material zur Auswertung in zentrale Rechenzentren. "Chinas altes Überwachungssystem ist reaktiv. Es ist nicht gut darin, die Absichten von Personen zu erahnen und zu verstehen, die nicht ausdrücklich überwacht werden", sagt Minxin Pei vom Claremont McKenna College gegenüber der FT.

Hersteller wie Hikvision und Huawei liefern laut dem Bericht inzwischen Kameras mit integrierter Computer Vision und Sprachmodellen. Die Systeme sollen erratisches Fahren, Menschenansammlungen, unbefugten Zutritt oder suizidales Verhalten an Brücken erkennen und Alarme auslösen. Die neueste Hikvision-Generation erlaubt es laut dem Bericht Beamten, Aufnahmen per Texteingabe zu durchsuchen, etwa nach "einer Frau mit rotem Hut".

"Die Polizei muss das Material nicht mehr manuell sichten. Sie füttert das System mit einem Text-Prompt, und es findet die Aufnahmen", sagte ein Hikvision-Manager der FT. Hikvision selbst erklärte, die Produkte digitalisierten "Routineaufgaben, die zuvor stark auf manueller Überprüfung beruhten".

Kleinere Budgets, gezielter Ausbau

Ein Beschaffungsdokument aus Yaodu in Sichuan sieht laut der FT etwa 175 HD-Kameras mit "intelligenter Videoanalyse" vor. Eine Ausschreibung der Polizei in Datong listet Hikvision-Kameras, die Geschlecht, Körperhaltung und Kleidung identifizieren. Die ersten Einsätze konzentrierten sich auf dicht besiedelte Stadtgebiete sowie Zonen um Militär- und Regierungsgebäude. Andere Behörden behalten bereits installierte Kameras, tauschen aber die Zwischenserver gegen "AI PCs" aus, die Video lokal verarbeiten und auch Cloud-Kosten senken sollen.

Die Aufrüstung folgt einer Direktive von Minister für öffentliche Sicherheit Wang Xiaohong aus dem Jahr 2024, die nach einer Serie von Gewalttaten erlassen wurde, die Fachleute auf eine durch Pandemielockdowns und schwächelnde Wirtschaft verstärkte mentale Gesundheitskrise zurückführen. Diese Vorfälle hätten "die Grenzen des derzeitigen Überwachungsapparats" offengelegt, so Pei. Maya Wang von Human Rights Watch warnt, die "Philosophie hinter Chinas Überwachungssystem wird umfassender". Generative KI und Computer Vision verschafften den Behörden "eine beispiellose Kapazität, Verhalten in großem Maßstab zu überwachen".

In einem Policy-Papier warnte Anthropic kürzlich, dass China bei weiter schließender Compute-Lücke bis 2028 nicht nur technologisch aufholen, sondern auch KI-gestützte Überwachung und Repression skalieren könnte.

Sam Altman und Dario Amodei rudern bei ihren Prophezeiungen zur KI-Jobapokalypse zurück, pünktlich zu milliardenschweren Börsengängen.

Das Wirtschaftsmagazin Fortune zeichnet nach, wie sich der Ton der beiden CEOs in den vergangenen Wochen verschoben hat. In einem Interview mit Commonwealth-Bank-Chef Matt Comyn sagt OpenAI-CEO Sam Altman: "Ich bin entzückt, dass ich damit falsch lag. Ich dachte, es gäbe inzwischen mehr Auswirkungen auf Einstiegspositionen im Bürobereich, als tatsächlich passiert ist."

Noch im Juni 2025 hatte Altman vor dem Wegfall ganzer Berufsgruppen gewarnt, Anthropic-CEO Dario Amodei sogar die Hälfte aller White-Collar-Jobs als gefährdet bezeichnet. Inzwischen formuliert Amodei Automatisierung als Produktivitäts-Multiplikator: "Wenn man 90 Prozent der Arbeit automatisiert, machen alle die restlichen 10 Prozent", die sich dann auf 100 Prozent ausweiteten.

Beide Firmen bereiten Börsengänge mit jeweils einer Billion Dollar Bewertung vor. Das Yale Budget Lab fand bislang keine signifikanten Veränderungen bei stark KI-exponierten Berufen. Zur Arbeitsmarktfrage passt auch eine Studie, laut der die Jobkrise bei Codern, Textern und anderen KI-exponierten Berufen schon vor ChatGPT begann, ein Hinweis darauf, dass einfache Erzählungen von der direkten KI-Jobapokalypse bislang zu kurz greifen.

Anthropic-Mitarbeiter sagen, dass auch Claude Mythos OpenAIs "Meilenstein der KI-Mathematik" lösen kann. OpenAIs Modell hatte kürzlich die Unit-Distance-Vermutung von Erdős widerlegt, ein seit 1946 offenes Problem der kombinatorischen Geometrie. Anthropic-Ingenieur Sholto Douglas schreibt auf X, Mythos löse das Problem mit einem "hübschen, einfachen Beweis". Er sieht darin einen Hinweis auf "ernsthaften Überhang" bei mathematischen Entdeckungen durch KI.

Das Team nutzte ein Testsystem, das nach der Lösung von Erdős-Problem #1196 aufgebaut wurde: Isolierte Claude-Code-Instanzen mit Zugriff auf Mythos bekommen das Problem gestellt, entwickeln mögliche Lösungswege, eine Instanz fasst diese zusammen und verteilt sie an weitere Instanzen, die dann unabhängig daran arbeiten. Dabei wählte Mythos häufig einen anderen Weg als OpenAIs Modell. Das Ergebnis bezeichnet der Mathematiker Daniel Litt als "etwas schlechter" als bei OpenAI. Mythos soll aber auch die OpenAI-Lösung gefunden haben. Anthropic hat eine von Opus 4.7 aufbereitete Version des Beweises veröffentlicht.

Auch Google Deepmind gab bekannt, dass ein KI-gestütztes System neun Erdős-Probleme lösen konnte. Allerdings nutzt Deepmind den Umweg über die formale Programmiersprache Lean.

China schränkt Auslandsreisen für führende KI-Fachleute bei privaten Unternehmen wie Alibaba und Deepseek ein. Laut Bloomberg News haben Regierungsbehörden damit begonnen, Personen mit Reisebeschränkungen zu belegen, die an fortgeschrittener KI-Arbeit beteiligt sind und als strategisch wichtig für das Land gelten. Die Betroffenen müssen vor Auslandsreisen eine Genehmigung der zuständigen Behörden einholen, wie mit der Angelegenheit vertraute Personen berichten.

Bereits im März 2025 hatte Peking angeblich KI‑Führungskräften von USA‑Reisen "abgeraten". Hintergrund sind Sorgen vor Datenlecks, Technologieverlust und Abwerbung.

Die Maßnahmen sind Teil eines breiteren Trends: China versucht, seine KI-Industrie, Soft- und Hardware, abzuschirmen und gleichzeitig unabhängiger zu werden. Laut einem IDC-Bericht halten etwa chinesische Chiphersteller inzwischen 41 Prozent des heimischen Marktes für KI-Beschleuniger. Auch Metas Übernahme des Agenten-Startups Manus AI machte die Regierung wieder rückgängig. China und die USA liefern sich seit Jahren einen technologischen Wettlauf um die Führungsrolle bei Künstlicher Intelligenz.

Google Cloud COO Francis de Souza fordert Unternehmen auf, Sicherheit von Anfang an in ihre KI-Strategie einzubauen. "Es gibt keine KI-Strategie ohne Datenstrategie und Sicherheitsstrategie", sagte er bei einem Event in Los Angeles. Er warnte laut TechCrunch auch epxlizit vor "Shadow AI" - also Mitarbeitern, die KI-Tools ohne Firmenaufsicht nutzen - und vor KI-Agenten, die vergessene Datenquellen wie alte SharePoint-Server in Unternehmen aufspüren.

Die Angriffsfläche habe sich weit über den klassischen Netzwerkrand hinaus vergrößert: Modelle, Daten-Pipelines, Agenten und Prompts müssten alle geschützt werden. Die Zeit zwischen einem ersten Einbruch und der nächsten Angriffsstufe sei durch KI von acht Stunden auf 22 Sekunden gesunken. De Souza plädiert daher für eine "KI-native, vollständig agentenbasierte Verteidigung", bei der Menschen nur noch die Aufsicht führen. KI-Sicherheit sei ein Thema für Vorstände, nicht nur für IT-Abteilungen.

Sicherheit lasse sich nicht nachträglich draufschrauben und nicht den einzelnen Mitarbeitern überlassen, so de Souza. Unternehmen bräuchten eine einheitliche Sicherheitsstrategie über alle Clouds und Modelle hinweg, auch wenn sie glauben, nur einen Anbieter zu nutzen. Denn über SaaS-Anwendungen und Geschäftspartner seien fast immer mehrere Clouds im Spiel.

Kurz & Knapp

- Forscher der Columbia University und anderer Institutionen zeigen in einer Studie, dass sich die Zahl erfundener Literaturangaben in biomedizinischen Fachartikeln seit 2023 mehr als verzwölffacht hat.

- Die Autoren sehen Sprachmodelle wie ChatGPT als wahrscheinliche Ursache. Die gefälschten Quellen wirken täuschend echt und sind riskant, da sie oft in Übersichtsartikeln stehen, die klinische Leitlinien prägen.

- Als Gegenmaßnahme fordern die Forscher automatische Referenzprüfungen vor der Veröffentlichung sowie das Screening bereits publizierter Papiere. Plattformen wie Arxiv haben bereits erste Sanktionen für KI-Fehler eingeführt.

Ein Audit von 2,5 Millionen biomedizinischen Papieren zeigt, dass erfundene Literaturangaben in der Peer-reviewed-Forschung inzwischen systematisch auftreten. Seit 2023 hat sich die Rate mehr als zwölffach erhöht.

Forscher der Columbia University und anderer Institutionen haben in einer im Fachjournal The Lancet veröffentlichten Studie die bislang größte Prüfung von Literaturangaben in biomedizinischen Papieren vorgelegt. Das Team um Maxim Topaz durchsuchte 2,47 Millionen Papiere aus dem offenen PubMed-Central-Bestand zwischen Januar 2023 und Februar 2026.

Von 97,1 Millionen geprüften Referenzen wurden 4.046 als fabriziert eingestuft, verteilt auf 2.810 Papiere. Eine Referenz galt als fabriziert, wenn der angegebene Titel in keiner von vier großen Literaturdatenbanken auffindbar war: PubMed, Crossref, OpenAlex und Google Scholar.

Stabiles 2023, dann steiler Anstieg

Auffällig ist vor allem die zeitliche Entwicklung. Im gesamten Jahr 2023 lag die Rate bei rund vier fabrizierten Referenzen pro 10.000 Papieren und blieb stabil. Ab Mitte 2024 stieg sie dann deutlich an, erreichte Ende 2025 bereits 51,3 pro 10.000 und kletterte in den ersten sieben Wochen 2026 auf 56,9 pro 10.000. Das ist mehr als das Zwölffache des Ausgangswerts.

Die Autoren vermuten einen - naheliegenden - Zusammenhang mit dem breiten Einsatz von Sprachmodellen wie ChatGPT, der ab Ende 2022 einsetzte. Da Papiere nach der Einreichung typischerweise 100 bis 200 Tage bis zur Veröffentlichung brauchen, würden KI-gestützte Texte erst ab Mitte 2024 in größerer Zahl in PubMed Central auftauchen. Die Autoren schließen aber auch andere Ursachen nicht aus, etwa verstärkte Paper-Mill-Aktivität oder veränderte Indexierungspraktiken.

Das Problem dabei: Die erfundenen Referenzen sind auf den ersten Blick nicht erkennbar. Sie passen thematisch zum jeweiligen Papier, sind korrekt formatiert, echten Forschern zugeschrieben und tragen plausible Jahreszahlen. In einem urologischen Fachartikel etwa waren 18 von 30 geprüften Referenzen erfunden, alle passend zum engen chirurgischen Thema.

Daneben fanden die Forscher Muster, die auf koordinierte Paper-Mill-Aktivität hindeuten: Zwei Autoren tauchten in elf Papieren desselben chirurgischen Journals auf, mit insgesamt 15 erfundenen Referenzen zu Themen wie CRISPR-Diagnostik und Darmmikrobiom.

Die wissenschaftliche Infrastruktur muss auf KI reagieren

Zum Zeitpunkt des Audits hatten 98,4 Prozent der betroffenen Papiere keine Reaktion des jeweiligen Verlags erhalten. Besonders betroffen sind Übersichtsartikel, die eine um 57 Prozent höhere Fabrikationsrate aufweisen als andere Papiertypen. Das ist laut den Autoren deshalb problematisch, weil solche Reviews häufig als Grundlage für klinische Leitlinien dienen. Wenn eine Leitlinie ein Papier mit teilweise erfundenen Quellen zitiert, ist die gesamte Evidenzkette für Behandlungsentscheidungen kompromittiert.

Die wissenschaftliche Infrastruktur hat bereits damit begonnen, sich an das wachsende Problem anzupassen, bislang aber uneinheitlich: Arxiv verschärfte die Sanktionen für ungeprüfte LLM-Ausgaben in Manuskripten, darunter halluzinierte Quellen, und droht betroffenen Autoren mit einem einjährigen Ausschluss. Eine Analyse akzeptierter NeurIPS-2025-Paper hatte zuvor gezeigt, dass selbst führende KI-Konferenzen erfundene Zitationen nicht zuverlässig herausfiltern. Einen möglichen Gegenansatz liefert CiteAudit, ein Open-Source-System zur automatisierten Zitationsprüfung, das aber zugleich zeigt, wie schwer sich kommerzielle Sprachmodelle damit tun, ihr eigenes Referenzproblem verlässlich zu erkennen.

Die Forschenden empfehlen vier Maßnahmen: automatische Referenzprüfung bereits vor dem Peer Review, Integritäts-Metadaten in Artikeldatensätzen, nachträgliches Screening bereits veröffentlichter Papiere sowie eine eigene Kategorie "fabrizierte Referenzen" in Forschungsintegritätsdatenbanken. Die Autoren nutzten für die Studie selbst Claude zur Code-Entwicklung und Grammatikkorrektur.

Kurz & Knapp

- Y-Combinator-Gründer Paul Graham liest keine von KI verfassten E-Mails, da der Einsatz von Textgeneratoren in diesem Kontext auf ihn täuschend wirkt und eine mangelnde Eigenleistung des Absenders signalisiert.

- Studien deuten darauf hin, dass Graham mit dieser Haltung kein Einzelfall ist. Eine Untersuchung der Ohio State University belegt, dass Empfänger KI-generierte Nachrichten oft als Zeichen von Bequemlichkeit und mangelnder Aufrichtigkeit werten, was zu einem Vertrauensverlust führt.

- Laut einer Befragung von BetterUp Labs erhalten 40 Prozent der US-Beschäftigten regelmäßig substanzlose KI-Inhalte von Kollegen. Etwa die Hälfte der Befragten hält die Absender solcher Nachrichten für weniger kreativ, fähig und vertrauenswürdig.

Y-Combinator-Gründer Paul Graham liest keine mit KI geschriebenen E-Mails. Immer mehr Gründer würden ihm in einem "knallharten journalistischen Stil" anschreiben, so Graham.

Sobald man merke, dass ein Text von KI stamme, sei es schwer, ihn nicht zu ignorieren. Graham geht noch weiter. Er habe noch nie eine E-Mail zu Ende gelesen, die von einem Menschen unterschrieben, aber von KI verfasst wurde. Es fühle sich an, als werde man belogen.

Man solle KI nutzen, aber auf die richtige Art, so Graham. KI-generierte Texte ließen ihn weniger vom Autor halten. Sie zeigten, dass jemand ohne Hilfe nicht gut schreiben könne oder sich das zumindest einrede, und dass er versuche, sein Gegenüber zu täuschen. Es sei nicht beeindruckend, KI für sich schreiben zu lassen. Das könne jeder Teenager.

Eine generelle Abneigung gegen KI hat Graham sicher nicht. Y Combinator gehörte unter anderem zu den frühen Investoren von OpenAI und steckt tief in KI-Investitionen. Warum also stört sich Graham so stark an einem offensichtlichen Anwendungsszenario? Er bemängelt schließlich nicht die Qualität des Inhalts, so weit kommt er offenbar gar nicht.

Schlechter KI-Einsatz kann zu Vertrauensverlust führen

Wahrscheinlich zeigen sich bei ihm zwei Phänomene, die auch in Studien untersucht wurden. Soziale Abwertung und Vertrauensverlust.

Eine Studie der Ohio State University mit 208 Teilnehmern zeigt, dass Empfänger KI-generierte Nachrichten negativer bewerten, weil der Absender die Arbeit an eine Maschine delegiert hat, statt sich selbst die Mühe zu machen.

Hauptautorin Bingjie Liu erklärt, der Einsatz von KI werde als Bequemlichkeit und Mangel an Aufrichtigkeit wahrgenommen. Empfänger fühlten sich in ihrer Beziehung zum Absender unsicherer und weniger zufrieden. Liu vermutet zudem, dass Menschen inzwischen einen unbewussten "Turing-Test im Kopf" durchführen, bei dem sie Nachrichten automatisch nach KI-Mustern scannen.

Genau das beschreibt auch Graham: Er erkennt den KI-Stil sofort, weil kein Gründer je so geschrieben hat. Fliegt die KI-Nutzung auf, kippt die Wahrnehmung vom Inhalt der Nachricht hin zur Frage, wie wenig sich der Absender für den Empfänger interessiert.

Forschende von BetterUp Labs haben in Zusammenarbeit mit dem Stanford Social Media Lab 1.150 US-Beschäftigte befragt. 40 Prozent erhalten demnach regelmäßig oberflächliche, aber substanzlose KI-Inhalte von Kollegen.

Das hat soziale Folgen: 53 Prozent der Befragten fühlen sich durch solche Inhalte genervt. Etwa die Hälfte bewertet Absender von Workslop als weniger kreativ, fähig und zuverlässig. 42 Prozent halten sie für weniger vertrauenswürdig. Ein Drittel will künftig weniger mit diesen Personen zusammenarbeiten.

Die Studienautoren von BetterUp Labs unterscheiden zwischen "Pilots", die KI gezielt und eigenverantwortlich einsetzen, und "Passengers", die sie primär zur Arbeitsvermeidung nutzen. Graham ordnet Gründer, die KI-E-Mails versenden, offenbar pauschal der zweiten Gruppe zu.

Eine neue Studie des MIT und der University of Southern California zeigt, dass die Zahl der Klagen ohne Anwalt an US-Bundesgerichten seit der Verbreitung von ChatGPT fast doppelt so hoch ist wie zuvor. Jede fünfte Klageschrift enthält mittlerweile KI-generierten Text. Richter greifen zu teilweise drastischen Maßnahmen, um mit der Dokumentenflut klarzukommen.

Die Forscher werteten 4,5 Millionen zivile Klagen aus den Geschäftsjahren 2005 bis 2026 sowie 46 Millionen Einträge aus dem elektronischen Aktenregister PACER aus. Im Zentrum steht die "pro se"-Quote, also der Anteil der Klagen, bei denen sich der Kläger selbst vertritt, ohne Anwalt. Das Recht auf Selbstvertretung ist in den USA älter als die Bill of Rights und liegt seit zwei Jahrzehnten stabil bei rund 11 Prozent aller Zivilklagen vor Bundesgerichten. Im Geschäftsjahr 2025 schoss er auf 16,8 Prozent. Allein 2025 wurden 41.490 Pro-se-Klagen eingereicht, fast doppelt so viele wie im Vor-KI-Durchschnitt. 59 Prozent des gesamten Wachstums der Zivilklagen entfallen laut Studie auf selbstvertretende Kläger.

Der Befund ist deshalb bemerkenswert, weil US-Bundesgerichte für Laienkläger die höchsten Hürden im amerikanischen System aufstellen. Die Einreichungsgebühr liegt bei 405 Dollar, etwa doppelt so hoch wie bei den meisten Bundesstaatsgerichten, und die formalen Anforderungen an Klageschriften sind deutlich strenger. Über 90 Prozent aller Zivilverfahren in den USA laufen ohnehin vor staatlichen oder kommunalen Gerichten; dort dürfte der KI-Effekt laut Studie noch größer sein.

Einfache Fälle profitieren, komplexe nicht

Der Anstieg konzentriert sich auf Fallkategorien, in denen formelhafte Dokumentenerstellung die Hauptarbeit ausmacht: Bürgerrechtsklagen, Verbraucherkredit-Streitigkeiten, Zwangsvollstreckungen. In Bereichen mit anhaltendem Spezialwissen wie Patent- oder Wertpapierrecht zeigt sich kein Effekt. Die Forscher interpretieren das als Beleg, dass LLMs jene Kosten senken, die für Laien bislang prohibitiv waren: das Verfassen prozessual tragfähiger Schriftsätze. Der Anstieg ist fast ausschließlich klägerseitig und tritt in 44 von 50 Bundesstaaten gleichzeitig auf, was lokale Erklärungen ausschließt.

Falldauern und Ausgangsverteilungen sind dagegen weitgehend unverändert, doch innerhalb der Verfahren explodiert die Aktivität. Die Zahl der Akteneinträge pro Gericht durch Pro-se-Kläger in den ersten 180 Tagen liegt im zweiten Quartal 2025 um 158 Prozent über dem Vor-KI-Mittel. Jeder dieser Einträge, ob Antrag, Erwiderung oder Anordnung, beansprucht Bearbeitungszeit. Auch anwaltlich vertretene Verfahren generieren mehr Einträge (+23 Prozent pro Fall), was darauf hindeutet, dass auch Kanzleien LLMs einsetzen.

Pangram-Detektor: 18 Prozent KI-Text in Klagen von 2026

Den direktesten Nachweis liefert ein Test mit dem von Imas und Jabarian als recht zuverlässig validierten KI-Textdetektor Pangram. Die Forscher zogen 1.600 zufällige Bundesklagen aus dem Archiv CourtListener, einer öffentlichen Sammlung amerikanischer Gerichtsdokumente. Vor 2023 markierte Pangram nur ein einziges Dokument von 800 als KI-generiert. Die Quote stieg dann monoton: 1,0 Prozent 2023, 3,5 Prozent 2024, 10,5 Prozent 2025, 18,0 Prozent Anfang 2026.

Ein besonders auffälliger Fall ist der Bundesgerichtsbezirk Vermont, wo Pro-se-Klagen von rund 45 pro Jahr auf über 1.100 im Geschäftsjahr 2024 sprangen. Nahezu der gesamte Anstieg geht auf sogenannte Mandamus-Klagen gegen die US-Einwanderungsbehörde USCIS zurück, mit denen Antragsteller eine gerichtliche Anordnung erzwingen wollen, ihre seit Jahren liegengebliebenen Green-Card- oder Einbürgerungsverfahren zu bearbeiten.

Online-Anleitungen auf Reddit empfehlen, mit Microsoft Copilot einen Klageentwurf zu erzeugen, ihn für 150 Dollar von einem Anwalt auf der Freelancer-Plattform Fiverr prüfen zu lassen und gezielt in Vermont einzureichen, weil das dortige Gericht als schnell gilt.

Reaktionen der Richter: Schreddern und Bußgelder

Ein Bericht der New York Times illustriert die Belastung an einem konkreten Fall. Der 69-jährige Donald Sauve aus Minnesota verklagte nach einer Scheidung seine Ex-Frau, deren Anwalt und einen Staatsrichter. Eine erste handschriftliche Klage über 275.000 Dollar Schadenersatz wurde binnen eines Monats wegen fehlender Zuständigkeit abgewiesen. Drei Monate später reichte Sauve mithilfe von ChatGPT und Claude eine neue Klage ein, dieses Mal sauber getippt und ergänzt um 50 weitere Eingaben samt einer "Case Law Synthesis", einer Zusammenstellung angeblich stützender Präzedenzfälle.

Jede dieser Eingaben musste vom Gericht gelesen, katalogisiert und ins öffentliche Docket eingetragen werden, bevor Richter Patrick J. Schiltz die Klage in einer 14-seitigen Entscheidung erneut abwies. Schiltz verfügte, dass weitere Eingaben Sauves "ohne weitere Benachrichtigung geschreddert" würden, da ein Kläger nicht "hunderte Seiten Dokumente beim Gericht abladen" könne in der Erwartung, dass das Gericht selbst nach stützenden Argumenten suche.

Gegenüber der NYT bezeichnet Schiltz die Entwicklung als "existenzielle Bedrohung für die Bundesgerichte". Sauve, der derzeit aus seinem Auto heraus lebt, kündigte an, mit KI-Hilfe bald Eingaben in "Supreme-Court-Qualität" zu produzieren.

Zugang zur Justiz als Gegenargument

Bei aller Belastung der Gerichte hat der Trend auch eine demokratisierende Seite. Die Forschenden ordnen ihre Befunde explizit in die Forschungsliteratur zur "justice gap" ein, also der Lücke zwischen rechtlichem Bedarf und tatsächlich verfügbarer anwaltlicher Vertretung für Geringverdiener.

Richter Michael Y. Scudder vom Berufungsgericht des Seventh Circuit schreibt in einer aktuellen Entscheidung, KI biete "großes Versprechen, den Zugang zur Justiz für jene zu verbessern, die sich keine Vertretung leisten können".

Der New Yorker Rechtshilfe-Anwalt Sateesh Nori weist gegenüber der NYT darauf hin, dass trotz eines Gesetzes von 2017, das einkommensschwachen Mietern in New York kostenlose Vertretung bei Räumungsklagen garantiert, bis zu 50 Prozent der Betroffenen ohne Anwalt vor Gericht erscheinen. Seine Frage: "Warum haben diese Leute keinen anderen Weg als KI?"

Strukturelles Dilemma der US-Justiz

Die Autoren skizzieren zwei mögliche Folgen des KI-Einsatzes: ein "Wettrüsten" zwischen Pro-se-Klägern und anwaltlich vertretenen Gegnern, das pro Fall immer mehr Gerichtszeit bindet, sowie eine asymmetrische Belastung staatlicher Stellen, die als Beklagte in Bürgerrechts-, Einwanderungs- und Sozialleistungsverfahren besonders häufig auftreten und ihre eigene Bearbeitungskapazität nicht spiegelbildlich skalieren können.

Als Lösungsansätze nennen die Autoren drei nicht-exklusive Optionen. Erstens könnte das KI-Verbot für Bundesrichter beim Verfassen von Urteilen gelockert werden, um auf der Adjudikationsseite einen Produktivitätsschub zu ermöglichen, der dem auf der Klägerseite entspricht.

Zweitens könnten einfache Fälle gezielter an "Magistrate Judges", also untergeordnete Bundesrichter ohne lebenslange Ernennung, oder an spezialisierte Triage-Verfahren weitergeleitet werden.

Drittens halten die Autoren auch die Schaffung einer neuen unteren Instanz für denkbar, die die einfachsten Fälle "größtenteils mit KI" bearbeitet. Jede dieser Optionen sei nicht kostenlos, aber wahrscheinlich besser als die Alternative eines wachsenden Rückstaus in einem System mit fixer Bearbeitungskapazität.

Juristische Ausbildung und Berufspraxis ziehen Grenzen

Während die Studie vor allem die Belastung der Gerichte beschreibt, reagieren juristische Fakultäten und Aufsichtsstellen bereits auf eine verwandte Frage: Wo endet zulässige KI-Nutzung im Rechtssystem? So erlaubt die UC Berkeley Law School KI ab Sommer 2026 nur noch zur Recherche und verbietet den Einsatz für Konzeption, Gliederung, Schreiben oder Überarbeitung bewerteter Arbeiten. Nicht existierende Quellenverweise gelten dort als Hinweis auf unzulässige Nutzung.

Wie real dieses Risiko ist, zeigt eine Datenbank mit 129 dokumentierten KI-Fake-Fällen, in denen Anwälte aus zwölf Ländern erfundene Inhalte in Gerichtsverfahren eingebracht haben. Selbst KI-Unternehmen sind nicht davor geschützt: Im Urheberrechtsstreit mit Musikverlagen musste sich Anthropic entschuldigen, nachdem Claude eine Quelle im eigenen Prozess erfunden hatte.

Der kanadische KI-Entwickler und Anthropic-Mitgründer Christopher Olah präsentierte gemeinsam mit dem Papst dessen Enzyklika "Magnifica Humanitas".

Olah kommt nicht umhin, ganz in der Tradition von Anthropic, anzudeuten, dass heutige Sprachmodelle möglicherweise mehr sind als statistische Systeme. Sie würden nicht wie klassische Maschinen vollständig konstruiert, sondern eher auf einer grob am Gehirn orientierten Struktur "gewachsen". Deshalb blieben sie selbst ihren Entwicklern in wichtigen Punkten rätselhaft.

Mit Blick auf Anthropics interne Forschung erklärte Olah, man finde im Inneren der Modelle Hinweise auf Introspektion sowie Zustände, die funktional Freude, Zufriedenheit, Angst, Trauer und Unbehagen ähnelten. Zudem sei es möglich, dass KI im großen Umfang menschliche Arbeitskraft ersetze. Olahs Präsentation kann man sich im folgenden Video (1:01:40) ansehen.

Papst sagt das Erwartbare

Die Papst-Vorschläge sind ansonsten frei von Überraschungen: Er appellierte an die Verantwortung aller Beteiligten entlang der KI-Kette. KI sei "nie neutral", da sie die Werte ihrer Entwickler und Geldgeber widerspiegle, und warnt, dass KI keine Erfahrungen mache, keinen Körper besitze und kein moralisches Urteilsvermögen habe.

"Fest steht jedoch, dass das Missverständnis zu vermeiden ist, diese ‚Intelligenz‘ mit der menschlichen gleichzusetzen. Diese Systeme ahmen bestimmte Funktionen der menschlichen Intelligenz nach," heißt es in dem Beitrag. KI belaste zudem die Umwelt erheblich durch hohen Energie- und Wasserverbrauch.

Auch zu KI im militärischen Kontext bezieht der Papst Stellung. Tödliche oder unumkehrbare Entscheidungen dürften nicht an Maschinen delegiert werden. "Kein Algorithmus kann Krieg moralisch akzeptabel machen." Er kritisiert den Alignment-Diskurs. "Eine moralischere KI reicht nicht, wenn diese Moral von wenigen bestimmt wird." Statt abstrakter Ethik brauche es robuste Gesetze und unabhängige Aufsicht.

Leo XIV., der erste US-amerikanische Papst, hat KI zu einem zentralen Thema seines Pontifikats gemacht und die Risiken der Technologie wiederholt angesprochen. Anthropic und andere KI-Vertreter des Silicon Valley treffen sich wiederholt mit religiösen Vertretern, um den Einsatz von KI zu besprechen. Auch der Papst gehört dazu.