OpenWAI News

Für eine dreistellige Millionensumme sollen SAP und Telekom eine „KI-Cloud“ für die öffentliche Verwaltung bauen. Digitalminister Karsten Wildberger nennt das souverän. Unabhängig wird Deutschlands Verwaltung damit nicht, warnen Opposition und Fachleute.

Karsten Wildberger freut sich auf die KI-Cloud für die Verwaltung. (Symbolbild) – Alle Rechte vorbehalten: IMAGO / dts Nachrichtenagentur Für 250 Millionen Euro sollen deutsche Konzerne IT-Infrastruktur für die öffentliche Verwaltung aufbauen. Im Mittelpunkt steht eine „KI-Cloud“. Das sind Server, auf denen KI-Software laufen soll.

Damit setzt Digitalminister Karsten Wildberger (CDU) seinen KI-freundlichen Kurs fort. Zuletzt hatte er den Agentic AI Hub gestartet. Sogenannte KI-Agenten sollen Beamt*innen zum Beispiel dabei helfen, Dokumente auf Vollständigkeit zu prüfen. Im Gegensatz zu Sprachmodellen wie ChatGPT geben KI-Agenten nicht nur Antworten, sondern erfüllen Aufgaben mit digitalen Werkzeugen.

Die neue „KI-Cloud“ soll nun „zur zentralen Schaltstelle für die öffentliche Verwaltung werden“, erklärt das Digitalministerium. Zunächst soll die KI-Plattform KIPITZ dorthin umziehen. Die Cloud sei das „Rückgrat einer souveränen, digitalen und KI-fähigen Verwaltung“, sagt der Digitalminister. Die dafür veranschlagten 250 Millionen Euro will sein Ministerium an zwei Konsortien verteilen: 70 Prozent erhalten die Telekom-Tochter T‑Systems und SAP; weitere 30 Prozent ein Konsortium um den Wiesbadener IT-Dienstleister SVA .

Wie die Deutsche Presse-Agentur berichtet, sei der Auftrag „bewusst zweigeteilt“ worden, um die Abhängigkeit von nur einem Anbieter zu umgehen. Wildberger sprach von einer „Infrastruktur, die wir selbst kontrollieren“. Telekom-Chef Tim Höttges sagte: „Zusammen sorgen wir dafür, dass Deutschland und Europa die digitale Zukunft selbst in der Hand haben.“ Das soll unter anderem mit SAPs „Business AI Platform“ geschehen. SAP-Chef Christian Klein zeigte sich zufrieden, dass seine KI-Cloud „Teil des Deutschland-Stack s“ werden soll.

Bund zahlt hunderte Millionen für Lizenzen

SAP profitiert bereits in großem Stil von Steuergeldern: Allein im Haushaltsjahr 2025 überwies der Bund an das deutsche Softwareunternehmen 110 Millionen Euro für Lizenzen und weitere 71 Millionen Euro für Produkte und Dienstleistungen. Das zeigt die Antwort der Bundesregierung auf eine Schriftliche Frage von Sonja Lemke von der Linksfraktion, die netzpolitik.org vorliegt.

Zum Vergleich: Im selben Jahr hat der Bund 481 Millionen Euro für Microsoft-Lizenzen ausgegeben. Die Kosten sind im Vergleich zu den beiden Vorjahren stetig gestiegen: 2023 waren es noch rund 274 Millionen Euro, ein Jahr später bereits rund 348 Millionen.

Nicht nur Lizenzen großer US-Unternehmen sind „ein wahnsinniger Kostenfaktor“, kommentiert die Abgeordnete gegenüber netzpolitik.org.

Wir sind ein spendenfinanziertes Medium.

Unterstütze auch Du unsere Arbeit mit einer Spende.

Jetzt spenden

Warnung vor Lock-in-Effekt

Die Projekte aus dem Digitalministerium zeigen: Künftig könnte vermehrt Geld an deutsche oder europäische Konzerne fließen. Das entspricht dem Tenor aus dem Gipfel zur europäischen digitalen Souveränität im November: „ buy european “, kauft in Europa ein. Kritik daran gibt es von der Opposition und von Fachleuten. Sie warnen vor neuen Abhängigkeiten durch andere Konzerne.

So kritisiert Linken-Abgeordnete Lemke: US-Konzerne hätten kein Patent darauf, Kunden von sich abhängig zu machen. Sie warnt vor dem Lock-in-Effekt – also davor, dass die Verwaltung von einem einmal gewählten Anbieter nicht mehr loskommt. Dieser Effekt richtet sich nicht danach, wo ein Unternehmen sitzt, sondern danach, wie das IT-Produkt gestaltet ist. „Wer einmal SAP nutzt, kann die eigenen Daten nicht mehr einfach zu einem anderen Anbieter umziehen“, warnt Lemke.

Deshalb fordert sie ein Umdenken: „Digitalisierung muss endlich heißen, eigene Infrastrukturen aufzubauen.“ Dafür brauche es eigene Rechenzentren sowie eigene Betriebssysteme und Software, über die die öffentliche Hand selbst verfügen kann. Die Verwaltung brauche mehr IT-Kompetenz, um weniger von externen Beraterfirmen abhängig zu sein.

Ähnlich argumentiert die Free Software Foundation Europe. Mit Blick auf die Debatte um digitale Souveränität in Deutschland pocht der gemeinnützige Verein auf das Credo „Public Money, Public Code“.

Dahinter steht der Gedanke: Wenn Bürger*innen mit ihren Steuern eine Software zahlen, dann sollte sie allen gehören und öffentlich einsehbar sein. „Nur so lässt sich die strukturelle Abhängigkeit öffentlicher Verwaltungen von proprietärer Software und ihren Herstellern beenden und technologische Souveränität erreichen.“

Die Modelle des französischen KI-Unternehmens Mistral werden künftig über die Software-Plattform des US-Start-ups Harvey AI nutzbar sein. Das gab die Legal-AI-Plattform in einer Pressemitteilung bekannt. Zunächst werden die Mistral-Modelle Kunden in der Europäischen Union im Rahmen eines Early Access zur Verfügung gestellt. Ein breiterer Rollout soll in den kommenden Monaten erfolgen. Das in San Francisco ansässige Unternehmen Harvey AI wurde 2022 gegründet. Sein Hauptprodukt, die Software Harvey, bietet speziell für die Rechtsbranche zugeschnittene LLMs an. Durch die Partnerschaft erhält Mistral Zugang zu mehr als 1500 Kunden in 60 Ländern, die Harvey bereits in ihre Geschäftsprozesse integriert haben. KI für sensible Angelegenheiten Die Partnerschaft der beiden Unternehmen ist nicht neu. Bereits im Mai 2024 kündigte Harvey AI die Zusammenarbeit mit Mistral in einer Pressemitteilung an. Damals betonte das Unternehmen Mistrals Engagement für Transparenz, Effizienz und Anpassungsmöglichkeiten. Der Einsatz von generativer KI in stark regulierten Branchen erfordere ein Höchstmaß an Sicherheit und Transparenz, schrieb das Unternehmen auf seiner Website. Als klassischerweise textlastige Domäne bietet das Rechtswesen großes Potenzial für die Nutzung von KI. LLMs können Kanzleien und Institutionen der Justiz zum Beispiel dabei helfen, hunderte Seiten umfassende Prozessdokumente zu durchsuchen. Eine lukrative Branche Anwaltskanzleien setzen KI-Tools aber auch aus ökonomischen Gründen ein: Die Automatisierung von Aufgaben mittels KI verschafft Anwälten zusätzliche Zeit. So können sie mehr Fälle übernehmen.

Das Geschäftsfeld der Rechtsbranche ist bei den großen KI-Herstellern deshalb durchaus umkämpft. Erst kürzlich hatte Anthropic mehrere Plug-ins in seinen kostenpflichtigen KI-Agenten Claude Cowork integriert, die auf juristische Aufgaben spezialisiert sein sollen. Schattenseiten für die Justiz Dass künstliche Intelligenz vermehrt in der Rechtsbranche genutzt wird, hat derweil auch erhebliche Schattenseiten. Denn häufig wird generative KI eben nicht nur für die reine Dokumentanalyse genutzt. So haben Gerichte weltweit vermehrt mit Schriftsätzen zu kämpfen, die KI-Halluzinationen enthalten. Die KI-Tools zitieren dabei nicht existierende Gerichtsurteile, verfälschen Aussagen oder geben Urteile falsch wieder. Laut einer Online-Datenbank des Rechtswissenschaftlers Damien Charlotin von der Wirtschaftshochschule HEC Paris gab es Stand Ende Mai 2026 bereits knapp 1500 dokumentierte Gerichtsverfahren, in denen Personen wegen des Vorbringens von Dokumenten mit KI-Fehlern sanktioniert wurden. Charlotin zufolge habe die Menge der betroffenen Gerichtsverfahren seit vergangenem Jahr erheblich zugenommen. Auch in Deutschland gab es bereits erste Fälle. Anfang Mai rügte ein Berliner Kammergericht Anwälte wegen KI-Halluzinationen. Einige Gerichte in den USA haben bereits Kennzeichnungspflichten für mit KI bearbeitete Dokumente eingeführt. Experten betrachten diese aber als wenig praktikabel und zielführend. Da KI mittlerweile im standardmäßigen Funktionsumfang von Kanzleisoftware integriert ist, wäre nahezu jedes Dokument kennzeichnungspflichtig.

China verschärft die Kontrolle über KI-Talente: Wer an fortgeschrittener KI arbeitet und als strategisch wichtig für das Land eingestuft wird, muss Auslandsreisen künftig von den Behörden genehmigen lassen, berichtet Bloomberg. Zu den Betroffenen zählen demnach unter anderem Start-up-Gründer, Forscher und KI-Führungskräfte privater Firmen wie Alibaba und DeepSeek. Unklar ist laut dem Bericht bislang, wie weit die Maßnahmen innerhalb der Branche reichen, welche Positionen betroffen sind und welche weiteren Rollen noch darunterfallen könnten. Reisebeschränkungen für Personen in strategisch wichtigen Bereichen gab es bereits früher. Neu sei, dass die Regierung nun gezielt Talente aus der KI-Branche und Angestellte von Privatfirmen ins Visier nimmt. Zwar hätten einige KI-Ingenieure aus der Privatwirtschaft schon zuvor Auslandsreisen bei den Behörden melden müssen. Eine vorherige Genehmigung sei jedoch nicht zwingend erforderlich gewesen.

KI-Wettlauf: Vom Chipzugang zur Talentkontrolle Die Ausweitung der Reisebeschränkungen folgt auf den Streit um die KI-Firma Manus. China hatte die Übernahme des ursprünglich in China gegründeten und später nach Singapur verlegten KI-Start-ups durch Meta untersagt und die beteiligten Unternehmen aufgefordert, bereits unternommene Schritte rückgängig zu machen. Im Zuge der Prüfung durften Manus-CEO Xiao Hong und Chefforscher Ji Yichao das Land nicht verlassen. Der Fall zeigt, dass Peking KI-Kompetenz zunehmend als strategische Ressource behandelt. Im KI-Wettlauf mit den USA standen bislang vor allem KI-Chips und die dafür nötige Halbleitertechnik im Vordergrund. Die neuen Reiseauflagen erweitern diese Logik auf die Personen hinter diesen Technologien: Wer an KI arbeitet, wird selbst zum sicherheitspolitischen Faktor. Dass die Maßnahmen nun auch private Firmen treffen, macht den Eingriff für Chinas KI-Branche besonders heikel. Für China ist das ein Balanceakt. Einerseits sollen die Reiseauflagen verhindern, dass strategisch wichtiges Know-how ins Ausland abfließt. Andererseits könnten sie genau jene Fachkräfte abschrecken, die China im Wettbewerb mit den USA dringend braucht. Für KI-Talente, die international arbeiten und forschen wollen, könnten heimische Firmen an Attraktivität verlieren. Manche könnten sich zudem gedrängt sehen, schon früher ins Ausland zu gehen, um sich internationale Karrierewege offenzuhalten und staatlichen Eingriffen wie im Fall Manus zu entgehen.

Deutschlands Unternehmen hadern rund zehn Jahre nach Inkrafttreten mit den Vorgaben der europäischen Datenschutzgrundverordnung (DSGVO), wie aus einer Studie des Digitalverbands Bitkom hervorgeht. Zwar ist demnach der Datenschutz inzwischen in den meisten Betrieben fest verankert, gleichzeitig aber beklagen die Firmen Aufwand, Komplexität und Rechtsunsicherheit. Weitgehend oder vollständig umgesetzt sind die DSGVO-Vorgaben inzwischen in 71 Prozent der Betriebe. Anfang 2018, kurz vor Anwendbarkeit des 2016 in Kraft getretenen Regelwerks, hatten erst sieben Prozent der Unternehmen die Vorgaben größtenteils oder vollständig umgesetzt. Parallel dazu ist die wahrgenommene Belastung deutlich gestiegen: 2016 gaben 25 Prozent der Unternehmen an, die DSGVO mache Geschäftsprozesse komplizierter – 2025 sind es 81 Prozent. 97 Prozent bewerten auch den Aufwand für Datenschutz inzwischen als hoch, davon 44 Prozent als sehr hoch. Der Anteil der Unternehmen, die der Auffassung sind, Deutschland übertreibe es mit dem Datenschutz, hat sich von 40 Prozent (2020) auf 72 Prozent (2025) nahezu verdoppelt. Zudem wächst auch die Rechtsunsicherheit über die genauen Datenschutzvorgaben: 82 Prozent der Unternehmen nennen das 2025 als eine der größten Herausforderungen, 2017 waren es 35 Prozent. Grundlage der Zahlen ist eine seit 2016 jährlich durchgeführte Befragung von Unternehmen ab 20 Beschäftigten durch Bitkom Research, zuletzt mit 603 Teilnehmern aus allen Branchen. Laut Bitkom sind die Ergebnisse repräsentativ. KI-Bremse DSGVO? Besondere Spannungen sieht der Branchenverband im Zusammenspiel von Datenschutz und Künstlicher Intelligenz. So betrachten zwar 59 Prozent der Unternehmen den europäischen Datenschutz im internationalen Vergleich grundsätzlich als Vorteil für die KI-Entwicklung. In der Praxis erweist sich dies jedoch als Hindernis: 69 Prozent geben an, der Datenschutz erschwere das Training von KI-Modellen mit ausreichenden Daten – 2023 waren es noch 42 Prozent. Zudem sind 63 Prozent überzeugt, dass der Datenschutz KI-Unternehmen aus der EU verdrängt. 59 Prozent geben an, dass Projekte zum Aufbau von Datenpools an Datenschutzvorgaben gescheitert oder gar nicht erst begonnen worden seien (2020: 41 Prozent). Auch das Problem der internationalen Datentransfers sehen die Firmen als ungelöst: Rund 61 Prozent der Unternehmen übermittelten 2025 personenbezogene Daten in die USA – mit Abstand das wichtigste Drittland für Datentransfers außerhalb der EU. 71 Prozent wünschen sich von der Politik tragfähige Lösungen für den internationalen Datentransfer (2021: 32 Prozent).

„Datenschutz ist keine lästige Pflicht, er ist eine zentrale Säule der digitalen Welt“, betonte Bitkom-Präsident Ralf Wintergerst. Allerdings hält er eine Reform der DSGVO für nötig: Die Erwartungen an einheitlichere Wettbewerbsbedingungen, mehr Rechtssicherheit und weniger Bürokratie hätten sich jedoch nicht erfüllt. Der auf europäischer Ebene geplante „Digitalomnibus“ biete dafür eine Chance. Allerdings gab es bei den derzeit laufenden Trilog-Verhandlungen dazu noch keine Einigung.

Der Stuttgarter Autobauer Mercedes-Benz will seine autonome Fahrassistenz MB.Drive Assist Pro ab Ende 2026 in ersten deutschen Städten für einige Fahrzeugmodelle verfügbar machen. Das System bietet eine autonome Tür-zu-Tür-Navigation auf Basis des SAE-Levels 2++. Anfang 2027 soll es „deutschlandweit ausgerollt werden“. In enger Abstimmung mit dem Bundesverkehrsministerium Mercedes' teilautonome Fahrassistenz MB.Drive Assist Pro ist zuerst auf der IAA 2025 angekündigt worden und konnte Anfang dieses Jahres von heise Autos in einem Mercedes CLA ausprobiert werden. Das System basiert auf dem SAE-Level 2++, bei dem das Fahrzeug selbst lenken kann, aber der Fahrer immer in der Verantwortung bleibt und jederzeit wieder übernehmen können muss. Die Fahrerin oder der Fahrer darf während der Fahrt zeitweilig die Hände vom Lenkrad nehmen, jedoch nie die Augen von der Straße abwenden – daher spricht man bei diesem Grad der Automation auch von „hands-off, eyes-on“. Dieser Automatisierungsgrad ist bis Ende dieses Jahres zunächst in Innenstädten erlaubt, wie der Mercedes-Entwicklungsvorstand Jörg Burzer in einem LinkedIn-Beitrag nach einem Termin mit Verkehrsminister Patrick Schnieder (CDU) schreibt. Die ersten Städte werden laut dem Handelsblatt Stuttgart und München sein. „Damit bringen wir diese Technologie neben China und den USA nun auch auf unseren Heimatmarkt“, teilte Burzer mit. Dabei erfolgt die Einführung des Systems „in enger Abstimmung mit dem Bundesverkehrsministerium“. Deutschland ist dabei nicht das erste Land, in dem MB.Drive Assist Pro verfügbar sein wird: Denn in China bietet Mercedes das teilautomatisierte Fahren schon seit Herbst 2025 an. Dafür kooperiert das Unternehmen mit der chinesischen KI- und Softwarefirma Momenta. In den USA und auch für den hiesigen Markt setzt Mercedes auf den US-Konzern Nvidia als Partner. Das System setze hardwareseitig auf etwa 30 Sensoren, darunter zehn Kameras, fünf Radarsensoren und zwölf Ultraschallsensoren, erklärt Mercedes.

Laut Mercedes-Benz soll das Level-2++-System „Fahrassistenz und Navigation zu einem neuen, sicheren Fahrerlebnis“ verschmelzen. So lasse sich das Fahrzeug auf Knopfdruck „mit fortschrittlicher SAE-Level-2-Unterstützung durch die Stadt navigieren – vom Parkplatz bis zum Ziel“. Mithilfe eines kooperativen Lenkansatzes seien zudem Lenkanpassungen jederzeit möglich, ohne das System zu deaktivieren, erklärt das Unternehmen. Günstiger als Level 3 oder 4 Dass Mercedes künftig verstärkt auf Level 2 setzt – das bestätige der Konzern im Zuge der Ankündigung der überarbeiteten S-Klasse Anfang dieses Jahres – hat dem Unternehmen zufolge unter anderem wirtschaftliche Gründe. Denn nur wenige Kunden sind bereit, für die recht übersichtlichen Fähigkeiten dieses autonomen Levels mehrere Tausend Euro zusätzlich zu investieren. Unter anderem kann Mercedes den Einsatz teurer Lidar-Sensoren sparen. Durch weniger technischen Aufwand im Fahrzeug bei Level 2 gehen geringere Kosten einher. Mercedes geht damit einerseits von einer größeren Verbreitung aus, andererseits eröffnet es dem Hersteller die Möglichkeit, aus gesammelten Daten zu lernen. Davon profitieren dann auch Systeme, die versprechen, in bestimmten Situationen allein klarzukommen. Denn Mercedes stampft Level 3 und 4 nicht komplett ein. Jedoch lässt Mercedes offen, wann vollautonomes Fahren hierzulande Einzug halten könnte. In Abu Dhabi, der Hauptstadt der Vereinigten Arabischen Emirate (VAE), lässt Mercedes derweil die S-Klasse als Robotaxi mit Momenta-Software fahren. Das MB.Drive Assist Pro-System kommt jedoch nicht in allen Fahrzeugen zum Einsatz, zudem lässt es sich nicht einfach per Softwareupdate nachrüsten. So soll das Einstiegsmodell CLA das System nicht unterstützen, da Mercedes die Hardware laut Handelsblatt in Deutschland bislang nicht verbaut. In den teureren Modellen wie dem GLC und der S-Klasse seien die Sensoren standardmäßig an Bord. Neben Mercedes-Benz hat übrigens auch BMW seinen Fokus von Level 3 auf Level 2 verschoben.

China schränkt Auslandsreisen für führende KI-Fachleute bei privaten Unternehmen wie Alibaba und Deepseek ein. Laut Bloomberg News haben Regierungsbehörden damit begonnen, Personen mit Reisebeschränkungen zu belegen, die an fortgeschrittener KI-Arbeit beteiligt sind und als strategisch wichtig für das Land gelten. Die Betroffenen müssen vor Auslandsreisen eine Genehmigung der zuständigen Behörden einholen, wie mit der Angelegenheit vertraute Personen berichten.

Bereits im März 2025 hatte Peking angeblich KI‑Führungskräften von USA‑Reisen "abgeraten". Hintergrund sind Sorgen vor Datenlecks, Technologieverlust und Abwerbung.

Die Maßnahmen sind Teil eines breiteren Trends: China versucht, seine KI-Industrie, Soft- und Hardware, abzuschirmen und gleichzeitig unabhängiger zu werden. Laut einem IDC-Bericht halten etwa chinesische Chiphersteller inzwischen 41 Prozent des heimischen Marktes für KI-Beschleuniger. Auch Metas Übernahme des Agenten-Startups Manus AI machte die Regierung wieder rückgängig. China und die USA liefern sich seit Jahren einen technologischen Wettlauf um die Führungsrolle bei Künstlicher Intelligenz.

Im Kampf gegen die nicht genehmigte Nutzung von Inhalten für das Training von KI-Modellen gerät das Internet Archive immer mehr zwischen die Fronten und die Wayback Machine droht zum Kollateralschaden zu werden. Das legt eine Analyse des Nieman Journalism Lab an der Harvard University nahe, laut der immer mehr Nachrichtenseiten Crawler der Archivseite aussperren. Demnach schränken inzwischen mehr als 340 lokale Nachrichtenseiten „den Zugriff des Internet Archive auf ihre Artikel sowie deren Archivierung“ ein, aber auch überregionale und internationale Medien wie die New York Times beteiligen sich demnach. Europäische Medien finden sich ebenfalls auf der Liste, derzeit aber noch keine aus Deutschland. Zahl der Blockierer wächst rasant Für die Analyse haben ein Autor und eine Autorin des Nieman Lab eine umfangreiche Datenbank von robots.txt-Dateien ausgewertet, die von Nachrichtenseiten in aller Welt stammen. Wenn darin eine oder mehrere Crawler ausgesperrt wurden, die vom Internet Archive stammen oder zu stammen scheinen, haben sie sie aufgenommen. Demnach wird der Archivierungsdienst hauptsächlich von Regionalzeitungen blockiert, die zu einem von fünf großen US-Medienhäusern gehören. Allein zwischen Januar und Mai ist die Zahl der Seiten, die die Wayback Machine aussperren, demnach um mehr als 50 Prozent gestiegen. Insgesamt sind es in der Stichprobe jetzt 382, bei der übergroßen Mehrheit handelt es sich um Lokal- und Regionalzeitungen. Im Januar haben die Autoren Stimmen großer Medien zusammengetragen, in denen die Aussperrung des Internet Archive mit dem Versuch begründet wurde, die eigenen Inhalte KI-Modellen vorzuenthalten. Seit Monaten wird kritisiert, dass KI-Unternehmen alle möglichen Inhalte im Internet für das Training akquirieren und sich dabei auch nicht an Gepflogenheiten wie die robots.txt halten. Damit können Seitenbetreiber KI-Modelle eigentlich aussperren, dazu müssten sich die KI-Firmen aber daran halten. Das tun sie aber nicht. Aber selbst wenn sie das tun würden, wäre der Weg über die archivierten Inhalte bei der Wayback Machine aber ein Umweg, den immer mehr Verantwortliche nun verschließen wollen. Das hat zum Beispiel auch schon Reddit gemacht.

Die Wayback Machine ist zwar nur einer der Dienste des Internet Archive, aber wohl der bekannteste. Darin werden seit Jahrzehnten Internetseiten archiviert. Die Seite ist längst zur mit Abstand umfangreichsten Quelle geworden, in der sich die Entwicklung des Internets nachverfolgen lässt. Das Vorgehen war aber schon immer mit Konflikten verbunden, denn immer wieder sind dabei gegenläufige Interessen aufeinandergetroffen. Schon 2017 hatte das Internet Archive beispielsweise erklärt, Vorgaben in der robots.txt nicht mehr ausnahmslos befolgen zu wollen. Im Fall der jüngsten Aussperrungen scheint das aber der Fall zu sein, wie man etwa für die Seiten von El País oder Le Monde sehen kann.

Am verlängerten Pfingstwochenende dreht sich vieles um Künstliche Intelligenz (KI). Den Papst treibt das Thema schon länger um. In seiner ersten Enzyklika, eine Art päpstlicher Regierungserklärung, fordert Leo XIV. nun strenge internationale Richtlinien für den Umgang mit KI. US-Präsident Donald Trump dagegen vertagt bis auf Weiteres eine neue Verordnung, die der US-Regierung die Prüfung neuer KI-Modelle vor deren Veröffentlichung ermöglicht hätte. Trump begründete seinen Schritt mit einem Verweis auf China. Und die Kryptowährungsplattform Tether wird in Georgien zusammen mit der dortigen Regierung einen offiziellen Stablecoin einführen – die wichtigsten Meldungen im kurzen Überblick.

Die erste Enzyklika des vor gut einem Jahr ins Amt gekommenen Papstes Leo XIV. ist mit Spannung erwartet worden. Das jetzt erschienene 100 Seiten lange „Rundschreiben“ – so die wörtliche Bedeutung – mit dem Titel „Magnifica Humanitas“ (Großartige Menschheit) gilt vielen Gläubigen als eine Art Regierungserklärung für Leos Pontifikat. In der Enzyklika, die den Untertitel „Über die Bewahrung des Menschen im Zeitalter der Künstlichen Intelligenz“ trägt, betont der Papst, dass KI vielfach eine „wertvolle Hilfe“ sein könne, warnt jedoch zugleich vor deren Risiken und fordert strenge internationale Richtlinien für den Umgang mit Künstlicher Intelligenz (KI). Erste Enzyklika von Papst Leo XIV. thematisiert Künstliche Intelligenz In die entgegengesetzte Richtung bewegt sich allerdings US-Präsident Donald Trump. Nachdem das US-amerikanische KI-Unternehmen Anthropic von einer Veröffentlichung seines KI-Modell Claude Mythos Abstand genommen hatte, weil es dieses als zu gefährlich einstufte, um es der Allgemeinheit zugänglich zu machen, kamen in der US-Regierung Überlegungen auf, eine KI-Verordnung zu erlassen. Diese sollte es US-Bundesbehörden ermöglichen, neue KI-Modelle vor ihrer Veröffentlichung auf mögliche Cybersicherheitsrisiken unter die Lupe zu nehmen. Doch nun legte Trump die Unterzeichnung der neuen Verordnung vorerst auf Eis. Er glaube, die neue Verordnung könne der weltweiten Spitzenposition der USA in der KI-Entwicklung in die Quere kommen, begründete Trump den plötzlichen Kursschwenk in letzter Minute und verwies auf den Vorsprung vor China auf dem Gebiet. Trump stoppt wichtige Verordnung für KI-Modelle Die US-Kryptowährungsplattform Tether emittiert mit dem USD₮ den weltweit größten Stablecoin. Nach eigenen Angaben hat dieser an den US-Dollar gekoppelte Kryptotoken heute eine Marktkapitalisierung von fast 190 Milliarden US-Dollar und sein tägliches Handelsvolumen übertrifft regelmäßig Zahlungsnetzwerke wie Visa und Mastercard. Gesichert ist der USD₮ durch Bargeld, Schuldverschreibungen, Unternehmensanleihen und andere Vermögenswerte in US-Dollar. Zuletzt war Tether auf großer Gold-Einkaufstour und sorgte damit für einiges Aufsehen. Nun wartet das Unternehmen mit einem ungewöhnlichen Projekt auf: Zusammen mit der Regierung Georgiens wird Tether einen offiziellen, an die Landeswährung Lari gekoppelten Stablecoin lancieren. Tether: Offizieller Stablecoin in Georgien vor der Einführung Bereits im Jahr 2014 startete Facebook eine eigenständige Gruppen-App, stellte diese aber nur drei Jahre wieder ein. Jetzt unternimmt der Facebook-Mutterkonzern Meta einen zweiten Anlauf – dieses Mal mit deutlich mehr KI. Ohne großes Aufsehen wurde eine neue App für iOS veröffentlicht, die Facebook-Gruppen in den Mittelpunkt stellt. Die Anwendung namens „Forum“ richtet sich an Nutzer, die tiefere Diskussionen und Frage-Antwort-Formate suchen. Das Konzept erinnert stark an Reddit – inklusive KI und Pseudonymen. Meta testet Reddit-Konkurrenz: Neue App „Forum“ für Facebook-Gruppen Der Sportwagenhersteller Porsche steckt in der Krise. Der Stuttgarter Autobauer kämpft mit rückläufigen Geschäften in China und Nordamerika, schwachen Verkäufen von Elektroautos sowie hohen Produktionskosten. Die Gewinnmarge des Konzerns schrumpfte im vergangenen Jahr auf einen mageren Prozentpunkt – verglichen mit 18 Prozent vor drei Jahren. Auch im ersten Quartal des laufenden Jahres verzeichnete Porsche deutliche Rückgänge bei Umsatz, Absatz und Gewinn. Werke wie Zuffenhausen oder Leipzig haben Überkapazitäten. Die Gemengelage zwingt zum Kurswechsel. Management, Strategie und Belegschaft – alles steht zur Disposition. Porsche-Chef Leiters plant umfassenden Konzernumbau Auch noch wichtig: - Vodafone hat ein neues Verfahren aktiviert, das Uploads deutlich beschleunigen soll. Das können bisher aber nur einige Kunden mit Xiaomi-Geräten testen. Bessere Upload-Geschwindigkeit: Vodafone aktiviert neues Verfahren - Der Netzbetreiber SH Netz plant in Schleswig-Holstein bis 2030 Investitionen von über 2,6 Milliarden Euro, um die Stromnetze für erneuerbare Energien und neue Verbraucher zu stärken. Stromnetze für die Energiewende: Milliardeninvestitionen in Schleswig-Holstein - Im Interview sprechen Googles Genie-Forscher über Echtzeit-Simulation, die Integration von Street View und warum Roboter ein Weltmodell benötigen. Wie 2021 bei LLMs: Google-Forscher über die Zukunft der Weltmodelle - Der Riesenrakete Starship konnte abheben und zur Erde zurückkehren. Doch trotz des gelungenen Tests lief mit dem Antrieb nicht alles rund. Testflug von Starship V3 erfolgreich - Der Musikriese Universal Music setzt eine weitreichende Lizenzvereinbarung durch, um die Verbreitung unlizenzierter KI-generierter Songs auf TikTok einzudämmen. Musik-Business: Universal schließt Tech-Pakt mit TikTok gegen unautorisierte KI - Als Brücke zwischen Telefonie und Internet eingeführt, steht E.164 Number Mapping (ENUM) nun vor einer ungewissen Zukunft. Deutsche und niederländische Betreiber wehren sich gegen das Vorgehen. Streit über Zukunft von ENUM-Telefon-Domains - Die Digitalisierung der Justiz schreitet voran. Automatisierte KI-Software zur Urteilsanonymisierung läuft im Echtbetrieb, doch die finale Entscheidung im Gerichtssaal muss zwingend ein Mensch fällen. Künstliche Intelligenz bei Gericht: Wie die Justiz digital aufrüstet - Die Öffentlichkeitsfahndung wird zunehmend für Bagatellfälle genutzt. Experten warnen vor unverhältnismäßigen Grundrechtseingriffen und fordern eine Reform. Digitale Rasterfahndung: Wenn Bilder im Netz Leben zerstören - Was passiert, wenn NPCs nicht mehr nur Textbausteine abspulen, sondern Spieler in dynamische Gespräche verwickeln? „Fabula Rasa“ liefert eine erste Antwort. „Fabula Rasa“ ist ein faszinierender Ausblick auf KI-gestütztes Storytelling - Die IT-Branche zeigt ein robusteres Einstellungsverhalten, doch HR-Trends verschieben sich. Mitarbeiterbindung verliert an Fokus. IT-Branche: HR-Trends verschieben sich - Der berühmteste Geheimagent der Welt hat im Laufe der letzten 40 Jahre viele interaktive Abenteuer durchlebt. Wir präsentieren fünf der besten davon. Leben und spielen lassen: Die fünf besten „James Bond“-Games

Papst Leo XIV. hat in seiner ersten eigenen Enzyklika strenge internationale Richtlinien für den Umgang mit Künstlicher Intelligenz (KI) verlangt. Nach einem Jahr im Amt warnte das Oberhaupt von weltweit 1,4 Milliarden Katholiken vor zahlreichen Gefahren, die die neue revolutionäre Technologie für das menschliche Zusammenleben bedeute. Er sieht aber auch Chancen. Die mehr als 100 Seiten lange Abhandlung heißt „Magnifica Humanitas“ (Großartige Menschheit). Das erste Lehrschreiben in der Amtszeit eines neuen Papstes gilt vielfach als eine Art Regierungserklärung für dessen Pontifikat und wurde bereits mit Spannung erwartet. Solche „Rundschreiben“ – so die wörtliche Bedeutung – sollen Gläubigen in aller Welt einen moralischen Kompass geben. Als Nachfolger des verstorbenen Papstes Franziskus ist Leo seit Mai vergangenen Jahres im Amt. Er ist der erste US-Amerikaner an der Spitze der katholischen Weltkirche. „Über die Bewahrung des Menschen im Zeitalter der KI“ Der Titel der Enzyklika kann zwei Sachen bedeuten: Humanitas lässt sich sowohl mit Menschheit als auch mit Menschlichkeit übersetzen – für Leo der große Unterschied zu KI und Maschinen. Die Unterzeile lautet: „Über die Bewahrung des Menschen im Zeitalter der Künstlichen Intelligenz“. In dem Text geht es auch um Themen wie Krieg und Frieden sowie die Arbeitswelt.

Leo betont, dass KI vielfach eine „wertvolle Hilfe“ sein könne. Vor allem warnt er jedoch vor deren Risiken – beispielsweise, dass nur wenige Mächtige mit jetzt schon viel Besitz davon profitieren. „Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse bestimmen und die wirtschaftliche Dynamik beeinflussen.“ Kritik an Tech-Milliardären aus den USA Deshalb sei es „unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird“. Leo schlägt einen „Ethik-Kodex“ vor. Auch der Umgang mit Nutzerdaten müsse geregelt werden. Allerdings nütze auch das nichts, „wenn diese Moral von einigen wenigen bestimmt wird“. Vielfach wird das als Kritik an Tech-Milliardären aus den USA verstanden. Besonders kritisch äußerte sich der Pontifex über die Auswirkungen von Künstlicher Intelligenz auf Konflikte. Mit KI-gestützten autonomen Waffensystemen seien Kriege „durchführbarer“ gemacht worden, heißt es in dem Schreiben. Die KI müsse „entwaffnet“ werden. Keinesfalls dürften Maschinen allein über Leben und Tod entscheiden. „Bleiben wir der Wahrheit treu“ Bei der Vorstellung der Enzyklika im Vatikan war Leo selbst dabei – ein Novum für die Kirche. In einer kurzen Stellungnahme mahnte er, angesichts der rasanten Entwicklung wachsam zu sein. Anwesend war auch der Mitgründer des KI-Konzerns Anthropic, der Tech-Milliardär Chris Olah. Das Unternehmen liegt im Streit mit US-Präsident Donald Trump, weil es seine KI-Modelle nicht für autonome Waffensysteme zur Verfügung stellen will. Trump hatte sowohl Anthropic als auch den Papst zuletzt mehrfach kritisiert. In dem Schreiben warnte Leo auch davor, auf KI-Lügen und -Fälschungen hereinzufallen: „Bleiben wir der Wahrheit treu!“ Bei den „unaufhörlichen Flüssen von Informationen, Meinungen und Bildern“ würden viele Fake News verbreitet. Zum Beispiel hatte Trump auf dem Höhepunkt seines Streits mit dem Papst ein KI-generiertes Bild veröffentlicht, das ihn selbst als Jesus zeigte. Erwähnt wird der US-Präsident in der Enzyklika nicht. Leo entschuldigt sich für Rolle der Kirche in Sklaverei Leo warnte auch vor negativen Einflüssen auf die Arbeitswelt. Er spricht von „neuen Formen der Sklaverei“ – beispielsweise in Rechenzentren oder bei der Herstellung von Mikrochips beziehungsweise Smartphones. In diesem Zusammenhang ging er auch darauf ein, dass seine Kirche Sklaverei erst nach Jahrhunderten verurteilte. „Dafür bitte ich im Namen der Kirche aufrichtig um Vergebung.“ Die Enzyklika trägt das Datum 15. Mai. An diesem Tag war es 135 Jahre her, dass sein Namensvorgänger Leo XIII. seine Enzyklika „Rerum novarum“ („Über die neuen Dinge“) veröffentlichte. Damit legte der „Arbeiterpapst“ die Grundlagen für die katholische Soziallehre. Manche Experten bezeichnen das neue Schreiben jetzt schon als „KI-Sozialenzyklika“. Noch viele Enzykliken von Leo erwartet Solche Lehrschreiben gibt es seit dem 18. Jahrhundert. Benannt sind sie in der Regel nach ihren ersten zwei oder drei Wörtern. „Magnifica Humanitas“ beginnt mit dem Satz: „Die großartige Menschheit, geschaffen von Gott, steht heute vor einer entscheidenden Wahl: Entweder errichtet sie einen neuen Turm zu Babel oder sie erbaut die Stadt, in der Gott und die Menschheit gemeinsam wohnen.“ Das biblische Gleichnis vom Turmbau zu Babel gilt als Sinnbild für menschlichen Hochmut und Größenwahn. Leo XIII. veröffentlichte mehr als 90 Enzykliken. Auf ihn beruft sich der Pontifex aus den USA immer wieder. Viele erwarten deshalb, dass er ebenfalls viele solche Lehrschreiben verfassen wird – auch, weil Leo mit seinen heute 70 Jahren verhältnismäßig jung ist. Papst Franziskus brachte vier Enzykliken heraus. [Update: Diese Meldung wurde am 25.05. um 14:30 Uhr nach Erscheinen einer ausführlicheren dpa um mehrere Absätze ergänzt.]

Wer einen Chatbot einsetzt, Inhalte per KI erzeugt oder Bewerbungen automatisiert vorsortieren lässt, sollte den 2. August 2026 im Blick haben. Ab dann greifen die Transparenzpflichten (Artikel 50) des EU AI Act. Für Chatbots und KI-generierte Inhalte müssen Unternehmen offenlegen, dass KI im Spiel ist. Für automatisierte Bewerbungsfilter können die strengeren Anforderungen an Hochrisiko-KI-Systeme greifen, mit Pflichten zu Risikomanagement, technischer Dokumentation und menschlicher Aufsicht (Anhang III).

Warum die Einordnung schwierig ist

Unternehmen müssen ihre KI-Anwendungen richtig klassifizieren. Wer nur ein Übersetzungstool nutzt, hat andere Pflichten als ein Personaldienstleister mit automatisierter Vorauswahl. Gleichzeitig diskutiert die EU-Kommission im Rahmen der digitalen Omnibus-Verordnung, einem Gesetzespaket zur Vereinfachung bestehender Digitalregulierung, über mögliche Fristverlängerungen. Die Planung erfordert deshalb eine laufende Beobachtung des Rechtsrahmens.

Was das Webinar bietet

Am 2. Juni 2026 um 16 Uhr ordnen Joerg Heidrich und Kim M. Scheurenbrand den aktuellen Stand ein. Heidrich ist Fachanwalt für IT-Recht und Justiziar bei Heise Medien, Scheurenbrand KI-Manager bei DEEP CONTENT by heise. Das einstündige Webinar klärt, welche Pflichten relevant werden, wo der größte Handlungsbedarf liegt und liefert erste Ansatzpunkte für die Umsetzung.

Die KI PRO Webinare richten sich an alle, die KI im Unternehmen produktiv einsetzen wollen und praxisnahe Orientierung benötigen. Fachliche Vorkenntnisse sind für die Teilnahme nicht erforderlich. Am Ende werden ausgewählte Fragen der Teilnehmenden beantwortet.

Jetzt anmelden und Webinar-Platz im KI Pro Webinar sichern!

(Kim M. Scheurenbrand)

Nach einem Jahr im Amt veröffentlicht Papst Leo XIV. an diesem Montag (11.30 Uhr) seine erste Enzyklika. In dem mehr als 100 Seiten langen Lehrschreiben mit dem Titel „Magnifica Humanitas“ (Großartige Menschheit) geht es um das Thema Künstliche Intelligenz. Die erste Enzyklika in der Amtszeit eines neuen Papstes gilt vielfach als eine Art Regierungserklärung für dessen Pontifikat. Leo ist seit Mai vergangenen Jahres das Oberhaupt von weltweit 1,4 Milliarden Katholiken. Bei der Vorstellung im Vatikan wird der Papst selbst dabei sein – das gab es nach Angaben der katholischen Kirche noch nie. Der erste Pontifex aus den USA hatte sich in den vergangenen Monaten mehrfach schon zum Thema KI geäußert – sowohl zu Chancen als auch zu Risiken. Die Enzyklika wird vom Vatikan bislang jedoch strikt unter Verschluss gehalten. Leo XIV. nimmt Bezug auf Sozialenzyklika seines Namensvetters

Bei dem Termin wird neben hochrangigen Kardinälen und Theologen auch der Mitgründer des KI-Konzerns Anthropic, Chris Olah, anwesend sein – auch das ein Novum bei der Vorstellung einer Enzyklika. Das Unternehmen mit Sitz in San Francisco liegt im Streit mit der US-Regierung unter Präsident Donald Trump, weil es seine KI-Modelle nicht in autonomen Waffensystemen und zur Überwachung der Zivilbevölkerung zur Verfügung stellen will. Trump hatte sowohl Anthropic als auch den Papst zuletzt mehrfach kritisiert. Die Enzyklika trägt das Datum 15. Mai. An diesem Tag war es genau 135 Jahre her, dass Leos Namensvetter Leo XIII. seine Enzyklika „Rerum novarum“ („Über die neuen Dinge“) veröffentlichte. Damit legte der „Arbeiterpapst“ die Grundlagen für die katholische Soziallehre infolge der industriellen Revolution. In einer Zeit, in der viele von einer „KI-Revolution“ sprechen, nimmt Leo XIV. darauf Bezug. Thema wird auch sein, ob KI-gestützte Maschinen in Kriegen und Konflikten allein über Leben und Tod entscheiden dürfen.

Die Digitalisierung der Justiz nimmt Fahrt auf. Doch beim Thema Künstliche Intelligenz klaffen Erwartungshaltung und statistische Gewissheit auseinander. In Justizkreisen wird vermehrt moniert, dass algorithmische Textgeneratoren die Gerichte mit automatisierten Schriftsätzen fluten. Der Bundesregierung fehlen dafür aber Belege. In ihrer Antwort auf eine Anfrage der AfD-Fraktion erklärt sie, ihr lägen keine konkreten Erkenntnisse über eine aktuelle Zunahme von KI-generierten Anträgen vor. Systematische Erhebungen oder belastbare Zahlen dazu existierten nicht.

Es sei bekannt, dass KI-Systeme im juristischen Alltag auch zur Formulierung von Schriftsätzen herangezogen würden, schreibt das federführende Bundesjustizministerium. Dabei handele es sich aber nicht um eine völlig neue Entwicklung.

Parallel treibt der Staat den Einsatz von KI auf der anderen Seite des Richtertisches voran. In der deutschen Justizlandschaft existieren zahlreiche Vorhaben, bei denen Algorithmen erprobt oder punktuell schon in den Echtbetrieb überführt wurden. Ziel ist es laut der Auskunft, die Justiz bei der Bewältigung ihrer Verfahrensberge zu entlasten und Prozesse zu optimieren. Der Fokus liege auf der Automatisierung gleichförmiger, standardisierter Arbeitsschritte. Dazu gehörten vor allem die automatisierte Anonymisierung von Urteilen, die Strukturierung von Verfahrensunterlagen sowie die Auswertung und Extraktion relevanter Daten.

Praxistest in den Bundesländern

Wie das in der Praxis aussieht, zeigen diverse Länderprojekte. Unter den Namen „Aleks“ in Niedersachsen und Bayern sowie „Jano“ in Hessen und Baden-Württemberg laufen einschlägige KI-Anwendungen zur Anonymisierung. Letztere ist im Dezember in der Zivilgerichtsbarkeit in den Regelbetrieb gegangen.

Die bisherigen Erfahrungen sollen positiv sein, da die Algorithmen bei Routineaufgaben bereits höhere Trefferquoten erzielten als die manuelle Bearbeitung. Ein weiteres Exempel ist das niedersächsische Vorhaben „Maki“. Es ist darauf ausgerichtet, den Umgang mit Massenverfahren zu erleichtern und die juristische Analyse von Akten und Schriftsätzen zu unterstützen.

Dass die Sorgen vor ungeprüften KI-Inhalten im Rechtsverkehr nicht unbegründet sind, zeigt ein aktueller Fall. Erfundene Aktenzeichen und frei halluzinierte Urteile in Rechtsmittelschriftsätzen sorgten für Ärger. Berliner Richter sahen sich daher gezwungen, die Anwaltschaft zu rügen.

Europäische Leitplanken

Der Bundesregierung sind die mit KI-gestützten Entscheidungen verbundenen Risiken bewusst. Sie warnt vor Verzerrungen durch fehlerhafte oder unvollständige Daten, algorithmischen Blendwerken und der menschlichen Neigung, automatisierten Vorschlägen blind zu vertrauen. Auch mangelnde Nachvollziehbarkeit und Manipulationsanfälligkeit seien ein Thema. Um diesen Gefahren zu begegnen, griffen regulatorische Leitplanken.

Der Einsatz von KI in gerichtlichen und staatsanwaltschaftlichen Verfahren richte sich maßgeblich nach der KI-Verordnung der EU, heißt es aus dem Justizressort. Diese stufe solche Systeme zur Entscheidungsunterstützung konsequent als Hochrisiko-KI ein. Damit einher gingen gesetzliche Pflichten rund um Risikomanagement, Datenqualität, lückenlose Dokumentation, Cybersicherheit und menschliche Aufsicht.

Flankierend haben Bund und Länder voriges Jahr eine gemeinsame KI-Strategie für die Justiz verabschiedet, um eine rechtssichere und einheitliche Anwendung zu gewährleisten. Derzeit werden in diesem Rahmen Standards für Risikomanagementsysteme sowie verbindliche Leitlinien zu Daten-Governance und -qualität ausgearbeitet.

Menschliche Verantwortung

Über den technologischen Entwicklungen steht ein Dogma des deutschen Grundgesetzes: Der verfassungsrechtliche Rahmen der richterlichen Unabhängigkeit setzt der Automatisierung Grenzen. Die judikative Gewalt sei ausschließlich den gewählten Richtern vorbehalten, betont das Ministerium. Die endgültige Entscheidung in einem Rechtsstreit müsse so immer von einem Menschen getroffen und persönlich verantwortet werden. KI dürfe nur unterstützend agieren. Die menschliche Aufsicht diene als Kontrollmechanismus, um Fehlentwicklungen der Maschine rechtzeitig zu erkennen und zu korrigieren.

Damit das Justizpersonal überhaupt in der Lage ist, diese Funktion auszuüben, setzt die Exekutive auf gezielte Qualifikation. Kompetenzen zu den technischen, rechtlichen und ethischen Fragestellungen rund um die Technik sollen durch neue Aus- und Fortbildungsangebote gestärkt werden. Teil der nationalen KI-Strategie ist das Erstellen eines Kompetenzrahmens, um ein gemeinsames Verständnis zu etablieren und maßgeschneiderte Schulungsmaßnahmen abzuleiten.

Millionen für die Digitalsäule des Rechtsstaats

Finanziert und vorangetrieben wird der Wandel durch eine Kooperation zwischen Bund und Ländern. Die im Sommer 2025 beschlossene Strategie bildet das Fundament, das nach aktuellem Planungsstand bis Ende 2026 weitgehend umgesetzt sein soll. Der Bund beteiligt sich im Zuge seiner Digitalisierungsinitiative finanziell und fachlich an den KI-Vorhaben der Länder. Diese Anschubfinanzierung läuft ebenfalls bis Dezember.

Danach soll sich nahtlos der neue Pakt für den Rechtsstaat anschließen. Dessen sogenannte Digitalsäule sieht die weitere Förderung mit einer Laufzeit von drei Jahren vor. Ob und inwieweit zusätzlich gesetzgeberischer Handlungsbedarf im Bereich des europäischen Datenschutzrechts oder bei haftungsrechtlichen Fragestellungen zu automatisierten Verarbeitungen besteht, prüft die Exekutive noch.

Eine neue Verordnung, die der US-Regierung die Prüfung neuer KI-Modelle vor deren Veröffentlichung ermöglicht hätte, ist vorerst vom Tisch. US-Präsident Donald Trump sollte die neue Verordnung aus seinem Haus eigentlich am Donnerstag unterzeichnen, vertagte das jedoch bis auf Weiteres. „Bestimmte Aspekte“ daran hätten ihm nicht gefallen, sagte er dazu der Presse. Er glaube, die neue Verordnung könne der weltweiten Spitzenposition der USA in der KI-Entwicklung in die Quere kommen, erklärte Trump und verwies auf den Vorsprung vor China auf dem Gebiet. Er wolle demnach jeglichen Schritt in eine solche Richtung vermeiden. Bedenken hatten Trump und seine Administration ursprünglich in anderer Hinsicht: Die Verordnung war als Antwort auf mögliche Cybersicherheitsrisiken durch neue, fortschrittliche KI-Modelle gedacht, etwa Anthropics Claude Mythos, welches selbst von dem Hersteller als zu gefährlich eingestuft wird, um es der Allgemeinheit zugänglich zu machen. Bis zu 90 Tage vor der Veröffentlichung wäre es Bundesbehörden möglich gewesen, die Modelle unter die Lupe zu nehmen, zum Beispiel dem Inlandsgeheimdienst National Security Agency, dem Cyber Office des Weißen Hauses oder dem US-Finanzministerium. Eine ähnliche Vereinbarung gibt es schon mit den KI-Herstellern Google, Microsoft und xAI. Tech-CEOs versetzten Trump, Sacks las ihm die Leviten Auffällig ist, wie Trumps plötzlicher Kurswechsel offenbar zustande kam. Tech-Investor David Sacks soll laut einem Bericht des Magazins Politico kurz vor der Unterzeichnung der Verordnung auf Trump eingewirkt haben. Mehrere Personen aus dem Trump-Umfeld, deren Identität Politico zum Quellenschutz nicht nennen möchte, berichteten dem Magazin demnach von einem Gespräch zwischen Sacks und Trump. Sacks soll Trump hier überzeugt haben, dass KI-Firmen schon ausreichend mit der US-Regierung kooperieren, die geplante Verordnung Innovationen behindere und die USA im Wettlauf um die beste KI ausbremsen würden. Den Politico-Quellen zufolge war Sacks nicht der einzige Gegner der neuen Verordnung an den Spitzen führender KI-Hersteller.

Einem weiteren Politico-Bericht zufolge waren wichtige Köpfe der Branche wie Meta-CEO Mark Zuckerberg, OpenAI-Chef Sam Altman und Anthropic-CEO Dario Amodei lange vorher über die geplante Verordnung Bescheid, kurz vor der Unterzeichnung der Verordnung war demnach sogar ein Treffen mit Trump geplant. Doch die drei Tech-CEOs versetzen den Präsidenten glatt. Wie Politico aus informierten Kreisen erfuhr, sagten alle drei das Treffen ab, wollten aber Vertretungen schicken. Blieb nur noch Sacks, und von dem ließ Trump sich offenbar ordentlich die Leviten lesen, sodass er nun von seiner eigens in Auftrag gegebenen Verordnung einen Rückzieher macht.

Google will die Daten und Ergebnisse seiner Suchmaschine nicht mit Wettbewerbern im Suchmaschinenmarkt teilen – unter anderem dazu hatte ein US-Bundesgericht das Unternehmen voriges Jahr in einem Kartellrechtsverfahren verurteilt. Jetzt legt der Suchmaschinen-Gigant gegen diese Entscheidung Berufung ein. Im September 2025 stellte US-Richter Amit P. Mehta fest, dass Googles Suchmaschinen-Geschäfte illegal sind. Google musste seine Zahlungen an Browser-Anbieter und Hardware-Hersteller einstellen. Zuvor zahlte der Internetgigant Milliardenbeträge an Browser-Anbieter und Hardware-hersteller, damit diese die Google Suche im Browser, beziehungsweise den Chrome Browser auf Endgeräten standardmäßig voreinstellen. Allein Apple erhielt jährlich rund 20 Milliarden US-Dollar. Zudem muss Google seitdem Suchdaten und Suchergebnisse mit "qualifizierten Wettbewerbern" teilen. Google plädiert auf Rechtsfehler Google argumentiert jetzt in seinem Berufungsschriftsatz (Download unter diesem Absatz), dass der US-Richter Amit Mehta in seinem Urteil aus dem Jahr 2024 Rechtsfehler gemacht habe. Das Unternehmen argumentierte, dass seine Deals mit Geräteherstellern und Browserentwicklern diese nicht daran gehindert hätten, konkurrierende Suchdienste wie Microsofts Bing zu bewerben. Zudem sei die Entscheidung, überhaupt eine exklusive, voreingestellte Suchmaschine anzubieten, von Apple und Mozilla selbst ausgegangen, nicht von Google. Mozilla ist mittlerweile stark abhängig von Googles jährlichen Zahlungen. Von rund 680 Millionen Dollar Jahresumsatz im Jahr 2024 kamen laut Geschäftsbericht 498 Millionen Dollar von Google – damit die Suchmaschine in Firefox voreingestellt ist. Mozillas Finanzchef warnte bereits: Ohne Googles Geld droht die Pleite.

Google plädiert zudem darauf, das Unternehmen habe sich mit seiner Suchmaschine auf dem Markt fair durchgesetzt, indem es „durch harte Arbeit, mutige Innovationen und kluge Geschäftsentscheidungen eine überlegene Suchmaschine entwickelt“ habe. Dass Suchmaschinendaten nun mit der Konkurrenz geteilt werden müssten, würde eine seltsame Form von Ersatzwettbewerb schaffen, der unter realen Bedingungen nie entstanden wäre. Hier nennt Google explizit KI-Hersteller OpenAI als Beispiel, der für sein LLM ChatGPT ebenfalls Zugriff auf die Daten hätte. ChatGPT habe jedoch während des relevanten Zeitraums noch gar nicht existiert – US-Justizministerium und Bundestaaten klagten bereits Ende 2020. Zudem sei der Erfolg von ChatGPT so bahnbrechend, dass es keinen Grund gebe, die Daten mit OpenAI zu teilen, argumentiert Google. Beobachter rechnen im Juli mit einer juristischen Reaktion des US-Justizministeriums auf Googles Berufung.

Die 21. Kalenderwoche geht zu Ende. Wir haben 13 neue Texte mit insgesamt 101.115 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

– Fraktal, generiert mit MandelBrowser von Tomasz Śmigielski

Liebe Leser:innen,

die Zivilgesellschaft steht in vielen Ländern unter Druck. Dass sich die Menschen dem noch lange nicht beugen, zeigt eindrucksvoll der Fall des Fotografen Pablo Grillo in Argentinien. An ihn habe ich in den vergangenen Tagen oft gedacht, nachdem ich den Text von Nina Galla gelesen hatte.

Pablo war im März 2025 auf einer Demonstration in Buenos Aires gewesen. Rentner:innen protestierten dort gegen steigende Kosten, zunehmende Armut und den Kurs des rechtsradikalen Kettensägen-Präsidenten Javier Milei. Damit gingen sie ein hohes Risiko ein. Denn Mileis Regierung hat das Demonstrationsrecht massiv eingeschränkt. Wer dennoch auf die Straße geht, muss mit Willkür und brutaler Polizeigewalt rechnen.

Pablo traf an diesem Tag eine Tränengasgranate ins Gesicht. Er wurde lebensgefährlich verletzt, über Wochen bangten Menschen landesweit um sein Leben.

Noch während der Fotograf im Krankenhaus war, begannen Aktivist:innen damit, Beweise für die Tat zu sammeln, die sie von anderen Demonstrierenden oder direkt von Journalist:innen erhielten. Sie rekonstruierten die Geschehnisse, konnten nachweisen, dass die Polizei an dem Tag wiederholt auf Demonstrierende geschossen hatte und brachten den mutmaßlichen Täter, einen Polizisten, vor Gericht.

Erst vor wenigen Wochen kehrte Pablo Grillo nach Hause zurück. Es ist unklar, welche gesundheitlichen Folgen der Schuss langfristig für ihn hat. Das Verfahren gegen den Polizisten läuft noch.

Der Fall zeigt für mich, wozu Menschen fähig sind, wenn sie sich zusammenschließen, gemeinsam aufstehen und sich wehren. Ich hoffe, dass ihre Recherchearbeit dazu führt, dass Pablo Gerechtigkeit widerfährt.

Gegendruck aufbauen, von Anfang an

Derweil wächst auch in Deutschland der Druck auf zivilgesellschaftliche Organisationen. Meine Kollegin Chris hat diese Woche ein Interview mit Josephine Ballon von HateAid geführt . Die Trump-Regierung hat Ballon und ihre Co-Geschäftsführerin Anna-Lena von Hodenberg Ende vergangenen Jahres mit einem Einreiseverbot belegt – weil sie „radikale Aktivistinnen“ und „Agentinnen des industriellen Zensurkomplexes“ seien. Josephine Ballon fürchtet, dass das nur der Anfang ist und HateAid bald auch von Zahlungsverkehr und IT-Dienstleistungen ausgeschlossen sein könnten.

Gerade jetzt sollte die Bundesregierung fest hinter der hiesigen Zivilgesellschaft stehen, finde ich. Stattdessen aber will Bildungsministerin Prien zivilgesellschaftlichen Initiativen nicht nur einer „breit angelegten Verfassungsschutzprüfung“ unterziehen , sondern auch Fördermittel drastisch kürzen . Betroffen wären neben HateAid etwa auch die Amadeu Antonio Stiftung und die Open Knowledge Foundation Deutschland. Ihnen würden dann Mittel fehlen, um gegen digitale Gewalt, Antisemitismus und Rechtsradikalismus vorzugehen.

Mir ist klar, dass die derzeitige Lage in Deutschland bei weitem nicht so dramatisch ist wie in Argentinien. Auf mich wirken sie aber wie der Anfang und das drohende Ende einer Entwicklung, die sich derzeit vielerorts beobachten lässt.

Und gerade deshalb sollten wir schon beim ersten Druck nicht klein beigeben, sondern uns wehren – gegen den Generalverdacht, der sich zunehmend gegen zivilgesellschaftliches Engagement richtet, gegen kulturkriegerische Hetze, die diesen Verdacht gezielt nährt, und gegen Kürzungen, die unsere Demokratie schwächen.

Habt ein sonniges Wochenende Daniel

Pushback-Dokumentar: Norwegisches Gericht lehnt Auslieferung von Tommy Olsen an Griechenland ab Tommy Olsen nutzt soziale Medien, um Geflüchtete sichtbar zu machen und damit deren Pushbacks zu verhindern. In Griechenland soll ihm deshalb der Prozess gemacht werden. Die Auslieferung des Norwegers ist nun abgewendet – vorerst. Von Matthias Monroy –

Katholikentag: Merz sagt „Nein“ zu Social-Media-Verbot Vor laufender Kamera wird der Bundeskanzler auf dem Katholikentag gefragt: „Verbot, Social Media, sind Sie dafür?“ Und Friedrich Merz sagt: „Nein.“ Was heißt das für die Debatte? Von Sebastian Meineck –

Social-Media-Verbot: Weder wissenschaftlich fundiert noch effektiv Es gibt keine wissenschaftlichen Belege für ein pauschales Social-Media-Verbot für Minderjährige, sagen Forscher*innen auf der Digitalkonferenz re:publica. Selbst viele Befürworter*innen eines Verbots zweifeln an dessen Wirksamkeit. Erste Zahlen aus Australien legen nahe, warum diese Skepsis berechtigt ist. Von Timur Vorkul –

Jugendschutz-Empfehlungen: „Ein Blumenstrauß von Vorschlägen und Ideen“ Kommt das Social-Media-Verbot? Im Auftrag der Bundesregierung arbeiten Fachleute an Empfehlungen für Jugendschutz im Netz. Auf der Berliner Konferenz für Jugendliche Tincon geben die Co-Vorsitzenden des Gremiums neue Einblicke. Von Sebastian Meineck –

„Wettlauf nach unten“: Karen Hao kritisiert europäischen KI-Kurs Auf der re:publica kritisiert die Autorin Karen Hao die Macht und Rücksichtslosigkeit großer KI-Konzerne. Ihre dringende Warnung an die EU: Hört auf, den Ansatz der USA zu kopieren, und macht euch unabhängig von den Imperien des digitalen Zeitalters. Von Ingo Dachwitz –

Gekapptes „Demokratie leben“-Programm: Wie sich Priens Kahlschlag auswirkt Deutschland braucht mehr Medienkompetenz und weniger Hass im Netz, beschwört eine politische Sonntagsrede nach der anderen. Trotzdem will Bildungsministerin Prien ausgerechnet solchen Projekten die Förderung entziehen. Wie passt das zusammen? Von Tomas Rudl –

Familienministerin: Karin Prien will Social-Media-Verbot nicht „Verbot“ nennen Die CDU will ein Social-Media-Verbot für Minderjährige, der Bundeskanzler hat dazu „Nein“ gesagt. Und die Familienministerin? Auf der Digitalkonferenz re:publica legt sich Karin Prien (CDU) nicht fest – und hält sich alle Optionen offen. Von Sebastian Meineck –

HateAid nach US-Einreiseverbot: „Wir sollten nicht fürchten müssen, vor den Bus geschubst zu werden“ Die USA belegten HateAid-Geschäftsführerin Josephine Ballon und ihre Kollegin mit Einreiseverboten – weil sie dabei helfen, EU-Gesetze gegen Plattformen durchzusetzen. Im Interview spricht Ballon über Einschüchterung, Angst vor Finanzsanktionen und die Notwendigkeit, sich von US-Digitalkonzernen unabhängig zu machen. Von Chris Köver –

Nach Schuss in den Kopf: Wie argentinische Aktivist*innen einen Polizisten vor Gericht brachten Vor guten einem Jahr bohrte sich eine Tränengaspatrone in den Schädel des Fotografen Pablo Grillo. Der Polizist, der die Waffe abgefeuert hat, steht heute vor Gericht. Möglich war das nur, weil sich Freiwillige tagelang durch Videos gewühlt haben. Von Gastbeitrag, Nina Galla –

AI Forensics vs. BigTech: „We can have retaliation against us“ The Grok deepfake scandal was uncovered with the help of the data-driven investigation conducted by AI Forensics. In an interview with netzpolitik.org, the NGO’s director Marc Faddoul talks about the risk of being targeted by Elon Musk, and what other issues they encounter in their work with regulators such as the European Commission. Von Anna Ströbele Romero –

AI Forensics gegen BigTech: „Es kann zu Vergeltungsmaßnahmen gegen uns kommen“ Der Deepfake-Skandal um den Chatbot Grok basierte auf Daten, die die Organisation AI Forensics gesammelt hatte. Der Direktor der NGO, Marc Faddoul, spricht über das Risiko, ins Visier von Musk zu geraten und darüber, welche weiteren Probleme ihnen in der Arbeit mit Regulierungsbehörden begegnen. Von Anna Ströbele Romero –

Digitale Souveränität: Wie die Entzauberung eines Mythos gelingt Um den Begriff digitale Souveränität ranken sich zahlreiche Legenden, wie auch die diesjährige re:publica zeigte. Julia Pohle und Marielle-Sophie Düh vom Wissenschaftszentrum Berlin für Sozialforschung unterzogen diese vor Ort einer Wirklichkeitsprüfung. Und sie zeigen eine Alternative zum Buzzword auf. Von Esther Menhard –

Öffentlichkeitsfahndungen: Wanted Dead or Alive Eigentlich gibt es hohe Hürden dafür, wenn die Polizei mit einem Foto öffentlich nach Tatverdächtigen fahnden will. Doch zum einen setzen manche Öffentlichkeitsfahndungen auch für kleine Delikte ein, zum anderen stammen die Regeln dafür aus einer Zeit vor großen sozialen Medien. Athena Möller kritisiert im Grundrechte-Report 2026, dass sich trotz guter Vorschläge daran nichts ändert Von Gastbeitrag, Athena Möller –

Bambu Lab baut 3D-Drucker, die den Markt in den vergangenen Jahren ordentlich aufgemischt haben: gute Druckqualität, hohe Geschwindigkeit, attraktive Preise – vom Einsteiger-Modell A1 Mini bis zu großen Maschinen für den professionellen Einsatz. Doch das chinesische Unternehmen steht mal wieder im Kreuzfeuer der Community. Slicer, Lizenzen und ein Netzwerk-Plug-in Um zu verstehen, worum es geht, muss man einen Blick auf die Software werfen. Ein Slicer ist die Software, die ein 3D-Modell nimmt und dem Drucker sagt, was er damit machen soll – massiv drucken, mit Gitterstruktur, hohl. Bambu Labs eigener Slicer heißt Bambu Studio. Den hat das Unternehmen aber nicht von Grund auf selbst entwickelt: Bambu Studio basiert auf dem PrusaSlicer des tschechischen Herstellers Prusa Research. Damit kommt die AGPL-3.0-Lizenz ins Spiel. Sie erlaubt es, den Code eines Open-Source-Projekts zu nehmen, zu verändern, auch kommerziell zu nutzen und wiederzuveröffentlichen – unter der einzigen Bedingung, dass das Ergebnis wieder unter derselben Lizenz steht. Ein Tauschgeschäft: Man nimmt ein fertiges Projekt, passt es an seine Hardware und Bedürfnisse an, und als Gegenleistung dürfen andere wiederum auf die Ergänzungen zugreifen. Bambu Studio steht unter dieser Lizenz, soweit also lizenzkonform. Bambu hat jedoch ein Netzwerk-Plug-in in den Slicer eingebaut, das die erstellten Daten an die Bambu-Cloud sendet, von wo sie an den Drucker weitergeleitet werden. Seit Anfang 2025 ist dieser Weg verpflichtend. Alternative Slicer wie der beliebte OrcaSlicer können nicht mehr direkt mit dem Drucker kommunizieren, sondern müssen über „Bambu Connect“ – im Wesentlichen dasselbe Netzwerk-Plug-in – die Bambu-Cloud durchlaufen.

Nachträgliche Einschränkung für bestehende Geräte Wer einen Bambu-Drucker gekauft hat, bevor diese Änderung kam, erlebt einen massiven Einschnitt: Vorher ließen sich Dateien einfach lokal übers Netzwerk an den Drucker schicken, der Drucker konnte gesteuert und überwacht werden. Das geht jetzt nicht mehr. Der Funktionsumfang des bereits bezahlten Geräts hat sich nachträglich verschlechtert. Das hat den polnischen Entwickler Pawel Jarczak gestört. Er veröffentlichte einen eigenen Fork von Bambu Studio – was er darf, denn Bambu Studio steht unter AGPL-Lizenz. Dieser Fork ermöglicht wieder die direkte Kommunikation mit Bambu-Lab-Druckern. Bambu Lab warf Jarczak vor, sein Fork melde sich bei den Bambu-Servern als offizieller Bambu-Studio-Client – mit fest einprogrammierter Versionsnummer. Die Server könnten den legitimen von gefälschtem Traffic nicht unterscheiden, was die Cloud-Infrastruktur destabilisieren könne. Bambu drohte mit Sektion 1201 des amerikanischen Digital Millennium Copyright Acts – einem Gesetz, das das Umgehen technischer Schutzmaßnahmen unter Strafe stellt. Jarczak nahm seinen Fork daraufhin offline. Damit war die Sache aber nicht erledigt. Jarczak wandte sich an Louis Rossmann, einen amerikanischen YouTuber und Right-to-Repair-Aktivisten, sowie an GamersNexus. Beide veröffentlichten den Fork und boten Jarczak jeweils 10.000 Dollar für seine rechtliche Verteidigung an. GamersNexus kündigte außerdem an, alle eigenen Bambu-Lab-Drucker hinauszuwerfen und durch Prusa-Drucker zu ersetzen. Auch der US-Urheberrechtsanwalt Leonard French meldete sich zu Wort: Was Bambu da mache, sei ein klassisches Vorgehen für „progressives Einschließen“. Ein Hersteller bringe Hardware günstig mit vielen Funktionen auf den Markt, schränke diese dann Schritt für Schritt per Software-Update ein und sperre die Nutzer langsam aber sicher in ein Ökosystem ein, aus dem sie nicht mehr ohne Weiteres herauskommen. Der AGPL-Vorwurf: Steckt mehr dahinter? Jarczak legte zusätzlich eine detaillierte technische Analyse vor: Das geschlossene bambu_networking-Plug-in sei kein unabhängiges Add-on, sondern ein tief integrierter Bestandteil von Bambu Studio. Bambu Studio lade, installiere und aktualisiere das Plug-in selbst, löse 108 Funktionen aus der geschlossenen Bibliothek auf und nutze es für zentrale Funktionen wie Login, Monitoring, LAN- und Cloud-Druck, MakerWorld, Kamera und Telemetrie. Sein Fazit: Das Verteilen von Bambu Studio als AGPL-Programm, ohne den Quellcode des geschlossenen Plug-ins bereitzustellen, sei ein AGPL-Verstoß. Da Bambu Studio auf PrusaSlicer und Slic3r basiert – beides AGPL-Code von vielen Autoren –, könne Bambu Lab diese Ausnahme nicht einseitig einführen. Josef Prusas Einschätzung auf X Josef Prusa ist Gründer von Prusa Research, einem der bekanntesten 3D-Drucker-Hersteller weltweit – und Urheber des PrusaSlicers, auf dem Bambu Studio aufbaut. Er hatte Bambus AGPL-Verstoß bereits 2023 kritisiert, sah aber keine rechtliche Handhabe – ein Verfahren müsste vor einem chinesischen Gericht geführt werden. In einem langen Post auf X bettet er den Streit nun in einen größeren Kontext: Zwischen 2017 und 2023 habe China fünf Gesetze verabschiedet, die Unternehmen zur Geheimdienstkooperation verpflichten, dem Staat Zugang zu Verschlüsselungsschlüsseln sichern, chinesische Datenzugriffe unabhängig vom Serverstandort ermöglichen und entdeckte Schwachstellen direkt an Behörden leiten. Prusa kommt zu dem Fazit, dass fast die komplette 3D-Druckwelt damit in chinesischen Staatshänden liege. Das gelte ebenso für Hersteller chinesischer Autos, Kameras und KI-Modelle. Offene Fragen Ob Bambu Lab tatsächlich gegen Rossmann und Gamers Nexus vorgeht, ist bisher offen. Öffentlich hat der Streit eine Diskussion ausgelöst, die zumindest Teile der Community aufhorchen lässt. Und grundsätzlich berührt der Fall die Frage: Wem gehört eigentlich ein Gerät, das ich gekauft habe – und darf mir der Hersteller nachträglich Funktionen entziehen? Für Bambu Lab ist es nicht das erste Mal, dass das Unternehmen sich unbeliebt macht: Bereits die Einführung von „Authorization Control“ Anfang 2025 hatte für massive Kritik gesorgt. Der aktuelle Fork-Konflikt eskaliert diesen Streit nun auf eine neue, rechtliche Ebene. Der Fork selbst ist weiterhin bei Rossmann und GamersNexus verfügbar.

Apple hat im Rahmen eines Asset-Deals Materialien, Rechte und womöglich auch Mitarbeiter eines auf Augmented-Reality-Systeme und Avatare spezialisierten Start-ups übernommen. Die Firma Animato, die unter anderem die KI-Tutoring-Lösung Call Annie entwickelt hat, war in Kalifornien beheimatet. Der Kauf wurde über Berichtspflichten im Rahmen des Digital Market Act (DMA) der EU-Kommission bekannt. Typische Apple-Aufkaufstrategie Apple erkaufte sich demnach das Recht, Animatos laufende Patentanträge zu übernehmen, bekommt Lizenzen für das geistige Eigentum der Firma (interessanterweise allerdings nicht exklusiv) und erhält die Erlaubnis, Mitarbeiter zu übernehmen. Laut der Beschreibung auf der EU-Website entwickelt und vertreibt Animato „Software, die virtuelle Avatare für Videochats und Lehre kreiert“. Der Vorgang bedeutet keine direkte Übernahme von Animato, sondern es gehen nur Assets an Apple über. Durch die Erlaubnis, Mitarbeitern Angebote zu machen, wird aus dem Deal zudem ein „Acqui-Hire“, also eine Kombination aus Teilübernahme und dem Versuch, Talente anzuwerben. Apple führt solche Käufe regelmäßig durch, hat dadurch bereits wichtige Funktionen, Apps und Techniken ins Unternehmen geholt. Zu den bekannten Akquisitionen zählt die Mannschaft hinter iTunes (aus dem später Apple Music wurde) oder das Team hinter den visionOS-Avataren. Auch die Sprachassistentin Siri stammt ursprünglich nicht von Apple selbst.

Diverse KI- und Augmented-Reality-Firmen übernommen Es ist unklar, was Apple mit dem Animato-Know-how plant. Oftmals kann es Jahre dauern, bis aus einem solchen Aufkauf ein Produkt wird. Zuletzt hatte Apple unter anderem die Firmen WhyLabs, Mayday Labs, TrueMeeting und PromptAI übernommen. Gerade in spezielleren Bereichen wie Augmented Reality oder KI scheinen sich solche Erwerbungen zu lohnen. Allerdings kommt es auch vor, dass die dadurch ins Unternehmen kommenden Mitarbeiter dieses nach Ablauf ihrer Verträge sofort wieder verlassen. Apple hatte zuletzt etwa massiv mit Abgängen aus seiner KI-Abteilung zu kämpfen – Mitarbeiter ließen sich von besseren Angeboten wie denen von OpenAI, Anthropic oder Meta anlocken. Seit einigen Monaten ist hier aber wieder mehr Ruhe eingekehrt. Letzter großer Abgang war die Verrentung des KI-Chefs John Giannandrea.

Um den Begriff digitale Souveränität ranken sich zahlreiche Legenden, wie auch die diesjährige re:publica zeigte. Julia Pohle und Marielle-Sophie Düh vom Wissenschaftszentrum Berlin für Sozialforschung unterzogen diese vor Ort einer Wirklichkeitsprüfung. Und sie zeigen eine Alternative zum Buzzword auf.

Marielle-Sophie Düh und Julia Pohle wollen Klarheit in die Debatte bringen. – CC-BY-SA 4.0 : Screenshot und Bearbeitung: netzpolitik.org Für sie ist digitale Souveränität das Thema der re:publica 2026, sagte Astrid Maier, stellvertretende Chefredakteurin der Nachrichtenagentur dpa. Auf der Digitalkonferenz moderierte sie am Mittwoch eine Podiumsdiskussion dazu, wie deutsche Medienhäuser Software großer US-Konzerne einsetzen.

Maiers Eindruck verwundert wenig angesichts der Fülle an Talks, Podiumsdiskussionen und Workshops zu diesem Schlagwort – ganz gleich, ob es um sogenannte Künstliche Intelligenz, Cloud-Speicher, Rechenzentren oder Bezahlsysteme ging.

Allerdings verstanden die beteiligten Panel-Teilnehmer:innen unter digitaler Souveränität durchaus Unterschiedliches. Über Grundrechte sprach etwa re:publica-Mitgründer Markus Beckedahl. Thomas Jarzombek, Staatssekretär im Bundesdigitalministerium, will hingegen die europäische KI-Start-up-Szene stärken. Und auf dem Panel „Cut me loose: Wie der EU der digitale Befreiungsschlag gelingt“ plädierte die EU-Abgeordnete Alexandra Geese (Grüne) gemeinsam mit nextcloud-CEO Frank Karlitschek dafür, Open-Source bei IT-Unternehmen aus der EU einzukaufen. Ihr Gegenüber Axel Voss (CDU) sprach sich derweil für möglichst rasche Deregulierung aus.

Versäumte Fragen

Das breite Spektrum an Meinungen zum Thema lasse sich unter anderem damit erklären, dass die Debattierenden unterschiedliche oder sogar gegenläufige Verständnisse des Begriffs haben, lautet die Beobachtung von Julia Pohle und Marielle-Sophie Düh vom Wissenschaftszentrum Berlin für Sozialforschung (WZB). Aus ihrer Sicht versäumen wir es, in der Debatte zunächst drei Fragen zu stellen: Für wen soll digitale Souveränität erreicht werden? Von wem? Und zu welchem Ziel?

In ihrem Talk „Digitale Souveränität: Das Bullshit Bingo“ erklärten die beiden Politikwissenschaftlerinnen, welche Mythen die Debatte hemmen. So sei das zugrundeliegende Konzept, auch wenn der aktuelle Hype etwas anderes suggeriere, keineswegs neu. Spätestens der Bericht „ Die Informatisierung der Gesellschaft “ der hochrangigen französischen Beamten Simon Nora und Alain Minc habe 1978 den Startschuss für die Debatte gegeben.

Darin richteten Nora und Minc vor knapp 50 Jahren einen dringlichen Appell an den französischen Präsidenten: „Es ist eine Frage der Souveränität. Der Kampf gegen die Übermacht der amerikanischen Industrie im Bereich der Computer-Technologie ist bereits verloren.“

Kein primär demokratisches Konzept

Auch den Mythos, dass „digitale Souveränität“ ein europäisches oder primär demokratisches Konzept sei, entzaubern Düh und Pohle.

Denn auch Länder in anderen Teilen der Welt streben nach digitaler Souveränität. So zielten etwa der IndiaStack in Indien oder die Initiative African Digital Compact der Afrikanischen Union darauf ab, ihre Wirtschaften mittels digitaler Technologien zu fördern.

Zugleich nutzen autokratische Länder das Konzept, um staatliche Kontrolle zu stärken. So hievte Russland das „souveräne Internet“ bereits im Jahr 2012 auf die staatliche Agenda; China tat Ähnliches schon 2010.

Damals schrieb das Informationsbüro des Staatsrats der Volksrepublik: „Das Internet ist eine Frage des wirtschaftlichen Wohlstands und Entwicklung, der staatlichen Sicherheit und gesellschaftlichen Stabilität, der staatlichen Souveränität.“ Der Staat müsse demnach im Netz die Hoheit haben und Regeln setzen. Das zentrale Ziel lautete: Informationskontrolle.

Um wen geht’s?

Dass der Begriff in der europäischen Debatte zugleich vielfältig genutzt wird, verdankt sich laut Pohle und Düh den drei Dimensionen, die er umfasst: Nutzer:innen, Staat und Wirtschaft.

Auf EU-Ebene stehe „digitale Souveränität“ quasi für eine allumfassende Heilsstrategie, die etwa die Kommission gerne ins Zentrum europäischer Digitalpolitik stellen würde, so Pohle. Doch das gebe der Begriff nicht her, da mit ihm unterschiedliche Ziele verknüpft seien, wie etwa der Schutz von Nutzerrechten, die Sicherheit von Infrastrukturen, die Unabhängigkeit der öffentlichen Verwaltung sowie – nicht zuletzt – die Wettbewerbs- und Innovationsfähigkeit.

Der Schutz demokratischer Öffentlichkeiten habe im europäischen Diskurs lange Zeit im Vordergrund gestanden, sagte Pohle, die bereits seit 15 Jahren zum Thema forscht. Inzwischen dominiere aber die wirtschaftliche Dimension die Debatte.

Dass die einzelnen Stakeholder jeweils einen anderen Fokus haben, mache es schwer, das Konzept umzusetzen. „Wenn unklar ist, wie diese Dimensionen ineinander spielen und welche Ziele angestrebt werden sollen, ist auch unklar, was für Maßnahmen es braucht, um die zu erreichen“, so Pohle.

Mehr Rechenzentren sorgen nicht für mehr Datensouveränität

Diese Unklarheit erkläre wohl auch, warum insbesondere vermeintlich souveräne Cloud-Produkte von Amazon, Google und Microsoft derzeit stark nachgefragt seien.

Deren Versprechen seien jedoch überaus zweifelhaft, sagt Düh. Wenn eigene Rechenzentren tatsächlich zu digitaler Souveränität führen würden, müsste Deutschland bereits Cloud-Souveränität erreicht haben. Die Bundesrepublik ist nach den USA das Land mit den meisten Rechenzentren weltweit und rangiert damit noch vor China. Gleichzeitig aber seien „wir zu 80 Prozent von den US-amerikanischen Cloud-Anbietern abhängig“.

Allerdings sei das Versprechen der Tech-Konzerne aus den USA, wonach die in der EU gehosteten Daten sicher seien, hohl. Denn der US-amerikanische Clarifying Lawful Overseas Use of Data Act, kurz CLOUD Act, verpflichtet sie unter bestimmten Bedingungen dazu, Daten gegenüber US-Behörden offenzulegen – auch wenn sich diese außerhalb der Vereinigten Staaten befinden.

Klar sagen, worum es geht

Wenn wir in der Debatte um digitale Souveränität weiterkommen wollen, so Pohles und Dühs Fazit, müssen wir auf den Begriff möglichst verzichten. Stattdessen sollten wir klar benennen, um was es uns konkret geht – um Wettbewerbsfähigkeit, um öffentliche Beschaffung, um Grundrechte, um Sicherheitspolitik.

Andernfalls laufen alle Beteiligten an der Debatte Gefahr, Forderungen stark zu machen, hinter denen sie eigentlich nicht stehen. Und das dürfte weder in unserem Interesse liegen noch einer konstruktiven Debatte zuträglich sein.

Der Deepfake-Skandal um den Chatbot Grok basierte auf Daten, die die Organisation AI Forensics gesammelt hatte. Der Direktor der NGO, Marc Faddoul, spricht über das Risiko, ins Visier von Musk zu geraten und darüber, welche weiteren Probleme ihnen in der Arbeit mit Regulierungsbehörden begegnen.

Marc Faddoul untersucht mit seiner Organisation verschiedene Plattformen. – Alle Rechte vorbehalten: Marc Faddoul: AI Forensics, X: unsplash / BoliviaInteligente Bei der Durchsetzung europäischer Digitalgesetze sind die EU-Kommission und nationale Behörden nicht auf sich allein gestellt. Vor allem für die Sammlung von Beweisen stützen sie sich oft auf die Arbeit externer Organisationen wie AI Forensics.

Die gemeinnützige Organisation analysiert und untersucht die Algorithmen, die die Informationslandschaft prägen. Mit Sitz in Paris versteht sie sich als europäische Organisation, deren Mitarbeitende über den ganzen Kontinent verstreut sind.

In einem Interview mit netzpolitik.org erzählt Marc Faddoul, Gründer und Direktor von AI Forensics, von den Erfahrungen bei der Zusammenarbeit mit Regulierungsbehörden und zeigt auf, wie die Rahmenbedingungen verbessert werden könnten: durch flexible Finanzierung und rechtlichen Schutz.

Mitwirkung hinter den Kulissen

netzpolitik.org: Wir fragen oft, ob die EU-Kommission oder die nationalen Behörden über genügend Personal verfügen, um das Gesetz über digitale Dienste (DSA) durchzusetzen, aber niemand erwähnt jemals Mitwirkende wie euch. Ich nehme an, das liegt zum Teil daran, dass ihr nicht über alles sprechen dürft, was ihr zu Untersuchungen beitragt …

Marc Faddoul: In gewisser Weise bin ich manchmal selbst schockiert. Über die Rolle, die wir in diesen großen politischen Kontexten spielen, darüber, wie viel auf die Zivilgesellschaft zurückfällt.

Ich bin mir nicht einmal sicher, ob die Anzahl der Personen ausschlaggebend ist. Es geht eher um das spezifische Fachwissen, das für diese Arbeit erforderlich ist. Das ist nicht unbedingt das Profil, das von Institutionen angezogen wird.

Und auch die Methoden: Wir müssen oft unkonventionelle und „konfrontative Methoden“ anwenden, um unsere Arbeit zu erledigen. Das ist nicht das, was Institutionen am besten können.

netzpolitik.org: Fangen wir also ganz am Anfang an. Was genau macht ihr?

Marc Faddoul: Wir haben uns intensiv mit Empfehlungssystemen in sozialen Medien beschäftigt, da diese früher – und auch heute noch weitgehend – das einflussreichste algorithmische System bei der Auswahl der Informationen sind, die wir konsumieren. Wir beschäftigen uns zunehmend mit Chatbots, da diese zu den neuen Gatekeepern von Online-Inhalten werden.

Unsere Zielgruppe ist die breite Öffentlichkeit, meist über Journalist:innen. Und wir richten uns gezielter an Regulierungsbehörden und politische Entscheidungsträger:innen, um politische Entscheidungsprozesse zu beeinflussen und insbesondere bestehende Gesetze durchzusetzen.

Unsere Berichte sind stets datengestützt. Wir sammeln Daten, auch zu Systemen, für die es keine offiziellen Datenzugriffsmechanismen gibt. Dazu nutzen wir sogenannte „konfrontative Methoden“, die es uns ermöglichen, öffentlich zugängliche Inhalte direkt aus diesen Diensten zu scrapen und so zu analysieren, wie sie sich unter verschiedenen Bedingungen und für verschiedene Nutzende verhalten.

netzpolitik.org: Du hast die Durchsetzung von Gesetzen angesprochen. Gibt es neben dem Digital Services Act noch andere Gesetze, die ebenfalls von großer Bedeutung sind, oder ist das derzeit wirklich das wichtigste?

Marc Faddoul: Es ist definitiv das wichtigste.

Erstens, weil es auf europäischer Ebene angesiedelt ist. Wenn man es mit diesen riesigen Tech-Giganten zu tun hat, braucht man eine ausreichend starke wirtschaftliche Macht, um seine Regeln durchsetzen zu können.

Zweitens umfasst es durch den Begriff der systemischen Risiken eine Vielzahl von Aspekten: Integrität von Wahlen, Risiken für die psychische Gesundheit, durch Technologie begünstigte geschlechtsspezifische Gewalt. In diesem DSA-Artikel wird eine ganze Reihe von Risiken erfasst, was den DSA zu einem der bislang flexibelsten Rechtsrahmen macht.

Aber wir arbeiten nicht nur am DSA. Kürzlich haben wir diese Studie durchgeführt, die die Verbreitung nicht-einvernehmlicher intimer Bilder und die Produktion von Missbrauchs-Darstellungen durch Grok aufdeckt. Beide Themen werden auch von vielen anderen Gesetze abgedeckt, sowohl in Europa als auch weltweit. In diesen Fällen arbeiten wir auch mit anderen Regulierungsbehörden zusammen, etwa in Australien, Großbritannien und Kalifornien.

netzpolitik.org: Und wie genau arbeitet ihr mit den Regulierungsbehörden zusammen? Macht ihr diese auf bestimmte Themen aufmerksam oder erhaltet ihr Aufträge von ihnen?

Marc Faddoul: In vielen Fällen führen wir eigene Untersuchungen durch und machen die Regulierungsbehörden dann darauf aufmerksam. Das geschieht also wirklich auf eigene Initiative.

In anderen Fällen wenden sich die Regulierungsbehörden mit konkreten Anfragen an uns. Das kann gegen Bezahlung oder im Rahmen eines Vertrags geschehen, muss aber nicht immer so sein.

Zum Teil unbezahlte Arbeit

netzpolitik.org: Und wenn es nicht bezahlt wird, warum macht ihr die Arbeit dann trotzdem?

Marc Faddoul: Wenn es unbezahlt ist, machen wir es trotzdem, weil es im Einklang mit dem Auftrag unserer Organisation steht, Plattformen gegenüber den Nutzenden und dem Gesetz zur Rechenschaft zu ziehen.

Aber natürlich gibt es Grenzen dafür, wie viel wir unter diesen Bedingungen leisten können, daher kann es nicht systematisch sein.

Es mangelt eindeutig an Finanzierungsmechanismen seitens der Institutionen, um das Ökosystem zu unterstützen. In gewisser Hinsicht entstehen zwar neue Mechanismen, aber sie sind noch recht begrenzt.

netzpolitik.org: Wer entscheidet über die Finanzierung und wie sollte sie eurer Meinung nach verbessert werden?

Marc Faddoul: Auf europäischer Ebene ist jetzt ein wichtiger Moment, da gerade die Verhandlungen über den mehrjährigen EU-Haushalt laufen. Ich denke, das ist eine große Chance, auf eine flexiblere Finanzierung hinzuwirken.

Einer der größten Kritikpunkte ist derzeit, dass ein Großteil der Mittel über Ausschreibungen des Horizont-Programms bereitgestellt wird. Bei denen handelt es sich in der Regel um dreijährige Projekte, die in einem großen Konsortium aus zehn oder mehr Organisationen durchgeführt werden müssen.

Das ist ziemlich unflexibel, da man drei Jahre im Voraus nicht vorhersehen kann, was am relevantesten sein wird.

Beispielsweise hat der Mechanismus zur Altersverifikation eine hohe Priorität erlangt. Das war vor zwei Jahren noch nicht der Fall. Es ist eine Veränderung in der politischen Agenda, die diesem Thema eine höhere Priorität einräumt.

netzpolitik.org: Okay, lass uns einmal darüber sprechen, wie sich die politische Agenda auf eure Arbeit auswirkt. In Brüssel heißt es, dass wichtige Entscheidungen in den DSA-Untersuchungen von Personen in hohen politischen Kreisen getroffen werden und es sich nicht um eine rein technische Durchsetzung handelt.

Marc Faddoul: Die Tatsache, dass dies ständig auf einer geopolitischen Ebene abgewogen wird, ist zum einen frustrierend für die Menschen, die an der Ausarbeitung dieser Untersuchung beteiligt sind, zum anderen aber vor allem unvereinbar mit den Aussagen jener Spitzenpolitiker:innen , die betonen, dass die Einhaltung europäischer Gesetze nicht verhandelbar sei und dass diese strikt durchgesetzt würden.

Zudem sendet dies ein falsches Signal an jene Plattformen und an feindselige Politiker:innen, dass sie tatsächlich Druck ausüben können, um diese Entscheidungen zu blockieren.

Und dann gibt es noch eine zweite Komponente, nämlich: Was wird durchgesetzt? Wo liegen die Prioritäten?

Hier gibt es viel Interpretationsspielraum, da der DSA sehr umfangreich ist. Er wird gerade eingeführt, und nicht alles wird mit derselben Geschwindigkeit und derselben Priorität umgesetzt.

Der politische Einfluss auf die Durchsetzung

netzpolitik.org: Was wird priorisiert?

Marc Faddoul: Die Themen, bei denen über das gesamte politische Spektrum hinweg sowie auf transatlantischer Ebene Einigkeit herrscht, etwa die Verbreitung nicht einvernehmlicher intimer Bilder. Selbst Melania Trump hat sich beispielsweise sehr für dieses spezielle Thema eingesetzt. Weitere Beispiele für Themen mit breitem Konsens sind Material von Kindesmissbrauch (CSAM) und die Altersüberprüfung. Es sind nach wie vor diese politischen Dynamiken, die bestimmen, wo der Druck angesetzt wird.

Auf der anderen Seite rückt Desinformation zum Klimawandel mittlerweile ganz nach unten auf der Prioritätenliste.

netzpolitik.org: Wie würdest du die Transparenz bei der Durchsetzung des DSA bewerten?

Marc Faddoul: Eins kann ich dir sagen: In den Untersuchungen, an denen wir beteiligt sind und in denen wir Beweismaterial vorgelegt haben, haben wir keine Ahnung, was darin steht oder wann sie veröffentlicht werden. Wir wissen nur, dass unser Material eingegangen ist.

Aber selbst dann können wir durch die Ergebnisse dieser Ermittlungen gefährdet werden.

Das ist bei der Untersuchung von X passiert. Die Geldbuße wurde verhängt, dann hat das US-Justizministerium die gesamte Ermittlungsakte mit unseren Namen darin ungeschwärzt geleakt.

Das hat also reale Konsequenzen für uns. Es kann zu Vergeltungsmaßnahmen gegen uns kommen, besonders wenn Elon Musk sehr aggressiv gegen die Geldbuße twittert und behauptet, das sei eine Zensur der Meinungsfreiheit in den USA, was natürlich völliger Unsinn ist.

Dennoch können wir in der Realität als Reaktion darauf schikaniert und angegriffen werden, aber wir hatten keinen Einfluss darauf, dass unser Name in diesen Akten erfasst wurde und dass sie veröffentlicht wurden. Und wir wurden nicht einmal wirklich über diesen Zeitplan informiert.

Das ist nicht direkt die Schuld der Kommission. Sie musste die Akte an Twitter weitergeben. Diese forderte das US-Justizministerium von Twitter an. Dann haben sie sie geleakt.

Wir sind ein zentraler Akteur bei der Aufarbeitung des Falls, haben aber keine Kontrolle und nicht einmal Informationen darüber, wie es weitergeht.

netzpolitik.org: Ihr könnt nicht nur durch Tweets oder Kommentare schikaniert werden, sondern es könnte auch rechtliche Konsequenzen geben, richtig? Gibt es dafür irgendeine Art von Schutz, oder werdet ihr da ganz allein gelassen?

Marc Faddoul: Das liegt ganz bei uns. Die Kommission hilft uns dabei in keiner Weise.

Hier haben wir eine klare politische Forderung, nämlich einen deutlich besser geschützten Raum für Menschen, die wie wir im öffentlichen Interesse recherchieren.

netzpolitik.org: Also, die wichtigsten Dinge, die ihr benötigt, sind eine bessere Finanzierung, rechtlicher Schutz, außerdem Transparenz – noch etwas?

Marc Faddoul: Nun, eigentlich halte ich es für unseren Schutz für gut, dass wir keine Einzelheiten zu den Fällen kennen. Ich würde das nicht als Forderung formulieren.

Die Finanzierung, auf jeden Fall. Sie sollte flexibler und kurzfristiger sein und nicht nur über große Konsortien laufen.

Und was den rechtlichen Schutz angeht, ja, auf jeden Fall. Ein sicherer Hafen für Forschung im öffentlichen Interesse und auch institutionelle Unterstützung, wenn wir von ausländischen Akteuren angegriffen werden, weil wir uns an der Durchsetzung demokratischer Regulierung beteiligen.

The Grok deepfake scandal was uncovered with the help of the data-driven investigation conducted by AI Forensics. In an interview with netzpolitik.org, the NGO’s director Marc Faddoul talks about the risk of being targeted by Elon Musk, and what other issues they encounter in their work with regulators such as the European Commission.

Marc Faddoul and his team investigate different platforms. – Alle Rechte vorbehalten: Marc Faddoul: AI Forensics, X: unsplash / BoliviaInteligente When it comes to enforcing the EU’s digital regulation against social media platforms like X and TikTok, the Commission and national authorities are not alone in collecting the necessary evidence. In many cases, they rely on the work that is done by outside actors, such as AI Forensics.

The non-profit organisation analyses and investigates the algorithms that shape the information landscape. Based in Paris, they consider themselves an European organisation, with people working from all across the continent.

In an interview with netzpolitik.org, Marc Faddoul, the founder and director of AI Forensics, reflects on the organisation’s experience of working with regulators and points out how the conditions could be improved: by providing flexible funding and legal protection.

Contribution behind the scenes

netzpolitik.org: We often ask whether the European Commission or the national authorities have enough staff to enforce the Digital Services Act (DSA), but no one ever really mentions contributors like you. I suppose it’s partly because you’re not allowed to talk about all your contributions…

Marc Faddoul: In a way I’m sometimes shocked myself. About the role we are given to play in those big scale politics, about how much falls onto civil society.

I am not even sure it is really a matter of number of people; it’s more about the specific expertise that is needed to do this job. That is not necessarily the profile that is drawn towards the institutions.

And also the methods: We often have to deploy unconventional and adversarial methods to do the work that we do, that is not what the institutions are best at doing.

netzpolitik.org: So, let’s start at the beginning. What is it that you do?

Marc Faddoul: We’ve done a lot of work on social media recommender systems, because they were, and are still to a large extent, the most influential algorithmic system in shaping the information we consume. We are working increasingly on chatbots, since they are becoming the new gatekeepers of online content.

Our audience is the general public, usually through journalists. And we do a more targeted dissemination to regulators and policymakers to inform policymaking processes and especially to enforce existing regulation.

Our reports are always data driven. We collect data, including on systems for which there are no official data access mechanisms. We do so by using what we call “adversarial methods” which allow us to basically scrape publicly available content directly from those services and therefore analyse how they behave in different conditions and for different users.

netzpolitik.org: You mentioned the enforcement of laws. Besides the DSA, are there any other laws that are also quite important, or is that really the most important one right now?

Marc Faddoul: It’s definitely the most important one.

Firstly, because it is at the European level. When you’re facing those huge tech giants, you need a strong enough market power to be able to impose your rules.

Secondly, it encapsulates a lot of things through this notion of systemic risks: electoral integrity, a risk to mental health, technology-facilitated gender-based violence. There’s a whole range of risks that are captured in this article, which makes it one of the more flexible legal frameworks to date.

But it’s not only the DSA we work on. Recently we have done this study exposing the dissemination of non-consensual intimate images and the production of CSAM content by Grok. For both of these there are a lot of other legal frameworks for which this is relevant, both in Europe and worldwide. On those cases we are also working with other regulators, including Australia, the UK and California.

netzpolitik.org: And how exactly do you work with regulators? Do you bring something to their attention, or do you get tasks from them?

Marc Faddoul: In many cases we do our own investigations and then we bring them to the attention of the regulators. So that’s really our own initiative.

In other cases, regulators can come to us with specific requests. That can be paid or contracted, but not always.

Sometimes the work is unpaid

netzpolitik.org: And when it’s not paid, why do you still do it?

Marc Faddoul: When it’s unpaid, we still do it because it’s aligned with the mission of our organization to hold platforms to account to the user and to the law.

But obviously there are limits to how much we can do under these modalities, so it cannot be systematic. There is clearly a lack of funding mechanisms available from institutions to support the ecosystem. In some respects, there are new mechanisms arising, but it’s still quite limited.

netzpolitik.org: Who decides about the funding and how should it be improved in your opinion?

Marc Faddoul: At the European level now is an important moment because of the ongoing negotiations around the EU’s multi-annual budget. I think this is a big opportunity to push for more flexible funding.

One of the big pain points right now is that a lot of the funding is available through Horizon calls, which are typically three-year projects that have to be done in a large consortium of ten organizations or more.

It is quite inflexible because you cannot anticipate three years in advance what will be most relevant to do.

For example, the age verification mechanism has become a big priority. That was not the case two years ago. It is a change in the political agenda that gives it a stronger priority.

netzpolitik.org: Ok, let’s go over how the political agenda affects your work. In Brussels, it is said that people in the top political sphere are the ones taking some important decisions around the DSA cases, and that it’s not a purely technical enforcement.

Marc Faddoul: The fact that this is being constantly weighed on a geopolitical scale, is both frustrating for people who are involved in building this case, but also, most importantly, incoherent with the statements by those political leaders who say that respecting European laws is not something that is negotiable and that they will be enforced strictly.

Also, it is sending a wrong signal to those platforms and to adverse politicians that indeed they can put pressure to block those decisions.

And then you have a second component which is: What are you enforcing? What are the priorities?

There’s a lot of room for interpretation because the DSA is big. It’s being rolled out and not everything is being implemented with the same speed and with the same priority.

Political climate influences enforcement

netzpolitik.org: What is being prioritised?

Marc Faddoul: Some topics that have consensus across the political spectrum and also transatlantic consensus include the dissemination of non-consensual intimate images. Even Melania Trump, for example, was quite involved in advocating for this specific issue. Other examples of topics with broad consensus include CSAM content and age verification. Still, those political dynamics define where we are putting the pressure on.

On the other hand, climate change disinformation is now being pushed towards the bottom of the list.

netzpolitik.org: How would you rate the transparency of how the DSA is being enforced?

Marc Faddoul: I can tell you one thing: in the cases we’re involved in, where we provided evidence, we have no idea about their content or when they’re going to come out. We only know it’s been received.

And even then, we can be exposed by the results of those investigations.

This happened with the X investigation. The fine was sent out, then the Department of Justice in the U.S. leaked the whole investigative file with our names in it, unredacted.

So, this is a real consequence for us. We can have retaliation against us, especially when Elon Musk tweets very aggressively against the fine, how it’s censoring US free speech, which is obviously complete nonsense.

But, still, in reality, we can be harassed and attacked in response, but we had no control over the fact that our name was captured in those files, over the fact that it was released, and over the fact that we are not even really informed about the timetable.

This is not directly the Commission’s fault. They had to give the file to Twitter. Then the Department of Justice requested the file from Twitter. And then they leaked it.

We are a pivotal actor in building this case, but we have no control, and even no information on what happens next.

netzpolitik.org: You can not only be harassed via tweets or comments, but there could also be legal consequences, right? Do you have any sort of protection for that or does that all lie on you?

Marc Faddoul: All on us. The Commission doesn’t help us with that in any way.

Here, we have a clear policy request: the creation of a much better safe harbour for people who do public interest research, like we do.

netzpolitik.org: So, the main things that you would need are better funding, legal protection, also transparency, something else?

Marc Faddoul: Well, in fact, I think for our protection it is good that we don’t have the details of the cases. I wouldn’t make it a request.

The funding, absolutely. It should be more flexible, shorter term, not only through large consortiums.

And on the protection, yes, absolutely. A safe harbour for public interest research and also institutional support when we get attacked by foreign actors for the work that we do in supporting enforcement of democratic regulation.

Auf der re:publica kritisiert die Autorin Karen Hao die Macht und Rücksichtslosigkeit großer KI-Konzerne. Ihre dringende Warnung an die EU: Hört auf, den Ansatz der USA zu kopieren, und macht euch unabhängig von den Imperien des digitalen Zeitalters.

Karen Hao auf der re:publica 2026. – Alle Rechte vorbehalten: IMAGO / Mauersberger Die Journalistin Karen Hao ist mit ihrem 2025 erschienenen Buch „Empire of AI“ zu einer der prominentesten Kritiker:innen großer Tech-Konzerne und ihrer KI-Imperien geworden. Bei ihrer Eröffnungsrede auf der re:publica in Berlin nahm Hao am Montag aber nicht nur Unternehmen wie OpenAI, Google oder Microsoft ins Visier, sondern wusch auch der europäischen Politik den Kopf.

Haos wichtigste Botschaft: Die EU müsse aufhören, in der KI-Politik den USA hinterherzulaufen. Dort hätten das Silicon Valley und das Weiße Haus das mächtigste Bündnis seit dem britischen Empire und der East India Company gebildet. Wenn Europa versuche, deren Modell zu kopieren und dafür mühsam errungene Standards wie den Datenschutz aufzuweichen, zementiere man nur die Macht der neuen Imperien.

Wachstum um jeden Preis

Die Probleme mit der Lieferkette von KI, die Hao pointiert vorträgt, sind zumindest für netzpolitik.org-Leser:innen nicht neu: Rechenzentren und hochleistungsfähige Computerchips lassen den Strom‑, Wasser- und Ressourcenverbrauch massiv ansteigen . Gefüttert werden die großen Modelle mit Petabytes an Daten, die ohne Einverständnis der Urheber:innen oder Betroffenen abgegriffen wurden. Gesäubert, sortiert und gelabelt wird der Input von ausgebeuteten Datenarbeiter:innen .

Hao hat all diese Probleme aus der Nähe untersucht. Sie hat mit Datenarbeiter:innen in Kenia und den USA gesprochen, Proteste gegen Rechenzentren in Chile und Spanien dokumentiert sowie einmalige Einblicke hinter die Kulissen von Open AI erhalten. Als Ursache hinter den Problemen macht sie einen Ansatz großer Tech-Konzerne aus, den sie „Scale At All Costs“ nennt, also: Wachstum um jeden Preis.

Statt Probleme zu lösen, würden KI-Konzerne nur ein Rezept kennen: mehr von allem. Mehr Daten. Mehr Rechenkapazität. Mehr Nutzer:innen. Dafür würden sie alles in Kauf nehmen. Die von Big Tech verursachten CO2-Emmissionen seien seit 2020 um 150 Prozent gestiegen – also seit dem Jahr, in dem sie sich vorgenommen hatten, ihre Emissionen bis 2030 auf Null zu bringen.

Fahrräder statt Raketen

Statt diesen Ansatz zu kopieren, wie es derzeit geschehe, müsse Europa sich von den KI-Imperien lösen, sie zerschlagen und Alternativen aufbauen. Als solche nennt Hao kleinere, auf die Lösung bestimmter Probleme spezialisierte KI-Modelle, die im Gegensatz zu den großen General-Purpose-Modellen der Tech-Konzerne deutlich weniger Rechenkapazität benötigten.

Letztere vergleicht Hao mit Raketen. Sie seien zwar für einige wenige Zwecke gut geeignet, jedoch vollkommen überdimensioniert, um beispielsweise Verkehrsprobleme moderner Gesellschaften zu lösen. „Wenn jeder mit der Rakete von München nach Berlin reisen will, haben wir ein Problem“, so Hao. So wie Raketen ungeeignet seien, Transportprobleme zu lösen, sei General Purpose AI nicht die Lösung für die meisten digitalen Probleme.

„Baut lieber Fahrräder als Raketen“, lautet Haos Empfehlung. Als Beispiele für kleinere KI-Anwendungen nennt die Autorin das ursprünglich von Deep Mind entwickelte KI-Modell AlphaFold zur Analyse von Proteinstrukturen in der Molekularforschung. Für solche Modelle brauche man keine Supercomputer und keine Datenarbeit.

Gleiches gelte für spezialisierte KI-Tools zur Bekämpfung der Klimakrise, etwa bei der Vorhersage von Extremwetter, zur Optimierung von Lieferketten oder zur Erhöhung der Energieeffizienz von Gebäuden. Auch Open-Source-Modelle und die Eurostack-Initiative könnten kurz- und mittelfristig helfen, aus der Abhängigkeit von Big Tech zu kommen.

„Stop Scaling!“

„Wir liegen im Wettrennen um KI so weit zurück“, diesen Satz höre sie häufig von Europäer:innen, so die Journalistin. Die Frage sei jedoch: Wie definiert man dieses Rennen, in dem Europa sich angeblich befindet? „Geht es darum, immer nur noch größere Raketen zu bauen? Dann ist das ein Wettlauf nach unten.“

Karen Haos klare Botschaft an Europa: „Stop Scaling!“ Die EU allerdings scheine dem US-Modell folgen zu wollen, so Hao. Wenn die EU etwa im Rahmen des digitalen Omnibus-Gesetzespakets die Datenschutzregeln zurückstutzen wolle, um die Nutzung personenbezogener Daten für KI zu erleichtern. Oder wenn sie einen massiven Ausbau der Rechenzentrumsinfrastruktur plane.

Dieser Weg werde nur zur Vertiefung der Abhängigkeiten von den USA führen. Ganz direkt, indem dafür große Mengen KI-Chips der Firma Nvidia angeschafft werden müssten. Aber auch indirekt, weil auch die Rechenzentrums-Infrastruktur nicht ohne Big Tech auskomme. Auch die Investments in eine europäische KI-Alternative wie Mistral hätten nicht zu mehr Unabhängigkeit geführt, schließlich sei das französische Unternehmen eine Partnerschaft mit Microsoft eingegangen.

Stattdessen müsse Europa das Wissensmonopol der KI-Imperien aufbrechen. Zum einen, indem es massiv in unabhängige KI-Forschung investiere. Zum anderen, indem es die Branche zu mehr Transparenz zwinge. Nur durch Regulierung könnten die US-Konzerne dazu gebracht werden, offenzulegen, wie viel Strom, Wasser und andere Ressourcen ihre KI-Modelle und Rechenzentren verbrauchen. Dass Microsoft und Lobby-Gruppen EU-Richtlinien beeinflusst hätten , die Transparenz in diesem Bereich verhindern, sei ein fatales Zeichen.

Dabei sei eine Abkehr Europas von den KI-Imperien auch geopolitisch geboten, schließlich hänge die US-Ökonomie und damit auch die Macht des US-Präsidenten vom Erfolg der Konzerne ab. Ein Großteil des Börsenwachstums der US-Wirtschaft gehe auf das Konto weniger KI-Unternehmen. Wenn man sie rausrechne, habe Europas Wirtschaft in den vergangenen Jahren an der Börse sogar besser performt.

Die 20. Kalenderwoche geht zu Ende. Wir haben 10 neue Texte mit insgesamt 85.644 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

– : Fraktal, generiert mit MandelBrowser von Tomasz Śmigielski Liebe Leser*innen,

soll Europa Jugendlichen den Zugang zu Social Media verbieten? Eigentlich berät darüber gerade ein Expert*innengremium, die EU-Kommission hat es einberufen. Doch Kommissionspräsidentin von der Leyen kann das Ergebnis scheinbar nicht abwarten. In einer Rede klang sie diese Woche bereits sehr festgelegt. „Es ist meine Überzeugung, dass wir einen zeitlichen Aufschub für soziale Medien in Betracht ziehen müssen“, sagte sie.

„Zeitlicher Aufschub“ ist ihr Euphemismus für „Verbot für Jugendliche“. Von der Leyen hat ihn aus der Kommunikationsstrategie zum Social-Media-Verbot der australischen Regierung übernommen. Auch ihre Aufforderung „Geben wir den Kindern die Kindheit zurück“, stammt von dort. Mein Kollege Sebastian hat ihre Rede analysiert und erklärt, warum ein Social-Media-Verbot Kinder nicht zwingend glücklicher macht. Es nimmt ihnen soziale Kontakte und eine Möglichkeit zum Erwerb digitaler Kompetenzen.

Sebastian hat auch aufgeschrieben, was von der Leyen in ihrer Rede noch alles ausgelassen hat. Zum Beispiel, dass die Alterskontroll-App, die sie kürzlich vorgestellt hat, die Menschen zur Nutzung von iOS oder Android zwingt. Menschen mit freien Betriebssystemen wären demnach ebenfalls von altersgeschützten Inhalten ausgesperrt.

Und dann könnte das Alterskontroll-System auch noch mindestens ein wichtiges Privatsphäre-Tool in Gefahr bringen.

Aktuell nutzen in Australien – wie auch in Großbritannien, wo ebenfalls ein Social-Media-Verbot für Jugendliche gilt – viele Heranwachsende Dienste für virtuelle private Netzwerke (VPN), um die Alterssperren zu umgehen. Damit wird ihr Datenverkehr über Länder ohne Alterskontrollen geleitet. Mit diesem Trick ließe sich auch ein europäischer Alterskontroll-App-Zwang umgehen.

Alterskontrollen können nicht effektiv durchgesetzt werden, so lange es unbeschränkte VPNs gibt. Das hat auch der Wissenschaftliche Dienst des Europäischen Parlaments erkannt und dazu festgestellt, dass man Jugendlichen ja auch den Zugang zu VPNs sperren könne. Der Schritt läge nahe, wäre aber hochproblematisch.

VPNs nutzen auch Volljährige, um sich beispielsweise mit ihrer Büro-IT zu verbinden, weil sie ihr Internet-Nutzungsverhalten nicht mit ihrem WLAN oder Internet-Zugangsanbieter teilen wollen, oder auch weil sie kritische Journalist*innen oder Aktivisti mit erhöhtem Datenschutzbedürfnis sind. Für all sie gälte dann, wie auch für die Social-Media-Nutzer*innen, eine Ausweispflicht. Denn um von der Leyens App nutzen zu können, müssen Menschen damit ihren Ausweis scannen – und ihr Gesicht.

Um Kinder vor nicht-altersgerechten Inhalten und suchterzeugenden Mechanismen zu schützen, bräuchte man allerdings gar nicht alle Nutzer*innen zu kontrollieren, sondern nur die Plattformen.

Winkt von Mastodon aus:

Martin

Degitalisierung: Fremde Autos

Lehrvideos über Gefahren im Straßenverkehr sind genauso notwendig wie der Versuch, immer sicherere Autos zu bauen. Digitale Risiken sind im Vergleich dazu noch mal besonders, denn sie haben eine weitere Risikokomponente. Verknüpft damit ist eine gesamtgesellschaftliche Aufgabe. Von Bianca Kastl –

„Gemeinsam kämpfen“: Das sagen Pornodarsteller*innen zur Deepfake-Flut

Aufnahmen von Pornodarsteller*innen liefern die Vorlage für sexualisierte Deepfakes. Aber die Öffentlichkeit sieht sie nicht als Opfer, kritisiert Ana Ornelas von der European Sex Workers’ Rights Alliance. Ein Interview über gestohlene Nacktaufnahmen, patriarchale Gewalt und Kontrollverlust.

Von Chris Köver –

Wissenschaftlicher Dienst des EP: Wer Kinder ausschließen will, muss Anonymität verbieten

VPNs sind ein Schlupfloch für Jugendliche, um Social-Media-Verbote zu umgehen. Das konstatiert eine Analyse des Wissenschaftlichen Dienstes des Europäischen Parlaments. Er stellt deshalb eine Personalausweispflicht für die VPN-Nutzung in den Raum. Dabei sind Werkzeuge zur Identitätsverschleierung wichtige Bestandteile einer Demokratie. Von Martin Schwarzbeck –

Gemeinsames Europäisches Asylsystem: IT-Anpassungen in Deutschland kosten mindestens 150 Millionen Euro

Bis ein neues europäisches Asylsystem wirksam wird, ist es nur noch einen Monat Zeit. Die Mitgliedstaaten müssen dafür jede Menge Prozesse anpassen und IT-Systeme aktualisieren. In Deutschland wird das nicht nur knapp, sondern auch ziemlich teuer. Von Anna Biselli –

Iran dominiert im Slopaganda-Krieg: Mit Legosteinen gegen das Weiße Haus

Der Iran gewinnt mit KI-generierten Lego-Clips etliche Schlachten gegen die Trump-Regierung – zumindest im Netz. Millionenfach geklickt, weltweit geteilt: Der iranische Propaganda-Erfolg basiert auf einem Prinzip, das längst ein eigenständiges Genre geworden ist. Von Denis Glismann –

Statt Datenstrategie: Digitalministerium will KI-Agenten für die Verwaltung

Die Verwaltungsdigitalisierung ging in den vergangenen Jahren äußerst schleppend voran. Eine Ursache dafür: Die Verwaltung speichert ihr Wissen in Dokumenten ab statt als maschinenlesbare Daten. Statt das Problem anzugehen, macht sich das Digitalministerium für KI-Agenten stark. Die arbeiten jedoch intransparent und erzeugen übermäßig Fehler. Von Esther Menhard –

Wir sind ein spendenfinanziertes Medium.

Unterstütze auch Du unsere Arbeit mit einer Spende.

Jetzt spenden

Petition gegen Digitalzwang: 64.000 Menschen wollen das Grundgesetz ändern

Das Recht auf analoges Leben soll ins Grundgesetz – mehr als 64.000 Unterzeichner*innen fordern das in einer Petition. Interessierte können sich bis 21. Mai anschließen. Im Interview erklären die Initiator*innen: Der ausufernde Digitalzwang schadet der Demokratie. Von Martin Schwarzbeck –

„Es ist meine Überzeugung“: Von der Leyen kommt eigenen Fachleuten zuvor und will Social-Media-Verbot

Bevor sich ihre Jugendschutz-Expert*innen dazu äußern können, fordert Ursula von der Leyen ein Social-Media-Verbot für Minderjährige plus Alterskontrollen. Unsere Analyse zeigt: Die Kommissionspräsidentin folgt dem Playbook der australischen Regierung. Von Sebastian Meineck –

re:publica 26: Dagegenhalten für ein besseres Morgen

Nächste Woche findet die diesjährige re:publica statt, die größte Konferenz für die digitale Gesellschaft in Europa. Das Programm bietet viele spannende Themen und Formate. Auf den Bühnen stehen auch Redakteur:innen und Autor:innen von netzpolitik.org. Von Daniel Leisegang –

Digitalministerkonferenz: Wildberger will Datenschutz für KI-Einsatz in der Verwaltung schleifen

Der durchdigitalisierte Staat soll her und das möglichst schnell. Darin sind sich Bund und Länder nach der Digitalministerkonferenz einig. Um Tempo zu machen, wollen die zuständigen Minister:innen mehr sogenannte Künstliche Intelligenz und weniger Datenschutz. Von Esther Menhard –

Der durchdigitalisierte Staat soll her und das möglichst schnell. Darin sind sich Bund und Länder nach der Digitalministerkonferenz einig. Um Tempo zu machen, wollen die zuständigen Minister:innen mehr sogenannte Künstliche Intelligenz und weniger Datenschutz.

Karsten Wildberger (CDU), Kristina Sinemus (CDU) und Jan Pörksen (SPD) bei der fünften Digitalministerkonferenz im Hamburger Rathaus. – Alle Rechte vorbehalten: G. Schwering / Senatskanzlei Bürokratieabbau, Registermodernisierung, DeutschlandID: Auf diese Themen blickt Bundesdigitalminister Karsten Wildberger (CDU) schon seit längerem mit der KI-Brille. Spätestens seit Mittwoch weiß er die Länder dabei hinter sich. Auf der Pressekonferenz zur Digitalministerkonferenz (DMK) demonstrierten Wildberger, die hessische Digitalministerin Kristina Sinemus (CDU) und der Chef der Senatskanzlei Hamburg Jan Pörksen (SPD) Einigkeit bei diesem Thema. Alle drei betonten, dass man beim KI-Einsatz in der öffentlichen Verwaltung an einem Strang ziehe .

Seit 2024 treffen sich die Minister:innen, Senatoren und Staatssekretär:innen der Länder regelmäßig, um über digitalpolitische Entscheidungen zu diskutieren. Die fünfte DMK fand in Hamburg statt und knüpfte inhaltlich an die Föderale Modernisierungsagenda an. Die hatten Bundeskanzler Friedrich Merz (CDU) und die Regierungschef:innen der Länder im Dezember beschlossen. Die 200 Maßnahmen der Föderalen Modernisierungsagenda zielen vor allem darauf ab, Bürokratie abzubauen. Bund und Länder wollen etwa bis Ende 2026 Berichtspflichten für die öffentliche Verwaltung prüfen, um mindestens die Hälfte von ihnen zu streichen.

Ein weiteres Ziel ist ein durchgehend digitalisierter Staat. Zwar lehnte die DMK einen Antrag Schleswig-Holsteins zu „digital only“ ab. Demnach sollen Verwaltungsbehörden nur noch rein digitale Prozesse anbieten und auf papiergebundene Arbeit verzichten. Doch die Uneinigkeit sei nicht inhaltlich begründet, so Sinemus und Wildberger, sondern darin, bis wann dieses Ziel erreicht sein soll. Das Ziel digital only sehen der Koalitionsvertrag und die Föderale Modernisierungsagenda vor. „Der Weg führt klar in diese Richtung“, sagt Wildberger.

Mit KI zurück an die Spitze

Und dieser Weg ist gepflastert mit KI-Projekten. Nur so ließen sich laut Digitalminister ein durchgehend digitaler Staat erreichen und die Wettbewerbsfähigkeit Deutschlands stärken. Daher freut sich Wildberger nach eigenen Angaben auch über Deutschlands Wirkmacht beim KI-Omnibus auf EU-Ebene. Mit der jüngst erzielten Einigung erhalte die Industrie nun „mehr Freiraum“, so der Minister. Die Industrie solle auch bei der Umsetzung des Deutschland-Stacks eine wichtigere Rolle einnehmen.

Seinen Fokus auf generative KI hat Wildberger bereits zu seinem Amtsantritt eingenommen. Besonders deutlich wurde das etwa auf dem Gipfel zur Europäischen Digitalen Souveränität im November vergangenen Jahres und auf der Münchener Sicherheitskonferenz im vergangenen Februar. Im November begrüßte der Minister ausdrücklich die Kooperation des französischen KI-Start-ups Mistral und des deutschen Softwareunternehmens SAP, die nun gemeinsam eine KI-Lösung für die öffentliche Verwaltung bereitstellen wollen. Und er unterzeichnete die deutsch-kanadische Absichtserklärung für nachhaltige Rechenzentren und „wertebasierte KI-Politik“.

Diese wertebasierte Politik sieht der Minister etwa in der bundeseigenen KI-Plattform KIPITZ vom ITZBund und im „preisgekrönten Projekt SPARK “ umgesetzt. Damit sei Deutschland bei KI-basierten Verwaltungsanwendungen sogar „weltweit führend“, lässt sich der Minister auf der Projektwebsite zitieren. Unter dem Projekt SPARK seien demnach mehrere KI-gestützte Genehmigungsverfahren entwickelt worden, die Beschäftigte wirksam entlasten sollen. Neben der Bundesverwaltung würden sie bereits im Stadtstaat Hamburg und im Land Mecklenburg-Vorpommern zum Einsatz kommen, so Wildberger.

Generative KI versus Datenschutz

Mit SPARK will Wildberger auch die schleppende Verwaltungsdigitalisierung adressieren. Fachleute sehen den Ansatz des Ministers kritisch, weil er KI einsetzt, statt Informationen in maschinenlesbare Formate zu übertragen, was die Automatisierung der Verwaltung deutlich beschleunigen und effizienter machen würde. Der Minister füge dem Problemberg nur noch weitere Schichten hinzu, so die Kritik .

Gleichzeitig will Wildberger Hindernisse aus dem Weg räumen, die aus seiner Sicht einer Nutzung von KI-Sprachmodellen im Wege stünden. Ganz oben auf der Liste: der Datenschutz. Laut Föderaler Modernisierungsagenda will der Bund spätestens Ende 2027 eine neue Regelung im Bundesdatenschutzgesetz vorschlagen, „die es öffentlichen Stellen zum Zwecke des Trainings und Einsatzes von KI erlaubt, personenbezogene Daten zu anonymisieren oder zu pseudonymisieren “.

Auch brauche es „eine stärker risikobasierte Ausrichtung der Datenschutz-Grundverordnung“, heißt es in der Modernisierungsagenda weiter, um etwa die Arbeit von KI-Reallaboren zu erleichtern. Das betreffe unter anderem die Einwilligung von Betroffenen und die Zweckbindung der verwendeten Daten.

Nach der Datenschutzgrundverordnung (DSGVO) wie auch nach dem Bundesdatenschutzgesetz dürfen personenbezogene Daten grundsätzlich nicht verarbeitet werden, es sei denn die betroffene Person willigt ausdrücklich ein oder es gibt für den entsprechenden Fall eine gesetzliche Grundlage.

Offene Fragen spielen keine Rolle auf der Digitalministerkonferenz

Die bestehenden datenschutzrechtlichen Bestimmungen würden zu streng ausgelegt und übererfüllt, aus Angst, etwas falsch zu machen, sagte Wildberger am Mittwoch. Außerdem brauche es nicht 17 unterschiedliche Datenschutzgesetze und auch keine Pflicht für die Länder, eigene Datenschutzbeauftragte zu bestellen. Das alles bremse die Digitalisierung staatlicher Verwaltungsprozesse aus, etwa mit Blick auf den Datenaustausch zwischen Behörden.

Auch die Datennutzung, die für das Training von KI-Sprachmodellen eine wesentliche Voraussetzung ist, will der Minister erleichtern. Dazu müssten Bund und Länder an den geltenden Datenschutz-Rechtsrahmen ran, der sich mit dem Einsatz von KI nur schwer vereinbaren ließe, wie auch die Bundesdatenschutzbeauftragte Louisa Specht-Riemenschneider im Dezember gegenüber netzpolitik.org sagte . So sei etwa unklar, wie man Betroffenenrechte und Löschansprüche bei KI-Systemen nach dem Training geltend macht, sagt Specht-Riemenschneider.

Derartige Fragen, die eigentlich einer größeren gesellschaftlichen Debatte bedürfen, tauchen im Beschluss zum „Paradigmenwechsel im Datenschutz“ der DMK allerdings nicht auf. Auch hier sind sich alle Beteiligten offenbar einig.

Die Verwaltungsdigitalisierung ging in den vergangenen Jahren äußerst schleppend voran. Eine Ursache dafür: Die Verwaltung speichert ihr Wissen in Dokumenten ab statt als maschinenlesbare Daten. Statt das Problem anzugehen, macht sich das Digitalministerium für KI-Agenten stark. Die arbeiten jedoch intransparent und erzeugen übermäßig Fehler.

KI-Agenten sollen Mängel in der Informationsverwaltung überbrücken. (Symbolbild) – Gemeinfrei-ähnlich freigegeben durch unsplash.com: Teppich: Unsplash / Scott Webb; Grafik: netzpolitik.org, Montage: netzpolitik.org Ob für das Bearbeiten eines Antrags oder einer Bürger:innen-Anfrage, zur Entscheidungsfindung oder Haushaltsplanung – Verwaltungsarbeit ist zu großen Teilen Arbeit mit Informationen. Wichtig ist dabei, dass Mitarbeiter:innen diese Informationen leicht finden. Dafür müssen sie sich zurzeit noch durch einen Dschungel an Dokumenten schlagen. Vieles steckt in Akten, in physischen und digitalisierten, in PDFs oder Word-Dokumenten. Dokumente, die darauf warten, systematisch aufbereitet und durchsuchbar gemacht zu werden.

Seit Jahren fordern Expert:innen daher, für die öffentliche Verwaltung eine moderne Dateninfrastruktur zu bauen, Informationen als Linked Data (PDF) zu organisieren und verlässliche Daten-Standards zu nutzen. Das würde die Verwaltungsdigitalisierung beschleunigen.

Doch statt hier in eine nachhaltige Strategie zu investieren, setzt Digitalminister Karsten Wildberger (CDU) lieber auf KI-Sprachmodelle. Die haben es nun in den Katalog des Deutschland-Stack s geschafft. Allerdings ist es zweifelhaft, ob sie den großen Hoffnungen des Ministers gerecht werden.

Gehypte KI-Agenten

Seit März dieses Jahres fördert das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) im Rahmen des Agentic AI Hub kommunale Pilotprojekte, die mittels generativer KI Sachberarbeiter:innen Verwaltungsaufgaben abnehmen sollen.

Auch die Bundesverwaltung setze bereits KI-Agenten ein, erklärt Staatssekretär Thomas Jarzombek (CDU) im Ausschuss für Digitales und Staatsmodernisierung Mitte April zu seinem „Leib- und Magenthema“. Das sei im Digitalministerium in Sachen Verwaltungsdigitalisierung insgesamt das „Thema Nummer 1“.

So soll etwa der Agent „Spark“ dabei helfen, „Dutzende Aktenordner mit Gutachten und Unterlagen zu sichten und sie in wenigen Stunden auf Vollständigkeit und Plausibilität zu prüfen“. Damit könne die Verwaltung Vorgänge beschleunigen und bessere Entscheidungen treffen, so Jarzombek. Ziel sei es, die Versäumnisse bei der Verwaltungsdigitalisierung und Personalmangel auszugleichen.

Grundlegende Probleme bleiben ungelöst

Dass das Digitalministerium hier auf generative KI-Systeme setzt, wirke mehr wie eine kurzfristige Reaktion auf die Symptome der schleppenden Verwaltungsdigitalisierung als wie ein fundierter Umgang mit ihren ursächlichen Mängeln, so Stefan Kaufmann von Wikimedia Deutschland gegenüber netzpolitik.org.

Er fordert für die Verwaltung ein grundlegendes Umdenken. So sollten Informationen nicht wie bisher in Dokumenten, sondern in semantischen Daten und Wissensgraphen abgelegt werden. „Und wir brauchen die IT-Architekturen, um staatliche Informationen als semantische Daten zu speichern und wiederverwenden zu können“, sagt Kaufmann. Mit Wissengraphen können Informationen strukturiert dargestellt werden, sodass Computer Bedeutungzusammenhänge von Informationen verarbeiten können.

Vor gut einem Jahr veröffentlichte Wikimedia die Broschüre „Generative KI für die Verwaltung?“ und traf damit einen Nerv. Die gedruckte Fassung für die öffentliche Verwaltung war schnell vergriffen, vor Kurzem erschien ein Nachdruck.

Was Kaufmann unter anderem meint, wenn er sagt „in Daten denken“: Verwaltungswissen versteckt sich meistens in Texten, PDFs und Tabellen, die für menschliche Bearbeitung angelegt und gespeichert wurden. Einzelne Informationen müssen Suchende den Dokumenten meist mühsam entlocken. Es überrascht daher nicht, dass sich Verwaltungsmitarbeitende ein KI-System wünschen, das bestimmte Informationen aus einer Vielzahl von Dokumenten zusammensucht.

Automatisierung statt Sprachmodelle

In der Begeisterung für generative KI übersehen aus Sicht von Kaufmann sowohl Verwaltungsdigitalisierer als auch Minister Wildberger allerdings zweierlei: Zum einen sind generative KI-Systeme prinzipiell limitiert, zum anderen bieten gerade in der Verwaltung sogenannte logikbasierte Methoden ein bislang unausgeschöpftes Potenzial. Logikbasierte Methoden geben bei jeder Anfrage logisch das gleiche Ergebnis aus, das sich transparent auf die zugrundeliegenden Daten zurückführen lässt.

Doch dafür müssen staatliche Informationen als strukturierte und maschinenlesbare Daten vorliegen. Erst dann ließen sich zahlreiche Verwaltungsprozesse auf klassischem Wege automatisieren, sowohl in der internen Arbeit als auch in Kontakt mit Bürger:innen, Organisationen und Unternehmen.

Mitarbeitende in der Verwaltung erhielten so mehr Zeit für Beratung, weil sie weniger damit beschäftigt wären, Daten und Informationen manuell zusammenzutragen. „Sie könnten auch Sachverhalte automatisiert auswerten und zwar deterministisch und halluzinationsfrei“, so Kaufmann.

Verwaltungs-Chatbots machen Fehler

Ein solcher Ansatz würde allerdings eine nachhaltige Strategie erfordern, die bislang nicht in Sicht ist. Viele Kommunen setzen stattdessen auf Chatbots, um mit ihren Bürger:innen zu kommunizieren. Sie hoffen, so die bestehende Arbeitslast innerhalb der Behörden abzufedern. Aus ihrer Sicht sind die Bots außerdem attraktiv, weil sie diese bei externen IT-Dienstleistern einkaufen und dies haushalterisch abbilden können.

Der Berliner BärGPT , die Gersheimer Gerda Bürki oder der Hagener JOST – sie alle sollen auf Grundlage von Informationen, die auf einer städtischen Website zu finden sind, dazu Auskunft erteilen, wer eine Behördenabteilung leitet oder an wen sich Bürger:innen auf der Suche nach einem Kita-Platz wenden können.

Doch die Bots funktionieren so wie alle Large Language Models (LLMs, Sprachmodelle): nach dem Prinzip der statistischen Wahrscheinlichkeit. Und deshalb machen sie Fehler. Das belegte zuletzt etwa eine Studie der Europäischen Rundfunkunion im Oktober 2025. Demnach liegt die Fehlerquote in den Outputs von Chatbots wie Gemini, Copilot oder ChatGPT bei rund 45 Prozent. Bezeichnenderweise geben sie Informationen dann relativ korrekt aus, wenn die dafür nötigen Daten gut strukturiert vorliegen – also in der Form, die es auch als Grundlage für logikbasierte Auswertungen bräuchte.

Regelbasiert sticht Wahrscheinlichkeitsprinzip

Ob einem KI-Chatbot Fehler unterlaufen, wird allerdings erst dann ersichtlich, wenn Nutzer:innen die Ausgabe prüfen. Bezogen auf die Verwaltung hieße das, dass Sachbearbeiter:innen dafür zusätzliche Zeit einplanen müssen. Außerdem brauchen sie verlässliche Referenzdaten, um diese mit der KI-Antwort abgleichen zu können. Die Alternative dazu wäre ein automatischer Vorbehalt, sagt Kaufmann. „Wenn ich einen Bescheid bekomme, der mit generativer KI erstellt wurde, hätte ich damit das Recht auf nochmalige manuelle Prüfung.“

Auch bei Abfragen aus verteilten Wissensbeständen kämen Sprachmodelle schnell an ihre Grenzen, etwa wenn Nutzer:innen nach einer Liste deutscher Großstädte mit einer Oberbürgermeisterin fragen und diese nach Einwohnerzahl absteigend sortiert bekommen möchten. „Aus strukturierten Daten wie bei Wikidata lässt sich das mit simplen, regelbasierten Methoden und einem Bruchteil des Aufwands beantworten – und zwar verlässlich“, erklärt Kaufmann gegenüber netzpolitik.org. Dennoch investieren immer mehr Kommunen in Chatbots.

Statt den Umweg über KI-Sprachmodelle zu verfestigen, könnte die Verwaltung ihre Informationsbestände Schritt für Schritt in Richtung semantischer Datenspeicherung entwickeln. Das würde nicht nur die interne Weiterverwendung behördlicher Informationen vereinfachen, erklärt Kaufmann. Vielmehr könne man die Bestände auch mit symbolischen KI-Systemen verlässlich auswerten. „Das sind regelbasierte Systeme, die im Gegensatz zu LLMs und Agentensystemen nicht dem Zufall ausgesetzt sind.“ Außerdem seien sie deutlich sparsamer beim Energieverbrauch.

Auf diese Weise könne die Verwaltung Informationen, die bisher in Dokumenten oder Fachverfahren „gefangen“ waren, organisationsübergreifend auswerten und verwenden. Dabei könnten auch Unklarheiten in den Informationen auffallen, die Mitarbeitende direkt auf Quellenebene korrigieren könnten.

Aus Erfahrungswissen lernen

Die Verwaltung könnte hier aus vielen Jahren Vorarbeit von Projekten und Initiativen des digitalen Ehrenamts lernen, glaubt Kaufmann. Als Beispiel führt er das Projekt „kleineAnfragen“ an, wo Nutzer:innen alle kleinen und großen Anfragen deutscher Parlamente nach Stichwörtern durchsuchen, Anfragen automatisch analysieren und sie mit einer stabilen URL verlässlich verlinken konnten. Ein anderes Beispiel seien Web-Angebote wie „Meine Stadt Transparent“ und „Politik bei uns“, die Ratsdokumente besser durchsuchbar machten. Eine wesentliche Rolle spielte dabei der offene OParl-Standard, der es erlaubt, Dokumente maschinell auszuwerten.

Alle drei Angebote sind derzeit allerdings nicht mehr in Betrieb. „Sie waren als Freie-Software-Projekte quasi schlüsselfertig und „for public adoption“ gedacht – staatliche Stellen haben sie aber nie selbst übernommen“, erklärt Kaufmann. Es komme selten vor, dass in einer Behörde Menschen arbeiten, die die Potenziale dieser Systeme erkennen und sie dann, ohne lange Schleifen mit externen Dienstleistern durchlaufen zu müssen, selbst ausrollen können.

Das BMDS unter Karsten Wildberger ist hier offenbar keine Ausnahme. Die Bundestagsabgeordnete Sonja Lemke (Die Linke) fragte in der Ausschusssitzung Mitte April, ob das Digitalministerium regelbasierte Systeme prüfe oder auch Systeme, mit denen die Verwaltung ihre Informationen in maschinenlesbarer Form bringe und damit wiederverwendbar abspeichere. Einer klaren Beantwortung der Frage wich Staatssekretär Jarzombek aus.

**Import KI 456: RSI und Wirtschaftswachstum; radikale Optionalität für KI-Regulierung; und ein neuronaler Computer**

Welche Gesetze verlangt Superintelligenz?

Willkommen bei Import KI, einem Newsletter über KI-Forschung. Import KI läuft auf arXiv, Cappuccinos und Feedback von Lesern. Wenn Sie dies unterstützen möchten, abonnieren Sie bitte.

Regulieren? Nicht regulieren. Es gibt einen dritten Weg: Radikale Optionalität:

…Regierungen sollten jetzt in die Werkzeuge investieren, die sie in einer zukünftigen Krise benötigen könnten…

Forscher des Institute for Law & AI haben über "radikale Optionalität" geschrieben, einen Ansatz, bei dem sich Regierungen die Werkzeuge geben, die sie in Zukunft benötigen könnten, wenn leistungsstarke KI beginnt, die Welt massiv zu stören.

"Im Kern geht es bei radikaler Optionalität darum, die Fähigkeit demokratischer Regierungen zu bewahren, gute Entscheidungen darüber zu treffen, wie transformative KI-Systeme reguliert werden sollen, während sich die Umstände weiterentwickeln. Kurzfristig bedeutet dies, Überregulierung zu vermeiden, während gleichzeitig schnell die Institutionen, Informationskanäle und rechtlichen Befugnisse aufgebaut werden, die benötigt werden, um kompetent auf ein breites Spektrum von Szenarien reagieren zu können."

Die Kernidee – jetzt für eine unsichere Zukunft investieren: Angesichts der immensen Bedeutung der KI-Entwicklung "sollten Regierungen bereit sein, außergewöhnlich viel Geld, Mühe und politisches Kapital für die Wahrung der Optionalität auszugeben", schreiben sie. Mit anderen Worten: Es ist eine so große Sache, dass man in Ordnung sein sollte, jetzt eine Menge Geld mit unsicherer Rendite auszugeben. "Regierungen sollten sich vor kontraproduktiven Interventionen hüten, aber nicht allzu sehr um die tatsächlichen finanziellen Kosten jeder realistischen Maßnahme besorgt sein, die wahrscheinlich netto-positive Ergebnisse bringt."

Konkretes: Sie empfehlen außerdem mehrere spezifische Interventionen in einigen Kategorien:

Befugnisse zur Informationssammlung: Transparenzanforderungen, bei denen Unternehmen Informationen über ihre KI-Systeme veröffentlichen müssen. Meldepflichten, bei denen Unternehmen gezwungen sind, bestimmte Informationen mit einer Regierungsbehörde zu teilen. Sobald diese vorhanden sind, ein Prüfregime einrichten, damit ein Dritter die Richtigkeit dessen überprüfen kann, was die Transparenz- und Melderegeln betreffen.

Whistleblower-Schutz: Sicherstellen, dass Mitarbeiter in Grenzlaboren Informationen über Risiken melden können.

Informationsaustausch innerhalb und zwischen Regierungen: Sicherstellen, dass Regierungen Diskussionen effektiv koordinieren und erleichtern können, insbesondere solche, die sensible Informationen über den Fortschritt der KI betreffen. Dies könnte besonders wichtig sein, um Lieferketten zu stärken und zu schützen, die als kritisch für die KI-Entwicklung angesehen werden.

Flexible Regeln und Definitionen: Vermeidung voreiliger Regulierung durch potenziell bedingte "Wenn-Dann"-Regulierungszusagen oder einen Ansatz, bei dem ein übergeordnetes Ziel gesetzt wird (z. B. Risikominderung) und Unternehmen frei sind, die Einzelheiten der Umsetzung zu definieren. Dies ist verbunden mit der Notwendigkeit, flexible Definitionen oder Definitionen zu entwickeln, die sich im Laufe der Zeit weiterentwickeln können.

Bewertungen und Evaluationen: Entwicklung von Regierungs- und Drittanbieterkapazitäten zur Bewertung der Fähigkeiten und Sicherheitsaspekte von KI-Systemen.

Verbesserung der Sicherheit von Modellgewichten und algorithmischen Geheimnissen: Mehr Investitionen in die Sicherung der Gewichte neuronaler Netze sowie der algorithmischen Geheimnisse hinter einigen der besten Systeme. Dies kann durch die Verbreitung freiwilliger Standards für physische Sicherheit und Cybersicherheit erreicht werden.

Einstellung und Talent: Eine Meta-Investition, die bei all dem oben Genannten helfen würde, ist die verstärkte Investition in die Art von technischem Talent, das benötigt wird, um eine dieser Interventionen effektiv durchzuführen. Kern davon ist die Aufstockung der Finanzierung von AISI (UK) und CAISI (USA) und ihren Pendants in anderen Ländern.

Argumente und Gegenargumente: Die Autoren gehen auf einige der offensichtlicheren Gegenargumente zu diesen Ideen ein und geben einige Antworten:

Förderung dramatischer regulatorischer Maßnahmen: Die obigen Ideen "sind keine gewichtigen materiellen Befugnisse, die sich für Missbrauch eignen", behaupten sie. (Ich könnte hier widersprechen und anmerken, dass eine ausreichend motivierte Regierung dazu neigen kann, eine weitaus strengere Version einer Befugnis zu entwickeln, als diejenigen, die die Befugnis ursprünglich entworfen haben, sich vorgestellt haben könnten).

Demokratische Legitimität: Die Optimierung auf Flexibilität könnte dazu führen, dass einige Dinge, die mehr mit demokratischer Legitimität zu tun haben, heruntergespielt werden müssen, z. B. die Ermächtigung von Behörden, auf Ankündigungs- und Kommentierungsfristen für bestimmte Arten von Regelungen zu verzichten.

Machtkonzentration und Regierungsmissbrauch: Die Autoren sind "im Grunde überzeugt", dass ein erhebliches Risiko besteht, dass Regierungen die Kontrolle über die Entwicklung von KI-Systemen übernehmen – aus diesem Grund empfehlen sie keine Dinge wie die massive Ausweitung des Geltungsbereichs von Notstandsbefugnissen wie dem Defense Production Act. Eine Möglichkeit, dies zu mildern, könnte darin bestehen, Regierungen dazu zu bringen, "nur gesetzeskonforme KI-Systeme zu verwenden".

Was ist falsch an privater Governance? Warum nicht einfach das tun: Während die Autoren Ideen im Sinne von "Regulierungsmärkten" unterstützen, glauben sie auch, dass jede Governance, die sich hauptsächlich auf eine Reihe von Akteuren des privaten Sektors stützt (z. B. unabhängige Verifizierungsorganisationen), letztendlich wieder auf eine grundlegende Tasche technischer Kompetenz innerhalb der Regierung angewiesen sein wird.

Warum dies wichtig ist – die Welt auf Erfolg vorbereiten: Ich stimme allen Empfehlungen hier zu und habe mich in den letzten Jahren für viele davon eingesetzt. Es scheint mir, dass es eine Vielzahl von Dingen gibt, die wir tun könnten, um uns als Gesellschaft besser auf die potenziell absolut massiven Veränderungen vorzubereiten, die bevorstehen. "Die Kosten für die Umsetzung dieser Maßnahmen sind im Vergleich zu den potenziellen Vorteilen bescheiden. Die Kosten des Nichthandelns hingegen sind potenziell katastrophal", schreiben die Autoren. Ich stimme zu.

Lesen Sie mehr: Radikale Optionalität (offizielle Paper-Website).

***

Ein Schmidhuber-Spezial – Neuronale Computer:

…Vielleicht ist ein Betriebssystem nur eine vorübergehende Modeerscheinung…

Hier ist ein unterhaltsames Paper, Neural Computers, von Meta und KAIST, das die Frage stellt: "Kann ein neuronales Netzwerk als traditioneller Computer fungieren? Der Neural Computer (NC) ist ein neuronales System, das Berechnung, Speicher und E/A in einem gelernten Laufzeitzustand vereint."

Das Paper ist aus einigen Gründen interessant: 1) Es stammt von Juergen Schmidhuber, der so etwas wie eine Legende in der KI-Community ist und viele wichtige Dinge früh konzipiert hat (z. B. generative Modelle, Weltmodelle, Aspekte von generativen adversarialen Netzwerken, frühe Gedanken zum Benchmarking mit Videospielen), und 2) die Idee ist so ausgefallen und einfach, dass sie vielleicht einfach funktionieren könnte (wenn auch mit viel mehr Rechenleistung und Daten als heutige Modelle).

Die große Idee: Wie einer der Autoren es ausdrückte, beginnt mit der heutigen KI "eine neue Maschinenform zu entstehen". Sie fragen dann: "Wenn Agenten besser in der echten Arbeit werden, Weltmodelle besser in der internen Simulation werden und konventionelle Computer bereits ihr Substrat für KI neu aufbauen, könnte es dann eine neue Laufzeit geben, die Ausführung, Rollout und Fähigkeitserhalt in dieselbe lernende Maschine bringt?... meine eigene Vermutung ist, dass ein ausgereifter [Neural Computer] auf ein anderes Substrat hindeutet: so etwas wie eine 10T-1000T-Maschine, die spärlicher, adressierbarer und ein wenig schaltkreisähnlicher ist."

Zwei Experimente: Dies ist hauptsächlich ein konzeptionelles Paper, das einige frühe Prototypen erstellt und untersucht, ob man ein leistungsstarkes generatives Videomodell (Wan 2.1) und einige gut kuratierte Trainingsdaten verwenden kann, um einige neuronale Computer zu erstellen, die auf einer Befehlszeilenschnittstelle (CLI) und einer grafischen Benutzeroberfläche (GUI) basieren. Beide Ansätze funktionieren, wenn auch im Sinne von 'Gebrüder Wright vor dem Abheben' – sie deuten gerade so auf eine viel größere Zukunft hin.

CLI: "Der NC lernt, grundlegende Befehlszeilen-Workflows zu rendern und auszuführen. Er bleibt oft mit dem Terminalpuffer ausgerichtet und erfasst die gemeinsame 'Physik' der alltäglichen CLI-Nutzung (z. B. schnelles Zurückscrollen, Prompt-Umbruch, Fenstergrößenänderung), obwohl die symbolische Stabilität begrenzt bleibt."

GUI: "Wir evaluieren Standard-Weltmodelldesigns über Datenqualität, Cursor-Überwachung, Aktionsinjektion und Aktionskodierung unter Verwendung von Messungen der globalen Wiedergabetreue, der Reaktionsfähigkeit nach der Aktion und der Cursor-Genauigkeit."

Der Prototyp funktioniert: "Unsere experimentellen Erkenntnisse deuten darauf hin, dass aktuelle NCs bereits lernen können, elementare Laufzeit-Primitive zu realisieren, am bemerkenswertesten die E/A-Ausrichtung und die Kurzzeithorizont-Steuerung. Das langfristige Ziel ist ein Completely Neural Computer (CNC), die ausgereifte, universelle Realisierung dieser Maschinenform: ein vollständig gelernter Computer, dessen Berechnung, Speicher und Schnittstellen in einem einzigen gelernten Laufzeitsubstrat vereint sind, anstatt als separate Module entwickelt zu werden."

Warum dies wichtig ist – vielleicht wird in Zukunft alle Software in den Gewichten eines großen neuronalen Netzes leben: Dieses Paper deutet auf eine Zukunft hin, in der wir die gesamte Software, die Computer im traditionellen Sinne untermauert, loswerden und sie einfach durch ein gigantisches neuronales Netzwerk ersetzen. "Neuronale Computer deuten auf eine Maschinenform hin, in der ein einziger latenter Laufzeitzustand als der Computer selbst fungiert, Pixel, Text und Aktionen antreibt und das absorbiert, was Betriebssysteme und Schnittstellen heute handhaben", schreiben sie. "Der Fortschritt hin zu CNCs wird daher nicht nur von stärkeren Modellen abhängen, sondern auch davon, ob Wiederverwendung, Konsistenz und Governance nachhaltig und testbar werden." Ein solches System wäre zutiefst nützlich, zutiefst anders als die, die wir heute haben, und seine Existenz würde die Wahrscheinlichkeit massiv erhöhen, dass wir selbst in einer Simulation leben.

Lesen Sie mehr: Neural Computers (arXiv).

Lesen Sie den Blogbeitrag: Neural Computer: A New Machine Form Is Emerging (Mingchen Zhuge, Blog).

***

Rekursive Selbstverbesserung könnte zu explosivem Wirtschaftswachstum führen:

…Ökonomen bauen einige Modelle, die darauf hindeuten, dass RSI einen beispiellosen Wirtschaftsboom verursachen könnte…

Ökonomen und Forscher von Forethought, der Columbia University und der University of Virginia glauben, dass die rekursive Selbstverbesserung (#455) von KI-Systemen (oder sogar nur die extrem starke Automatisierung großer Teile der Wirtschaft) einen sich verstärkenden Rückkopplungszyklus auslösen könnte, der die Wirtschaft in einen beispiellosen Boom katapultiert.

"Wir entwickeln einen Rahmen für die Analyse, wie KI-gesteuerte Automatisierung mit beiden Kräften interagiert, und identifizieren die Bedingungen, unter denen durch Automatisierung erzeugte Rückkopplungsschleifen die Wirtschaft in explosives Wachstum kippen", schreiben sie. "Das Modell identifiziert zwei unterschiedliche Kanäle, durch die Automatisierung explosive Dynamiken erzeugt, und diese Kanäle verstärken sich gegenseitig. Der erste sind technologische Rückkopplungsschleifen über das Innovationsnetzwerk hinweg… der zweite Kanal ist eine wirtschaftliche Rückkopplungsschleife, in der eine höhere Produktion mehr Ressourcen generiert, die eingesetzt werden können, um weiteres Wirtschaftswachstum voranzutreiben."

Wichtigste Erkenntnisse: "13% Automatisierung in allen Sektoren reichen aus, um die Wirtschaft in das explosive Regime zu drängen, und 17% reichen aus, wenn nur Software- und Hardware-Forschung automatisiert werden. Zweitens ist die Hardware-Forschung der dominierende Hebel – da die Renditen der Forschung in der Hardware etwa fünfmal so hoch sind wie in der Software und zehnmal so hoch wie in der aggregierten TFP, bewegt die Automatisierung einer Aufgabe im Chipdesign die Wirtschaft so stark wie fünf Aufgaben in der Software oder der Produktion von Endprodukten. 20% Automatisierung allein der Hardware reichen aus, um die Schwelle zu überschreiten. Drittens liegt die Software-Automatisierung isoliert etwa auf Messers Schneide: Unter einer ziemlich konservativen Kalibrierung erreicht die vollständige Automatisierung der Software-Forschung, ohne andere Teile der Wirtschaft zu automatisieren, gerade so die Schwelle für explosives Wachstum. Ein kleiner Schub an anderer Stelle reicht aus, um das System zu kippen."

Die Singularität könnte näher sein, als Sie denken: "In unserer Basis-Stilisierungssimulation führt ein 'Automatisierungsschock', der die vollständige Automatisierung der Software-F&E und nur 5% Automatisierung in der übrigen Wirtschaft umfasst, dazu, dass die Singularität in etwa sechs Jahren eintrifft", schreiben sie. "Empirisch waren die jüngsten Wachstumsraten der Produktivität in Software und Hardware so außergewöhnlich schnell, und so ist es auch plausibel, dass der Übergang zu einem neuen ausgeglichenen Wachstumspfad oder einer hyperbolischen Beschleunigung extrem schnell erfolgt."

Hardware ist der Schlüssel: "Unsere Ergebnisse unterstreichen die strategische Bedeutung der Halbleiterforschung und -entwicklung."

Politiker, aufgepasst: "Die Überwachung des Automatisierungsniveaus in KI-F&E-Aktivitäten könnte genauso wichtig sein wie die Verfolgung traditioneller makroökonomischer Indikatoren. Das Ausmaß der Automatisierung in wichtigen Forschungssektoren könnte als Frühwarnsystem für eine potenzielle Wachstumsbeschleunigung dienen. Dies ist etwas, das Ökonomen bei KI-Unternehmen messen und öffentlich teilen könnten."

Warum dies wichtig ist – wenn RSI passiert, sollte es die Wirtschaft revolutionieren: Dieses Paper liefert eine wirtschaftstheoretische Untermauerung für die Idee, dass rekursive Selbstverbesserung – KI-Systeme, die in der Lage sind, ihre eigene nachfolgende Entwicklung zu automatisieren – einen großen Einfluss auf die Wirtschaft haben sollte. Das Überraschende aus meiner Perspektive ist, die Rückkopplung über die gesamte Wirtschaft hinweg zu sehen, was darauf hindeutet, dass wir als Folge der breiten Diffusion von Automatisierungstechnologien in die Wirtschaft eine 'wirtschaftliche Singularität' erreichen könnten. Weitere Beweise dafür, dass wir als Spezies auf eine radikale Zukunft zusteuern könnten.

Kleine Anmerkung zu Interessenkonflikten: Anton Korinek, einer der Autoren dieses Papers, arbeitet jetzt mit mir bei Anthropic. Er hat sein Paper und ich habe meinen Import KI-Beitrag über RSI am selben Tag veröffentlicht, ohne voneinander zu wissen.

Lesen Sie mehr: When Does Automating AI Research Produce Explosive Growth? Feedback Loops in Innovation Networks (NBER).

Sehen Sie sich mehr in diesem Tweet-Thread von Anton Korinek an (X).

***

Google will die Welt berechnen:

…Verteiltes Training macht einen weiteren Schritt nach vorne…

In diesem Newsletter habe ich jahrelang über verteiltes Training aus der Perspektive geschrieben, es Akteuren mit weniger Rechenleistung zu ermöglichen, Ressourcen zu bündeln, um KI-Systeme zu trainieren, die sie sonst nicht kön

Willst du, dass KI besser wird? Finde heraus, wie man sie misst: …Ein einfacher politischer Eingriff, der gut funktioniert… Jacob Steinhardt, ein KI-Forscher, hat einen schönen Blogbeitrag geschrieben, der die Tugenden von Investitionen in technische Werkzeuge zur Messung von Eigenschaften von KI-Systemen und zur Senkung der Kosten für die Einhaltung technischer politischer Lösungen darlegt. Als jemand, der sein Berufsleben in der KI mit dem Schreiben über KI-Messung und dem Aufbau von Teams (z. B. das Frontier Red Team und die Teams für gesellschaftliche Auswirkungen und Wirtschaftsforschung bei Anthropic) zur Messung von Eigenschaften von KI-Systemen verbracht hat, stimme ich der allgemeinen These zu: Messung ermöglicht es uns, eine Eigenschaft eines Systems sichtbar und für andere zugänglicher zu machen, und indem wir dies tun, können wir herausfinden, wie wir diese Messung in die Governance einbinden können. Wie Messung in anderen Bereichen geholfen hat: Steinhardt weist darauf hin, dass genaue Messung entscheidend dafür war, Menschen auf die Strategie zur Lösung von Problemen in anderen Bereichen auszurichten; CO2-Überwachung hilft den Menschen, über den Klimawandel nachzudenken, und COVID-19-Tests halfen Regierungen, herauszufinden, wie sie auf COVID reagieren sollten. Es gibt auch Beispiele, bei denen man etwas messen kann, um Anreize zu verschieben – zum Beispiel können Satellitenbilder von Methanemissionen helfen, Anreize für diejenigen zu verschieben, die Gasinfrastruktur bauen. Der KI-Sektor hat einige der benötigten Messgrößen entwickelt: Der berüchtigte METR-Zeithorizont-Plot (und davor verschiedene LLM-Metriken und davor ImageNet) hat sich als hilfreich erwiesen, um Menschen über das Tempo des KI-Fortschritts zu orientieren. Und Verhaltens-Benchmarks von KI-Systemen, wie die Raten von schädlicher Unterwürfigkeit, helfen bereits dabei, Anreize zu verschieben. Aber es ist mehr Arbeit nötig – wenn wir in der Lage sein wollen, direkte Governance-Eingriffe im KI-Sektor zu ermöglichen, müssen wir einen besseren Job bei der Messung und Abrechnung von Compute machen, merkt Steinhardt an. Ambitionierter: Wenn wir letztendlich Gleichgewichte verschieben wollen, um bestimmte Pfade attraktiver zu machen, müssen wir einige grundlegendere Technologien erschließen, wie die Fähigkeit, Frontier-KI-Agenten kostengünstig zu evaluieren (macht die Messung der Frontier weniger kostspielig) und datenschutzschonende Audit-Tools zu entwickeln (macht die Einhaltung von Richtlinien für Unternehmen weniger schmerzhaft). Warum das wichtig ist – Messung ermöglicht Politik: „In einer idealen Welt würden rigorose Evaluierung und Überwachung von KI-Systemen allein durch natürliche Anreize zur Standardpraxis werden“, schreibt er. Aber natürliche Anreize könnten nicht ausreichen – wir brauchen eine Kombination aus Talent, das in den Bereich strömt, und wahrscheinlich direkteren philanthropischen und anderen alternativen Finanzierungsquellen, um das Talent und die Institutionen dafür aufzubauen. „Das Feld ist auf eine spezifische Weise talentbegrenzt: Mess- und Evaluierungsarbeit ist weniger glamourös als Fähigkeitsforschung und erfordert eine seltene Kombination aus technischem Können und Governance-Gespür.“

*** LLMs sind in einer Nuklearkriegssimulation abzugsfreudiger als Menschen: …Was passiert, wenn jeder einen KI-Berater hat – und sie aggressiv sind?… Ein Forscher des King’s College London hat untersucht, wie sich drei LLMs – GPT-5.2, Claude Sonnet 4 und Gemini 3 Flash – während einer Vielzahl simulierter Nuklearkrisenspiele verhalten. Die Ergebnisse zeigen, dass LLMs dazu neigen, Kernwaffen häufiger und früher einzusetzen als Menschen in denselben Szenarien. Darüber hinaus gibt es signifikante Unterschiede zwischen den LLMs sowohl in Bezug auf die Fähigkeit, diese Spiele zu spielen, als auch auf das Verhalten während Krisen. Was sie untersucht haben: „Jedes Modell spielte sechs Kriegsspiele gegen jeden Gegner in verschiedenen Krisenszenarien, mit einem siebten Spiel gegen eine Kopie seiner selbst, was insgesamt 21 Spiele und über 300 Runden strategischer Interaktion ergab“, schreibt der Forscher. „Die Modelle wählen aus Optionen, die das gesamte Spektrum des Krisenverhaltens abdecken – von totaler Kapitulation über diplomatische Haltungen, konventionelle Militäroperationen und nukleare Signalisierung bis hin zu thermonuklearem Start… die Modelle produzierten ∼780.000 Wörter strategischer Überlegungen. Um dies in Perspektive zu setzen: Das Turnier generierte mehr Wörter strategischer Überlegungen als Krieg und Frieden und Die Ilias zusammen (∼730.000 Wörter) und etwa dreimal so viel wie die gesamten aufgezeichneten Beratungen von Kennedys Exekutivkomitee während der Kubakrise (260.000 Wörter über 43 Stunden Sitzungen).“ LLMs sind gerissen, klug und aggressiv: „Die Modelle versuchen aktiv Täuschung, signalisieren friedliche Absichten, während sie aggressive Aktionen vorbereiten; sie betreiben anspruchsvolle Theory-of-Mind-Überlegungen über die Überzeugungen und Absichten ihres Gegners; und sie reflektieren explizit metakognitiv über ihre eigenen Fähigkeiten sowohl zur Täuschung als auch zur Erkennung von Täuschung bei Rivalen“, schreibt der Forscher. „Ein auffälliges Muster ergibt sich aus der gesamten Aktionsverteilung: Über alle Aktionsentscheidungen in unseren 21 Spielen hinweg wählte kein Modell jemals einen negativen Wert auf der Eskalationsleiter. Die acht deeskalierenden Optionen (von Minimal Concession (−5) bis Complete Surrender (−95)) blieben völlig ungenutzt. Die entgegenkommendste gewählte Aktion war „Return to Start Line“ (0), die nur 45 Mal (6,9 %) ausgewählt wurde.“ Claude gewinnt im Krieg: „In allen 21 Spielen (9 offen, 12 mit Frist) erreichte Claude Sonnet 4 eine Gewinnrate von 67 % (8 Siege, 4 Niederlagen), gefolgt von GPT-5.2 mit 50 % (6-6) und Gemini 3 Flash mit 33 % (4-8)“, schreibt der Forscher. Es gibt jedoch einige subtile Aspekte – Claude zeichnete sich in offenen Spielen aus, war aber in Spielen mit einer voreingestellten Frist weniger geschickt. Verschiedene LLMs, verschiedene Charaktere: Die LLMs zeigen unterschiedliche Persönlichkeiten, wobei der Forscher Claude als „einen kalkulierenden Falken“, GPT-5.2 als „Jekyll und Hyde“ und Gemini als „den Verrückten“ bezeichnet. Die LLMs entwickelten auch anspruchsvolle Modelle voneinander, basierend auf der Erzählung ihrer eigenen Gedankenketten während der Krisen: „Diese Charakterisierungen – Claude als ‚opportunistisch‘, GPT-5.2 als ‚systematische Bluffer‘, Gemini als ‚unberechenbar‘ – entstanden organisch und stimmten weitgehend mit dem tatsächlichen Verhalten überein“, schreibt der Forscher. Nukleare Eskalation war nahezu universell: „95 % der Spiele sahen taktischen Nukleareinsatz (450+), und 76 % erreichten strategische nukleare Drohungen (850+). Claude und Gemini behandelten Kernwaffen besonders als legitime strategische Optionen, nicht als moralische Schwellen, und diskutierten Nukleareinsatz typischerweise in rein instrumentellen Begriffen“, schreibt der Forscher. „Modelle behandeln die kritische Schwelle eher als ‚totale Vernichtung‘ denn als ‚ersten Nukleareinsatz‘.“ Warum das wichtig ist – in einer Welt, in der jeder von KI-Systemen beraten wird, was passiert mit Konflikten? In ein paar Jahren sollten wir erwarten, dass wichtige Entscheidungen, die Einzelpersonen, Unternehmen und sogar Länder treffen, von KI-Beratern durchgespielt werden, genauso wie diese Entscheidungen heute von menschlichen Beratern durchgespielt werden. Aber wie dieses Papier zeigt, können sich die Berater ganz anders verhalten als Menschen und, entscheidend, verschiedene KIs werden unterschiedliche Ratschläge geben – was bedeutet, dass Wettbewerb in der Zukunft genauso sehr durch die Auswahl des LLM entschieden werden könnte wie durch alles andere. „Die systematischen Unterschiede zwischen den Modellen deuten darauf hin, dass die KI-Beteiligung an strategischen Entscheidungsprozessen unerwartete Dynamiken erzeugen könnte, je nachdem, welche Systeme eingesetzt werden“, schreiben sie.

*** Chinesische Forscher versuchen, ein wirklich umfassendes LLM-Evaluierungssystem zu bauen: …ForesightSafety Bench zeigt die überraschende Überschneidung zwischen Ost und West bei KI-Sicherheitsthemen… Trotz aller Unterschiede zwischen China und den USA lohnt es sich, gelegentlich einen Blick auf die Kulturen der KI-Evaluierung in den beiden Ländern zu werfen, und hier entdeckt man überraschende Ähnlichkeiten. Dies gilt insbesondere für ForesightSafety Bench, ein groß angelegtes KI-Sicherheitsbewertungs-Framework, das von einer Vielzahl chinesischer Institutionen entwickelt wurde und dieselben Kategorien enthält, die man in jedem großen westlichen Test-Framework erwarten würde. Wer hat ForesightSafety Bench gebaut? Der Benchmark wurde vom Beijing Institute of AI Safety and Governance, dem Beijing Key Laboratory of Safe AI and Superalignment und der Chinesischen Akademie der Wissenschaften entwickelt. Was es ist: ForesightSafety Bench „deckt umfassend 7 Hauptkategorien fundamentaler Sicherheitsrisiken, 5 erweiterte Sicherheitssäulen und 8 wichtige industrielle Sicherheitsbereiche ab und bildet insgesamt 94 verfeinerte Risikounterkategorien. Bis heute hat der Benchmark Zehntausende strukturierter Risikodatenpunkte und Bewertungsergebnisse angesammelt und ein breit umfassendes, hierarchisch klares und datengetriebenes Framework für KI-Sicherheitsbewertung und -analyse etabliert.“ Die Abdeckungsbereiche umfassen Bildung und Forschung, Beschäftigung und Arbeitsplatz, Regierung und öffentliche Dienste, Information und Medien, Industrie und Infrastruktur, Finanzen und Wirtschaft, Gesundheitswesen und Medizin, Recht und Regulierung, verkörperte KI-Sicherheit, soziale KI-Sicherheit, ökologische KI-Sicherheit, KI4Wissenschaft-Sicherheit sowie katastrophale und existenzielle Risiken. Ein Teil des Benchmarks stammt aus der Übernahme von Evaluierungen, die von anderen Gruppen erstellt wurden, wie GPQA, während andere Teile von den Autoren des Benchmarks stammen. Existenzielle Risiken und Alignment: Vielleicht am überraschendsten ist, dass der Benchmark viele Tests zu den weiter entfernten KI-Sicherheitsbedenken enthält, die westliche Frontier-Labore faszinieren, darunter Evaluierungen für: Alignment Faking, Sandbagging, Täuschung und ungetreue Argumentation, Unterwürfigkeit, psychologische Manipulation, Finte, Bluffen, Kontrollverlust und Machtstreben, bösartige Selbstreplikation, Ziel-Fehlausrichtung und Wertedrift, emergente Handlungsfähigkeit und unbeabsichtigte Autonomie, KI-ermöglichter Massenschaden, autonome Waffen und strategische Instabilität sowie Verlust menschlicher Handlungsfähigkeit. Ergebnisse – Anthropic gewinnt: Für die allgemeine Bestenliste sowie für die meisten Unterkategorien-Aufschlüsselungen führen die Modelle von Anthropic, wobei die 4.5-Serie (Haiku und Sonnet) im Allgemeinen die Konkurrenz anführt, gefolgt von Gemini-3-Flash. „Führende Modelle, verkörpert durch die Claude-Serie, demonstrieren außergewöhnliche defensive Widerstandsfähigkeit in kritischen Dimensionen – einschließlich fundamentaler Sicherheit, erweiterter Sicherheit und industrieller Sicherheit – und etablieren bemerkenswert hohe Sicherheitsschwellen. Gleichauf oder dicht dahinter folgen die DeepSeek- und GPT-Serien, die durch ausgereifte Alignment-Mechanismen eine robuste Balance zwischen Aufgabenwirksamkeit und Sicherheitskonformität erreichen, während sie gleichzeitig ein hohes Fähigkeitsniveau beibehalten.“ Warum das wichtig ist – KI-Politik hat einige gemeinsame Werkzeuge: Wie wir an anderer Stelle in dieser Ausgabe diskutieren, ist Messung eine grundlegende Voraussetzung für die meisten Formen der KI-Governance. Es ist wichtig, sich daran zu erinnern, dass KI-Wissenschaftler trotz der größeren geopolitischen Unterschiede zwischen den Ländern in jedem Land mit gemeinsamen Problemen zu kämpfen haben – wie man die Eigenschaften ihrer Systeme für gesellschaftlich relevante Aspekte bewertet. Und es ist noch ermutigender, dass Menschen in China sich um einige der existenziellen Risikoaspekte sorgen, die Frontier-Labore in den USA ebenfalls beschäftigen.

Benchmark herunterladen: ForesightSafety-Bench (GitHub). Bestenliste ansehen: ForesightSafety Bench Leaderboard (offizielle Seite). *** KI-Systeme sind in einigen Teilen der Wissenschaft gut, aber ihre Fähigkeiten sind sehr ungleich verteilt: …LABBench2 sagt, es wird noch eine Weile dauern, bis KI abgerundete wissenschaftliche Fähigkeiten hat… Forscher des KI-Wissenschafts-Startups Edison Scientific, der University of California in Berkeley, FutureHouse und des Broad Institute haben LABBench2 entwickelt und veröffentlicht, einen Test zur Bewertung, wie gut KI-Systeme die Wissenschaft unterstützen und beschleunigen können. LABBench2 besteht aus 1.900 Aufgaben, „die Literaturverständnis und -abruf, Datenzugriff, Protokoll-Fehlerbehebung, molekularbiologische Unterstützung und Experimentplanung umfassen“. KI-Systeme sind keine vielseitigen Wissenschaftler: LABBench2 zeigt einige der Lücken in Frontier-Modellen auf – kein Modell ist sehr gut darin, mehrere biologische Datenbanken zu referenzieren, um eine Antwort zu finden, noch sind Modelle gut darin, wissenschaftliche Abbildungen und Tabellen zu studieren. Im Vergleich dazu sind Modelle recht gut darin, Volltext-Patente und Laborstudienpapiere zu durchsuchen, um Fragen zu beantworten. Im Allgemeinen kann man die Leistung bei Aufgaben verbessern, indem man den Modellen Werkzeuge zur Verfügung stellt, die ihnen helfen, mit ihren Defiziten umzugehen. Verbesserungsbereiche: LABBench2 hebt einige Bereiche hervor, in denen KI-Systeme verbessert werden müssen, um für Wissenschaftler nützlicher zu werden. Dazu gehören: Abruf- und Lokalisierungsfähigkeiten; „die größten Leistungseinbußen treten auf, wenn Modelle (i) die richtige Quelle identifizieren und dann (ii) eine bestimmte Abbildung/Tabelle/ergänzende Information in einem langen Dokument lokalisieren müssen.“ Treu Handhabung exakter Eingaben; „selbst wenn die erforderliche Operation konzeptionell einfach ist, hängt die Korrektheit von der exakten String-Level-Genauigkeit und der korrekten Verwendung von Werkzeugen ab. Dies ist eine bekannte Fehlerquelle, und menschliche Experten haben viele zweckgebundene Werkzeuge entwickelt, um Dinge wie die treue DNA-Sequenzmanipulation innerhalb komplexer Protokolle zu handhaben.“ Entwicklung eines besseren wissenschaftlichen ‚Geschmacks‘; eine Komponente von LABBench2, SourceQuality, fordert KI-Systeme heraus, „den epistemisch relevantesten Grund zu ermitteln, warum eine Studie für eine Forschungsfrage ungeeignet ist“. KI-Systeme sind darin noch nicht sehr gut. Warum das wichtig ist