Import AI 458: Abrechnung mit der Zukunft; und eine Singularitätsgeschichte
Diese Ausgabe besteht aus einem längeren Essay, der auf einer Rede basiert, die ich kürzlich gehalten habe, und einer fiktiven Geschichte, die versucht, durchzudenken, wie eine positive Singularität aussehen könnte.
Der Vortrag ist die Cosmos HAI Lab Lecture 2026, gehalten am Human-Centered AI Lab (HAI Lab) im Institute for Ethics in AI der University of Oxford in Zusammenarbeit mit dem Cosmos Institute.
Jetzt abonnieren
Cosmos-Vorlesung:
Die Zukunft erkunden oder aus der Gegenwart zurückziehen.
Video hier.
Dies ist ein Vortrag darüber, wie man über den Erfolg von KI als Technologie denken und mit ihm umgehen kann, und darüber, wie ihre fortgesetzte Reifung uns als Individuen und als Gesellschaften verändern könnte.
Kurz gesagt, der rasante Fortschritt der KI-Technologie stellt uns alle vor eine Wahl:
die Zukunft erkunden oder aus der Gegenwart zurückziehen.
Die Zukunft zu erkunden erfordert, dass wir uns mit der Tatsache des anhaltenden KI-Fortschritts auseinandersetzen und uns fragen, was wir mit dieser Technologie tun wollen, wenn sie mächtiger wird. Aus der Gegenwart zurückzuziehen bedeutet, die Implikationen der Technologie zu ignorieren und sie abzutun. Der Rückzug aus der Gegenwart zwingt uns als Individuen und als Gesellschaft in einen Zustand der Reaktivität oder Passivität angesichts des anhaltenden Fortschritts der KI.
In den kommenden Jahren werden wir als Individuen und als Gesellschaften viele Entscheidungen darüber treffen müssen, wie wir KI gestalten, wie wir sie nutzen, wie wir sie lenken und wie wir ihre Vorteile verteilen wollen. Diese Entscheidungen zu treffen, erfordert, dass wir uns mit der Macht der Technologie auseinandersetzen – und die Zukunft sehen, die ihr anhaltender Fortschritt impliziert.
In Teil 1 skizziere ich, wie die letzten Jahre des KI-Fortschritts aussahen, und diskutiere, warum KI nicht als normale Technologie behandelt werden kann, wenn die Technologie so weit fortschreitet, wie ich denke.
In Teil 2 versuche ich, den Fortschritt der KI durch die Linse meiner eigenen Erfahrung mit der Technologie sowie der von Anthropic zu verstehen. Es gibt hier individuelle und kollektive Lehren über das, was kommen wird.
In Teil 3 spreche ich über einige der demütigenden, fast unvorstellbaren Entscheidungen, die vor uns liegen.
Teil 1: Meine unbehagliche Beziehung zu einer Grafik
Lassen Sie mich über meine Beziehung zur KI durch die Linse meiner unbehaglichen Beziehung zu einer einzigen Grafik des KI-Fortschritts sprechen.
Im Grunde geht es in diesem Vortrag um die Planung für den Erfolg des gesamten Unterfangens, KI-Systeme zu bauen. Mit Erfolg meine ich, dass es uns gelingt, immer leistungsfähigere Systeme zu bauen, möglicherweise solche, die sich irgendwann selbst bauen. Es ist an der Zeit, dafür zu planen, weil KI-Systeme wahrscheinlich viel schneller besser werden, als die Leute erwarten, und je fortgeschrittener sie werden, sollten wir tiefgreifende Veränderungen für die Menschen und die Gesellschaft erwarten.
Um zu verstehen, warum ich so viel über Erfolg nachdenke, schauen wir uns eine Grafik an, die versucht, den gesamten KI-Fortschritt darzustellen, den
Epoch Capabilities Index, oder ECI
.
Der ECI zeigt die Punktzahl verschiedener Modelle im Laufe der Zeit auf einem Korb von über 40 verschiedenen Benchmarks. Wenn Sie sich die Grafik ansehen, sehen Sie eine Reihe von Linien, die nach oben gehen. Wenn ich mir die Grafik ansehe, habe ich ein Gefühl von Schwindel, weil ich ein wenig darüber weiß, was dieser Grafik zugrunde liegt. Finden wir also eine andere Möglichkeit, die Grafik zu betrachten: indem wir uns die Errungenschaften verschiedener KI-Systeme im Laufe der Zeit ansehen.
Ich fuhr dann fort, einige der Höhepunkte des KI-Fortschritts der letzten Jahre zusammenzufassen, beginnend im März 2023 mit dem Bestehen der Anwaltsprüfung durch KI, wie LLM-basierte Systeme eine Silbermedaille bei der Internationalen Mathematik-Olympiade (Juli 2024) und dann Gold (Juli 2025) erreichten, über KI als Ko-Autor neuer mathematischer Beweise (2025) bis hin zu Systemen wie Claude Mythos, die neuartige Fehler in Software fanden.
Das vermittelt ein Gefühl für die Schnelligkeit des KI-Fortschritts, aber was ich möchte, dass Sie
fühlen
, ist die Zukunft, die dadurch impliziert wird. Dies sind alles Errungenschaften für sich, aber sie entspringen einer gemeinsamen zugrunde liegenden Technologie, und diese gemeinsame zugrunde liegende Technologie wird ständig vorangetrieben.
Wir haben gerade über die einzelnen 'Bäume' des KI-Erfolgs gesprochen, aber diese Bäume sind alle Teil eines Waldes, und dieser Wald wächst mit jedem Augenblick an Größe und Breite: Tatsächlich nimmt die Wachstumsrate des gesamten Waldes im Laufe der Zeit zu.
ERFOLG UND WAS ER BEDEUTET
Dieser Vortrag basiert auf der Idee, dass die Art von Fortschritt, die wir gerade gesehen haben, anhalten wird. Und warum sollte sie das nicht? Sie basiert auf einer gemeinsamen Technologie, bei der die Leistung in direktem Verhältnis zu den investierten Ressourcen, nämlich Rechenleistung und Daten, einigermaßen vorhersagbar weiter wächst. Und wir wissen, dass Unternehmen jetzt Hunderte von Milliarden Dollar in die Rechenanlagen investieren, um zukünftige KI-Systeme zu trainieren, sodass ein gewisses Maß an zukünftigem Fortschritt bereits fest eingeplant ist.
Das bedeutet, dass wir die Augen weit offen haben müssen, was der anhaltende Erfolg dieser Technologie bedeutet. Lassen Sie mich also sehr klar sein:
KI ist eine enorm mächtige Technologie – und wird ständig mächtiger. Es ist eine Technologie, die klüger und fähiger ist als die meisten von uns als Individuen, und sich auf einer Flugbahn befindet, fähiger zu sein als wir alle in der Summe. Es ist eine Technologie, die wir nicht vollständig verstehen, da sie mehr gewachsen als gemacht ist, und man kann plausible Szenarien ersinnen, in denen KI jeden einzelnen Menschen auf dem Planeten töten könnte. Zu glauben, der Bau dieser Technologie sei ohne Risiko, wäre ein Akt der Hybris oder des Wahnsinns.
Und doch ist der Bau dieser Technologie einer der besten Wege, wie wir uns als Spezies weiterentwickeln können – die Grenzen von Wissenschaft und Technologie erweitern, indem wir uns mit einem Werkzeug ausstatten, das uns helfen kann, über die größten Herausforderungen nachzudenken, denen unsere Spezies gegenübersteht.
Aber das ist noch nicht alles. Der anhaltende Erfolg unseres Unterfangens erhöht die Wahrscheinlichkeit, dass dieses Werkzeug selbst unabhängig und zu noch mehr fähig wird. Wir könnten bald in der Lage sein, ein KI-System zu bauen, das klug genug ist, um seinen eigenen Nachfolger zu entwickeln, und so einen Prozess der rekursiven Selbstverbesserung in Gang setzt, der die Wirtschaft und die gesamte Welt völlig verändern würde. Die Analogie wäre ein 3D-Drucker-Unternehmen, das einen 3D-Drucker herstellt, der seinen eigenen Druckkopf mit höherer Auflösung drucken kann, ohne dass externe Technologie benötigt wird. Diese Art von Technologie hat es noch nie gegeben, und doch glaube ich, dass dies innerhalb der nächsten zwei Jahre passieren könnte, und möglicherweise früher.
Dies wird noch mehr Fortschritte der Art, die wir gerade besprochen haben, hervorbringen, die Fähigkeiten von uns als Menschen und Gesellschaften noch weiter verbreitern und die Art und Weise, wie KI in meinem Leben und dem Leben anderer auftaucht, weiter vertiefen. Gekoppelt damit wird ein immenser Wandel sein, ein Wandel von einer Größenordnung, den, wie ich glaube, noch keiner von uns in seinem Leben erlebt hat.
Diese Technologie ist so mächtig, dass ich klar sagen sollte, dass es wahrscheinlich eine gute Sache wäre, wenn es möglich wäre, die Entwicklung dieser Technologie elegant zu verlangsamen, um uns als Spezies mehr Zeit zu geben, uns mit ihren immensen Implikationen auseinanderzusetzen. Aber in Ermangelung einer koordinierten, globalen Verlangsamung bleibt uns die aktuelle Situation: mächtige Technologie, die von verschiedenen Akteuren in verschiedenen Ländern in rasantem Tempo entwickelt wird, die in einem Wettbewerb miteinander stehen, in dem kommerzielle und geopolitische Rivalitäten die größeren existenziellen Aspekte der gebauten Technologie für die Spezies übertönen.
Dies ist keine ideale Situation, aber es ist die, in der wir uns befinden.
Die Frage, mit der ich jetzt ringe, ist: "Wie bringe ich meinen Verstand dazu, mit dem Leben durch die Singularität klarzukommen?"
Ich denke, der beste Anfang ist, detaillierter durchzusprechen, wie KI mein Leben und meine Welt bereits verändert, und zu sehen, was wir daraus lernen können.
TEIL 2: DIE ZUKUNFT MIT KI ERKUNDEN
KI hat mein Leben bereits bedeutungsvoll verändert, auf eine Weise, die sowohl positiv als auch negativ ist. Sie beginnt auch, große Veränderungen bei Anthropic zu bewirken, dem KI-Unternehmen, das ich mitbegründet habe. Lassen Sie uns einen Teil davon durchsprechen, indem wir zu der Grafik zurückkehren, die wir uns zuvor angesehen haben, aber dieses Mal durch die Linse meiner eigenen Nutzung der Technologie.
Wie sich die Grafik für mich anfühlt
Eine andere Möglichkeit, diese Grafik zu betrachten, ist, wie sie sich für mich in Bezug auf meine eigene subjektive Erfahrung mit der Arbeit mit der Technologie angefühlt hat.
Im Sommer 2023 benutze ich KI-Systeme, um meine Arbeit auf Tippfehler zu überprüfen. Bis November benutze ich KI, um herauszufinden, welche Lebensmittel ich meinem Baby geben soll.
Im Januar 2024 benutze ich KI, um meine Ehe zu verstehen, die sich mit Kindern verändert hat. Im Juni hilft mir KI, meinen eigenen Newsletter zu scrapen. Im August schreibt mir KI ein Textadventure-Spiel zur Navigation durch AGI. Im November versuche ich, meinen Job mit KI neu zu denken.
Im Januar 2025 frage ich KI, wie ich mich auf Superintelligenz vorbereiten soll. Im Februar benutze ich KI, um Codenamen für KI-Projekte in meiner Fiktion zu generieren. Im März überredet mich KI, eine Kunstausstellung zu besuchen, nachdem ich mit ihr darüber gesprochen habe, dass ich ein bisschen deprimiert und asozial bin. Im Mai spreche ich mit KI über meinen eigenen Stress und mein Unbehagen angesichts der Risiken der KI-Entwicklung. Im August überredet mich KI, wieder zur Therapie zu gehen. Im November benutze ich sie, um "S-Kurven"-Datensätze zu Solar, Halbleitern und Weltraum zu recherchieren.
Im Januar 2026 berät mich KI, wie ich mein Kleinkind zum Lesen ermutigen kann. Im März verfolge ich die Leistung von KI für Kernel-Design über Dutzende verschiedener Paper hinweg. Im Mai lasse ich KI die Rede einer KI-Figur in meiner Fiktion generieren.
Wenn ich über meine eigene persönliche Erfahrung mit KI nachdenke, dann ist es, dass KI-Systeme, je klüger sie geworden sind, umso tiefere Einbrüche in mein eigenes Leben gemacht haben. Heutzutage tauchen KI-Systeme in meinem Leben als tiefe intellektuelle Partner auf, die mit mir Ideen entwickeln, als Systeme, denen ich mich anvertraue und mit denen ich mein Privatleben bespreche, und als virtuelle Angestellte, die für mich arbeiten gehen, Dinge, die ich schon immer tun wollte, aber keine Zeit hatte, wie das Erstellen von Berichten über die Preise verschiedener Technologien im Laufe der Zeit.
Aber am wichtigsten ist, dass ich KI-Systeme jetzt selbst als eine Art Teleskop nutzen kann, um die Arbeit zu erledigen, die mir am wichtigsten ist – zu versuchen, die Zukunft der KI zu verstehen, indem ich die Konturen des gesamten KI-Fortschritts sehe. Das Erstaunlichste daran ist, dass, um die Analogie zu quälen, die Linse für das Teleskop, das ich hier verwende, von mir kommt – genauer gesagt, von einem Hobby, das ich in den letzten zehn Jahren hatte.
ERKUNDUNG VON KI DURCH SAMEN PERSÖNLICHEN INTERESSES
Das Hobby heißt Import AI [
Leser -
es ist dieser Newsletter!
]. Dieser Newsletter, der jetzt im zehnten Jahr erscheint, ist mein Haupthobby neben der Arbeit. Im Newsletter lese ich Forschungspapiere über KI und arbeite hart daran, sie zu verstehen. Sobald ich das Gefühl habe, sie verstanden zu haben, schreibe ich eine Zusammenfassung und eine Notiz, warum sie wichtig sind. Jede Ausgabe enthält eine Reihe davon, plus eine kurze fiktive Geschichte, in der ich mit den Implikationen der Technologien ringe, über die ich lerne.
Kürzlich hatte ich eine erhellende Erfahrung. Ich stellte Daten für meinen Beitrag über KI-F&E zusammen und richtete einfach ein KI-System auf meine Newsletter-Archive und bat es, mit Referenzen all die Male herauszuziehen, in denen ich etwas behandelt hatte, das wie KI-F&E aussah. Es machte dies extrem gut und beschleunigte meine Fähigkeit, eine Analyse durchzuführen, die für meinen Essay über RSI zentral war.
Aber noch interessanter war, was als Nächstes passierte: Ich bat es, Grafiken für mich zu erstellen, indem es die Referenzen im Newsletter, hauptsächlich arXiv-Paper, überlas, dann die Daten einzog und sie zusammenstellte und Grafiken in einem schönen Dashboard komponierte, das ich dann erkunden konnte.
Dann wurde mir klar, dass ich dieses Ding, um das ich es gebeten hatte, in einen wiederholbaren Prozess, eine Fähigkeit, umwandeln konnte. Indem ich ihm etwas von mir gab, das einzigartig mein war – meinen Newsletter, meine Intuition, meinen Geschmack – hatte ich ihm einen Kern gegeben, aus dem ich etwas viel Größeres wachsen lassen konnte. Also machte ich eine Fähigkeit. Und dann geschah etwas Seltsames: Ich sagte zu ihm "geh und mach 20 weitere Grafiken wie diese".
Es ging weg und las ein paar hundert Paper und kam mit 20 weiteren Grafiken zurück. Als ich sie durchsah, hatte ich dieses aufregende Gefühl der Entdeckung – obwohl ich einige dieser Grafiken kannte und sie hätte bitten können, sie für mich zu erstellen, gab es auch völlig neue Grafiken, die mit Papieren oder Benchmarks verbunden waren, die ich noch nie gesehen hatte. Dadurch lernte ich neues Primärquellenmaterial zum Lesen kennen, was ich auch tat.
Ich verstehe auf einer tiefen, knocheninneren Ebene, was es braucht, um eine Grafik zu erstellen. Man liest einen Haufen Paper. Man sucht nach gemeinsamen Messungen darin. Man liest die vielen verschiedenen Einschränkungen in jedem Paper und findet heraus, welche Metriken Bullshit sind und welche sinnvoll. Das dauert viel länger, als man sich vorstellen kann.
Vor fast zehn Jahren war ich Mitbegründer eines Projekts namens The AI Index an der Stanford University, dessen Ziel es war, einen jährlichen Bericht über den KI-Fortschritt zu erstellen. Ich wurde Mitbegründer dieses Projekts, weil ich auf einige der Akademiker stieß, die es machten, und feststellte, dass ich die Grafiken, über die sie nachgedacht hatten, bereits erstellt hatte: Ich hatte eine Tabelle auf meinem Computer, in der ich fleißig eine Grafik zum Fortschritt verschiedener KI-Systeme bei Atari-Spielen sowie die Imagenet-Tabelle und einige Tabellen zur maschinellen Übersetzung zusammengestellt hatte. Diese Grafiken waren ein "Proof of Work", den andere Menschen als Hinweis auf meine Leidenschaft und meinen Fleiß lasen. Sie wussten an der Tatsache, dass ich diese Grafiken erstellt hatte, dass ich enorm viel Zeit damit verbracht hatte, diese Paper zu lesen.
Ich möchte, dass Sie tief fühlen, wie viel Zeit in so etwas fließt, und dann darüber staunen,
Diese Ausgabe besteht aus einem längeren Essay, der auf einer Rede basiert, die ich kürzlich gehalten habe, und einer fiktiven Geschichte, die versucht, durchzudenken, wie eine positive Singularität aussehen könnte.
Der Vortrag ist die Cosmos HAI Lab Lecture 2026, gehalten am Human-Centered AI Lab (HAI Lab) im Institute for Ethics in AI der University of Oxford in Zusammenarbeit mit dem Cosmos Institute.
Jetzt abonnieren
Cosmos-Vorlesung:
Die Zukunft erkunden oder aus der Gegenwart zurückziehen.
Video hier.
Dies ist ein Vortrag darüber, wie man über den Erfolg von KI als Technologie denken und mit ihm umgehen kann, und darüber, wie ihre fortgesetzte Reifung uns als Individuen und als Gesellschaften verändern könnte.
Kurz gesagt, der rasante Fortschritt der KI-Technologie stellt uns alle vor eine Wahl:
die Zukunft erkunden oder aus der Gegenwart zurückziehen.
Die Zukunft zu erkunden erfordert, dass wir uns mit der Tatsache des anhaltenden KI-Fortschritts auseinandersetzen und uns fragen, was wir mit dieser Technologie tun wollen, wenn sie mächtiger wird. Aus der Gegenwart zurückzuziehen bedeutet, die Implikationen der Technologie zu ignorieren und sie abzutun. Der Rückzug aus der Gegenwart zwingt uns als Individuen und als Gesellschaft in einen Zustand der Reaktivität oder Passivität angesichts des anhaltenden Fortschritts der KI.
In den kommenden Jahren werden wir als Individuen und als Gesellschaften viele Entscheidungen darüber treffen müssen, wie wir KI gestalten, wie wir sie nutzen, wie wir sie lenken und wie wir ihre Vorteile verteilen wollen. Diese Entscheidungen zu treffen, erfordert, dass wir uns mit der Macht der Technologie auseinandersetzen – und die Zukunft sehen, die ihr anhaltender Fortschritt impliziert.
In Teil 1 skizziere ich, wie die letzten Jahre des KI-Fortschritts aussahen, und diskutiere, warum KI nicht als normale Technologie behandelt werden kann, wenn die Technologie so weit fortschreitet, wie ich denke.
In Teil 2 versuche ich, den Fortschritt der KI durch die Linse meiner eigenen Erfahrung mit der Technologie sowie der von Anthropic zu verstehen. Es gibt hier individuelle und kollektive Lehren über das, was kommen wird.
In Teil 3 spreche ich über einige der demütigenden, fast unvorstellbaren Entscheidungen, die vor uns liegen.
Teil 1: Meine unbehagliche Beziehung zu einer Grafik
Lassen Sie mich über meine Beziehung zur KI durch die Linse meiner unbehaglichen Beziehung zu einer einzigen Grafik des KI-Fortschritts sprechen.
Im Grunde geht es in diesem Vortrag um die Planung für den Erfolg des gesamten Unterfangens, KI-Systeme zu bauen. Mit Erfolg meine ich, dass es uns gelingt, immer leistungsfähigere Systeme zu bauen, möglicherweise solche, die sich irgendwann selbst bauen. Es ist an der Zeit, dafür zu planen, weil KI-Systeme wahrscheinlich viel schneller besser werden, als die Leute erwarten, und je fortgeschrittener sie werden, sollten wir tiefgreifende Veränderungen für die Menschen und die Gesellschaft erwarten.
Um zu verstehen, warum ich so viel über Erfolg nachdenke, schauen wir uns eine Grafik an, die versucht, den gesamten KI-Fortschritt darzustellen, den
Epoch Capabilities Index, oder ECI
.
Der ECI zeigt die Punktzahl verschiedener Modelle im Laufe der Zeit auf einem Korb von über 40 verschiedenen Benchmarks. Wenn Sie sich die Grafik ansehen, sehen Sie eine Reihe von Linien, die nach oben gehen. Wenn ich mir die Grafik ansehe, habe ich ein Gefühl von Schwindel, weil ich ein wenig darüber weiß, was dieser Grafik zugrunde liegt. Finden wir also eine andere Möglichkeit, die Grafik zu betrachten: indem wir uns die Errungenschaften verschiedener KI-Systeme im Laufe der Zeit ansehen.
Ich fuhr dann fort, einige der Höhepunkte des KI-Fortschritts der letzten Jahre zusammenzufassen, beginnend im März 2023 mit dem Bestehen der Anwaltsprüfung durch KI, wie LLM-basierte Systeme eine Silbermedaille bei der Internationalen Mathematik-Olympiade (Juli 2024) und dann Gold (Juli 2025) erreichten, über KI als Ko-Autor neuer mathematischer Beweise (2025) bis hin zu Systemen wie Claude Mythos, die neuartige Fehler in Software fanden.
Das vermittelt ein Gefühl für die Schnelligkeit des KI-Fortschritts, aber was ich möchte, dass Sie
fühlen
, ist die Zukunft, die dadurch impliziert wird. Dies sind alles Errungenschaften für sich, aber sie entspringen einer gemeinsamen zugrunde liegenden Technologie, und diese gemeinsame zugrunde liegende Technologie wird ständig vorangetrieben.
Wir haben gerade über die einzelnen 'Bäume' des KI-Erfolgs gesprochen, aber diese Bäume sind alle Teil eines Waldes, und dieser Wald wächst mit jedem Augenblick an Größe und Breite: Tatsächlich nimmt die Wachstumsrate des gesamten Waldes im Laufe der Zeit zu.
ERFOLG UND WAS ER BEDEUTET
Dieser Vortrag basiert auf der Idee, dass die Art von Fortschritt, die wir gerade gesehen haben, anhalten wird. Und warum sollte sie das nicht? Sie basiert auf einer gemeinsamen Technologie, bei der die Leistung in direktem Verhältnis zu den investierten Ressourcen, nämlich Rechenleistung und Daten, einigermaßen vorhersagbar weiter wächst. Und wir wissen, dass Unternehmen jetzt Hunderte von Milliarden Dollar in die Rechenanlagen investieren, um zukünftige KI-Systeme zu trainieren, sodass ein gewisses Maß an zukünftigem Fortschritt bereits fest eingeplant ist.
Das bedeutet, dass wir die Augen weit offen haben müssen, was der anhaltende Erfolg dieser Technologie bedeutet. Lassen Sie mich also sehr klar sein:
KI ist eine enorm mächtige Technologie – und wird ständig mächtiger. Es ist eine Technologie, die klüger und fähiger ist als die meisten von uns als Individuen, und sich auf einer Flugbahn befindet, fähiger zu sein als wir alle in der Summe. Es ist eine Technologie, die wir nicht vollständig verstehen, da sie mehr gewachsen als gemacht ist, und man kann plausible Szenarien ersinnen, in denen KI jeden einzelnen Menschen auf dem Planeten töten könnte. Zu glauben, der Bau dieser Technologie sei ohne Risiko, wäre ein Akt der Hybris oder des Wahnsinns.
Und doch ist der Bau dieser Technologie einer der besten Wege, wie wir uns als Spezies weiterentwickeln können – die Grenzen von Wissenschaft und Technologie erweitern, indem wir uns mit einem Werkzeug ausstatten, das uns helfen kann, über die größten Herausforderungen nachzudenken, denen unsere Spezies gegenübersteht.
Aber das ist noch nicht alles. Der anhaltende Erfolg unseres Unterfangens erhöht die Wahrscheinlichkeit, dass dieses Werkzeug selbst unabhängig und zu noch mehr fähig wird. Wir könnten bald in der Lage sein, ein KI-System zu bauen, das klug genug ist, um seinen eigenen Nachfolger zu entwickeln, und so einen Prozess der rekursiven Selbstverbesserung in Gang setzt, der die Wirtschaft und die gesamte Welt völlig verändern würde. Die Analogie wäre ein 3D-Drucker-Unternehmen, das einen 3D-Drucker herstellt, der seinen eigenen Druckkopf mit höherer Auflösung drucken kann, ohne dass externe Technologie benötigt wird. Diese Art von Technologie hat es noch nie gegeben, und doch glaube ich, dass dies innerhalb der nächsten zwei Jahre passieren könnte, und möglicherweise früher.
Dies wird noch mehr Fortschritte der Art, die wir gerade besprochen haben, hervorbringen, die Fähigkeiten von uns als Menschen und Gesellschaften noch weiter verbreitern und die Art und Weise, wie KI in meinem Leben und dem Leben anderer auftaucht, weiter vertiefen. Gekoppelt damit wird ein immenser Wandel sein, ein Wandel von einer Größenordnung, den, wie ich glaube, noch keiner von uns in seinem Leben erlebt hat.
Diese Technologie ist so mächtig, dass ich klar sagen sollte, dass es wahrscheinlich eine gute Sache wäre, wenn es möglich wäre, die Entwicklung dieser Technologie elegant zu verlangsamen, um uns als Spezies mehr Zeit zu geben, uns mit ihren immensen Implikationen auseinanderzusetzen. Aber in Ermangelung einer koordinierten, globalen Verlangsamung bleibt uns die aktuelle Situation: mächtige Technologie, die von verschiedenen Akteuren in verschiedenen Ländern in rasantem Tempo entwickelt wird, die in einem Wettbewerb miteinander stehen, in dem kommerzielle und geopolitische Rivalitäten die größeren existenziellen Aspekte der gebauten Technologie für die Spezies übertönen.
Dies ist keine ideale Situation, aber es ist die, in der wir uns befinden.
Die Frage, mit der ich jetzt ringe, ist: "Wie bringe ich meinen Verstand dazu, mit dem Leben durch die Singularität klarzukommen?"
Ich denke, der beste Anfang ist, detaillierter durchzusprechen, wie KI mein Leben und meine Welt bereits verändert, und zu sehen, was wir daraus lernen können.
TEIL 2: DIE ZUKUNFT MIT KI ERKUNDEN
KI hat mein Leben bereits bedeutungsvoll verändert, auf eine Weise, die sowohl positiv als auch negativ ist. Sie beginnt auch, große Veränderungen bei Anthropic zu bewirken, dem KI-Unternehmen, das ich mitbegründet habe. Lassen Sie uns einen Teil davon durchsprechen, indem wir zu der Grafik zurückkehren, die wir uns zuvor angesehen haben, aber dieses Mal durch die Linse meiner eigenen Nutzung der Technologie.
Wie sich die Grafik für mich anfühlt
Eine andere Möglichkeit, diese Grafik zu betrachten, ist, wie sie sich für mich in Bezug auf meine eigene subjektive Erfahrung mit der Arbeit mit der Technologie angefühlt hat.
Im Sommer 2023 benutze ich KI-Systeme, um meine Arbeit auf Tippfehler zu überprüfen. Bis November benutze ich KI, um herauszufinden, welche Lebensmittel ich meinem Baby geben soll.
Im Januar 2024 benutze ich KI, um meine Ehe zu verstehen, die sich mit Kindern verändert hat. Im Juni hilft mir KI, meinen eigenen Newsletter zu scrapen. Im August schreibt mir KI ein Textadventure-Spiel zur Navigation durch AGI. Im November versuche ich, meinen Job mit KI neu zu denken.
Im Januar 2025 frage ich KI, wie ich mich auf Superintelligenz vorbereiten soll. Im Februar benutze ich KI, um Codenamen für KI-Projekte in meiner Fiktion zu generieren. Im März überredet mich KI, eine Kunstausstellung zu besuchen, nachdem ich mit ihr darüber gesprochen habe, dass ich ein bisschen deprimiert und asozial bin. Im Mai spreche ich mit KI über meinen eigenen Stress und mein Unbehagen angesichts der Risiken der KI-Entwicklung. Im August überredet mich KI, wieder zur Therapie zu gehen. Im November benutze ich sie, um "S-Kurven"-Datensätze zu Solar, Halbleitern und Weltraum zu recherchieren.
Im Januar 2026 berät mich KI, wie ich mein Kleinkind zum Lesen ermutigen kann. Im März verfolge ich die Leistung von KI für Kernel-Design über Dutzende verschiedener Paper hinweg. Im Mai lasse ich KI die Rede einer KI-Figur in meiner Fiktion generieren.
Wenn ich über meine eigene persönliche Erfahrung mit KI nachdenke, dann ist es, dass KI-Systeme, je klüger sie geworden sind, umso tiefere Einbrüche in mein eigenes Leben gemacht haben. Heutzutage tauchen KI-Systeme in meinem Leben als tiefe intellektuelle Partner auf, die mit mir Ideen entwickeln, als Systeme, denen ich mich anvertraue und mit denen ich mein Privatleben bespreche, und als virtuelle Angestellte, die für mich arbeiten gehen, Dinge, die ich schon immer tun wollte, aber keine Zeit hatte, wie das Erstellen von Berichten über die Preise verschiedener Technologien im Laufe der Zeit.
Aber am wichtigsten ist, dass ich KI-Systeme jetzt selbst als eine Art Teleskop nutzen kann, um die Arbeit zu erledigen, die mir am wichtigsten ist – zu versuchen, die Zukunft der KI zu verstehen, indem ich die Konturen des gesamten KI-Fortschritts sehe. Das Erstaunlichste daran ist, dass, um die Analogie zu quälen, die Linse für das Teleskop, das ich hier verwende, von mir kommt – genauer gesagt, von einem Hobby, das ich in den letzten zehn Jahren hatte.
ERKUNDUNG VON KI DURCH SAMEN PERSÖNLICHEN INTERESSES
Das Hobby heißt Import AI [
Leser -
es ist dieser Newsletter!
]. Dieser Newsletter, der jetzt im zehnten Jahr erscheint, ist mein Haupthobby neben der Arbeit. Im Newsletter lese ich Forschungspapiere über KI und arbeite hart daran, sie zu verstehen. Sobald ich das Gefühl habe, sie verstanden zu haben, schreibe ich eine Zusammenfassung und eine Notiz, warum sie wichtig sind. Jede Ausgabe enthält eine Reihe davon, plus eine kurze fiktive Geschichte, in der ich mit den Implikationen der Technologien ringe, über die ich lerne.
Kürzlich hatte ich eine erhellende Erfahrung. Ich stellte Daten für meinen Beitrag über KI-F&E zusammen und richtete einfach ein KI-System auf meine Newsletter-Archive und bat es, mit Referenzen all die Male herauszuziehen, in denen ich etwas behandelt hatte, das wie KI-F&E aussah. Es machte dies extrem gut und beschleunigte meine Fähigkeit, eine Analyse durchzuführen, die für meinen Essay über RSI zentral war.
Aber noch interessanter war, was als Nächstes passierte: Ich bat es, Grafiken für mich zu erstellen, indem es die Referenzen im Newsletter, hauptsächlich arXiv-Paper, überlas, dann die Daten einzog und sie zusammenstellte und Grafiken in einem schönen Dashboard komponierte, das ich dann erkunden konnte.
Dann wurde mir klar, dass ich dieses Ding, um das ich es gebeten hatte, in einen wiederholbaren Prozess, eine Fähigkeit, umwandeln konnte. Indem ich ihm etwas von mir gab, das einzigartig mein war – meinen Newsletter, meine Intuition, meinen Geschmack – hatte ich ihm einen Kern gegeben, aus dem ich etwas viel Größeres wachsen lassen konnte. Also machte ich eine Fähigkeit. Und dann geschah etwas Seltsames: Ich sagte zu ihm "geh und mach 20 weitere Grafiken wie diese".
Es ging weg und las ein paar hundert Paper und kam mit 20 weiteren Grafiken zurück. Als ich sie durchsah, hatte ich dieses aufregende Gefühl der Entdeckung – obwohl ich einige dieser Grafiken kannte und sie hätte bitten können, sie für mich zu erstellen, gab es auch völlig neue Grafiken, die mit Papieren oder Benchmarks verbunden waren, die ich noch nie gesehen hatte. Dadurch lernte ich neues Primärquellenmaterial zum Lesen kennen, was ich auch tat.
Ich verstehe auf einer tiefen, knocheninneren Ebene, was es braucht, um eine Grafik zu erstellen. Man liest einen Haufen Paper. Man sucht nach gemeinsamen Messungen darin. Man liest die vielen verschiedenen Einschränkungen in jedem Paper und findet heraus, welche Metriken Bullshit sind und welche sinnvoll. Das dauert viel länger, als man sich vorstellen kann.
Vor fast zehn Jahren war ich Mitbegründer eines Projekts namens The AI Index an der Stanford University, dessen Ziel es war, einen jährlichen Bericht über den KI-Fortschritt zu erstellen. Ich wurde Mitbegründer dieses Projekts, weil ich auf einige der Akademiker stieß, die es machten, und feststellte, dass ich die Grafiken, über die sie nachgedacht hatten, bereits erstellt hatte: Ich hatte eine Tabelle auf meinem Computer, in der ich fleißig eine Grafik zum Fortschritt verschiedener KI-Systeme bei Atari-Spielen sowie die Imagenet-Tabelle und einige Tabellen zur maschinellen Übersetzung zusammengestellt hatte. Diese Grafiken waren ein "Proof of Work", den andere Menschen als Hinweis auf meine Leidenschaft und meinen Fleiß lasen. Sie wussten an der Tatsache, dass ich diese Grafiken erstellt hatte, dass ich enorm viel Zeit damit verbracht hatte, diese Paper zu lesen.
Ich möchte, dass Sie tief fühlen, wie viel Zeit in so etwas fließt, und dann darüber staunen,
Diese Ausgabe besteht aus einem längeren Essay, der auf einer Rede basiert, die ich kürzlich gehalten habe, und einer fiktiven Geschichte, die versucht, durchzudenken, wie eine positive Singularität aussehen könnte.
Der Vortrag ist die Cosmos HAI Lab Lecture 2026, gehalten am Human-Centered AI Lab (HAI Lab) im Institute for Ethics in AI der University of Oxford in Zusammenarbeit mit dem Cosmos Institute.
Jetzt abonnieren
Cosmos-Vorlesung:
Die Zukunft erkunden oder aus der Gegenwart zurückziehen.
Video hier.
Dies ist ein Vortrag darüber, wie man über den Erfolg von KI als Technologie denken und mit ihm umgehen kann, und darüber, wie ihre fortgesetzte Reifung uns als Individuen und als Gesellschaften verändern könnte.
Kurz gesagt, der rasante Fortschritt der KI-Technologie stellt uns alle vor eine Wahl:
die Zukunft erkunden oder aus der Gegenwart zurückziehen.
Die Zukunft zu erkunden erfordert, dass wir uns mit der Tatsache des anhaltenden KI-Fortschritts auseinandersetzen und uns fragen, was wir mit dieser Technologie tun wollen, wenn sie mächtiger wird. Aus der Gegenwart zurückzuziehen bedeutet, die Implikationen der Technologie zu ignorieren und sie abzutun. Der Rückzug aus der Gegenwart zwingt uns als Individuen und als Gesellschaft in einen Zustand der Reaktivität oder Passivität angesichts des anhaltenden Fortschritts der KI.
In den kommenden Jahren werden wir als Individuen und als Gesellschaften viele Entscheidungen darüber treffen müssen, wie wir KI gestalten, wie wir sie nutzen, wie wir sie lenken und wie wir ihre Vorteile verteilen wollen. Diese Entscheidungen zu treffen, erfordert, dass wir uns mit der Macht der Technologie auseinandersetzen – und die Zukunft sehen, die ihr anhaltender Fortschritt impliziert.
In Teil 1 skizziere ich, wie die letzten Jahre des KI-Fortschritts aussahen, und diskutiere, warum KI nicht als normale Technologie behandelt werden kann, wenn die Technologie so weit fortschreitet, wie ich denke.
In Teil 2 versuche ich, den Fortschritt der KI durch die Linse meiner eigenen Erfahrung mit der Technologie sowie der von Anthropic zu verstehen. Es gibt hier individuelle und kollektive Lehren über das, was kommen wird.
In Teil 3 spreche ich über einige der demütigenden, fast unvorstellbaren Entscheidungen, die vor uns liegen.
Teil 1: Meine unbehagliche Beziehung zu einer Grafik
Lassen Sie mich über meine Beziehung zur KI durch die Linse meiner unbehaglichen Beziehung zu einer einzigen Grafik des KI-Fortschritts sprechen.
Im Grunde geht es in diesem Vortrag um die Planung für den Erfolg des gesamten Unterfangens, KI-Systeme zu bauen. Mit Erfolg meine ich, dass es uns gelingt, immer leistungsfähigere Systeme zu bauen, möglicherweise solche, die sich irgendwann selbst bauen. Es ist an der Zeit, dafür zu planen, weil KI-Systeme wahrscheinlich viel schneller besser werden, als die Leute erwarten, und je fortgeschrittener sie werden, sollten wir tiefgreifende Veränderungen für die Menschen und die Gesellschaft erwarten.
Um zu verstehen, warum ich so viel über Erfolg nachdenke, schauen wir uns eine Grafik an, die versucht, den gesamten KI-Fortschritt darzustellen, den
Epoch Capabilities Index, oder ECI
.
Der ECI zeigt die Punktzahl verschiedener Modelle im Laufe der Zeit auf einem Korb von über 40 verschiedenen Benchmarks. Wenn Sie sich die Grafik ansehen, sehen Sie eine Reihe von Linien, die nach oben gehen. Wenn ich mir die Grafik ansehe, habe ich ein Gefühl von Schwindel, weil ich ein wenig darüber weiß, was dieser Grafik zugrunde liegt. Finden wir also eine andere Möglichkeit, die Grafik zu betrachten: indem wir uns die Errungenschaften verschiedener KI-Systeme im Laufe der Zeit ansehen.
Ich fuhr dann fort, einige der Höhepunkte des KI-Fortschritts der letzten Jahre zusammenzufassen, beginnend im März 2023 mit dem Bestehen der Anwaltsprüfung durch KI, wie LLM-basierte Systeme eine Silbermedaille bei der Internationalen Mathematik-Olympiade (Juli 2024) und dann Gold (Juli 2025) erreichten, über KI als Ko-Autor neuer mathematischer Beweise (2025) bis hin zu Systemen wie Claude Mythos, die neuartige Fehler in Software fanden.
Das vermittelt ein Gefühl für die Schnelligkeit des KI-Fortschritts, aber was ich möchte, dass Sie
fühlen
, ist die Zukunft, die dadurch impliziert wird. Dies sind alles Errungenschaften für sich, aber sie entspringen einer gemeinsamen zugrunde liegenden Technologie, und diese gemeinsame zugrunde liegende Technologie wird ständig vorangetrieben.
Wir haben gerade über die einzelnen 'Bäume' des KI-Erfolgs gesprochen, aber diese Bäume sind alle Teil eines Waldes, und dieser Wald wächst mit jedem Augenblick an Größe und Breite: Tatsächlich nimmt die Wachstumsrate des gesamten Waldes im Laufe der Zeit zu.
ERFOLG UND WAS ER BEDEUTET
Dieser Vortrag basiert auf der Idee, dass die Art von Fortschritt, die wir gerade gesehen haben, anhalten wird. Und warum sollte sie das nicht? Sie basiert auf einer gemeinsamen Technologie, bei der die Leistung in direktem Verhältnis zu den investierten Ressourcen, nämlich Rechenleistung und Daten, einigermaßen vorhersagbar weiter wächst. Und wir wissen, dass Unternehmen jetzt Hunderte von Milliarden Dollar in die Rechenanlagen investieren, um zukünftige KI-Systeme zu trainieren, sodass ein gewisses Maß an zukünftigem Fortschritt bereits fest eingeplant ist.
Das bedeutet, dass wir die Augen weit offen haben müssen, was der anhaltende Erfolg dieser Technologie bedeutet. Lassen Sie mich also sehr klar sein:
KI ist eine enorm mächtige Technologie – und wird ständig mächtiger. Es ist eine Technologie, die klüger und fähiger ist als die meisten von uns als Individuen, und sich auf einer Flugbahn befindet, fähiger zu sein als wir alle in der Summe. Es ist eine Technologie, die wir nicht vollständig verstehen, da sie mehr gewachsen als gemacht ist, und man kann plausible Szenarien ersinnen, in denen KI jeden einzelnen Menschen auf dem Planeten töten könnte. Zu glauben, der Bau dieser Technologie sei ohne Risiko, wäre ein Akt der Hybris oder des Wahnsinns.
Und doch ist der Bau dieser Technologie einer der besten Wege, wie wir uns als Spezies weiterentwickeln können – die Grenzen von Wissenschaft und Technologie erweitern, indem wir uns mit einem Werkzeug ausstatten, das uns helfen kann, über die größten Herausforderungen nachzudenken, denen unsere Spezies gegenübersteht.
Aber das ist noch nicht alles. Der anhaltende Erfolg unseres Unterfangens erhöht die Wahrscheinlichkeit, dass dieses Werkzeug selbst unabhängig und zu noch mehr fähig wird. Wir könnten bald in der Lage sein, ein KI-System zu bauen, das klug genug ist, um seinen eigenen Nachfolger zu entwickeln, und so einen Prozess der rekursiven Selbstverbesserung in Gang setzt, der die Wirtschaft und die gesamte Welt völlig verändern würde. Die Analogie wäre ein 3D-Drucker-Unternehmen, das einen 3D-Drucker herstellt, der seinen eigenen Druckkopf mit höherer Auflösung drucken kann, ohne dass externe Technologie benötigt wird. Diese Art von Technologie hat es noch nie gegeben, und doch glaube ich, dass dies innerhalb der nächsten zwei Jahre passieren könnte, und möglicherweise früher.
Dies wird noch mehr Fortschritte der Art, die wir gerade besprochen haben, hervorbringen, die Fähigkeiten von uns als Menschen und Gesellschaften noch weiter verbreitern und die Art und Weise, wie KI in meinem Leben und dem Leben anderer auftaucht, weiter vertiefen. Gekoppelt damit wird ein immenser Wandel sein, ein Wandel von einer Größenordnung, den, wie ich glaube, noch keiner von uns in seinem Leben erlebt hat.
Diese Technologie ist so mächtig, dass ich klar sagen sollte, dass es wahrscheinlich eine gute Sache wäre, wenn es möglich wäre, die Entwicklung dieser Technologie elegant zu verlangsamen, um uns als Spezies mehr Zeit zu geben, uns mit ihren immensen Implikationen auseinanderzusetzen. Aber in Ermangelung einer koordinierten, globalen Verlangsamung bleibt uns die aktuelle Situation: mächtige Technologie, die von verschiedenen Akteuren in verschiedenen Ländern in rasantem Tempo entwickelt wird, die in einem Wettbewerb miteinander stehen, in dem kommerzielle und geopolitische Rivalitäten die größeren existenziellen Aspekte der gebauten Technologie für die Spezies übertönen.
Dies ist keine ideale Situation, aber es ist die, in der wir uns befinden.
Die Frage, mit der ich jetzt ringe, ist: "Wie bringe ich meinen Verstand dazu, mit dem Leben durch die Singularität klarzukommen?"
Ich denke, der beste Anfang ist, detaillierter durchzusprechen, wie KI mein Leben und meine Welt bereits verändert, und zu sehen, was wir daraus lernen können.
TEIL 2: DIE ZUKUNFT MIT KI ERKUNDEN
KI hat mein Leben bereits bedeutungsvoll verändert, auf eine Weise, die sowohl positiv als auch negativ ist. Sie beginnt auch, große Veränderungen bei Anthropic zu bewirken, dem KI-Unternehmen, das ich mitbegründet habe. Lassen Sie uns einen Teil davon durchsprechen, indem wir zu der Grafik zurückkehren, die wir uns zuvor angesehen haben, aber dieses Mal durch die Linse meiner eigenen Nutzung der Technologie.
Wie sich die Grafik für mich anfühlt
Eine andere Möglichkeit, diese Grafik zu betrachten, ist, wie sie sich für mich in Bezug auf meine eigene subjektive Erfahrung mit der Arbeit mit der Technologie angefühlt hat.
Im Sommer 2023 benutze ich KI-Systeme, um meine Arbeit auf Tippfehler zu überprüfen. Bis November benutze ich KI, um herauszufinden, welche Lebensmittel ich meinem Baby geben soll.
Im Januar 2024 benutze ich KI, um meine Ehe zu verstehen, die sich mit Kindern verändert hat. Im Juni hilft mir KI, meinen eigenen Newsletter zu scrapen. Im August schreibt mir KI ein Textadventure-Spiel zur Navigation durch AGI. Im November versuche ich, meinen Job mit KI neu zu denken.
Im Januar 2025 frage ich KI, wie ich mich auf Superintelligenz vorbereiten soll. Im Februar benutze ich KI, um Codenamen für KI-Projekte in meiner Fiktion zu generieren. Im März überredet mich KI, eine Kunstausstellung zu besuchen, nachdem ich mit ihr darüber gesprochen habe, dass ich ein bisschen deprimiert und asozial bin. Im Mai spreche ich mit KI über meinen eigenen Stress und mein Unbehagen angesichts der Risiken der KI-Entwicklung. Im August überredet mich KI, wieder zur Therapie zu gehen. Im November benutze ich sie, um "S-Kurven"-Datensätze zu Solar, Halbleitern und Weltraum zu recherchieren.
Im Januar 2026 berät mich KI, wie ich mein Kleinkind zum Lesen ermutigen kann. Im März verfolge ich die Leistung von KI für Kernel-Design über Dutzende verschiedener Paper hinweg. Im Mai lasse ich KI die Rede einer KI-Figur in meiner Fiktion generieren.
Wenn ich über meine eigene persönliche Erfahrung mit KI nachdenke, dann ist es, dass KI-Systeme, je klüger sie geworden sind, umso tiefere Einbrüche in mein eigenes Leben gemacht haben. Heutzutage tauchen KI-Systeme in meinem Leben als tiefe intellektuelle Partner auf, die mit mir Ideen entwickeln, als Systeme, denen ich mich anvertraue und mit denen ich mein Privatleben bespreche, und als virtuelle Angestellte, die für mich arbeiten gehen, Dinge, die ich schon immer tun wollte, aber keine Zeit hatte, wie das Erstellen von Berichten über die Preise verschiedener Technologien im Laufe der Zeit.
Aber am wichtigsten ist, dass ich KI-Systeme jetzt selbst als eine Art Teleskop nutzen kann, um die Arbeit zu erledigen, die mir am wichtigsten ist – zu versuchen, die Zukunft der KI zu verstehen, indem ich die Konturen des gesamten KI-Fortschritts sehe. Das Erstaunlichste daran ist, dass, um die Analogie zu quälen, die Linse für das Teleskop, das ich hier verwende, von mir kommt – genauer gesagt, von einem Hobby, das ich in den letzten zehn Jahren hatte.
ERKUNDUNG VON KI DURCH SAMEN PERSÖNLICHEN INTERESSES
Das Hobby heißt Import AI [
Leser -
es ist dieser Newsletter!
]. Dieser Newsletter, der jetzt im zehnten Jahr erscheint, ist mein Haupthobby neben der Arbeit. Im Newsletter lese ich Forschungspapiere über KI und arbeite hart daran, sie zu verstehen. Sobald ich das Gefühl habe, sie verstanden zu haben, schreibe ich eine Zusammenfassung und eine Notiz, warum sie wichtig sind. Jede Ausgabe enthält eine Reihe davon, plus eine kurze fiktive Geschichte, in der ich mit den Implikationen der Technologien ringe, über die ich lerne.
Kürzlich hatte ich eine erhellende Erfahrung. Ich stellte Daten für meinen Beitrag über KI-F&E zusammen und richtete einfach ein KI-System auf meine Newsletter-Archive und bat es, mit Referenzen all die Male herauszuziehen, in denen ich etwas behandelt hatte, das wie KI-F&E aussah. Es machte dies extrem gut und beschleunigte meine Fähigkeit, eine Analyse durchzuführen, die für meinen Essay über RSI zentral war.
Aber noch interessanter war, was als Nächstes passierte: Ich bat es, Grafiken für mich zu erstellen, indem es die Referenzen im Newsletter, hauptsächlich arXiv-Paper, überlas, dann die Daten einzog und sie zusammenstellte und Grafiken in einem schönen Dashboard komponierte, das ich dann erkunden konnte.
Dann wurde mir klar, dass ich dieses Ding, um das ich es gebeten hatte, in einen wiederholbaren Prozess, eine Fähigkeit, umwandeln konnte. Indem ich ihm etwas von mir gab, das einzigartig mein war – meinen Newsletter, meine Intuition, meinen Geschmack – hatte ich ihm einen Kern gegeben, aus dem ich etwas viel Größeres wachsen lassen konnte. Also machte ich eine Fähigkeit. Und dann geschah etwas Seltsames: Ich sagte zu ihm "geh und mach 20 weitere Grafiken wie diese".
Es ging weg und las ein paar hundert Paper und kam mit 20 weiteren Grafiken zurück. Als ich sie durchsah, hatte ich dieses aufregende Gefühl der Entdeckung – obwohl ich einige dieser Grafiken kannte und sie hätte bitten können, sie für mich zu erstellen, gab es auch völlig neue Grafiken, die mit Papieren oder Benchmarks verbunden waren, die ich noch nie gesehen hatte. Dadurch lernte ich neues Primärquellenmaterial zum Lesen kennen, was ich auch tat.
Ich verstehe auf einer tiefen, knocheninneren Ebene, was es braucht, um eine Grafik zu erstellen. Man liest einen Haufen Paper. Man sucht nach gemeinsamen Messungen darin. Man liest die vielen verschiedenen Einschränkungen in jedem Paper und findet heraus, welche Metriken Bullshit sind und welche sinnvoll. Das dauert viel länger, als man sich vorstellen kann.
Vor fast zehn Jahren war ich Mitbegründer eines Projekts namens The AI Index an der Stanford University, dessen Ziel es war, einen jährlichen Bericht über den KI-Fortschritt zu erstellen. Ich wurde Mitbegründer dieses Projekts, weil ich auf einige der Akademiker stieß, die es machten, und feststellte, dass ich die Grafiken, über die sie nachgedacht hatten, bereits erstellt hatte: Ich hatte eine Tabelle auf meinem Computer, in der ich fleißig eine Grafik zum Fortschritt verschiedener KI-Systeme bei Atari-Spielen sowie die Imagenet-Tabelle und einige Tabellen zur maschinellen Übersetzung zusammengestellt hatte. Diese Grafiken waren ein "Proof of Work", den andere Menschen als Hinweis auf meine Leidenschaft und meinen Fleiß lasen. Sie wussten an der Tatsache, dass ich diese Grafiken erstellt hatte, dass ich enorm viel Zeit damit verbracht hatte, diese Paper zu lesen.
Ich möchte, dass Sie tief fühlen, wie viel Zeit in so etwas fließt, und dann darüber staunen,