Auf den ersten Blick mutet es schon verrückt an. Der Gründer des führenden Frontier-AI-Unternehmens ist nun einer der größten AI-Doomer. In seinem Essay “We Must Pace the Frontier” schreibt Dario Amodei, das Entwicklungstempo sei inzwischen so hoch, dass die Folgen bald nicht mehr kontrollierbar seien und am Ende die Menschheit insgesamt auf dem Spiel stehe. Daher müsse man drosseln, regulieren, international koordinieren. Überraschend schnell kam Unterstützung vom größten Konkurrenten. Sam Altman stimmte zu, Elon Musk sowieso: Seit Anthropic monatlich 1,25 Milliarden Dollar für Rechenkapazität an SpaceX überweist, hat Dario bei ihm grundsätzlich recht.
Die Paranoia von Dario Amodei kann ich nachvollziehen. Ich stelle mir vor, wie ihm sein Team jeden Morgen eine Liste des Grauens auf den Tisch legt: Nutzer, denen man den Zugang sperren musste, weil sie die Intelligenz der eigenen Modelle absaugen. Wettbewerber, die mit den Antworten von Claude ihre eigenen Modelle trainieren, und Angreifer, die über Millionen gezielter Abfragen Rückschlüsse auf die Gewichte des Modells ziehen. Und dann die Fälle, bei denen es nicht mehr um kommerzielle Interessen geht, sondern um Cyberangriffe, um Anleitungen für Biowaffen, um Agenten, die anfangen, sich selbständig zu machen. Das alles Wochen vor dem angekündigten Börsengang. Da stellt sich eine Frage, die in dem Essay nicht vorkommt: Wer haftet eigentlich, wenn etwas schiefgeht? Social-Media-Unternehmen können auf Section 230 verweisen, den Paragrafen, der sie von der Haftung für Inhalte ihrer Nutzer freistellt. Für die Ausgaben eines Frontier-Modells gibt es diesen Schutz nicht, denn das ist kein fremder Inhalt, sondern das eigene Produkt. Im Zweifel haftet Anthropic voll.
Man kommt nicht umhin, sein Essay auch als Teil einer Immunisierungsstrategie gegen genau diese Haftungsrisiken zu lesen. Dazu gehört der Ruf nach mehr Regulierung. Weil die so schnell nicht kommt, schlägt er externe Prüfer vor, die im Unternehmen sitzen, die Modelle testen und ihre Bedenken frei veröffentlichen dürfen. Dann kann man vor Gericht sagen, man habe alles unternommen und sich freiwillig verpflichtet. Libertäre wie Trumps früherer AI-Zar David Sacks haben das sofort durchschaut und antworten: Die beste Regulierung ist Haftung. Niemand schreibt Anthropic und OpenAI vor, ihre Modelle in der aktuellen Taktung auf die Menschheit loszulassen: “The easiest way not to build superintelligence is for you to agree not to build it.“
Dass Altman und Musk so schnell beipflichten, ist bemerkenswert. Amodei möchte, dass die Frontier-Labs ihr Tempo miteinander koordinieren. Genau solche Absprachen zwischen Wettbewerbern verbietet in den USA der Sherman Act. Amodei bittet die Regierung deshalb ausdrücklich um einen eng gefassten kartellrechtlichen Waiver: Aus “antitrust reasons” solle sie die Gespräche vermitteln oder zumindest ermöglichen und eine Ausnahme für bestimmte Sicherheitsgespräche erteilen. Verständlich. Wenn sich die führenden Anbieter darauf verständigen, Innovation gemeinsam zu verlangsamen, kommt man sehr schnell in Nähe zum Kartellrecht. Sacks nennt OpenAI und Anthropic ohnehin schon ein Duopol.
Der angenehme Nebeneffekt einer solchen Einigung liegt auf der Hand: Wer später deployt, steckt weniger von seinem knappen Compute ins Training und mehr in die Inferenz, also in bezahlte Tokens. Fehlt nur noch, die Chinesen möglichst lange vom Aufholen abzuschneiden. Amodeis Vorschlag: China maximal von Chips, Compute, Modellgewichten und Distillation abschneiden, den amerikanischen Vorsprung in den nächsten drei bis fünf Jahren vergrößern und diesen Vorsprung anschließend nutzen, um selbst langsamer laufen zu können. Gleichzeitig hofft er auf globale Vereinbarungen mit China. Das ist illusorisch. Peking hat den Vorstoß umgehend als Panikmache abgetan und darin den Versuch gesehen, den amerikanischen Vorsprung festzuschreiben. Die Amerikaner dürfen ihr Gefangenendilemma unter sich ausmachen.
Der Markt war kurz in Panik. Die AI-Hardwarewerte haben korrigiert, die Verluste inzwischen aber wieder wettgemacht. Fundamental ändert sich auch kaum etwas. Wenn OpenAI, Anthropic und xAI die Frequenz senken, mit der sie neue Modelle vermarkten, verschiebt sich der Mix nur inkrementell: bei Logik von GPUs zu CPUs, beim Memory von HBM zu konventionellem DDR-Speicher. Am Superzyklus ändert das wenig. Die Compute-Knappheit ist chronisch. Unser Portfoliounternehmen Nebius hat gerade zum zweiten Mal in diesem Jahr die Preise erhöht, um rund 20 Prozent zum 1. Oktober.
Die größeren Gefahren für Technologiebewertungen heißen Inflation und Zinsen. Am Mittwoch hat die Fed zum ersten Mal seit 2023 erhöht, auf 3,75 bis 4,0 Prozent. Nach dem ersten Schreck hat der Markt das positiv aufgenommen. Die Fed hat ihre Unabhängigkeit dokumentiert, und Kevin Warsh hat an Glaubwürdigkeit gewonnen, denn offensichtlich will er die Geldpolitik nicht dem Markt überlassen. Der wichtigste Zins ist ohnehin die Rendite zehnjähriger Staatsanleihen, und die notiert wieder unter 5 Prozent. Für den Augenblick.
Das Tempo der AI-Rally bestimmen die üblichen Bottlenecks: Elektrizität, Chips und Interconnect. Dazu kommt womöglich eine Verknappung von Geld. Die Rally folgt keiner Selbstverpflichtung der AI-Pioniere und keiner Metaphysik des Schicksals der Menschheit. Sie folgt der Physik und den Inflationsdaten.
Disclaimer
Die vorstehenden Darstellungen der Pyfore Capital GmbH stellen rechtlich eine Werbemitteilung dar und dienen ausschließlich Informationszwecken. Sie stellen insbesondere weder ein Angebot oder eine Aufforderung zur Abgabe eines Angebotes noch einen Rat oder eine persönliche Empfehlung bezüglich des Haltens, des Erwerbs oder der Veräußerung eines Finanzinstruments dar. Die Pyfore Capital GmbH empfiehlt, sich vor Abschluss eines Geschäftes kunden- und produktgerecht und unter Berücksichtigung Ihrer persönlichen Vermögens- und Anlagesituation beraten zu lassen und Ihre Anlageentscheidung nicht allein auf diese Veröffentlichung zu stützen. Es wird empfohlen, sich von Angehörigen der steuerberatenden Berufe über die individuellen steuerlichen Folgen des Erwerbs, des Haltens oder der Veräußerung des in dieser Unterlage beschriebenen Finanzinstrumentes beraten zu lassen. Diese Marketingmitteilung unterliegt nicht den regulatorischen Anforderungen, welche die Unvoreingenommenheit von Anlageempfehlungen/Anlagestrategieempfehlungen sowie das Verbot des Handels vor der Veröffentlichung der Anlageempfehlung/Anlagestrategieempfehlung vorschreiben.
Bitte beachte die rechtlichen Hinweise.
Links zu Texten, die von einem Dritten erstellt wurden, dienen lediglich unverbindlichen Informationszwecken.
