Die Warnung kommt längst nicht mehr nur von Forschern, Regulierungsbehörden oder kritischen Stimmen zur künstlichen Intelligenz. Dario Amodei, Mitgründer und CEO von Anthropic, einem der Unternehmen im Wettbewerb um die Entwicklung der fortschrittlichsten Modelle, wirft der Branche selbst vor, die mit dieser Technologie verbundenen Risiken zu lange verschwiegen zu haben.
„Die Branche hat die Menschen viel zu lange darüber getäuscht, dass diese Technologie Risiken birgt“, sagte Amodei in einem Interview. Der Unternehmer betonte, es gebe „reale Gefahren“, und erklärte, das rasante Wachstum der Fähigkeiten von KI-Systemen sei ein Warnsignal, das dazu zwinge, das Entwicklungstempo der Branche zu überdenken.
Seine Worte fallen in eine Phase intensiven Wettbewerbs zwischen den großen Technologielaboren um die Entwicklung immer leistungsfähigerer Modelle. Anthropic, Entwickler von Claude, gehört neben Unternehmen wie OpenAI und Google DeepMind zu den zentralen Akteuren dieses Wettlaufs. Damit ist Amodeis Wortmeldung mehr als eine externe Warnung: Sie wirft aus dem Inneren der Branche heraus die Frage auf, ob Sicherheits- und Kontrollmechanismen mit der Technologie selbst Schritt halten können.
Ein Vorschlag für ein langsameres Tempo
Amodei hat seine Position in einem Essay mit dem Titel We Must Pace the Frontier dargelegt. Darin argumentiert er, dass die Entwicklung von Systemen an der technologischen Spitze vorsichtiger voranschreiten müsse. Seine Sorge gilt insbesondere der Möglichkeit, dass die Fähigkeiten der Modelle schneller wachsen könnten als die menschliche Fähigkeit, sie zu verstehen, zu bewerten und zu kontrollieren.
Der Anthropic-Chef schlägt unter anderem vor, externen Prüfern dauerhaft Zugang zu den Systemen zu gewähren, damit sie die Einhaltung von Sicherheitsmaßnahmen überprüfen, Vorfälle analysieren und das Verhalten der Modelle während ihres Trainings untersuchen können.
Der Vorschlag geht über Entscheidungen hinaus, die ein einzelnes Unternehmen treffen kann. Amodei hält eine Koordinierung zwischen den führenden Entwicklern künstlicher Intelligenz und in einer späteren Phase internationale Vereinbarungen für notwendig, die bestimmte Grenzen und Sicherheitsstandards festlegen können.
Das Problem besteht darin, dass eine einseitige Verlangsamung der Entwicklung in einer Branche mit intensivem wirtschaftlichem und geopolitischem Wettbewerb offenkundige Schwierigkeiten aufwirft. Entscheidet sich ein Unternehmen für ein langsameres Tempo, während seine Konkurrenten das bisherige Tempo beibehalten, könnte es bei einer als strategisch geltenden Technologie an Boden verlieren. Dieselbe Spannung zeigt sich auf internationaler Ebene, insbesondere im technologischen Wettbewerb zwischen den Vereinigten Staaten und China.
Eine Debatte, die die Branche spaltet
Amodeis Warnungen finden Unterstützung bei einigen der bedeutendsten Namen der Branche. Führungskräfte wie Sam Altman von OpenAI, Demis Hassabis von Google DeepMind und Elon Musk haben ebenfalls Besorgnis über das Entwicklungstempo der fortschrittlichsten Systeme geäußert, auch wenn ihre jeweiligen Positionen und konkreten Vorschläge nicht identisch sind.
Zugleich hat die Forderung nach einer Drosselung des Tempos Kritik hervorgerufen. Die Gegner bezweifeln sowohl die Umsetzbarkeit einer Koordinierung konkurrierender Unternehmen und Staaten als auch den Nutzen von Beschränkungen, die Innovationen bremsen oder Unternehmen mit bereits dominanter Stellung begünstigen könnten.
Die Debatte hat zudem eine politische Dimension. Vorschläge für eine stärkere Kontrolle fortschrittlicher Systeme stoßen auf den Widerstand jener, die der Ansicht sind, dass die Vereinigten Staaten das höchstmögliche Tempo beibehalten müssen, um ihren technologischen Vorsprung gegenüber China zu sichern. Chinesische Staatsmedien haben Amodeis Positionen kritisiert und seine Überlegungen zur technologischen Kontrolle als Teil der Rivalität zwischen den beiden Ländern interpretiert.
Anthropic warnt seit Jahren vor den Risiken
Amodeis Position bedeutet keine vollständige Abkehr von seiner bisherigen Haltung. Anthropic wurde mit einem starken Fokus auf die Sicherheit von KI-Systemen gegründet, und sein CEO warnt seit Jahren vor den möglichen negativen Folgen immer leistungsfähigerer Modelle.
Gleichzeitig hat Amodei das enorme Potenzial dieser Technologie öffentlich hervorgehoben. 2024 veröffentlichte er den Essay Machines of Loving Grace, in dem er ein Szenario beschrieb, in dem eine ausreichend fortgeschrittene künstliche Intelligenz den Fortschritt in Bereichen wie Biologie, Medizin, Neurowissenschaften oder wirtschaftlicher Entwicklung beschleunigen könnte.
Diese Verbindung von Erwartungen und Risiken trägt zum Verständnis seiner aktuellen Position bei. Amodei fordert nicht, auf die Entwicklung künstlicher Intelligenz zu verzichten, sondern Zeit zu gewinnen, damit die Kontrollmechanismen vorankommen können, bevor Systeme entstehen, deren Fähigkeiten deutlich schwerer zu überwachen sein werden.
Die Diskussion gewinnt besondere Bedeutung, weil sie von jenen ausgeht, die unmittelbar darüber entscheiden können, wie weit und mit welchem Tempo die Technologie weiterentwickelt wird. Die Frage lautet nicht mehr allein, was künstliche Intelligenz leisten kann, sondern auch, welche Grenzen die Unternehmen zu akzeptieren bereit sind, die um ihre Entwicklung konkurrieren.
