Führende KI-Unternehmen warnen vor Kontrollverlust durch künstliche Intelligenz

Die Chefs der Technologiekonzerne Anthropic und OpenAI haben vor dem Sicherheitsrat der Vereinten Nationen und in Stellungnahmen vor existenziellen Risiken durch künstliche Intelligenz gewarnt. Während Anthropic-Chef Dario Amodei eine Verlangsamung der Entwicklung forderte und KI als mögliches Risiko für die gesamte Menschheit einstufte, pflichtete OpenAI-Chef Sam Altman bei und verwies auf einen möglichen Verlust der Kontrolle über die Zukunft. Zuvor hatten bereits Anfang September aktuelle und ehemalige Forscher vor einer ungebremsten Weiterentwicklung der Technologie gewarnt.

Kritiker wie der US-Informatikprofessor Cal Newport bezeichnen das Vorgehen als „Doom Trolling“. In einem Beitrag für die „New York Times“ bezog sich Newport auf den Anthropic-Bericht „When AI builds itself“ über rekursive Selbstverbesserung und erklärte, die Firmen nutzten die Untergangserzählung womöglich vor geplanten Börsengängen, um die Stärke der Technologie zu betonen und Investoren anzulocken. Falls die Konzerne tatsächlich an eine Auslöschung der Menschheit glaubten, müssten sie ihre Entwicklungsarbeit dagegen umgehend einstellen.

Der KI-Forscher Gary Marcus sagte im Gespräch mit dem „Spiegel“, die Firmen wollten Investitionen einsammeln und müssten dazu die Technologie so beeindruckend wie möglich darstellen. Marcus sieht darin auch den Versuch, von Problemen wie austauschbaren Modellen, Billigkonkurrenz aus China und überzogenen Produktivitätserwartungen abzulenken. Die KI-Ethikerin Timnit Gebru und die Linguistin Emily Bender kritisierten im Magazin „MIT Technology Review“, die Branche lenke mit den Warnungen vor einem fiktiven Maschinengott von greifbaren Problemen wie dem Strom- und Wasserverbrauch von Rechenzentren sowie lokalen Gesundheitsschäden ab.

In der Wissenschaft besteht keine Einigkeit über die Wahrscheinlichkeit eines Untergangsszenarios. Bei einer Umfrage des Fachverbands AAAI stuften 76 Prozent von 475 befragten Mitgliedern ein Erreichen menschlicher Fähigkeiten durch das reine Hochskalieren heutiger Systeme als „unwahrscheinlich oder sehr unwahrscheinlich“ ein. Eine Befragung von rund 2800 Experten aus dem Jahr 2024 bezifferte die Wahrscheinlichkeit, dass Maschinen den Menschen bis 2047 in allen Aufgaben übertreffen, auf 50 Prozent; zwischen 38 und 51 Prozent der Befragten sahen für katastrophale Folgen wie das Aussterben der Menschheit eine Wahrscheinlichkeit von mindestens zehn Prozent.

Laut dem von Turing-Preisträger Yoshua Bengio und mehr als 100 internationalen Experten erstellten „International AI Safety Report 2026“ fehlen aktuellen Systemen die Fähigkeiten für ein Szenario, in dem KI vollständig außerhalb menschlicher Kontrolle agiert. Der Bericht stellt zugleich fest, dass sich bestehende Systeme in relevanten Bereichen wie dem autonomen Betrieb bereits verbessern.