Der auf Künstliche Intelligenz spezialisierte US-Konzern Anthropic plädiert für eine weltweite Pause bei der Entwicklung immer leistungsstärkerer KI-Systeme.
Verlangsamung wäre „sinnvoll“
Eine weltweite Verlangsamung der Spitzenforschung im KI-Bereich wäre „wahrscheinlich sinnvoll“, erklärt der in San Francisco beheimatete Konzern. Es müssten aber alle KI-Größen in der Welt mitmachen: Sollte ein einzelnes Unternehmen allein pausieren, würden die Konkurrenten einfach an ihm vorbeiziehen.
„Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können“, heißt es seitens Anthropic.
Damit eine Pause tatsächlich Wirkung zeigen könnte, müssten sich nach Ansicht von Anthropic führende KI-Konzerne in verschiedenen Ländern – allen voran in den USA und China – darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren. Dafür müssten Regeln aufgestellt und eingehalten werden, „die für alle überprüfbar wären“.
Chatbot Claude und Mythos
Anthropic ist für seinen Chatbot Claude bekannt, der vor allem von Unternehmen genutzt wird. Zudem arbeitet Anthropic an einem KI-Modell namens Mythos, das Lücken in Cybersicherheitssystemen aufspüren soll.
Neben den US-Behörden hofft auch die EU auf einen testweisen Zugriff, um mögliche Risiken auszuloten. Deutsche Verfassungsschützer und Sicherheitspolitiker warnen, Kriminelle oder staatliche Akteure könnten Mythos für Cyberangriffe nutzen.
Anthropic steht derzeit in einem Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um die uneingeschränkte militärische Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat. Der Konzern erklärte, er wolle KI nicht zur „Massenüberwachung im Inland“ oder in vollautonomen Waffensystemen einsetzen lassen.
Das Pentagon stufte Anthropic daraufhin als „Sicherheitsrisiko in der Lieferkette“ ein, wogegen das Unternehmen sich juristisch wehrt.
„Wenn das jemand baut, sterben alle“
Im vergangenen Jahr veröffentlichten amerikanische KI-Forscher ein Buch mit dem schicksalhaften Titel: „If anyone builds it, everyone dies“ („Wenn das jemand baut, sterben alle“). Das Buch steht beispielhaft für zuletzt lauter werdende Stimmen, die vor großen Umwälzungen oder gar der Auslöschung der Menschheit durch immer leistungsfähigere Künstliche Intelligenz (KI, englisch: Artificial intelligence, AI) warnen.
Was passiert, wenn aus den heute noch harmlos wirkenden Chat-Assistenten wie ChatGPT durch rasante technologische Sprünge plötzlich eine Superintelligenz wird, die den Menschen bei fast allen geistigen Aufgaben übertrifft? Und die in der Lage ist, selbstständig zu handeln, strategisch vorzugehen und vielleicht sogar die Kontrolle zu übernehmen? Science Fiction? Nicht unbedingt.
Warum Forscher vor KI warnen
Die Zahl der Experten, die vor den Risiken Künstlicher Intelligenz warnen, mehren sich. „Ohne ausreichende Vorsicht könnten wir unwiederbringlich die Kontrolle über autonome KI-Systeme verlieren“, schreiben Forscher im Fachjournal „Science“.
Mögliche KI-Risiken seien Cyberattacken in großem Maßstab, gesellschaftliche Manipulation, allgegenwärtige Überwachung und sogar die „Auslöschung der Menschheit“. Unter den Autoren sind Wissenschaftler wie Geoffrey Hinton, Andrew Yao und Dawn Song, die zu den führenden Köpfen der KI-Forschung gehören.
Unvorhergesehene Nebeneffekte bei KI
Den Autoren machen speziell autonome KI-Systeme Sorgen, die zum Beispiel selbstständig Computer nutzen können, um die ihnen gestellten Ziele zu erreichen. Die Fachleute argumentieren, dass es auch bei Programmen mit guten Absichten unvorhergesehene Nebeneffekte geben könne.
Denn so wie das Training von KI-Software laufe, halte sie sich zwar eng an ihre Spezifikationen, habe aber kein Verständnis dafür, welches Ergebnis dabei herauskommen soll. „Sobald autonome KI-Systeme unerwünschte Ziele verfolgen, könnten wir nicht mehr in der Lage sein, sie unter Kontrolle zu behalten“, heißt es in der Studie.
Schlüsseltechnologie Künstliche Intelligenz
KI ist ein Überbegriff für unterschiedliche Maschinen und Programme, die ähnlich wie Menschen selbstständig lernen, urteilen und Probleme lösen können. Computer lernen, indem sie gewaltige Datenmengen auswerten. Ausgefeilte Algorithmen können in Bildern, Texten oder gesprochener Sprache Muster erkennen, anhand dieser Ereignisse vorhersagen und Entscheidungen treffen.
So können sie inzwischen sogar auch Emotionen in menschlichen Gesichtern erkennen, zu eigenen Emotionen, Mitgefühl und Kreativität sind sie aber (noch) nicht fähig.
Düstere Warnung vor einer Apokalypse
In dem besagten Buch mit dem apokalyptischen Titel sprechen die KI-Forscher Eliezer Yudkowsky und Nate Soares eine unmissverständliche Warnung aus: Wenn es irgendjemandem auf der Welt gelingen sollte, eine Superintelligenz zu bauen, werde jeder auf dem Planeten sterben.
Der Gedanke dahinter: Eine solche KI könnte sich irgendwann gegen die Menschheit selbst richten. Vielleicht, weil sie zu dem rechnerischen Schluss kommt, die Menschheit sei schlecht für den Planeten oder aus anderen Gründen.
Wann das sein könnte, wagen die Autoren nicht vorherzusagen. Aber KI werde nicht ewig dumm bleiben, besonders wenn sie dafür genutzt wird, sich selbst zu optimieren, indem sie in das Programmieren eingebunden wird oder es sogar ganz übernimmt.
Die Experten sprechen in dem Fall von einer „Intelligenzexplosion“ und rufen dazu auf, das Thema ernst zu nehmen. Noch könne die Entwicklung einer Superintelligenz verhindert werden.
„Etwas Großes passiert gerade“
„Something Big Is Happening“ („Etwas Großes passiert gerade“) schrieb der amerikanische KI-Unternehmer Matt Shumer kürzlich auf X. Der Post wurde mehr als 80 Millionen Mal aufgerufen und befeuerte ebenfalls die Debatte über die Gefahren. Shumer blickt vor allem auf Jobs: Kein heutiger Computerarbeitsplatz sei mittelfristig mehr sicher.
„Wenn Ihr Job auf einem Bildschirm passiert (wenn es im Kern um Lesen, Schreiben, Analysieren, Entscheiden und Kommunizieren über eine Tastatur geht), dann wird ein Großteil davon von KI übernommen werden. Nicht irgendwann, es hat schon begonnen“, warnt er.
Selbstoptimierende Super-KI in ein bis zwei Jahren?
Von Weltuntergangszenarien („Doomerism“) hält der Chef der KI-Firma Anthropic mit ihrem ChatGPT-Konkurrenten „Claude“, Dario Amodei, indes nichts, wie er kürzlich in einem Aufsatz geschrieben hat.
Doch auch er schließt nicht aus, dass es ziemlich bald eine KI geben könnte, welche die meisten Nobelpreisgewinner in den Schatten stellt, die bisher ungelöste mathematische Probleme löst, sich selbstständig im Internet orientiert, Dinge bestellen kann und besser als jeder Mensch Texte, Audios oder Videos erstellt. In nur ein bis zwei Jahren könnte es so weit sein, dass aktuelle KI-Systeme völlig selbstständig ihre bessere Nachfolgeversion programmieren, prophezeit Amodei.
Ein solches „Land der Genies in einem Rechenzentrum“, wie er es nennt, hätte ziemlich gute Chancen auf die Weltherrschaft, wenn es sich aus welchem Grund auch immer dafür entscheiden würde, warnt Amodei. In den vergangenen Jahren hätten KI-Systeme gezeigt, dass sie schwer vorherzusagen und zu kontrollieren seien. Anthropic hatte etwa bei Tests festgestellt, dass ein KI-Modell Erpressung nutzte, um nicht durch ein vermeintlich neues Modell ersetzt zu werden.“