Technikfolgen 22. Mai 2024 Von Wolfgang Schmitz/dpa Lesezeit: ca. 2 Minuten

Experten warnen: KI bedroht die Menschheit!

Die mahnenden Stimmen vor den Risiken künstlicher Intelligenz häufen sich. Und gehen hin bis zur „Auslöschung der Menschheit“.

PantherMedia B227009686
Der Mensch als Quasi-Marionette künstlicher Intelligenz? Wissenschaftler schließen Horrorszenarien zumindest nicht aus.
Foto: PantherMedia / AndrewLozovyi

Von angesehenen Experten für künstliche Intelligenz kommt eine neue eindringliche Warnung vor den Gefahren der Technologie. „Ohne ausreichende Vorsicht könnten wir unwiederbringlich die Kontrolle über autonome KI-Systeme verlieren“, schrieben die Forschenden in einem Text in der neuen Ausgabe der Zeitschrift „Science“. Mögliche KI-Risiken seien Cyberattacken in großem Maßstab, gesellschaftliche Manipulation, allgegenwärtige Überwachung und sogar die „Auslöschung der Menschheit“. Unter den Autoren sind Wissenschaftler wie Geoffrey Hinton, Andrew Yao und Dawn Song, die zu den führenden Köpfen der KI-Forschung gehören.

Kontrolle über KI wird zusehends schwieriger

Den Autoren des Textes machen speziell autonome KI-Systeme Sorgen, die zum Beispiel selbstständig Computer nutzen können, um die ihnen gestellten Ziele zu erreichen. Die Fachleute argumentieren, dass es auch bei Programmen mit guten Absichten unvorhergesehene Nebeneffekte geben könne. Denn so, wie das Training von KI-Software laufe, halte sie sich zwar eng an ihre Spezifikationen, habe aber kein Verständnis dafür, welches Ergebnis dabei herauskommen soll. „Sobald autonome KI-Systeme unerwünschte Ziele verfolgen, könnten wir nicht mehr in der Lage sein, sie unter Kontrolle zu behalten“, heißt es in dem Text.

Können Menschen Gefühle für KI haben?

Die Frage, ob die ChatGPT-Entwicklerfirma OpenAI als Vorreiter bei KI-Technologie verantwortungsvoll genug vorgeht, rückt in den Fokus. Der Entwickler Jan Leike, der bei OpenAI dafür zuständig war, KI-Software sicher für Menschen zu machen, kritisierte nach seinem Rücktritt den Gegenwind aus der Chefetage. In den vergangenen Jahren seien „glitzernde Produkte“ der Sicherheit vorgezogen worden, so Leike. Dabei sei „Software zu entwickeln, die schlauer als Menschen ist, eine von Natur aus gefährliche Unternehmung“, warnt er. Man müsse dringend herausfinden, wie man KI-Systeme kontrollieren könne, „die viel smarter als wir sind“.

Meta-Forschungschef gibt Entwarnung

OpenAI-Chef Sam Altman versicherte danach, seine Firma fühle sich verpflichtet, mehr für die Sicherheit von KI-Software zu tun. Der KI-Forschungschef des Facebook-Konzerns Meta, Yann LeCun, konterte dagegen, für solche Dringlichkeit müssten sich zunächst auch nur andeutungsweise Systeme abzeichnen, „die schlauer als eine Hauskatze sind“. Momentan sei es so, als würde jemand im Jahr 1925 warnen, man müsse dringend den Umgang mit Flugzeugen lernen, die Hunderte Passagiere mit Schallgeschwindigkeit über den Ozean befördern. Es werde viele Jahre dauern, bis die KI-Technologie so schlau wie Menschen sein werde. Ähnlich wie bei Flugzeugen würden die Sicherheitsvorkehrungen damit schrittweise einhergehen.

Quantencomputer: So schützt sich der Mittelstand jetzt schon vor Gefahren

Themen im Artikel

Ein Beitrag von:

Stellenangebote

Hochschule Mannheim

Professur "Werkstoffwissenschaften und Fertigungstechnologie" (w/m/d)

Mannheim
Gottfried Wilhelm Leibniz Universität Hannover

Universitätsprofessur (m/w/d) für Maschinenelemente, -konstruktion und Tribologie

Hannover
Gottfried Wilhelm Leibniz Universität Hannover

Universitätsprofessur (m/w/d) für Maschinenelemente, -konstruktion und Tribologie

Hannover
mdexx fan systems GmbH

Nachhaltigkeitsmanager (m/w/d)

Weyhe (bei Bremen)
Brandenburgischer Landesbetrieb für Liegenschaften und Bauen

Leitung (w/m/d) des Geschäftsbereiches Baumanagement Land

Potsdam
THD - Technische Hochschule Deggendorf

Professor/Professorin bzw. Nachwuchsprofessur (m/w/d) für das Lehrgebiet "Grundlagen der Informatik, insbesondere Software Engineering"

Deggendorf
THD - Technische Hochschule Deggendorf

Forschungsprofessur oder Nachwuchsprofessur (m/w/d) für das Lehrgebiet "Human-Centered Security"

Vilshofen
THD - Technische Hochschule Deggendorf

Professor/Professorin (m/w/d) für das Lehrgebiet "Angewandte Künstliche Intelligenz"

Deggendorf
Brandenburgischer Landesbetrieb für Liegenschaften und Bauen

Sachbearbeiter/in für Elektrotechnik (m/w/d) im Baubereich Bundesbau

Potsdam
Bundesanstalt für Immobilienaufgaben

TGA-Ingenieurinnen / TGA-Ingenieure als Betriebsmanagerin/Betriebsmanager (w/m/d)

Berlin
Zur Jobbörse

Das könnte Sie auch interessieren

Empfehlungen des Verlags

Meistgelesen aus der Kategorie Informationstechnik