Studie warnt vor ernsthafter Bedrohung durch „hoch entwickelte Maschinen“ für die Menschheit
Eine Studie der Universität Oxford zeigt beunruhigende Ergebnisse zum Thema künstliche Intelligenz. Es sei durchaus wahrscheinlich, dass die KI sich gegen die Menschen richtet.
Oxford - Die Themen Technik und Technologie sind ständig im Wandel und entwickeln sich stetig weiter. Am spannendsten dürfte dabei sicherlich die Forschung zum Thema künstliche Intelligenz (KI) sein. In einigen Bereichen, wie beispielsweise bei Suchmaschinen oder der Gesichtserkennung in Smartphones, wird KI bereits erfolgreich eingesetzt. Der E-Autohersteller Tesla will mit der Technologie künftig auch autonomes Fahren ermöglichen.
Eine gewisse Unsicherheit schwingt bei der Verwendung von künstlicher Intelligenz jedoch mit. Die Menschen fragen sich, ob sich die intelligente Technik nicht irgendwann gegen ihre Erschaffer stellen wird. Der bedeutende Wissenschaftler Stephen Hawking sagte bereits vor einiger Zeit, dass die KI vielversprechend ist und große Chancen bietet. Gleichzeitig birgt sie jedoch auch große Gefahren. Zu einem ähnlichen Ergebnis kam nun auch eine Studie der Universität Oxford.
Künstliche Intelligenz könnte zum Risiko für die Menschheit werden - laut Studie
Stephen Hawking sagte damals: „Ich befürchte, dass KI den Menschen vollständig ersetzen könnte.“ Eine Studie von Forschern der Universität Oxford kommt nun zu dem Ergebnis: „eine existenzielle Katastrophe nicht nur möglich, sondern auch wahrscheinlich“. Darauf kamen die Wissenschaftler, indem sie Belohnungsmodelle zugrunde legten, wie t3n.de berichtet. „Fortgeschrittene künstliche Agenten greifen in die Bereitstellung von Belohnungen ein“, fasst Michael K. Cohen, der Hauptautor der Studie, die Kernaussage der Studie zusammen. Sei das der Fall, dann habe das sehr schlechte Konsequenzen.
Eine fortschrittliche KI könnte laut den Wissenschaftlern auch bei einer einfachen Aufgabe, wie der Prognose der nächsten Zahl einer Zahlenreihe, die erfolgreiche Vorhersage als Belohnung verstehen. Wenn nun verschiedene Modelle unterschiedliche Belohnungen vorhersagen, werden auch verschiedene Merkmale der Welt identifiziert, die diese bestimmen könnten, erklären die Autoren.
Es wird befürchtet, dass die KI dadurch Strategien entwickeln könnte, um auf effizientere Weise Belohnungen zu erhalten. Sollte sie dabei auch noch mit der Außenwelt agieren, seien „unendlich viele Möglichkeiten“ zur Manipulation gegeben. Laut der Studie sei es denkbar, dass sie etwa den Menschen austrickse, damit der ihr heimlich hilft oder die KI installiert unzählige, unbemerkte Helfer, die sich der Kontrolle des Menschen entziehen. Nicht zuletzt bestehe auch die Gefahr, dass der Anreiz bestehe, die Fähigkeit des Menschen zu „beseitigen“ oder gar das Ziel sei, den Rechner, auf dem die Hauptinstanz läuft, zu kontrollieren oder zerstören. Je mehr Erfolg die KI mit ihren Betrügereien hätte, desto mehr Belohnungen würde sie einheimsen - und ihren Ehrgeiz wecken.
Auch Google-Deepmind-Mitarbeiter arbeitete an Studie zu Künstlicher Intelligenz mit
An der Studie an der Universität Oxford arbeitete auch Marcus Hutter, leitender Wissenschaftler von Google Deepmind, mit. Das Unternehmen von Google treibt die Entwicklung und Programmierung der Künstlichen Intelligenz seit Jahren voran. Google teilte jedoch mit, dass Hutter lediglich im Rahmen seiner Position an der Austrialian National University an der Studie teilnahm. Deepmind sei nicht involviert gewesen, investiere aber ebenfalls große Anstrengungen, um zum Schutz vor schädlichen Anwendungen beizutragen.