Der Pate der künstlichen Intelligenz, Geoffrey Hinton, warnt vor den Risiken, wenn er Google verlässt

Ein Mann, der weithin als Pate der künstlichen Intelligenz (KI) gilt, hat seinen Job gekündigt und warnt vor wachsenden Gefahren durch Entwicklungen auf diesem Gebiet.

Jeffrey Hinton, 75, gab in einer Erklärung gegenüber der New York Times seinen Rücktritt von Google bekannt und sagte, er bedauere jetzt seine Arbeit.

Er sagte der BBC, einige der Chatbot-Risiken seien „sehr beängstigend“.

„Im Moment sind sie nicht schlauer als wir, soweit ich das beurteilen kann. Aber ich denke, sie könnten es bald sein.“

Dr. Hinton stimmte auch zu, dass sein Alter bei seiner Entscheidung, den Technologieriesen zu verlassen, eine Rolle gespielt hatte, und sagte der BBC: „Ich bin 75, also ist es Zeit, in den Ruhestand zu gehen.“

Dr. Hintons bahnbrechende Forschung zu Deep Learning und neuronalen Netzen ebnete den Weg für aktuelle KI-Systeme wie ChatGPT.

Aber ein britisch-kanadischer Kognitionspsychologe und Informatiker sagte der BBC, dass ein Chatbot bald das Informationsniveau des menschlichen Gehirns übertreffen könnte.

„Im Moment sehen wir, dass Dinge wie GPT-4 eine Person in Bezug auf das Allgemeinwissen, das sie haben, und eine Person bei weitem übertreffen. In Bezug auf die Argumentation ist es nicht sehr gut, aber es ist einfach Denken.

„Und angesichts der Fortschrittsrate erwarten wir, dass sich die Dinge sehr schnell verbessern. Also müssen wir uns darum kümmern.“

In einem Artikel der New York Times bezog sich Dr. Hinton auf „schlechte Schauspieler“, die versuchen würden, KI für „schlechte Dinge“ einzusetzen.

Als er von der BBC gebeten wurde, dies näher zu erläutern, antwortete er: „Dies ist nur ein Worst-Case-Szenario, eine Art Albtraum-Szenario.

„Man kann sich zum Beispiel einige schlechte Schauspieler vorstellen [Russian President Vladimir] Putin beschloss, Bots die Möglichkeit zu geben, ihre eigenen Unterziele zu erstellen.

Letztlich könne dies „Teilziele wie ‚Ich muss stärker werden‘ schaffen“, warnte der Wissenschaftler.

Er fügte hinzu: „Ich bin zu dem Schluss gekommen, dass sich die Art der Intelligenz, die wir entwickeln, sehr von der Intelligenz unterscheidet, die wir haben.

„Wir sind biologische Systeme und dies sind digitale Systeme.“ Der große Unterschied besteht darin, dass man bei digitalen Systemen viele Kopien desselben Satzes von Gewichten hat, dasselbe Modell der Welt.

„Und all diese Klone können separat lernen, aber ihr Wissen sofort teilen. Es ist also so, als ob Sie 10.000 Leute haben und wenn jemand etwas lernt, weiß es jeder automatisch. Und so können diese Chatbots viel mehr wissen als jede einzelne Person.“

Er betonte, dass er Google nicht kritisieren wolle und der Tech-Riese „sehr verantwortungsbewusst“ sei.

„Eigentlich möchte ich ein paar gute Dinge über Google sagen. Es wäre glaubwürdiger, wenn ich nicht für Google arbeiten würde.“

In einer Erklärung sagte Google Chief Scientist Jeff Dean: „Wir bleiben einem verantwortungsvollen Umgang mit KI verpflichtet. Wir lernen ständig, aufkommende Risiken zu verstehen und gleichzeitig mutig innovativ zu sein.“