Warum Geoffrey Hinton entschied, dass er in Bezug auf Technologie „in die Pfeife blasen“ sollte

New York (CNN) Geoffrey Hinton, auch bekannt als „Der Pate der künstlichen IntelligenzEr beschloss, dass er die Technologie, an deren Entwicklung er mitgewirkt hatte, „ankündigen“ musste, nachdem er sich Sorgen darüber gemacht hatte, wie intelligent sie sei, sagte er am Dienstag gegenüber CNN.

„Ich bin nur ein Wissenschaftler, der plötzlich erkennt, dass diese Dinger schlauer werden als wir“, sagte Hinton am Dienstag in einem Interview mit dem CNN-Korrespondenten Jake Tapper. „Ich möchte eine Art Pfeife blasen und sagen, dass wir uns ernsthaft Sorgen darüber machen sollten, wie wir verhindern, dass diese Dinge uns übernehmen.“

Hintons Pionierarbeit zu neuronalen Netzen prägt die künstlichen Intelligenzsysteme, die viele der heutigen Produkte antreiben. Am Montag machte er Schlagzeilen, weil er seine Position bei Google, wo er ein Jahrzehnt lang gearbeitet hatte, aufgegeben hatte, um offen über seine wachsende Besorgnis über die Technologie zu sprechen.

In einem Interview am Montag mit Die New York TimesHinton, der als erster über seinen Umzug berichtete, sagte, er sei besorgt über die Fähigkeit der KI, Arbeitsplätze zu eliminieren und eine Welt zu schaffen, in der „viele nicht mehr in der Lage sein werden, zu sagen, was richtig ist“. Er bemerkte auch das erstaunliche Tempo des Fortschritts, das weit über dem liegt, was er und andere erwartet hatten.

„Wenn es schlauer wäre als wir, wäre es sehr gut in der Manipulation, weil es das von uns gelernt hätte, und es gibt nur sehr wenige Beispiele dafür, dass etwas Intelligenteres von etwas weniger Intelligentem kontrolliert wird“, sagte Hinton zu Tapper. Dienstag.

„Sie weiß, wie man programmiert, also wird sie Wege finden, die Beschränkungen zu umgehen, die wir ihr auferlegt haben. Sie wird Wege finden, Menschen dazu zu bringen, das zu tun, was sie wollen.“

Hinton ist nicht der einzige Technologieführer, der sich offen zu seinen Bedenken hinsichtlich der KI geäußert hat. Eine Reihe von Gemeindemitgliedern unterschrieben a Nachricht im März Bitten Sie AI Labs, das Training der leistungsstärksten KI-Systeme für mindestens sechs Monate einzustellen, unter Berufung auf „tiefe Risiken für die Gesellschaft und die Menschheit“.

die Nachricht, veröffentlicht Vom Future of Life Institute, einer gemeinnützigen Organisation Unterstützt Von Elon Musk, nur zwei Wochen nach OpenAI bekannt geben GPT-4, eine leistungsfähigere Version der viralen Chatbot-Technologie, die ChatGPT unterstützt. In frühen Tests und der Demo des Unternehmens wurde GPT-4 verwendet, um Klagen zu entwerfen, standardisierte Tests zu bestehen und eine funktionierende Website aus einer handgezeichneten Skizze zu erstellen.

Apple-Mitbegründer Steve Wozniak, einer der Unterzeichner des Briefes, erschien am Dienstag auf „CNN This Morning“ und äußerte Bedenken hinsichtlich seiner Fähigkeit, Fehlinformationen zu verbreiten.

„Täuschung wird für diejenigen viel einfacher sein, die Sie täuschen wollen“, sagte Wozniak gegenüber CNN. „Wir nehmen diesbezüglich keine Änderungen vor – wir gehen einfach davon aus, dass die Gesetze, die wir haben, dafür sorgen werden.“

Wozniak sagte auch, dass „irgendeine Art von Organisation“ benötigt werden könnte.

Hinton seinerseits sagte gegenüber CNN, er habe die Petition nicht unterschrieben. „Ich glaube nicht, dass wir den Fortschritt aufhalten können“, sagte er. „Ich habe die Petition nicht unterschrieben, die besagt, dass wir aufhören sollten, an KI zu arbeiten, denn wenn die Menschen in Amerika aufhören, werden es die Menschen in China nicht tun.“

Aber er gab zu, dass es keine klare Antwort darauf gab, was stattdessen zu tun sei.

„Mir ist nicht klar, dass wir dieses Problem lösen können“, sagte Hinton zu Tapper. „Ich denke, wir müssen uns sehr anstrengen, um Wege zur Lösung des Problems zu finden. Ich habe im Moment keine Lösung.“