Google schränkt seine KI-Übersichtsfunktion stärker ein, nachdem es die Leute aufgefordert hat, Kleber auf Pizza zu streichen

Liz Read, Suchleiterin bei Google, gab zu, dass die Suchmaschine des Unternehmens nach ihrer öffentlichen Einführung in den USA einige „seltsame, ungenaue oder nicht hilfreiche Übersichten über KI“ zurückgegeben habe. Die Führungskraft veröffentlichte in einer Datei eine Erklärung zu den bizarreren KI-generierten Antworten von Google BlogeintragAußerdem wurde bekannt gegeben, dass das Unternehmen Sicherheitsmaßnahmen implementiert hat, die dazu beitragen werden, dass die neue Funktion genauere und weniger Meme-würdige Ergebnisse liefert.

Reed verteidigte Google und wies darauf hin, dass einige der ungeheuerlicheren Reaktionen auf die im Umlauf befindliche KI-Übersicht, wie etwa die Behauptung, dass es sicher sei, Hunde im Auto zu lassen, falsch seien. Viraler Screenshot mit der Antwort auf die Frage „Wie viele Steine ​​soll ich essen?“ Stimmt, aber sie sagte, Google habe eine Antwort gefunden, weil eine Website satirische Inhalte zu diesem Thema veröffentlicht habe. „Bevor diese Screenshots viral gingen, stellte Google praktisch niemand diese Frage“, erklärte sie, sodass die KI des Unternehmens mit dieser Website verknüpft wurde.

Der Google-Vizepräsident bestätigte außerdem, dass AI Overview anhand von Inhalten aus einem Forum Menschen dazu aufforderte, mit Klebstoff Käse auf Pizza zu kleben. Sie sagte, dass Foren in der Regel „echte, unkomplizierte Informationen“ liefern, aber auch zu „weniger als hilfreichen Ratschlägen“ führen können. Die anderen Antworten, die im KI-Überblick kursieren, erwähnte der CEO allerdings nicht Washington Post Berichten zufolge teilte die Technologie den Benutzern auch mit, dass Barack Obama ein Muslim sei und dass Menschen viel Urin trinken sollten, um Nierensteine ​​loszuwerden.

Reid sagte, das Unternehmen habe die Funktion vor der Einführung ausgiebig getestet, aber „es gibt nichts Besseres als Millionen von Menschen, die die Funktion für so viele neue Suchanfragen nutzen.“ Es scheint, dass Google in der Lage war, Muster zu identifizieren, bei denen seine KI-Technologie die Dinge nicht richtig machen konnte, indem er sich Beispiele seiner Antworten in den letzten zwei Wochen ansah. Anschließend wurden auf der Grundlage des Feedbacks Schutzmaßnahmen eingerichtet, beginnend mit der Optimierung der KI, um Humor und satirische Inhalte besser erkennen zu können. Darüber hinaus hat das Unternehmen seine Systeme aktualisiert, um das Hinzufügen benutzergenerierter Antworten in Übersichten wie sozialen Medien und Forenbeiträgen einzuschränken, die Menschen irreführende oder sogar schädliche Ratschläge geben können. Darüber hinaus wurden „Auslöserbeschränkungen für Abfragen hinzugefügt, bei denen sich KI-Übersichten nicht als nützlich erwiesen“ und die Anzeige von KI-generierten Antworten für einige Gesundheitsthemen eingestellt.