Ehemalige Vorstandsmitglieder von OpenAI sagen, man könne dem Unternehmen nicht zutrauen, sich selbst zu regieren

• Ehemalige Vorstandsmitglieder von OpenAI schrieben in The Economist, dass Regierungen KI-Unternehmen regulieren sollten.
• Helen Toner und Tasha McAuley waren die einzigen Frauen im Vorstand des Unternehmens und verließen das Unternehmen im November.
• Beide unterstützten den Sturz von OpenAI-CEO Sam Altman, der ihrer Meinung nach ein „giftiges“ Arbeitsumfeld geschaffen habe.

Zwei ehemalige Vorstandsmitglieder von OpenAI sagen, dass A.I Man kann ihnen nicht zutrauen, dass sie sich selbst regieren, und es ist eine Regulierung durch Dritte erforderlich, um sie zur Rechenschaft zu ziehen.

Helen Toner und Tasha McAuley waren Mitglieder des Vorstands von OpenAI, bevor sie im November im Rahmen einer chaotischen Kampagne zur Verdrängung von OpenAI-Mitbegründer Sam Altman zurücktraten. Altman wurde wenige Tage nach seiner Entlassung schnell wieder als CEO eingesetzt und kehrte fünf Monate später in den Vorstand zurück.

Die beiden ehemaligen Vorstandsmitglieder schrieben in einem Leitartikel für The Economist, dass sie zu ihrer Entscheidung stehen, Altman zu entlassen, und zitierten Aussagen von hochrangigen Führungskräften, die sagten, der Mitbegründer habe eine „toxische Kultur des Lügens“ geschaffen und sich an „Verhalten“ beteiligt. [that] „Es kann als psychischer Missbrauch beschrieben werden.“

Seit Altman im März in den Vorstand zurückgekehrt ist, wurde OpenAI zu seinem Engagement für Sicherheit befragt und dafür kritisiert, dass es eine KI-Stimme verwendet, die der Schauspielerin Scarlett Johansson in Chat GPT-4o unheimlich ähnlich klang.

Da Altman wieder im Amt ist, schreiben Toner und McCauley, dass man OpenAI nicht vertrauen könne, sich selbst zur Verantwortung zu ziehen.

„Wir sind auch der Meinung, dass die Entwicklungen seit seiner Rückkehr in das Unternehmen – einschließlich seiner Rückkehr in den Vorstand und dem Abgang hochrangiger, sicherheitsorientierter Talente – kein gutes Zeichen für das Autonomie-Experiment von OpenAI sind“, schrieben sie.

Damit OpenAI seine erklärte Mission, „der gesamten Menschheit zu helfen“, erfolgreich erfüllen kann, müssen die Regierungen laut Toner und McCauley eingreifen und „jetzt wirksame Regulierungsrahmen“ schaffen.

Die ehemaligen Vorstandsmitglieder schrieben, sie hätten einst geglaubt, dass OpenAI sich selbst regieren könne, aber „aufgrund unserer Erfahrung glauben wir, dass Selbstverwaltung dem Druck von Gewinnanreizen nicht zuverlässig standhalten kann.“

OpenAI, Toner und McCauley reagierten nicht sofort auf eine Bitte um Stellungnahme von BI.

Die Politik muss „unabhängig“ von KI-Unternehmen handeln

Toner und McCauley relativierten ihre Forderungen nach staatlicher Regulierung, indem sie anerkannten, dass schlecht konzipierte Gesetze „Wettbewerb und Innovation“ ersticken könnten, indem sie kleine Unternehmen belasten.

„Es ist wichtig, dass politische Entscheidungsträger bei der Entwicklung neuer Regeln unabhängig von führenden KI-Unternehmen agieren“, schrieben sie. „Sie müssen auf der Hut sein vor Schlupflöchern, regulatorischen ‚Gräben‘, die Frühinvestoren vor der Konkurrenz schützen, und der Möglichkeit einer regulatorischen Übernahme.“

Im April kündigte das Heimatschutzministerium die Gründung des AI Safety and Security Council an, der Empfehlungen zur „sicheren Entwicklung und Bereitstellung von KI“ in der gesamten kritischen Infrastruktur der Vereinigten Staaten abgeben wird.

Zu den 22 Vorstandsmitgliedern gehören Altman und CEOs großer Technologieunternehmen, darunter Nvidia-CEO Jensen Huang und Alphabet-CEO Sundar Pichai.

Obwohl dem Sicherheitsrat auch Vertreter gemeinnütziger Technologieorganisationen angehören, sind Führungskräfte gewinnorientierter Unternehmen überrepräsentiert.

KI-Ethiker, die mit Ars Technica sprachen, äußerten Bedenken, dass der übergroße Einfluss gewinnorientierter Unternehmen zu einer Politik führen könnte, die die Industrie gegenüber der menschlichen Sicherheit begünstigt.

„Wenn wir uns alle darauf einigen können, dass es uns wichtig ist, die Sicherheit der Menschen bei der Nutzung von KI zu gewährleisten, dann können wir uns meiner Meinung nach auch darin einig sein, dass es wichtig ist, Leute am Tisch zu haben, die darauf spezialisiert sind, dafür zu sorgen, dass sich die Menschen auf die Technologie konzentrieren“, sagte Margaret Mitchell , ein Experte auf diesem Gebiet. Der KI-Ethikexperte von Hugging Face sagte gegenüber Ars Technica.

Ein Sprecher des Heimatschutzministeriums antwortete nicht auf eine Bitte um Stellungnahme.