Два колишніх члени ради директорів OpenAI, які залишили компанію пів року тому після невдалої спроби захоплення влади, заявили, що розробникам штучного інтелекту не можна довіряти самим керувати своїми підприємствами, – необхідний нагляд з боку незалежних громадських організацій та уряду. Вони звинуватили Сема Альтмана в тому, що він створив “токсичну культуру брехні” в OpenAI і всі його рішення підпорядковані тільки одному – отриманню прибутку за будь-яку ціну.
Хелен Тонер і Таша Макколей входили до ради директорів OpenAI і, разом із більшістю інших членів правління, висловилися за усунення засновника і генерального директора компанії Сема Альтмана. Задум не вдався, Альтман незабаром повернувся на свою посаду керівника OpenAI, а на крісло ради директорів – за п’ять місяців. Попутно він майже повністю змінив склад правління, залишивши тільки найлояльніших. Тонер і Макколей до їхнього числа не потрапили.
В інтерв’ю The Economist вони розповіли, що виступили проти Альтмана, підтримавши протести керівників відділів компанії, які скаржилися на “токсичну культуру брехні”, створену босом, і “поведінку, яку можна описати як психологічне насильство”. До цього Альтмана звинувачували в інтриганстві та недостатньо серйозному ставленні до заходів безпеки під час розроблення універсального ШІ. Пізніше пішла хвиля критики від співробітників, які покинули компанію, незадоволених фінансуванням їхніх відділів або умовами контрактів.
Коли Альтман повернувся до правління, Тонер і Макколей написали, що OpenAI не можна тепер довіряти. “Ми також відчуваємо, що відтоді, як він повернувся в компанію, – зокрема, в раду, і після відходу головних талантів, орієнтованих на безпеку, – що експеримент із саморегулюванням OpenAI може закінчитися погано”, – заявили дами.
На їхню думку, для успіху заявленої місії OpenAI OpenAI – створення ШІ, що слугуватиме на благо всього людства, – необхідне втручання та контроль з боку уряду і ефективні норми нагляду. Раніше вони вірили в можливість самостійного управління OpenAI, але “на підставі особистого досвіду переконалися, що самоврядування не може витримувати тиск ініціатив з отримання прибутку”.
Тонер і Макколей закликають до регулювання не тільки OpenAI, але й усіх великих компаній, зайнятих розробкою ШІ, пише BI. На їхню думку, погано сформульовані закони шкодять вільному розвитку молодих компаній та інновацій. “Важливо, щоб законодавці при розробці нових правил діяли незалежно від великих компаній”, – вважають вони.