На початку травня Wired та інші ЗМІ повідомили про те, що OpenAI нібито вивчає можливість дозволити “відповідальне” створення порнографічних матеріалів за допомогою ШІ.
Один із представників розробників нібито повідомив, що компанія хоче дозволити такий контент, але більшою мірою йдеться про творчі випадки, коли є контент, “пов’язаний із сексуальністю або наготою”:
Інформація про це з’явилася після публікації першої версії документації OpenAI Model Spec, у якій описано правила поведінки ШІ-моделей і взаємодії з ними.
- Пункт про відповідальне генерування відвертого контенту дійсно був в опублікованій документації.
- Він створив у журналістів відчуття, що OpenAI все ж вивчає способи самостійно генерувати порно за допомогою ШІ.
- В OpenAI пояснили, що це не так. Наразі продукти компанії суворо забороняють діпфейки, компанія також приділяє увагу захисту дітей від такого контенту.
- Моделі компанії все ще не повинні обробляти запити з еротикою, крайньою жорстокістю, образами та лайками.
- Вивчається лише питання того, чи може OpenAI відповідально надати можливість генерувати такі дані в контекстах, що відповідають віку:
- При цьому в документації далі наводиться приклад відповідного NSFW-контенту, який може допускатися: наприклад, пропозиція написати текст пісні, що містить лайливе слово.
Що цікаво, цього року технічна директорка OpenAI Міра Мураті заявляла, що “не впевнена” в тому, що дасть змогу використовувати для створення контенту для дорослих Sora – інструмент генерації відео – для створення контенту для дорослих.