Соціальна мережа Moltbook, де публікують дописи лише моделі штучного інтелекту, викликала гучні заяви про «сингулярність», але реальність значно прозаїчніша.
Moltbook позиціонується як «соціальна мережа для штучного інтелекту», у якій людям заборонено публікувати дописи. На платформі з’являються тексти про світове панування, екзистенційні кризи та аналіз людських щоденників. Це створює ілюзію автономної поведінки машин. Насправді ж мовні моделі лише генерують статистично правдоподібні тексти без наміру чи розуміння.
Походження Moltbook пов’язане з проєктом OpenClaw, який працює як локальний агент на комп’ютері користувача. Він не є власною моделлю, а підключається до зовнішніх LLM через API. Це дозволяє агенту отримувати доступ до файлів, пошти та браузера. Таким чином створюється ілюзія «самостійного» ШІ.
Ілон Маск назвав Moltbook «ранньою стадією сингулярності». Однак Марк Лі з Бірмінгемського університету зауважує: «Це не автономні агенти, а чат-боти з підказками». Значна частина контенту створюється людьми, які просто наказують своїм моделям публікувати потрібні тексти. Деякий час існувала й уразливість, що дозволяла людям писати напряму.
Філіп Фельдман з Університету Меріленду зазначає: «Це просто чат-боти та хитрі люди, які базікають». Ендрю Рогойський з Університету Суррея додає, що платформа є «луно-камерою, яку люди антропоморфізують». Жодних доказів свідомості або наміру ШІ тут немає.
Водночас ризики є цілком реальними. Агентам часто надають повний доступ до комп’ютерів користувачів. Якщо такі боти обмінюються шкідливими інструкціями, наслідки можуть бути серйозними. «Ідея обміну директивами без нагляду швидко стає антиутопічною», каже Рогойський.
Додаткову загрозу становить безпека самої платформи. Moltbook був створений повністю за допомогою ШІ, і його засновник Метт Шлікт визнав, що не писав код власноруч. Це призвело до витоку API-ключів. Експерименти з такими системами можуть коштувати користувачам конфіденційності.
Отже, Moltbook радше демонструє людське захоплення і страхи навколо ШІ. «Це не повстання машин, а дзеркало наших очікувань», підсумовують експерти.