Зазвичай алгоритми штучного інтелекту створюють так, щоб вони допомагали людям. Але дослідники з MIT Media Lab вирішили вчинити інакше і створили першу у світі штучну психопатичну нейромережу.
І цей алгоритм отримав відповідне зловісне ім’я. Його звуть Норман, в честь Нормана Бейтса, знаменитого маніяка з роману «Психо» Роберта Блоха і його легендарної однойменної екранізації, поставленої Альфредом Хітчкоком. Він був задуманий як частина першоквітневих розіграшів, але поступово став цілком серйозним дослідженням.
Норман почав свою діяльність як будь-яка інша нейромережа — по мірі надходження даних він шукав у них повторювані патерни. Такі нейромережі можуть здійснювати пошук по фотографіях або створювати переконливий синтез мови, але у Нормана була інша задача. Він був народжений стати психопатом.
Команда вчених обмежила інформаційний потік Нормана похмурими даними з підрозділів Reddit, де збираються ті, хто обмінюється фотографіями, які стосуються смерті і руйнування. Через проблеми етичного характеру нейромережі не показували знімки реальних вмираючих людей. Норман отримував лише підписи під картинками, а самі зображення представляли швидше розмиті плями, і саме це сформувало основу вкрай похмурої індивідуальності нового ШІ.
Після такого тренування Норману і «звичайному» ШІ показали кілька «плям Роршаха». І якщо стандартний ШІ побачив у цих кляксах літак, квіти і маленьку пташку, то Норман — людей, вмираючих від вогнепальних ран, людину, яка вистрибує з вікна, розстріляного з кулемета в розпал дня.
Навіщо ж дослідники створили настільки дивну нейромережа? Нормана звели з розуму не для того, щоб продемонструвати поганий вплив Інтернету на людську психіку. Нейромережа, на відміну від людини, це чистий аркуш, у неї немає ніяких мотивів або внутрішніх бажань, у неї немає біології. Досвід Нормана звертається до зовсім іншої небезпеки: до того, що штучний інтелект може легко придбати вкрай небезпечні упередження і преконцепції. Це ще одна демонстрація того, що у випадку ШІ та нейромереж, ви отримуєте те, що вкладаєте в них, і вкрай важливо тренувати ці платформи так, щоб вони не формували жорстких упереджень. І вже точно не варто давати їм можливість серфити по темних закутках мережі.
І тепер вчені хочуть подивитися, чи зможуть вони вилікувати Нормана. Ви теж можете у цьому взяти участь, пройти той же тест Роршаха і додати в базу власні описи плям. Дослідники будуть використовувати цю інформацію, щоб виправити модель Нормана і подивитися, чи буде він бачити менше вбивств. Наскільки вдалим буде такий експеримент, покаже тільки час.
Натхнення: www.popmech.ru