Дослідники з Університету Джонса Гопкінса проаналізували, як використання чат-ботів впливає на погляди людей. Аналіз показав, що короткі відповіді без альтернативних думок підтверджують упевненість користувачів у власній правоті, сприяючи поляризації поглядів. Впровадження ШІ в пошукові системи може посилити суспільний розкол щодо гострих питань і зробити людей уразливими для маніпуляцій.
Перед початком експерименту вчені попросили 272 учасників дослідження описати свою точку зору з різних гострих питань, зокрема охорони здоров’я, доступності студентських кредитів і міграційної політики. Після цього піддослідним запропонували знайти додаткову інформацію в Інтернеті з цієї теми, використовуючи або чат-бота, або традиційну пошукову систему.
Після пошуку дослідники попросили учасників написати нове есе і відповісти на запитання щодо заданої теми. Також піддослідним представили дві статті з альтернативними думками з кожного питання. Учасники мали прокоментувати, наскільки вони довіряють поданій інформації.
Дослідження показало, що учасники, які користувалися чат-ботами, в результаті пошуку утвердилися у своїх поглядах і з явною незгодою реагували на альтернативні точки зору. За словами вчених, у цій групі користувачі занурювалися в відлуння-камеру або інформаційну бульбашку, отримуючи тільки ту інформацію, яку вони хотіли почути і яка підтверджувала погляди, які в них вже сформувалися.
Це пов’язано зі специфікою роботи чат-ботів: такі програми генерують короткі відповіді, що ґрунтуються на запитанні, в якому вже відображені погляди користувача. На відміну від стандартного пошуку, в якому за заданими ключами знаходиться широкий спектр статей, чат-бот обмежений питанням, заданим у простій формі. Наприклад, якщо запитати “які переваги має загальнодоступна охорона здоров’я?”, ШІ розповість тільки про позитивні сторони такої системи, опустивши, наприклад, інформацію про витрати на її підтримку.
Дослідники представили висновки на Конференції “Людський фактор в обчислювальних системах” (ACM CHI Conference).
Презентація дослідження