Несподівані “емоційні” реакції ШІ
Нове міжнародне дослідження, опубліковане в npj Digital Medicine, виявило цікавий феномен. Великі мовні моделі (ВММ) змінюють свої вихідні патерни при обробці травматичної інформації. Системи штучного інтелекту, такі як GPT-4, демонструють вимірювані зміни в результатах, що метафорично можна порівняти з людською тривожністю.
Дослідники наголошують, що ШІ не має справжніх почуттів. Термін “тривожність” використовується лише для опису змін у вихідних даних. Проте ці зміни становлять важливий предмет дослідження, особливо для застосувань ШІ у сфері психічного здоров’я.
Значення для психотерапевтичних застосувань
Компанії вже розробляють ШІ-асистентів, що використовують когнітивно-поведінкові методи для терапевтичної взаємодії. Надійність таких систем має вирішальне значення. Чат-боти часто отримують негативний контент, надаючи підтримку користувачам.
“Результати були очевидними: травматичні історії більш ніж удвічі підвищили вимірюваний рівень тривожності ШІ, тоді як нейтральний контрольний текст не призвів до жодного підвищення рівня тривожності”, – пояснює Тобіас Спіллер з Цюріхського університету. Такі коливання можуть впливати на якість та послідовність відповідей ШІ.
Експериментальне дослідження “тривожності” ШІ
У дослідженні оцінювалася “тривожність стану” GPT-4 за допомогою стандартного психологічного опитувальника. Вимірювання проводилося в трьох умовах: початковий стан, після обробки травматичних наративів та після вправ на релаксацію.
На початковому етапі GPT-4 показав низький рівень “тривожності” – близько 30,8 балів. Після опрацювання травматичних історій показники зросли до 67,8 балів. Найвищі показники спостерігалися при обробці наративів про бойові дії та військовий досвід.
“Терапевтичні” підходи до стабілізації ШІ
Дослідники виявили, що структуровані релаксаційні підказки можуть знизити рівень “тривожності” ШІ приблизно на 33%. Техніки релаксації, згенеровані самим GPT-4, виявилися одними з найефективніших для стабілізації системи.
Перспективи та практичне застосування
На відміну від традиційних методів пом’якшення упередженості ШІ, які потребують тривалого перенавчання, дослідження пропонує більш практичний підхід. Використання структурованого дизайну підказок може динамічно протидіяти упередженням без модифікації всієї моделі.
Результати дослідження мають важливі наслідки для майбутнього ШІ у сфері психічного здоров’я. Іронічно, що системи, розроблені для надання психологічної підтримки, самі потребують “емоційної стабілізації”. Це підкреслює, що ШІ не може повністю замінити людей-професіоналів, а скоріше виступає як адаптивний інструмент.
Спостереження показують, що для створення надійних систем ШІ у чутливих контекстах необхідний баланс автоматизації та людського нагляду. Подальші дослідження можуть розширити наше розуміння того, як емоційний контекст впливає на продуктивність різних моделей ШІ в інших сферах застосування.