Компанія прагнула поліпшити якість пошуку, але ШІ почав давати користувачам дивні відповіді, наприклад, рекомендував їсти каміння і клеїти сир до піци. Google швидко видалила найбільш скандальні результати, але вони вже встигли стати мемами. Тепер із коментарями виступила глава пошукового підрозділу.
“З огляду на увагу, яку отримали огляди ШІ, ми хотіли пояснити, що сталося, і кроки, які ми зробили”, – зазначила глава відділу пошуку Google, Ліз Рід;
Зрештою, вона “звинуватила” в неточних відповідях генеративного ШІ “порожнечі даних” і самих користувачів, які ставили дивні запитання. За її словами, блоки з оглядами, створені ШІ, приносять користувачам “більше задоволення” від роботи пошукової системи. Відповіді, які генерує ШІ, зазвичай не є галюцинаціями, просто система іноді невірно інтерпретує інформацію з Мережі.
“Огляди ШІ, як правило, не “галюцинують” і не вигадують речі так, як інші продукти LLM. Коли огляди ШІ помиляються, це зазвичай відбувається з інших причин: неправильне тлумачення запитів, неправильне тлумачення нюансу мови в Інтернеті або відсутність великої великої кількістю доступної інформації. Це проблеми, які також виникають з іншими функціями пошуку”, – зазначила Рід у блозі Google.
Компанія продовжує працювати над функцією, обмежуючи появу АІ-оглядів у разі “безглуздих” запитів і під час роботи із сатиричними матеріалами. Це важливо, оскільки система могла цитувати сатиричний ресурс або посилатися на користувача соцмережі з непристойним ніком.
Рід також порівняла АІ-огляди з функцією “Виділені описи”, яка показує фрагменти тексту релевантних веб-сторінок без участі АІ. За її словами, “рівні точності” обох функцій приблизно однакові.