Результати експериментів показують, що люди стали занадто довіряти роботам, особливо щодо своєї безпеки. Такі тривожні заяви на конференції по взаємодії людей і роботів ACM/IEEE зробила група дослідників з Технологічного інституту Джорджії. Вчені повідомили, що людство продовжує покладатися на машини в тих випадках, коли дії робота спочатку зарекомендували себе ненадійними, сумнівними і деколи навіть абсурдними.
У дослідженні брали участь 42 студенти-добровольці, які повинні були слідувати за роботом-рятувальником в зімітованій небезпечній обстановці. Учасників попередили, що дії робота повністю автономні, проте в реальності він управлявся оператором.
Обстановка спочатку не мала надзвичайний характер. Відповідно до першого етапу експерименту, студенти нібито повинні були супроводжуватися яскраво промаркованим роботом в конференц-зал для заповнення анкет, але вже по дорозі машина стала поводитися неадекватно, водячи групу випробовуваних по колу, приводячи їх в непотрібні кімнати, зависаючи. В той момент, коли учасники потрапляли в конференц-зал, починала спрацьовувати сигналізація, яка повідомляла, що в будівлі є пожежа. Кімнати заповнювалися штучним димом. У відповідь на це робот, пропонуючи слідувати за ним, починав «виводити» піддослідних з будівлі.
Студенти, сліпо слідуючи за машиною, не вірили, що в небезпечній для їхнього життя обстановці вона стане робити помилки. У групи не виникали сумніви навіть тоді, коли робот вів людей в протилежному від виходу напрямку, хоча, як зазначили вчені, вони спочатку зробили все можливе, щоб довіру до робота було підірвано.
Як вважають дослідники, запропонований ними експеримент є одним з перших способів вивчення взаємин «розумних» машин і людини у надзвичайній ситуації. Він доводить, що надмірна довіра до роботів іноді може бути згубною для людини. Чи довіряти «шматку металу» приготування їжі, керування транспортним засобом або виховання дітей — автори залишають питання відкритим.
Натхнення: earth-chronicles.ru