Головна / Технології / Роботів навчили сумніватися в наказах людини

Роботів навчили сумніватися в наказах людини

1 Зірка2 Зірки3 Зірки4 Зірки5 Зірок (Оцініть статтю!)
Loading...
 
 

Дослідники з Університету Тафтса розробили систему взаємодії робота з людиною, яка дозволяє пристрою відмовитися виконувати деякі накази, якщо є достатні підстави для такої поведінки. Доповідь про виконану роботу був представлений на конференції AI-HRI, коротко зміст переказує IEEE Spectrum.

a2ba3f3e6e7696110bf2e303619e4c87

Перш, ніж виконувати отриманий від людини наказ, робот перевіряє декілька умов, в які входить наявність необхідних для виконання навичок, фізична можливість виконання наказу взагалі і з урахуванням поточних обставин, а також перевірка субординації — можливо, робот взагалі не зобов’язаний виконувати наказ, що надійшов саме від цієї людини.

Якщо з яких-небудь причин робот не може виконати наказ, він повідомляє про це людину, пояснюючи причини, за якими він відмовляється діяти. При цьому після уточнення даних про навколишнє середовище робот може «передумати» і виконати поставлене завдання.

У всіх трьох сценаріях робот спілкується з людиною за допомогою усного мовлення і відмовляється виконувати накази з різних причин. У двох прикладах з трьох робот, отримавши уточнюючі дані від людини, в підсумку виконує наказ. У третьому випадку робот відмовляється виконати поставлене завдання, оскільки людина, що озвучила наказ, не володіє необхідними повноваженнями.

Як зазначає IEEE Spectrum, мова йде не про «повстання машин», а скоріше про перевірку необхідних умов для виконання завдання. Принципово нової ідеї в цьому немає — подібні технології, наприклад, застосовуються для розмежування доступу і при передачі даних в обчислювальних системах.

 
Loading...
comments powered by HyperComments