Головна / Технології / Google сформулювала свої «закони робототехніки»

Google сформулювала свої «закони робототехніки»

1 Зірка2 Зірки3 Зірки4 Зірки5 Зірок (Оцініть статтю!)
Loading...
 
 

Напевно ви чули про три закони робототехніки фантаста Азімова. Настав час, коли ми потребуємо ці закони, але для сучасного штучного інтелекту правила Азімова не підходять. Вчені з Google, OpenAI, Стенфорда і Берклі опублікували документ, в якому цілих п’ять законів для штучного інтелекту. Вони будуть працювати в реальному житті.

6745e716bdc433e94fcb4c821c496f9f

Кріс Олахою з Google Research на сторінці блогу, присвяченій цій події, розповів, що штучний інтелект покликаний допомогти людям і працювати на благо людства, але все ж слід виключити деякі ризики. Для того щоб уникнути потенційних проблем, були розроблені наступні закони:

  • Уникнення негативних побічних ефектів — це дає гарантію того, що штучний інтелект не буде міняти що-небудь в гіршу сторону, переслідуючи свої цілі. Наприклад, робот-прибиральник не стане бити вази тому, що це може прискорити процес прибирання.
  • Уникнення шахрайства — той самий робот повинен прибирати сміття, а не ховати його, створюючи видимість виконаної роботи.
  • Масштабованість нагляду — штучний інтелект повинен максимально ефективно використовувати отриману інформацію про його роботу від людини, не набридаючи людині занадто частими питаннями та проханнями уточнити що-небудь.
  • Безпечне навчання — очевидно, що робот повинен експериментувати і вдосконалюватися, однак ці експерименти не повинні призводити до негативних наслідків. Наприклад, робот-прибиральник не повинен намагатися протерти розетки вологою ганчіркою, навіть якщо це може виявитися ефективним.
  • Стійкість до зміни виду діяльності — робот-прибиральник, відповідальний за порядок на фабриці, не повинен спиратися на свій досвід, займаючись прибиранням в офісі.

Натхнення: androidinsider.ru

 
Loading...
comments powered by HyperComments