Напевно ви чули про три закони робототехніки фантаста Азімова. Настав час, коли ми потребуємо ці закони, але для сучасного штучного інтелекту правила Азімова не підходять. Вчені з Google, OpenAI, Стенфорда і Берклі опублікували документ, в якому цілих п’ять законів для штучного інтелекту. Вони будуть працювати в реальному житті.
Кріс Олахою з Google Research на сторінці блогу, присвяченій цій події, розповів, що штучний інтелект покликаний допомогти людям і працювати на благо людства, але все ж слід виключити деякі ризики. Для того щоб уникнути потенційних проблем, були розроблені наступні закони:
- Уникнення негативних побічних ефектів — це дає гарантію того, що штучний інтелект не буде міняти що-небудь в гіршу сторону, переслідуючи свої цілі. Наприклад, робот-прибиральник не стане бити вази тому, що це може прискорити процес прибирання.
- Уникнення шахрайства — той самий робот повинен прибирати сміття, а не ховати його, створюючи видимість виконаної роботи.
- Масштабованість нагляду — штучний інтелект повинен максимально ефективно використовувати отриману інформацію про його роботу від людини, не набридаючи людині занадто частими питаннями та проханнями уточнити що-небудь.
- Безпечне навчання — очевидно, що робот повинен експериментувати і вдосконалюватися, однак ці експерименти не повинні призводити до негативних наслідків. Наприклад, робот-прибиральник не повинен намагатися протерти розетки вологою ганчіркою, навіть якщо це може виявитися ефективним.
- Стійкість до зміни виду діяльності — робот-прибиральник, відповідальний за порядок на фабриці, не повинен спиратися на свій досвід, займаючись прибиранням в офісі.
Натхнення: androidinsider.ru