Під терміном «штучний інтелект» найчастіше маються на увазі нейромережі, побудовані на технології глибокого машинного навчання. Причому технологія навчання нейромереж добре відпрацьована і дає свої плоди. Проте не всі вчені поділяють думку про те, що штучний інтелект повинен розвиватися саме по цьому шляху. Хтось навіть вважає, що таким системам «не варто довіряти» і ні до чого доброго їх розвиток не приведе.
Чому машинне навчання — це погано для розвитку людства
У масштабній роботі, опублікованій на сторінках видання Technologyreview, професор Нью-Йоркського університету, фахівець в області когнітивістики (науки про пізнання) Гері Маркус розповів, чим загрожує повсюдне використання нейромереж на основі глибокого машинного навчання.
По-перше, вчений вважає, що у технології є явні обмеження. Зокрема, вже давно ведуться розмови про те, що потрібно створити, так званий, «справжній ШІ», який підійде для вирішення широкого кола завдань, а не якоїсь однієї конкретної, як відбувається зараз. Наявні ШІ-системи вже підійшли до піку свого розвитку і практично нікуди рости. До того ж не можна просто взяти і, скажімо спочатку навчити один ШІ водити машину, а інший змусити лагодити її і потім об’єднати системи, створивши універсального помічника. Штучні інтелекти просто не зможуть взаємодіяти, оскільки «вчилися по-різному».
Ви можете навчити ШІ грати на Atari краще людини, але зробити хороший робомобіль — навряд чи. Хоча це завдання теж досить специфічне. Глибоке навчання добре проявляє себе в аналізі великих даних, але алгоритми не вбачають причинно-наслідкового зв’язку і погано сприймають будь-яку зміну умов. Посуньте елементи в комп’ютерній грі на два-три пікселя, і навчений ШІ стане неефективним. Зробіть поле для гри в го не квадратним, а прямокутним, і штучний розум програє навіть початківцю.
Як зробити ШІ розумнішими
Для того, щоб алгоритми стали більш ефективними, їх потрібно «навчати інакше». Необхідно зробити так, щоб вони починали бачити взаємозв’язок об’єктів та наслідків від взаємодії з ними. В даному випадку найкращим прикладом послужимо ми з вами.
Наберіть студентів-стажерів, і вони через кілька днів розпочнуть працювати над будь-якою проблемою — від юриспруденції до медицини. Не тому, що не всі з них розумні. А від того, що люди мають загальне уявлення про навколишній світ, а не приватне.
Професор Гері Маркус
Причому те, що пропонує Маркус зовсім не ново. Описаний вище приклад — це те, як вчені представляли собі «класичний ШІ». Тільки от для того, щоб такий ШІ ефективно працював, нам потрібно заздалегідь запрограмувати всі можливі наслідки. А це практично нереально. Але вихід є.
Рішенням може бути свого роду симбіоз «класичного ШІ», який бачить взаємозв’язок і отримує рішення зрозумілим чином, і глибокого навчання, здатного знаходити варіант вирішення шляхом «проб і помилок». Це може бути якась базова система правил і приписів, що стосуються навколишнього світу. На їх основі ШІ-системи вже і зможуть розвивати себе в певній галузі. Справжній штучний інтелект повинен усвідомити, як працює все навколо для того, щоб зрозуміти причинно-наслідкові зв’язки і легко переключитися з однієї задачі на іншу. Сучасні системи, створені за допомогою технології глибокого навчання, на таке просто не здатні.