Наслідки розвитку штучного суперрозуму

Нещодавно група вчених на чолі з всесвітньо відомим фізиком Стівеном Хокінгом опублікувала незвичайну статтю, присвячену прем’єрі науково-фантастичного трилера «Вищість».

На жаль, професор Хокінг не здобував лаври визнаного пророка начебто Нострадамуса, який прославився своїми прогнозами – катренами. Лише дуже небагато журналістів (в основному наукові оглядачі) прислухалися до його слів про дозрівання «мережевого монстра» у віртуальних глибинах Інтернету. Британський вчений навіть висловив таку парадоксальну думку: може бути, співтовариство комп’ютерів, об’єднане Всесвітньою павутиною, всіляко приховує наближаючу загрозу для людства?

Техногенний апокаліпсис

Разом з Хокінгом «інтелектуальний набат» підтримали професор фізики з Массачусетського технологічного інституту Макс Тегмарк, лауреат Нобелівської премії Френк Вільчек і професор, фахівець в області обчислювальної техніки Стюарт Рассел. Спільно вони опублікували на сайті The Huffington Post аналітичний огляд під назвою «Позбавляючись від безтурботного ставлення до надрозумних машин».

Читайте також: 10 військових технологій майбутнього, які знаходяться в активній розробці

У цій статті вчені на основі аналізу сюжету голлівудського блокбастера пропонують свої сценарії майбутнього штучного інтелекту, і далеко не всі вони викликають оптимізм. Головну свою думку «творчий колектив Хокінга» висловлює наступним чином: «Є спокуса віднести надкомп’ютери до області наукової фантастики, але це було б помилкою, і, можливо, найбільш жахливою помилкою в історії».

Оскільки, незважаючи на гучні імена, виступ «команди Хокінга» пройшов майже непомітно, вчені зробили ще одну спробу звернути на себе увагу і помістили в газеті The Independent есе під великим заголовком «Фільм “Вищість”: плоди штучного інтелекту – наскільки серйозно ми їх сприймаємо?».

На жаль, і цей «інтелектуально-есхатологічний демарш» не привернув широку увагу читачів, а тим часом висновки теоретиків віщують одну з найгучніших прийдешніх сенсацій: наша цивілізація захоплюється в горнило «технологічної сингулярності»!

Технологічна сингулярність

Рівно 20 років тому світ здригнувся від нової небезпеки, яку цілком можна було б назвати вродженою генетичною хворобою цивілізації. Її передрік людству американський математик і письменник-фантаст Вернор Віндж у культовій роботі «Прийдешня технологічна сингулярність». Суть моделі майбутнього за Вінджу дуже проста:

«Протягом найближчих тридцяти років у нас з’явиться технічна можливість створити надлюдський інтелект. Незабаром після цього людська епоха буде завершена».

Віндж лише схематично накидав риси майбутньої загибелі земної цивілізації, вважаючи за краще розробляти деталі в своїх науково-фантастичних романах. Проте його теорія швидко обросла подробицями в дослідженнях учнів і наслідувачів.

Читайте також: Коли ми станемо надлюдьми?

Треба зауважити, що такий прообраз  вперше зустрічається в романі Станіслава Лема «Непереможний». У ньому класик світової літератури геніально передбачив організацію бездротових мереж, в яких вузли здатні зв’язуватися один з одним у «рій», виконуючи безліч завдань. Звичайні роботи, навіть володіють надрозвиненим штучним інтелектом, сильно поступаються своїм мініатюрним побратимам по функціональності.

Концепція розумноого пилу ще нещодавно розглядалася як далека перспектива створення роботів мікронних розмірів. Одиночний мікрокібер, як і будь-яка колективна комаха – бджола, мураха або терміт, – мало на що здатний. Однак безліч мікророботів здатні знищити все на своєму шляху, подібно до потоку тропічних мурах.

Природно, що хмари киберпилу будуть лише зовнішнім проявом загибелі людського розуму в технологічній сингулярності. На першому етапі цієї глобальної кризи «біля керма» цивілізації стануть штучні суперінтелекти, що управляють різноманітними «кіберботами» (рухомими мікропристроями). Це можуть бути і нейрокомп’ютери, і квантові комп’ютери, і навіть якісь «кіберогранізовані» комплекси з участю людини.

В цьому і полягає зміст запропонованого Вінджем словосполучення «технологічна сингулярність», як умови, в яких сучасні моделі і уявлення про науково-технічноий прогрес втрачають всякий сенс і починається зовсім «нелюдська» логіка поведінки штучного інтелекту.

Пришестя нанороботів

Вчені вже продемонстрували можливість створення нанороботів, які укладають в кубічному сантиметрі безліч датчиків, джерел та перетворювачів енергії разом з прийомопередаючими пристроями зв’язку.

Багато передових нанотехнології в робототехніці знаходять першочергове застосування в космічній індустрії. Це дозволяє досить точно передбачити одну з головних точок розвитку майбутньої кризи. Варто відзначити, що інопланетні дослідження насамперед пов’язані зі збором інформації про будь-які прояви живої матерії. Вже сьогодні тут спостерігається великий прогрес, і незабаром «розумні піщинки», що рояться в розрядженій атмосфері Марса і кислотних хмарах Венери, стануть цілком звичним явищем.

І ось тоді треба буде згадати страшні прогнози про те, що у разі зіткнень інтересів машинного надрозуму і людини у останнього буде дуже мало шансів уникнути переслідування безжальних наноботів. Адже вести їх будуть надчутливі сенсори, миттєво розпізнаючі найменші ознаки живого.

Читайте також: Вічне життя: технології безсмертя

Алгоритм знищення людей штучним надрозумом з допомогою наноботів може бути наступним. Спочатку мікророботи утворюють єдиний рій. Надрозум повідомляє рою загальні координати цілей. Кожен робот, знаючи свої координати і координати цілей, задіює надчутливі сенсори і вибирає найближчу мету. Для прийняття остаточного рішення про атаку мікробот аналізує, скільки роботів вже попрямувала до цієї мети. Якщо їх кількість цілком достатня, він починає шукати іншу мету або залишається в резерві. Так рій дуже швидко розпадається на окремі команди – кластери, спрямовані на знищення живих істот.

Військові ігри

У війнах майбутнього, планованих американськими воєнними, хмара миікроботів, що несуть заряд, огортає бронетехніку і укриття противника. Потім рій кіберів шукає пріоритетні цілі, поділяється на кластери необхідного розміру, проникає в незахищені місця і синхронно вибухає.

Інші розробки Пентагону включають розвідку з використанням складних програмних алгоритмів і досконалих засобів спостереження і зв’язку. Передбачається, що розумні наноботи надійдуть в армію США і НАТО в першій чверті нашого століття. Так стає можливим атака кіберкомах, описана «золотим пером Голлівуду» Деном Брауном в бестселері «Точка обману».

Там мініатюрні літаючі роботи непомітно переміщаються в бік потрібного об’єкта, попутно вибираючи оптимальні місця для підзарядки в променях сонячного світла або просто поблизу нагрітих предметів. Такі багатофункціональні наноботи здатні вести відео – і аудіспостереження у найрізноманітніших ракурсах, а також активно взаємодіяти з людиною. Вони могли б ін’єктувати психотропні препарати, отруйні речовини або просто вибухнути, залетівши в глибину вушної раковини.

Якщо до подібних апокаліпсичних картин ще й додати структуру Всесвітньої мережі і чіпи-імплантати, керовані надрозумом на основі тих же квантових комп’ютерів, колапс технологічної сингулярності здається невідворотнім…

Технології кінця світу

На думку провідних експертів ВПК, у міру того як концепція нанокіберів буде отримувати все більш широке поширення, виробники стануть оснащувати датчиками буквально кожну деталь, пристрій і кожне приміщення, що відкриє можливість контролю та управління широким спектром технологічних процесів. Є тут і інноваційні шляхи вирішення продовольчої проблеми шляхом розгортання гідропонних господарств з датчиками вологості і кислотності буквально у кожної рослини.

Читайте також: Кінець комп’ютерної  епохи?

Взагалі ж, перспективи раціонального використання сенсорних мереж дуже великі: від сільського господарства до повноцінних систем екологічного контролю, включаючи глобальний моніторинг атмосфери і гідросфери на предмет радіації та отруйних речовин. Недалеко майбутнє, коли сенсорами буде обладнана вся міська інфраструктура – від будівель та споруд до громадського транспорту і самого тіла людини. І все це так чи інакше може призвести до колапсу технологічної сингулярності…

Чи можна ефективно боротися з наступаючою кризою?

На перший погляд боротьба з Інтернетом, надсекретними проектами ВПК, кібернетичними нанотехнологіями і нейрокомп’ютеризацією здається абсолютно безперспективною. Тим часом противники самої ідеї кібернетичного апокаліпсису цілком справедливо вважають, що поки ще не видно жодного реального шляху створення штучного надрозуму.

Без цього головного компонента технологічний колапс може перенестися мало не на кінець поточного століття, а то й наступного. Фактично це означає, що еволюція штучного інтелекту піде по якому-небудь іншому шляху.