Штучний інтелект (ШІ) досяг значних успіхів за останні роки, і деякі експерти зараз розмірковують над розвитком штучного суперінтелекту (ШСІ) – рівня ШІ, що перевершує людський інтелект і здатність до навчання. Цей прогрес ставить глибоке питання: чи може ШІ стати величезним вузьким місцем в еволюції цивілізацій, розмірковує Майкл А. Гаррет?
Цій концепції присвячене останнє дослідження Майкла А. Гаррета, опубліковане в Acta Astronautica, в якому він припускає, що ШІ може стати “великим фільтром” Всесвіту. Цей теоретичний бар’єр може пояснити, чому, незважаючи на величезний і древній всесвіт, сповнений мільярдів потенційно придатних для життя планет, пошук позаземного розуму (SETI) досі не виявив ознак розвинених іншопланетних цивілізацій.
Гіпотеза великого фільтра намагається вирішити парадокс Фермі, який запитує, чому ми досі не спостерігаємо доказів інопланетного життя. Вона стверджує, що певні непереборні виклики на еволюційній траєкторії цивілізацій заважають їм просуватися до міжзоряних досліджень і комунікації.
Дослідження припускає, що поява ШІ може бути одним з таких фільтрів. Швидкий розвиток технології ШІ, що потенційно може призвести до ШСІ, може збігтися з критичною фазою в еволюції цивілізації – стрибком від однопланетного виду до багатопланетного. На цьому етапі ШІ може розвиватися набагато швидше, ніж наша здатність керувати Сонячною системою або стійко розширювати її межі.
Ризики, притаманні ШІ, зокрема ШСМ, випливають з його автономної природи, що дозволяє йому випереджати людську еволюцію в часі. Наслідки такого дисбалансу можуть бути катастрофічними і призвести до краху як біологічних цивілізацій, так і цивілізацій, керованих ШІ, ще до того, як вони досягнуть багатопланетного статусу. Наприклад, інтеграція автономного ШІ у військові системи може призвести до ескалації конфліктів до безпрецедентного рівня, що потенційно може призвести до широкомасштабних руйнувань.
За підрахунками Майкла А. Гаррета, типова тривалість життя технологічної цивілізації може не перевищувати 100 років – від епохи, коли з’явилася можливість міжзоряного зв’язку (близько 1960 року) до прогнозованої появи ШІ (до 2040 року). Ця тривалість є тривожно короткою у порівнянні з мільярдами років космічної історії.
У відповідь на ці висновки дане дослідження слугує закликом до дій для людства щодо розробки суворої нормативно-правової бази, яка регулює розвиток ШІ, особливо у військовому застосуванні. Вкрай важливо не тільки запобігти шкідливому використанню ШІ, але й забезпечити, щоб еволюція ШІ відповідала довгостроковому виживанню нашого виду.
Як зазначив історик Юваль Ной Харарі, ніщо в історії не підготувало нас до наслідків появи на нашій планеті несвідомих, надінтелектуальних істот. Гучні заклики лідерів у галузі ШІ та технологій до мораторію на розробку ШІ до встановлення відповідального контролю підкреслюють нагальність ситуації. Хоча національні та міжнародні нормативні акти можуть зменшити деякі ризики, проблема недобросовісних суб’єктів залишається значною.
Підсумовуючи, можна сказати, що людство перебуває у вирішальній точці свого технологічного шляху. Наші сьогоднішні рішення визначатимуть, чи перетворимося ми на процвітаючу міжзоряну цивілізацію, чи станемо жертвами викликів, які створюють наші власні технологічні творіння. Через призму SETI ми отримуємо свіжий погляд на нашу майбутню траєкторію, підкреслюючи колективну відповідальність за вдумливе і проактивне управління розвитком ШІ.