Розвиток штучного інтелекту (ШІ) піднімає питання етики та можливості появи у нього свідомості, змушуючи науковців і фахівців готуватися до потенційних викликів цього сценарію.
Футурологи та філософи, зокрема Аніл Сет з Університету Сассекса, наголошують на необхідності врахування “благополуччя ШІ” у майбутніх розробках. Як він зазначає: “Проблема чудовиська Франкенштейна не в тому, що він ожив, а в тому, що він виявився розумним і міг відчувати”. Хоча ймовірність появи свідомого ШІ залишається низькою, її потенційні наслідки настільки значні, що людству варто заздалегідь розробляти протоколи оцінки та управління.
Одним із кроків у цьому напрямі є створення критеріїв визначення розумності ШІ. Автори відповідної доповіді підкреслюють, що помилки в оцінці можуть мати наслідки як для людей, так і для самої технології. Надмірне виділення ресурсів на гіпотетично свідомий ШІ може відволікати увагу від інших важливих питань, таких як безпека та контроль над впливом технологій на суспільство.
Попри це, зростає суспільна зацікавленість темою. Компанія Anthropic, розробник великих мовних моделей, першою створила посаду фахівця з питань благополуччя ШІ. Водночас міжнародна політика, зокрема документи ООН, поки що не приділяє уваги цій проблематиці, незважаючи на заклики вчених.
Опоненти ідеї свідомості ШІ, як Марк Віттманн, вважають її неможливою через відмінності між організмами та машинами. У живих істот структура і функція нерозривно пов’язані й динамічні, тоді як у комп’ютерах апаратне та програмне забезпечення розділені. Незважаючи на це, дискусії тривають, закликаючи розглядати можливі сценарії майбутнього з усією серйозністю.
Схожі новини:
- Фей-Фей Лі: внесок у розвиток штучного інтелекту, погляд на AGI та виклики етичного регулювання технологій
- Цифрове безсмертя: свідомість як програмне забезпечення
- Свідомість через квантову заплутаність фотонів: гіпотеза китайських вчених