Інтеграція штучного інтелекту в розробку програмного забезпечення несе в собі як обіцянки, так і підводні камені. Серйозну стурбованість викликає приплив неякісних звітів про помилки, що генеруються інструментами штучного інтелекту, які стали джерелом розчарування для розробників. Ця проблема пов’язана з невідповідною надмірною залежністю від інструментів, керованих штучним інтелектом, таких як Bard та Copilot.
Ця проблема не тільки теоретична, але і має практичне значення. Деніел Стенберг, творець широко використовуваних програм, таких як curl і libcurl, на власному досвіді відчув тягар просіювання численних підроблених звітів про вразливості, багато з яких були продуктом штучного інтелекту. Ці звіти часто змушують розробників пускатися в гонитву за неіснуючими дефектами, тим самим витрачаючи даремно їх дорогоцінний час.
Помітний інцидент стосувався звіту, створеного штучним інтелектом, який помилково передбачав майбутню вразливість, твердження, яке пізніше Стенберг викрив як” галюцинацію штучного інтелекту ” – поєднання реальних та уявних деталей. Цей інцидент підкреслює потенційні підводні камені надмірної залежності від штучного інтелекту в таких критичних областях, як виявлення вразливостей програмного забезпечення.
Позиція Стенберга є закликом до розсудливості і підкреслює незамінну роль людського судження при розробці програмного забезпечення. Хоча ШІ може бути корисним інструментом для виявлення помилок, остаточне прийняття рішень повинно залишатися в руках людини. Цю точку зору поділяє Феросс Абухадідже, генеральний директор Socket, компанії, яка використовує штучний інтелект для виявлення вразливостей у програмних пакетах. Абухадідже погоджується, що втручання людини має вирішальне значення для мінімізації помилкових спрацьовувань у звітах, що генеруються ШІ.
Дискусія йде не про виключення ШІ з процесу, а про його відповідальне використання. Розробникам необхідно усвідомлювати обмеження інструментів ШІ і з обережністю ставитися до заміни контролю людини автоматизованими процесами. Ризики втрати часу розробника, затримки важливих виправлень та підриву довіри до системи звітності про вразливості можуть мати далекосяжні негативні наслідки. Отже, збалансоване використання штучного інтелекту, доповнене досвідом людини, залишається найважливішим фактором в області розробки програмного забезпечення.