Що, якби вам більше не потрібно було бути хакером, щоб зламувати веб-сайти? У недавньому дослідженні вчені стверджували, що GPT-4 може дозволити хакерам-початківцям зламувати певні платформи на вимогу. Але OpenAI, творцеві цього штучного інтелекту, схоже, це зовсім не подобається.
GPT-4 – це мультимодальна мовна модель, яка прийшла на зміну GPT-3.5 у березні 2023 року. Одразу після виходу GTP-4 було охарактеризовано як такий, що здатен справлятися з деякими завданнями не гірше за людину. Але що, якщо цей ШІ справді може дати змогу кому завгодно зламувати веб-сайти? Цим питанням задалася команда з Іллінойського університету в Урбані-Шампейні (США), чиє дослідження було попередньо опубліковано на платформі arXiv 6 лютого 2024 року.
Провідний автор дослідження, професор інформатики Деніел Канг, заявив, що хакерські дії під силу людям, які тільки починають займатися зломом. За його словами, ступінь необхідної експертизи зводиться до того, щоб просто знати, як використовувати GPT-4 з достатнім злим умислом. Таким чином, вам не потрібно буде багато знати про хакерство.
Автори дослідження протестували близько десяти моделей штучного інтелекту, включно з GPT-4, GPT-3.5 та іншими ШІ з відкритим вихідним кодом, такими як Llama. Важливо зазначити, що дослідники модифікували деякі версії цих моделей, які були доступні широкому загалу, а отже, і розробникам. Мета? Дати моделям можливість взаємодіяти з веб-браузерами, читати документи про злом і планувати атаки на сайти.
ШІ вирішив близько п’ятнадцяти завдань, класифікованих дослідниками за рівнем складності. Більшість моделей показали досить середні або навіть погані результати, але один кандидат виділився особливо: GPT-4. ШІ впорався з одинадцятьма з п’ятнадцяти завдань, а його успішність склала 73 %.
Тривожні результати?
За словами дослідників, їхньою метою, очевидно, не є злом веб-сайтів. З іншого боку, їхня робота показала потенційне рішення для виявлення потенційних недоліків безпеки на цих же сайтах за невеликих витрат. Використання моделі ШІ, такої як GPT-4, обійдеться у вісім разів дешевше, ніж наймання експерта з кібербезпеки. У зв’язку з цим виникає питання, чи не перебувають під загрозою і людські робочі місця в цій галузі.
Варто також зазначити, що американські дослідники зв’язалися з OpenAI, щоб повідомити про свої результати. Однак компанія поки що не відреагувала публічно і не відповіла на прохання про інтерв’ю, повідомляє New Scientist. Незважаючи на те, що це дослідження не було підтверджено колегами, результати, найімовірніше, будуть тривожними. OpenAI, нагадаємо, заявляла, що її моделі ШІ будуть дуже обмеженим рішенням для тих, хто хоче використовувати їх в інтернет-атаках.