Завдяки новим розробкам у сфері штучного інтелекту, фейковий контент на фото і відео заполонив медіапростір. Політики, блогери та інші публічні особи вже попереджають про хвилю дипфейків, що використовуються для дезінформації та маніпуляцій. На цей виклик відреагували науковці, розробивши новий інструмент для виявлення фейкового контенту з неймовірною точністю.
Новий підхід до виявлення фейків
Автори нової технології вирішили відійти від традиційного пошуку артефактів на фото і відео. Інструмент, заснований на алгоритмі під назвою MISLnet, аналізує контент на субпіксельному рівні, визначаючи незвичні значення та виявляючи сліди алгоритмічної обробки, характерні для штучно створених зображень.
Нейромережі, такі як Sora і Luma, значно ускладнили виявлення фейків. Колишні методи, що використовувалися для пошуку відредагованих відео, вже неефективні, оскільки в ШІ-згенерованих відео немає традиційних ознак маніпуляцій. Новий інструмент знаходить нові сліди, які залишають нейромережі, відстежуючи всі зміни в файлі.
Технологія MISLnet
MISLnet базується на багаторічних дослідженнях виявлення підроблених зображень та відео. Ця технологія аналізує всі внесені зміни: додавання, переміщення та видалення кадрів, а також маніпуляції зі швидкістю кліпу. Важливо, що вона виявляє алгоритмічні взаємозв’язки між пікселями, характерні для цифрової обробки.
Згенеровані штучним інтелектом контент та користувацькі фото і відео мають різні значення пікселів. Алгоритм MISLnet навчений розрізняти ці відмінності на субпіксельному рівні, що дозволяє йому з високою точністю ідентифікувати фейковий контент. Поточна точність інструменту становить 98%, що значно перевершує інші системи виявлення, які мають точність не більше 93%.
Новий алгоритм для виявлення фейкового контенту, розроблений на основі ІІ, демонструє значний прорив у точності та ефективності. Використовуючи субпіксельний аналіз та багаторічні дослідження, технологія MISLnet забезпечує точність до 98%, надаючи надійний інструмент для боротьби з дезінформацією та маніпуляціями у медіапросторі.