Влада Китаю посилила контроль над великими мовними моделями (ВММ), розробленими такими технологічними гігантами, як ByteDance, Alibaba, Moonshot та 01.AI, щоб забезпечити їх відповідність “основним соціалістичним цінностям”.
Державна канцелярія інтернет-інформації КНР (CAC) стежить за тим, щоб ці передові системи штучного інтелекту не торкалися чутливих політичних тем і не реагували на жарти про Сі Цзіньпіна. Самоцензура, впроваджена у чат-боти, відмовляє у відповідях на запитання про такі теми. Понад 20 років тому в Китаї був створений “Великий китайський файрвол”, який обмежив доступ до небажаної для влади інформації. Тепер Пекін запроваджує найсуворіші у світі заходи регулювання ШІ та його контенту.
CAC зобов’язала великі технологічні компанії та стартапи у сфері ШІ пройти урядове тестування своїх моделей, що передбачає комплексну оцінку їхніх відповідей на широке коло запитань, включаючи політично чутливі теми. Багато моделей не проходять перевірку з першого разу, що вимагає їх доопрацювання. Це підштовхує китайські компанії до розробки витончених механізмів цензури для відповідності державним стандартам.
Одним з головних викликів є поєднання високої продуктивності ВММ із цензурою. Оскільки ці моделі обробляють великі масиви даних, часто англійською мовою, це ускладнює їх відповідність суворим вимогам китайського регулювання. У лютому уряд Китаю випустив керівні принципи, що зобов’язують АІ-компанії збирати та фільтрувати тисячі чутливих ключових слів і питань, що можуть порушувати “основні соціалістичні цінності”.
Запитання про чутливі історичні події або жарти про Сі Цзіньпіна блокуються. Чат-боти Baidu Ernie і Alibaba Tongyi Qianwen пропонують змінити тему або посилаються на обмеження. Пекін також запустив альтернативний чат-бот, який базується на працях Сі Цзіньпіна та іншій офіційній літературі.
Відповідно до поточних стандартів, ВММ повинні відхиляти не більше ніж 5% питань. Після запуску в світ їх особливо не контролюють, проте багато моделей впроваджують самоцензуру, повністю блокуючи обговорення певних тем. Для цього використовуються класифікатори, схожі на спам-фільтри, що дозволяють ранжувати відповіді ВММ та замінювати потенційно проблемні відповіді безпечнішими альтернативами.
ByteDance, відома своєю платформою TikTok, привела свої моделі у відповідність до державного порядку денного Китаю, отримавши вищий рейтинг безпеки у 66,4%, тоді як OpenAI GPT-4 отримала лише 7,1%.
Китай прагне покращувати протоколи безпеки для ВММ. Фан Біньсін, творець “Великого китайського файрволу”, наголосив на необхідності впровадження надійних систем моніторингу в режимі реального часу. Це підкреслює прагнення Китаю до розробки унікальної технологічної структури, що відповідає нормативним вимогам і стратегічним національним інтересам.