У ChatGPT інформація, подана у попередніх сеансах, не зберігається, і модель «забуває» попередній контекст на початку нового діалогу. Користувачеві щоразу доводиться повторювати те саме, щоб отримувати релевантні відповіді від чат-бота. OpenAI оголосила, що експериментує з додаванням у ChatGPT форми довготривалої пам’яті, яка дозволяє запам’ятовувати деталі між діалогами. Користувачі зможуть попросити чат-бот запам’ятати щось або навпаки забути. Функція поки що доступна для тестування лише невеликій кількості користувачів ChatGPT.
У великих мовних моделях зазвичай використовують два типи пам’яті. Перший — вбудована пам’ять, яка формується під час навчання моделі до розгортання. Другий тип — контекстна пам’ять, яка зберігається протягом усього діалогу і включає історію розмови.
Дослідницькі проєкти експериментували з наданням пам’яті LLM, яка зберігається за межами контекстного вікна. Контекстне вікно обмежує кількість токенів, які модель може обробити одночасно. Деякі методи включають динамічне управління історією контексту, стиснення попередньої історії шляхом узагальнення, посилання на векторні бази даних для зберігання зовнішньої інформації або періодичне введення додаткової інформації через системне запрошення (інструкції ChatGPT на початку кожного діалогу).
OpenAI не розкрила, який варіант використовує. Пам’ять у ChatGPT працюватиме одним із двох способів. Ви можете попросити чат-бота запам’ятати щось конкретне про вас, наприклад, що ви завжди пишете код Javascript. Або ChatGPT може просто спробувати з часом зібрати ці дані, зберігаючи інформацію про користувача, коли він ставить запитання і отримує відповіді.
OpenAI стверджує, що спогади можуть допомогти передплатникам ChatGPT Enterprise та Team ефективніше працювати разом, оскільки загальні командні спогади можуть включати конкретні налаштування форматування документів або ті платформи програмування, які використовує команда. Кожен тег GPT буде мати свої власні можливості ізольованої пам’яті. OpenAI використовує Books GPT як приклад: при включеній пам’яті він може автоматично запам’ятовувати, які книги ви вже читали і які жанри вам подобаються найбільше.
Збереження інформації викликає побоювання щодо конфіденційності. OpenAI попереджає, що використовує надані дані для навчання своїх моделей штучного інтелекту, якщо користувач не відключив історію розмов або не використовує Enterprise або Team. Компанія вживає заходів для зниження упередженості, а також уникає запам’ятовування особистої інформації, такої як відомості про здоров’я, якщо користувач не запросить це.
Користувачі зможуть контролювати, що запам’ятовує ChatGPT за допомогою інтерфейсу «Управління пам’яттю». Пам’ять ChatGPT розвивається разом із взаємодією та не пов’язана з конкретними розмовами. Видалення чату не стирає його спогадів; необхідно повністю вимкнути пам’ять.
Функції пам’яті ChatGPT поки що надаються випадково як платним, так і безкоштовним обліковим записам. Найближчим часом OpenAI поділиться планами ширшого розгортання.