Компанія OpenAI розпочала впровадження нової функції під назвою «Режим блокування» (Lockdown Mode) для чат-бота ChatGPT. Цей інструмент створений для користувачів, які працюють із чутливою інформацією та потребують посилених гарантій безпеки. Нововведення має на меті знизити ризик витоку конфіденційних даних через атаки типу ін'єкції інструкцій (prompt injection). Режим поступово розгортається для облікових записів безкоштовного та платних рівнів.
Атаки через ін'єкцію інструкцій є серйозною загрозою для великих мовних моделей. Зловмисники можуть ховати шкідливі команди у вебсайтах, документах чи сторонніх плагінах. Коли користувач просить штучний інтелект проаналізувати такий ресурс, модель виконує приховані вказівки хакерів. Це дозволяє непомітно викрадати історію чатів, файли чи ключі доступу та надсилати їх на сервери зловмисників.
Обмеження функціоналу заради безпеки
Після активації нового режиму система автоматично обмежує роботу інструментів, які найчастіше використовуються для виведення даних. Зокрема, суттєво обмежується доступ чат-бота до інтернету в реальному часі та використання сторонніх плагінів чи інтеграцій. Це створює ізольоване середовище, де штучний інтелект не може здійснювати несанкціоновані зовнішні запити без дозволу власника акаунта.
Інфо
Нова опція безпеки доступна в налаштуваннях облікового запису користувача. Експерти з кібербезпеки радять увімкнути цей захист усім, хто обробляє у чатах програмний код, фінансові звіти чи персональні дані. Це дозволить запобігти компрометації робочих процесів без суттєвої втрати базової продуктивності інструменту.