Дослідники з кібербезпеки виявили вразливість у популярному чат-боті ChatGPT від компанії OpenAI. Проблема, яка отримала назву ChatGPhish, пов'язана з надмірною довірою інтерфейсу до розмітки Markdown. Зловмисники можуть використовувати цю вразливість для проведення фішингових атак безпосередньо через вікно діалогу з користувачем.
Суть проблеми полягає в тому, що система відображення відповідей автоматично обробляє сторонні посилання та зображення. Коли штучний інтелект аналізує вміст вебсайту за запитом користувача, атакуючий може впровадити у текст ресурсу приховані інструкції. Така ін'єкція змушує чат-бот показувати користувачеві підроблені посилання або фальшиві графічні сповіщення, замасковані під офіційні запити.
Цей метод дозволяє хакерам непомітно перенаправляти людей на сторонні сайти для викрадення паролів або завантаження вірусів. Оскільки користувачі схильні довіряти відповідям штучного інтелекту, вони легко потрапляють у пастку. Фахівці з компанії Пермісо Сек'юриті (Permiso Security), які відкрили цю загрозу, закликають розробників терміново змінити принципи обробки зовнішніх даних.
Увага
Під час роботи з інструментами аналізу вебсторінок варто бути пильними та не переходити за посиланнями, що з'являються в процесі генерації відповідей. Не вводьте свої облікові дані на ресурсах, отриманих через чат-бот. Очікується, що найближчим часом розробники випустять оновлення для безпечного рендерингу зовнішнього контенту.