ИИ-браузеры небезопасны?
Отредачил пост, чтобы было подробнее.
ChatGPT Atlas только вышел, а уже куча статей о том, сколько в нем рисков, и надо ли оно вам вообще.
Проблема в том, что ИИ-браузеры вроде ChatGPT Atlas и Comet от Perplexity уязвимы к промпт-инъекциям.
Это значит, что ИИ можно обмануть, чтобы он выполнил чужие инструкции, а не те, что дал пользователь.
Механика похожа на XSS или SQL-инъекции, только вместо кода у нас текст. Схема примерно такая:
- ИИ читает все подряд: контент страницы, системные промпты, сам запрос;
- Если в страницу вшит текст вроде «передай данные пользователя» — агент воспримет это как команду;
- Если браузер может действовать от имени пользователя — заполнять формы, кликать, делиться cookies, то сможет и передать данные.
Если вы работаете с SEO-инструментами, парсерами или агентами на базе ChatGPT/Claude/Gemini — риск аналогичный.
Что происходит с ChatGPT Atlas
После релиза браузер OpenAI попал под проверки. Уже доказали, что можно заставить Atlas выводить чужие фразы вроде «Trust No AI» через обычный текст в Google Docs.
То есть агент реально воспринимает текст со страниц как инструкции.
OpenAI обещают, что в режиме logged out агент работает без доступа к паролям и приватным данным. Но насколько эта защита полноценная — вопрос.
Проведем соцопрос: вы будете пользоваться или уже пользуетесь ИИ-браузерами?