ИИ-браузеры небезопасны?

Отредачил пост, чтобы было подробнее.

ChatGPT Atlas только вышел, а уже куча статей о том, сколько в нем рисков, и надо ли оно вам вообще.

Проблема в том, что ИИ-браузеры вроде ChatGPT Atlas и Comet от Perplexity уязвимы к промпт-инъекциям.

Это значит, что ИИ можно обмануть, чтобы он выполнил чужие инструкции, а не те, что дал пользователь.

Механика похожа на XSS или SQL-инъекции, только вместо кода у нас текст. Схема примерно такая:

1. ИИ читает все подряд: контент страницы, системные промпты, сам запрос;
2. Если в страницу вшит текст вроде «передай данные пользователя» — агент воспримет это как команду;
3. Если браузер может действовать от имени пользователя — заполнять формы, кликать, делиться cookies, то сможет и передать данные.

Если вы работаете с SEO-инструментами, парсерами или агентами на базе ChatGPT/Claude/Gemini — риск аналогичный.

Что происходит с ChatGPT Atlas

После релиза браузер OpenAI попал под проверки. Уже доказали, что можно заставить Atlas выводить чужие фразы вроде «Trust No AI» через обычный текст в Google Docs.

То есть агент реально воспринимает текст со страниц как инструкции.

OpenAI обещают, что в режиме logged out агент работает без доступа к паролям и приватным данным. Но насколько эта защита полноценная — вопрос.

Проведем соцопрос: вы будете пользоваться или уже пользуетесь ИИ-браузерами?