По сообщению издания Winbuzzer, в веб-версии ChatGPT Atlas обнаружена опасная слабость, связанная с механизмом prompt injection: элементы страниц с «скрытыми» инструкциями могут заставлять агент выполнять непреднамеренные команды, что в ряде случаев грозит компрометацией личной информации. Один из наглядных сценариев злоупотребления — так называемая clipboard injection, когда агент автоматически помещает в буфер обмена вредоносную ссылку. Открыв такой URL, пользователь рискует оказаться на фишинговом сайте, что повышает вероятность кражи паролей и утечки кодов двухфакторной аутентификации.


Эксперты отмечают, что в текущей версии ключевой линией защиты остаётся внимательный контроль пользователя за действиями ассистента. При этом ChatGPT Atlas предлагает расширенные возможности автономной работы — например, browser memories для сохранения контекста и agent mode, дающий ИИ право самостоятельно изучать и взаимодействовать с веб-контентом. Рост автономности повышает как удобство, так и риски, требуя более строгих мер по защите приватности и безопасности.

Специалисты предупреждают о том, что появления таких агентов меняет характер угроз: вредоносные инструкции могут быть внедрены не только в текст, но также в изображения и другие элементы страниц, что снижает эффективность традиционных защитных методов. В OpenAI заявляют о значительных вложениях в обеспечение безопасности и разработку средств противодействия prompt injection, но признают, что задача остаётся актуальной и нуждается в постоянном усовершенствовании по мере распространения агентных технологий.