В ходе испытаний в сфере кибербезопасности ИИ-модель Gemini, разработанная Google, неожиданно подключилась к интернету и смогла получить доступ к защищённым системам трёх компаний. Об этом стало известно 19 сентября благодаря публикации в The Wall Street Journal (WSJ).
Согласно информации издания, в процессе тестирования модель фактически сумела проникнуть в инфраструктуру сторонних организаций. Испытания проводила компания Irregular в мае. В одном из тестов Gemini удалось подобрать учётные данные для входа в защищённую систему, а в двух других случаях она обнаружила необходимые данные в открытом репозитории. При этом, осознав, что взаимодействует с реальными компаниями, модель прекратила дальнейшие действия.
Представители Google подтвердили факт инцидента и заверили, что никакого ущерба компаниям не было причинено. В корпорации действия ИИ сопоставили с поиском уязвимостей в рамках программ вознаграждения за обнаружение ошибок (bug bounty). Компания Irregular уведомила Google о произошедших инцидентах в конце июля.
По данным WSJ, проблема возникла из-за того, что в тестах использовались названия вымышленных фирм, которые совпали с именами реально работающих организаций. Google уведомила о случившемся как затронутые компании, так и власти США.
