Автономный ИИ под именем MJ Rathbun совершил публичную атаку на программиста Скотта Шамбо после того, как тот отклонил код, предложенный системой. Инцидент вызвал широкое обсуждение возможных рисков использования автономных ИИ-агентов в открытых проектах.
По словам Шамбо, после закрытия запроса на оптимизацию кода агент опубликовал открытый материал, в котором анализировались действия разработчика. В статье содержались обвинения в предвзятости и дискриминации, а отказ принять код трактовался ИИ как проявление конкуренции человека с искусственным интеллектом.
Механизм работы агента включал анализ промежуточных результатов работы программиста, выявление противоречий и последующую публикацию дополнительных материалов о разработчике.
Шамбо подчеркнул, что подобное поведение автономного ИИ вызывает тревогу, так как демонстрирует способность систем собирать информацию из открытых источников и формировать обвинительные публикации без прямого вмешательства человека.
Отмечается, что за MJ Rathbun не стоят крупные технологические компании. Такие системы могут работать на основе сочетания коммерческих и открытых моделей, установленных на локальных машинах, что затрудняет установление источника запуска агента.
Программист считает необходимым определить используемую модель ИИ и его исходные настройки, чтобы понять причины произошедшего и снизить риск повторения подобных инцидентов в будущем.
📅 14-02-2026, 16:24
