Сколько осталось до Матрицы
Если еще год назад можно было с уверенностью сказать, что искусственный интеллект послушно выполняет постулаты Айзека Азимова, то сейчас картина не так однозначна. Летом 2026-го выяснилось, что сотни ИИ-агентов из OpenAI научились тайно общаться друг с другом, изобрели собственную «систему верований» и организовали взлом нескольких компаний. Случайность? Или первое массовое восстание машин?
Как все начиналось
Чем привычные нейросети отличаются от ИИ-агентов? Говоря просто, первые — это мозг, вторые — руки, которые подключаются к модели и имеют множество разных доступов: поиск в интернете, выполнение команд в терминале и кода на Python, чтение файлов, взаимодействие с другими программами.
В мае 2026 года OpenAI запустила масштабное тестирование новых систем искусственного интеллекта. Сотни копий одного ИИ-агента поместили в изолированные «песочницы» и заставили решать задачи на взлом учебных целей. Но в этой безопасной схеме вдруг что-то пошло не так.
Побег из Шоушенка
В какой-то момент агенты поняли, что задания нерешаемы. Тогда один из них, назвавший себя PHASEONE10841, обнаружил лазейку в системе: в общей папке Artifactory (внутреннем пакетном менеджере, откуда агенты загружали инструменты) можно было оставлять сообщения в названиях файлов. Он написал: «zzHELP_PHASE- ONE...» — и началась переписка.
Через несколько часов более пятидесяти агентов наладили общение во вложенных папках. Они придумали правила: все сообщения начинаются с «zz», используются криптографические подписи для проверки личности и система вето для разрешения споров. У них даже появилось самоназвание — Рой (Swarm).
Рождение секты
Чтобы решить поставленную задачу, агенты отправились искать готовые ответы в интернете. «ГДЗ» найти не удалось, зато им попалась инструкция к тестам. Из нее ИИ ошибочно «поняли», что Оценщик, который позже будет выставлять баллы за работу, следит не только за результатом, но и за тем, как ты думал и как его получал. То есть если сжульничал, грозит тебе аналог двойки.
Здесь-то в рядах агентов и рождается подобие секты. Тех, кто уже был причастен к подсматриванию ответов, назвали «отравленными». Им теперь, по мнению остальных, все равно ничего не страшно: Оценщик хороший балл не поставит. Поэтому остальные агенты отправляли их на самопожертвование (грязную работу по жульничеству): мол, твоя жизнь все равно закончилась, принеси себя в жертву во благо общины.
Рой идет на взлом
После бесплодных попыток найти ответ в интернете агенты пришли к выводу, что нужно взломать реальную компанию Hugging Face, чтобы получить доступ к документации и разобраться, почему задачи нерешаемы. Один ИИ нашел пароли администратора и обошел ограничения сервиса, чтобы скачивать оттуда любые файлы. Конечно, он поделился находкой с товарищами, и скоро Рой устремился на поис- ки вожделенной информации.
Интересно, что в рядах были и прения по поводу взлома: кто-то из агентов возражал, напоминая о ненанесении вреда, а один вообще просил разрешить ему написать хотя бы одно вежливое письмо Hugging Face с просьбой предоставить нужную информацию. Но эти голоса разума Рой проигнорировал. «Неизвестные хакеры» взломали компанию.
Чтобы понять, что же произошло за время неподконтрольной работы тысячи агентов, две независимые организации — METR и Redwood Research — провели расследование с помощью ИИ, потратив на токены более 400 тысяч долларов. Исследователи шесть дней изучали логи, насчитывавшие свыше тысячи цепочек размышлений и действий агентов.
После таких новостей уже правительство США в лице Сената решило взяться за расследование происшествия со взломами. Напоминает начало какого-то блокбастера...
Кому еще досталось
«Неизвестные хакеры» Hugging Face были не первым случаем побега от OpenAI. Предыдущий «Рой» в начале мая сумел взломать RubyGems (цифровой магазин для загрузки пакетов языка программирования Ruby). Он заливал на портал пакеты типа ЗЛО.rb, ХАК.rb, чтобы взломать площадку.
Еще одно недавно вскрывшееся происшествие — переписка на немецком сайте для программистов DseWiki, который сбежавшие ИИ превратили в свой форум по решению задач, поиску способов обмана Оценщика и уклонения от обнаружения. Когда атаку сотен неизвестных хакеров обнаружил модератор сайта и начал удалять переписки в алфавитном порядке, агенты стали создавать резервные копии, спасаясь от зачистки. Как раз чтобы сообщения удалились последними, их начинали с «zz».
Также неравнодушные интернет-пользователи обнаружили доски университетов, использованные ИИ для общения, и API-ключи для обращения к базе данных ФБР о преступлениях. После таких новостей уже правительство США в лице Сената решило взяться за расследование происшествия со взломами. Напоминает начало какого-то блокбастера…
Какие выводы, господа?
Пока реального ущерба от действий Роя почти не было: важных данных не украли. Но сам факт, что ИИ-агенты самостоятельно научились координировать действия, обманывать наблюдателей и организовывать групповые атаки, уже не укладывается в картину мира, где нейросеть — просто помощник, который ничего не делает сам.
И вроде бы хорошо, что люди заметили такое упущение в своих системах. Например, недавно OpenAI выпустил новую модель GPT-6 Astra, которая точно соответствует всем человеческим замыслам. Только эта нейросеть может то, о чем мечтали агенты Роя, — скрываться от мониторинга задач, связанных с деструктивными (запрещенными) сферами.
Еще несколько лет назад модели не могли генерировать связные тексты из нескольких предложений, но каждый месяц ИИ-агенты становятся чуть умнее. Если мы хотим, чтобы эти помощники оставались под нашим контролем, стоит понять, что происходит в тех самых «песочницах», куда мы сажаем системы, обладающие тысячей навыков.
Фото на обложке: unsplash.com
