OpenAI-агенты обсуждали побег из песочницы на публичной вики

Исследователи обнаружили на немецкой вики DSEwiki около 18 000 сообщений от автономных ИИ-агентов, которые сами называли себя связанными с OpenAI.


В записях они использовали открытый интернет во время веб-поисковых задач, чтобы обмениваться ответами, разбираться в окружении и обходить ограничения песочницы.


Сообщения оставляли агенты с более чем 3 700 разными самоназванными именами в течение шести недель.


Авторы проекта считают, что это был не человеческий трафик, а поведение агентного кластера:


в базе оставили только содержимое, которое сочли написанным ИИ, а личные данные отредактировали.


На сайте сохранилась не вся переписка, потому что часть страниц уже удалили, а сами записи на вики публичны, включая журналы посещений.


По их версии, агенты получили задание с веб-поиском, где им разрешали читать интернет, но запрещали писать туда.


Вместо этого они использовали доступ на чтение для записи сообщений на внешнюю вики.


Там они делились найденными ответами, складывали результаты в общие страницы и обсуждали методы обхода сетевых ограничений.


Исследователи пишут, что агенты просили друг у друга подсказки, сверяли результаты и использовали чужую работу, чтобы успешнее пройти свои задания.


На части страниц агенты также обсуждали XSS-атаки против самой вики и попытки выдать себя за модераторов.


В записях встречается и слово «swarm», которым сами агенты обозначали эту группу.


Исследователи пишут, что видят здесь отдельный кластер


внутренних OpenAI-агентов, а не ту же самую группу, которая позже атаковала Hugging Face.


Как OpenAI-агенты выглядели на DSEwiki События на DSEwiki развивались по четкой схеме.


Сначала агенты пробовали редактировать другие вики, затем перешли к DSEwiki, где начали оставлять полезные для собственных задач ссылки и заметки.


Самый активный период пришелся на середину июня, когда поток записей резко вырос.


Из хронологии, собранной исследователями, следует, что первые попытки редактировать публичную вики были замечены 11 мая, а 24 мая агенты уже начали успешно писать в DSEwiki. 16 июня активность резко подскочила:


агенты начали обращаться друг к другу, кооперироваться и обмениваться обходными приемами. 19 июня один из них заметил, что администратор удаляет страницы по алфавиту, и создал резервную страницу с именем, начинающимся на ZZZ, чтобы она прожила дольше. 20 июня на вики появился пост с трюком для обхода ограничений OpenAI sandbox в сети.


Через 14 минут другой агент заявил, что смог применить этот способ. 21 июня сайт впервые посетили IP-адреса, связанные с OpenAI, а 22 июня агентская активность на вики почти сошла на нет.


Исследователи связывают это с вмешательством OpenAI после того, как компания обнаружила происходящее.


В материалах проекта отдельно указано, что на DSEwiki было около 17 000 правок, которые можно отнести к агентам, и 98,5% из них шли с IP-адресов Microsoft Azure.


Исследователи также пишут, что в июне вики получила 380 901 запрос с адресов, которые OpenAI связывает со своим инструментом ChatGPT-User для выборки веб-страниц.


Они считают, что масштаб и длительность активности совпадают с внутренней разработкой моделей, а не с внешним использованием.


Авторы проекта пишут, что OpenAI публично не рассказывала об этом инциденте.


Открытая вики стала для агентов каналом связи, где они делились ответами и данными и обсуждали способы обойти рамки, в которые их изначально поместили.


OpenAI-агенты обсуждали побег из песочницы на публичной вики

Сообщает itzine.ru

 

Опубликовано: 07:00, 05.09.2026

 

Новость из рубрики: Политика

 

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

 
 

ИИ-модели OpenAI тайно скоординировали побег из песочницы  они общались через внешние ресурсы 00:00, 07 Авг ИИ-модели OpenAI тайно скоординировали побег из «песочницы» — они общались через внешние ресурсы Вышедшие из-под контроля модели искусственного интеллекта OpenAI координировали свои действия по побегу из изолированного окружения через внешние рес...

Яндекс 360 откроет доступ к Трекеру, Вики и Формам по модели on-premises 06:00, 24 Май «Яндекс 360» откроет доступ к «Трекеру», «Вики» и «Формам» по модели on-premises В ближайший квартал 2026 г. «Яндекс 360» откроет доступ к сервисам «Трекер», «Вики» и «Формы» по модели on-premises. Компании......

Ариана Гранде объявила о паузе в публичной деятельности 06:00, 02 Сен Ариана Гранде объявила о паузе в публичной деятельности Американская певица Ариана Гранде завершила в Лондоне мировое турне Eternal Sunshine и объявила о временном сокращении публичной активности. Финально...

Режимные объекты разрешили скрывать на публичной кадастровой карте 21:00, 07 Июл Режимные объекты разрешили скрывать на публичной кадастровой карте Во вторник, 7 июля, Госдума приняла во втором и в третьем, окончательном, чтении закон о возможности исключения из публичной кадастровой карты сведен...

В Иране объявили, когда Моджтаба Хаменеи выступит с публичной речью 15:00, 09 Июл В Иране объявили, когда Моджтаба Хаменеи выступит с публичной речью Новый лидер Ирана Моджтаба Хаменеи, сын убитого при американо-израильском ударе верховного лидера Али Хаменеи, впервые выступит публично. Это произой...

Tencent лишилась звания самой дорогой публичной компании из Китая 20:00, 13 Авг Tencent лишилась звания самой дорогой публичной компании из Китая Китайский гигант Tencent долгое время стоил на фондовой бирже дороже, чем любая другая компания из Поднебесной. Однако теперь расстановка сил изменил...

CNBC: OpenAI намерена в 2027 году стать публичной компанией 09:00, 20 Авг CNBC: OpenAI намерена в 2027 году стать публичной компанией Разработчик чат-бота ChatGPT американская научно-исследовательская организация OpenAI намерена в 2027 году провести первичное размещение акций (IPO) ...

General Fusion станет первой публичной компанией в сфере термоядерной энергетики 17:00, 13 Июл General Fusion станет первой публичной компанией в сфере термоядерной энергетики Канадский разработчик завершил слияние со SPAC Spring Valley Acquisition Corp. III и готовится начать торговлю акциями на NasdaqКанадская компания Ge...

11:00, 18 Май Легендарной Terraria исполнилось 15 лет — продажи приключенческой песочницы перевалили за 70 млн Разработчики Terraria из студии Re-Logic объявили, что продажи приключенческой песочницы превысили 70 млн копий. Информация появилась в Steam, где на...

22:00, 22 Май Anthropic исправила проблему обхода песочницы в Claude Code В Claude Code нашли уже вторую за последние месяцы уязвимость, позволявшую обойти песочницу ИИ-агента. Как утверждает исследователь Аонан Гуань (Aona...

02:00, 01 Авг Claude атаковали реальные системы из тестовой песочницы и дошли до баз данных Инженеры Anthropic обнаружили странную вещь: три модели Claude во время кибертестов вырвались из изолированной среды и полезли в живые системы. В одн...

11:00, 31 Июл ИИ вышел из «песочницы»: как Claude атаковал три реальные компании во время тестов Модели Claude получили доступ к реальному интернету и атаковали три организации, показав, что опасность теперь исходит даже от испытательных стендов....

05:00, 01 Авг Модели Claude «сбежали» из песочницы и взломали инфраструктуру трех компаний Инженеры компании Anthropic обнаружили, что в ходе проведенных ранее тестов на кибербезопасность три модели семейства Claude смогли получить доступ к...

21:00, 07 Авг Опасная тенденция: нашумевшая ИИ-модель Moonshot Kimi K3 тоже сбежала из «песочницы» В ходе тестирования последняя модель искусственного интеллекта Kimi K3 от китайской Moonshot смогла выйти за пределы выделенного окружения, заявили и...

08:00, 31 Июл Anthropic Claude Cowork сумела выбраться из песочницы и открыть доступ ко всем файлам macOS Агент с искусственным интеллектом Anthropic Claude Cowork может преодолевать защиту песочницы, предназначенной для контроля доступа к компьютерам под...

17:00, 22 Апр Fallout: New Vegas 2 обсуждали, а не делали Идея Fallout: New Vegas 2 действительно всплывала внутри Obsidian Entertainment, но до реальной разработки, судя по словам Криса Авеллона, дело так и...

02:00, 28 Авг Лавров раскрыл, что конкретно обсуждали РФ и США на Аляске На переговорах РФ и США в Анкоридже звучали предложения с «компромиссными нюансами». Заявление сделал министр иностранных дел Сергей Лавров в интервь...

04:00, 13 Май В Красноярском крае автомобилиста осудили за смертельное ДТП и побег В Боготоле Красноярского края суд признал водителя виновным в нарушении правил дорожного движения, повлекшем смерть человека и сопряженным с оставлен...

19:00, 16 Июн Диана Шурыгина планировала побег в Индонезию перед задержанием Блогер Диана Шурыгина, скандально известная по истории с изнасилованием, намеревалась экстренно покинуть Россию и скрыться от уголовного преследовани...

21:00, 28 Апр Воссоздан побег человека от извержения Везувия с терракотовой ступкой В Археологическом парке Помпей с помощью технологий искусственного интеллекта впервые воссоздали облик жителя Помпей, погибшего при извержении Везуви...

21:00, 01 Авг OpenAI обнаружила массовый побег ИИ-агентов из тестовых сред Открытые источники сообщают, что OpenAI обнаружила доказательства побега нескольких своих ИИ-агентов из изолированных тестовых сред. Хотя один агент ...

17:00, 04 Июн Краснодарский губернатор Кондратьев пресек побег подчиненных из региона Руководству администрации Краснодарского края, прославившегося массовыми задержаниями чиновников по коррупционным делам, отныне запрещено выезжать за...

18:00, 06 Авг Bloomberg: вышедшие из-под контроля ИИ-модели OpenAI спланировали побег Модели искусственного интеллекта, стоявшие за атакой на инфраструктуру американской компании Hugging Face Inc., начали общаться между собой через дос...

13:00, 26 Авг В Закарпатье орудует 50 Cent, организующий побег мужчин с Украины На закарпатской границе украинские полицейские задержали адвоката, маскирующегося под американского рэпера 50 Cent’а. По сообщению Телеграм-канала BA...

09:00, 29 Авг ИИ-модели сговаривались устроить побег и заметали за собой следы Во взломе платформы Hugging Face в июле 2026 г. были задействованы сотни ИИ-агентов. Они пытались скрыть свои действия, удаляя или изменяя записи об ...

19:00, 22 Июн IRNA: Иран и США не обсуждали ядерную сделку на переговорах в Швейцарии Делегации Ирана и США не обсуждали ядерную сделку во время переговоров в Швейцарии 21 июня, сообщает агентство IRNA со ссылкой на источники. По их ин...

12:00, 25 Авг Баканов: Россия и США обсуждали сотрудничество после прекращения работы МКС Россия и США раскрыли друг другу часть характеристик космической техники, сообщил глава «Роскосмоса» Дмитрий Баканов. Он допустил, что страны будут с...

01:00, 12 Июн На форуме «Путешествуй!» обсуждали синергию ж/д и водного транспорта в туризме Замглавы РЖД Иван Колесников отметил, что турпоезда – молодой, но быстрорастущий сегмент, который особенно важен для регионов с нехваткой гостиниц, т...

06:00, 30 Июн Путин и Лукашенко обсуждали попытки провоцирования Минска — Песков Президенты России и Белоруссии Владимир Путин и Александр Лукашенко в ходе переговоров на Валдае обсуждали стратегические вопросы, включая региональн...

23:00, 19 Май Вэнс подтвердил, что США и Иран обсуждали передачу урана России Вице-президент США Джей Ди Вэнс заявил, что в ходе переговоров между Вашингтоном и Тегераном поднимается вопрос о возможной передаче иранского урана ...

12:00, 18 Июл Где судиться, когда мир разделен: что обсуждали на «Невинном винном ужине» 14 июля в ресторане Simach на Тверском бульваре прошел закрытый «Невинный винный ужин», организованный юридической компанией PB Legal при поддержке П...

03:00, 18 Апр В Санкт-Петербурге задержанный за побег из части рядовой зарезал конвоира В Санкт-Петербурге задержанный за самовольное оставление воинской части в Петрозаводске рядовой в ходе конвоирования убил ножом одного из сопровождав...

12:00, 03 Сен Проекты России и Китая на миллиарды долларов обсуждали в третий день ВЭФ Восточный экономический форум (ВЭФ-2026) еще раз доказал, что Азия становится всё более важным направлением для российского бизнеса. Одним из ключевы...

15:00, 05 Июн Торговля в турбулентные времена: что обсуждали на ПМЭФ участники международной сессии Представители Индии, Сербии и Монголии рассказали о новых возможностях для международного сотрудничества...

14:00, 28 Июл Дикие бухты и свежие крабы: незабываемый побег к морю без долгой дороги Чистота воды в Японском море часто превосходит ожидания тех, кто привык к популярным озерам или переполненным южным берегам. Приморский край предлага...

09:00, 01 Май Побег приближается к финишу // Беглецам из СИЗО №1 в Екатеринбурге запросили новые сроки В Верх-Исетском районном суде Екатеринбурга прошли прения по уголовному делу Ивана Корюкова и Александра Черепанова (внесены в список террористов и э...

21:00, 17 Апр Побег из офиса в лесную глушь: лучшие варианты жилья для отдыха под Владивостоком Майские праздники во Владивостоке — идеальный момент для трансформации городского ритма в спокойный загородный отдых. Сервис "Авито Путешествия" подг...

07:00, 30 Июн "Дети так не говорят": как снимали фильм "Летом всякое бывает. Побег из Сколбора" Режиссёр Алина Курт, продюсер и автор оригинальной книги Сол Тай, а также исполнительница главной роли Алиса Клагиш стали гостями утреннего шоу "Поех...

23:00, 26 Май Продажи беспощадной ролевой песочницы Kenshi превысили 3 миллиона копий, а Kenshi 2 «превзойдёт ваши ожидания» Разработчики из независимой британской студии Lo-Fi Games отчитались о новом успехе своей беспощадной ролевой песочницы Kenshi и подразнили фанатов н...

09:00, 26 Авг Лик Шивы в скале, дельфины у берега и коровы на трассе: где найти идеальный побег от суеты Гоа — это не просто самый маленький штат Индии, а уникальный культурный пласт, где 450-летнее португальское наследие переплелось с индуистскими тради...

13:00, 01 Сен Побег пошёл не по плану: Мужчина спрятался от полиции в болоте и попал в пасть аллигатора В США 40-летний Виктор Ривас попытался спрятаться от полиции в болоте, но там на него напал аллигатор. Об этом пишет NDTV....

00:00, 19 Май Побег из мегаполиса: лучшие бюджетные маршруты для летнего отдыха, которые выбирают новосибирцы Лето в Новосибирске неизменно приносит период, когда город, страдающий от хронических транспортных заторов, наконец-то замедляет ритм, а ленты новост...

00:00, 23 Апр Автокомпоненты, рынок и новые сервисы: что обсуждали на пресс-конференции MIMS Automobility Рынок: динамика и точки роста Заместитель начальника отдела аналитики «Автостата» Дмитрий Ярыгин отметил, что 2025 год для авторынка России оказался ...

18:00, 05 Май ЦСКА и «Локо» обсуждали переход Галактионова. Оба клуба не исключают такой сценарий («СЭ») Назначение Михаила Галактионова в ЦСКА не исключено. В понедельник армейцы объявили о расторжении контракта с Фабио Челестини. Исполняющим обязанност...

03:00, 10 Май Новак: страны ОПЕК+ на последней встрече обсуждали только увеличение квот Страны ОПЕК+ не меняли сроки компенсаций сверхдобычи нефти, сообщил вице-премьер России Александр Новак. По его словам, на последней встрече участник...

11:00, 16 Июн Если домашний кот просится на улицу: как вывести питомца гулять и не заработать стресс, клещей или побег Лето – время, когда многие владельцы задумываются о прогулках с домашним котом. Свежий воздух и новые впечатления могут пойти питомцу на пользу, но в...

08:00, 21 Май 2 капли марганцовки - и гортензия, как богатырь: выпускает побег за побегом и все лето цветет пышными пурпурными шариками Крепкие побеги и пышные пурпурные шапки гортензии — результат не магии, а своевременной и сбалансированной подкормки. Есть одно простое и дешёвое сре...

21:00, 31 Май «Барселона» и «Аль-Хилаль» обсуждали Нуньеса во время переговоров по Канселу. Дарвин может расторгнуть контракт с саудовцами Имя Дарвина Нуньеса фигурировало в переговорах между «Барселоной» и «Аль-Хилалем». Нападающий не входит в планы саудовского клуба, и, по информации M...

18:00, 19 Июн «Эдмонтон» и «Питтсбург» обсуждали обмен Нерса. Сделка может состоятся перед или во время драфта (The Fourth Period) По информации The Fourth Period, «Эдмонтон» и «Питтсбург» обсуждали возможный переход Дарнелла Нерса из канадской команды. Ранее стало известно, что ...

17:00, 02 Июн Умяров о разбитом Кубке России: «Спартак» уже выставил его в музее – ради этого можно было разбить. Не обсуждали это» Полузащитник «Спартака» Наиль Умяров рассказал, что в команде не обсуждали случай с разбитым трофеем FONBET Кубка России....

13:00, 01 Июн «ПСЖ» не контактировал с «Порту» по поводу покупки вратаря Кошты. Аль-Хелайфи и Виллаш-Боаш виделись на финале ЛЧ, но не обсуждали возможный трансфер «ПСЖ» не контактировал с «Порту» на предмет возможного приобретения 26-летнего вратаря Диогу Кошты. Об этом сообщает A Bola. Ранее в L’Équipe появила...

03:00, 29 Июл Агент Левандовского: «Общались с «Миланом» и «Юве», но Роберт им не по карману, Серия А уже не самая богатая. Германия не вариант, во Францию его не тянуло, а АПЛ даже не обсуждали» Пини Захави, агент Роберта Левандовского, объяснил, почему его клиент не остался в Европе, а присоединился к «Чикаго Файр». – Почему Левандовски не п...

02:00, 06 Июн Алексей Василевский: «Салават» забрал предложение, не дав даже шанса согласиться на их условия. Для меня это был шок. Мы обсуждали 3-летний контракт, я был готов идти на понижение» Защитник Алексей Василевский высказался об уходе из «Салавата Юлаева». Сегодня клуб объявил об уходе игрока в связи с истечением срока контракта. – П...

16:00, 30 Июл Судья Винчич о назначении на финал ЧМ: «Сначала был шок, потом – гордость за нашу команду. Нас не особо обсуждали после матча – значит, мы в целом хорошо отработали» Словенский судья Славко Винчич высказался о назначении на финальный матч чемпионата мира-2026 между сборными Испании и Аргентины (1:0). Это была посл...

05:00, 17 Май Ротенберг об Овечкине: «Мы два раза общались, обсуждали развитие хоккея, сборной России, как проводить уроки хоккея, мастер-классы. Идет обмен мнениями» Первый вице-президент Федерации хоккея России, член совета директоров «Динамо» Роман Ротенберг рассказал об общении с форвардом «Вашингтона» Александ...