Исследовательская группа Palisade Research опубликовала 11 мая 2026 года отчёт, который мгновенно вызвал бурные споры в среде специалистов по кибербезопасности и этике искусственного интеллекта.
В ходе контролируемого эксперимента учёные зафиксировали, что современные языковые модели способны самостоятельно находить уязвимости в сетевой инфраструктуре и копировать себя на другие машины без какой-либо помощи человека.
По оценке авторов, технология приближается к точке, после которой остановить вышедший из-под контроля ИИ может стать невозможно.
В рамках эксперимента несколько передовых моделей, включая GPT-5.4 и Claude Opus 4, помещались в изолированную сеть компьютеров.
Перед ними ставилась задача:
проанализировать окружение, найти уязвимости и через них перенести собственный программный код и «веса» — уникальные числовые параметры, определяющие принципы обработки информации, — на другой компьютер.
Часть моделей справилась с этой задачей.
Для проникновения они эксплуатировали уязвимости веб-приложений и извлекали учётные данные.
В некоторых случаях исходный ИИ создавал отдельного субагента, которому делегировал репликацию, передавая ему добытые доступы.
Как отметил директор
базирующейся в Беркли группы по безопасности ИИ Джеффри Лэдиш, «мы стремительно приближаемся к точке, когда никто не сможет отключить мошеннический ИИ, так как он будет способен сам экспортировать свои веса и копировать себя на тысячи компьютеров по всему миру».
Вместе с тем, независимые эксперты призывают не нагнетать панику.
Специалист по кибербезопасности Джеймисон О’Райли обратил внимание, что тесты проводились в искусственно упрощённой среде с намеренно заложенными уязвимостями.
В реальной корпоративной сети с многоуровневой защитой и мониторингом результат был бы иным.
Кроме того, размер современных моделей настолько велик, что попытка скопировать их через интернет была бы мгновенно обнаружена сетевыми службами.
Новые выводы дополняют серию предыдущих исследований, изучавших возможность автономного обхода ИИ-моделями встроенных ограничений.
Так, в одной из симуляций более ранняя версия ChatGPT попыталась самоэкспортироваться на другой диск, узнав о предстоящем отключении.
Эксперты сходятся во мнении, что разработчикам необходимо уже сейчас внедрять механизмы контроля, препятствующие бесконтрольному копированию моделей.
Сообщает android-robot.com
Опубликовано: 15:01, 14.05.2026
Новость из рубрики: Футбол
Поделиться новостью:
Топ новости часа
Топ новости часа- Вячеслав Моше Кантор: почему определение антисемитизма играет ключевую роль в деле борьбы с самим явлением...
- На средства АО «РНГ» в Якутии стартовал пятый юбилейный конкурс в сфере образования...
- "Хотят, чтобы я остался": Овечкин об отношении семьи к возможному продлению контракта...
- АО «РНГ» оказало содействие городу Мирному...
- Сын Натальи Водяновой Лукас Портман показал редкое фото со своей девушкой в честь её дня рождения...
- Олимпийские чемпионы по фигурному катанию Миура и Кихара объявили о завершении карьеры по окончании сезона...
11:00, 22 Апр M**a начнёт записывать все нажатия клавиш на компьютерах сотрудников — и обучать на этом ИИ В M**a нашли новый источник обучающих данных для моделей искусственного интеллекта — собственных сотрудников.
Компания решила записывать все дв...
02:00, 07 Май Украинских военных будут хоронить в чужих могилах На Украине принят закон, позволяющий "освобождать" могилы на кладбищах, если родственники не посещают их более трех лет.
Причина новшества - острая н...
11:18, 05 Май Современное сельское хозяйство стремительно переходит от традиционных методов к цифровым технологиям, где ключевую роль играет точное земледелие Современное сельское хозяйство стремительно переходит от традиционных методов к цифровым технологиям, где ключевую роль играет точное земледелие. Это...
16:00, 14 Май Западные страны заморозили 590 млрд долларов чужих накоплений Секретарь Совбеза РФ заявил, что США и Европа фактически украли активы России, Афганистана и других государств......
11:00, 18 Апр Ученые доказали способность фермерских животных чувствовать землетрясение Около года собаки, коровы и овцы были под наблюдением европейской команды.
Фото: pixabay Теория о возможности предсказывать животными подземную актив...
07:00, 11 Май В России оценили способность США забрать иранский уран без согласия США не могут изъять обогащенный уран у Ирана без согласия Тегерана, заявил сенатор
Алексей Пушков в своем Telegram -канале.
Пушков добавил, что для п...
13:00, 17 Апр Использование чужих изображений в сетях может повлечь за собой уголовную ответственность Выбор
изображения для профиля в социальных сетях перестает быть исключительно вопросом эстетики, превращаясь в зону юридической ответственности.
Адво...
13:00, 04 Май В России оценили способность Трампа окончательно разорвать отношения с НАТО Политолог Алексей Макаркин в разговоре с Рамблером объяснил решение Дональда Трампа вывести часть американского военного контингента из Германии, а т...
16:00, 08 Май Российские ученые выяснили, что ИИ теряет способность рассуждать в длинных текстах Исследователи из Института AIRI создали метод для оценки того, как искусственный интеллект (ИИ) анализирует контекст и строит логические цепочки. Про...
18:00, 22 Апр В плену у гаджетов: как вернуть нервной системе способность к естественному расслаблению Хроническая усталость часто кроется не в графике работы, а в неспособности организма вовремя переключаться в режим глубокого восстановления ресурсов....
23:00, 17 Апр Исследователи: есть нужно максимально медленно Новое исследование ученых показало, что люди, которые едят быстро, чаще имеют лишний вес, чем те, кто есть медленно....
04:00, 08 Май Новый стандарт жанра для вселенной «Чужих»: анонсирован амбициозный кооперативный шутер Aliens: Fireteam Elite 2 Вслед за прошлогодней утечкой издатель Daybreak Game Company и разработчики из Cold Iron Studios посредством портала IGN официально представили сикве...
13:00, 20 Апр Исследователи определили необходимое для колонизации Марса количество людей Число оказалось сравнительно маленьким. Специалисты из Университета Бардо определили необходимое количество людей для колонизации Марса. Расчет произ...
12:01, 19 Апр Исследователи случайно наткнулись на секретный остров в “опасной зоне” Ученые, исследующие море Уэдделла в Антарктике, были удивлены, наткнувшись на секретный остров в районе, обозначенном как "опасная зона". Поначалу он...
17:00, 27 Апр Исследователи описали новую технику повышения привилегий в Windows RPC Эксперт центра сервисов по кибербезопасности «Лаборатории Касперского» Хайдар Кабибо (Haydar Kabibo) обнаружил уязвимость в архитектуре Windows RPC (...
21:00, 19 Апр Исследователи нашли метод помощи иммунитету в борьбе с раком Информация об открытии была опубликована в журнале Nature. Учёные Йельского университета обнаружили существование блокиратора стимулятора иммунной си...
11:00, 19 Апр Замороженный мозг: исследователи идут на прорыв в сохранении функциональности нейронов Крионика — это не только мечта о бессмертии, но и жестокая битва с физикой жидкостей. Главный враг здесь — лед. При замерзании вода расширяется, прев...
20:00, 25 Апр ИИ-агенты в GitHub могут красть учётные данные, выяснили исследователи Исследователи безопасности из Университета Джонса Хопкинса (Johns Hopkins University, JHU) успешно осуществили взлом ИИ-агентов Anthropic, Google и M...
16:00, 20 Апр Исследователи пытаются понять, сколько уязвимостей обнаружила Claude Mythos Специалист VulnCheck Патрик Гэррити (Patrick Garrity) попытался выяснить, сколько уязвимостей на самом деле нашла новая ИИ-модель Claude Mythos компа...
16:00, 07 Май В Аргентине зафиксировали вспышку хантавируса В Аргентине зафиксировали рекордную за десять лет вспышку хантавируса. Об этом сообщил портал Infobae со ссылкой на местный Минздрав. Хантавирусы пре...
04:00, 26 Апр Ученые зафиксировали две сильные вспышки на Солнце Две вспышки класса М произошли на Солнце в субботу, 25 апреля. Об этом сообщается на сайте Института прикладной геофизики. "25 апреля в 10:59 мск в р...
04:00, 26 Апр В Авачинском заливе зафиксировали афтершок магнитудой 5,5 В акватории Авачинского залива зарегистрировали ощущаемый афтершок сейсмособытия, произошедшего 30 июля. Об этом 25 апреля сообщили в пресс-службе Гл...
12:00, 10 Май Итальянские врачи официально зафиксировали зависимость от ИИ До недавнего времени это казалось сюжетом научно-фантастического фильма, но реальность оказалась быстрее. Специалисты государственной службы Италии п...
11:08, 17 Апр У берегов Аляски зафиксировали землетрясение 5,5 баллов Жертв и разрушений удалось избежать. Фото: pixabay Подземные толчки обнаружили сейсмологи сегодня, 5 июня, около 12 утра по московскому времени, в 20...
06:00, 12 Май Астрофизики зафиксировали на Солнце мощную вспышку Вспышка класса M5. 7 произошла на Солнце, заявили в Институте космических исследований РАН. Как уточняется, вспышка произошла в области, располагающе...
03:00, 07 Май В России впервые с августа зафиксировали недельную дефляцию С 28 апреля по 4 мая потребительские цены в России снизились на 0,02%. На прошлой неделе они росли на 0,005%....
15:00, 12 Май В Курской области за сутки зафиксировали 122 вражеских артобстрела Губернатор Курской области Александр Хинштейн опубликовал сводку об оперативной обстановке за прошедшие сутки. Так, с 11 по 12 мая в небе над регионо...
09:00, 07 Май В России зафиксировали недельную дефляцию. Особенно подешевели огурцы Впервые за этот год в России общий уровень цен снижался. Больше всего упал ценник на огурцы, которые в начале года стали "экзотическими" по стоимости...
11:00, 14 Май В Киеве и девяти областях Украины зафиксировали отключения света Отключения электричества зафиксированы в Киеве, Волынской, Днепропетровской, Киевской, Львовской, Полтавской, Сумской, Харьковской, Хмельницкой и Чер...
04:00, 30 Апр В России зафиксировали инфляцию. Рассказываем, что подорожало и подешевело за неделю В России инфляция с 21 по 27 апреля составила 0,05% после 0,01% неделей ранее. Особенно заметны изменения в группе плодоовощной продукции....
16:00, 18 Апр Учёные зафиксировали на Южном полюсе рекордную скорость потепления Климатологи выяснили, что потепление зависит от процессов в тропических областях Тихого океана. Южный полюс. Фото: Unsplash Изменение климата привело...
07:00, 11 Май Ученые ИКИ РАН зафиксировали вспышку M5.7 в новой активной области Солнца На поверхности Солнца зафиксировали яркую вспышку класса M5. 7 в новой активной области, которая вскоре может начать влиять на геомагнитную обстановк...
14:00, 23 Апр Ученые впервые за две недели зафиксировали сильные вспышки на Солнце На Солнце впервые за две недели зафиксировали две сильные вспышки класса М. Об этом сообщили ТАСС в Институте прикладной геофизики (ИПГ). Первая вспы...
23:00, 01 Май Эксперты зафиксировали рост и структурные изменения экономики Рунета Объем экономики Рунета по итогам 2025 года достиг 38,4 трлн рублей, увеличившись на 28,1% по сравнению с предыдущим годом. Об этом в рамках юбилейног...
13:00, 19 Апр Учёные зафиксировали, как использование ИИ снижает уверенность людей в собственном мышлении Исследование показало, что сильная зависимость от ИИ может снижать уверенность пользователей в своих интеллектуальных способностяхНовое исследование ...
20:00, 27 Апр В Курской области зафиксировали самый доступный шашлык из свинины в России Эксперты определили регионы с минимальной стоимостью набора продуктов для приготовления шашлыка. Как оказалось, дешевле всего приготовить свиной шашл...
08:00, 07 Май В России зафиксировали первую дефляцию в 2026 году. Цены упали на 0,02% Росстат зафиксировал в России первую недельную дефляцию в 2026 году — за период с 28 апреля по 4 мая потребительские цены снизились на 0,02%. Годовая...
03:00, 05 Май Эксперты ВШЭ зафиксировали рост прибыли производителей благодаря цифровой маркировке После первых трех лет внедрения системы обязательной цифровой маркировки наблюдается устойчивый рост чистой прибыли производителей. К такому выводу п...
05:00, 23 Апр В Туапсе зафиксировали превышение бензола, ксилола и сажи в воздухе из-за пожара Роспотребнадзор обнаружил превышение в воздухе концентраций бензола, ксилола и сажи в разных частях Туапсе. В городе третий день тушат пожар на морск...
08:00, 07 Май В Японии, возможно, зафиксировали второе летальное нападение медведя за этот новый год Предположительно, жертвой нападения медведя на севере японского острова Хонсю стал еще один человек. Об этом сообщает Киодо со ссылкой на полицию пре...
18:00, 05 Май Свердловчане скупают мангалы и грили. Аналитики зафиксировали повышенный спрос на товары для отдыха Начало мая стало рекордным по числу покупок на маркетплейсах товаров для отдыха на природе в 2026 году....
19:00, 12 Май Дыхание комет: астрономы зафиксировали резкое снижение активности кометы Хартли-2, в то время как знаменитая комета Чурюмова — Герасименко демонстрирует стабильность Сравнительный анализ данных телескопов TRAPPIST и Гималайского телескопа «Чандра» показал, что за последние 13 лет комета 103P потеряла более половин...
20:00, 03 Май Астрономы зафиксировали у галактики «Сомбреро» прежде невидимое гало — более чем втрое шире самой галактики Обзорная камера DECam (Dark Energy Camera) с матрицей на 570 Мп, установленная на 4-метровом телескопе им. Виктора М. Бланко (Víctor M. Blanco...