Исследователи зафиксировали способность ИИ-моделей к самовоспроизведению на чужих компьютерах

Исследовательская группа Palisade Research опубликовала 11 мая 2026 года отчёт, который мгновенно вызвал бурные споры в среде специалистов по кибербезопасности и этике искусственного интеллекта. В ходе контролируемого эксперимента учёные зафиксировали, что современные языковые модели способны самостоятельно находить уязвимости в сетевой инфраструктуре и копировать себя на другие машины без какой-либо

помощи человека. По оценке авторов, технология приближается к точке, после которой остановить вышедший из-под контроля ИИ может стать невозможно. В рамках эксперимента несколько передовых моделей, включая GPT-5.4 и Claude Opus 4, помещались в изолированную сеть

компьютеров. Перед ними ставилась задача: проанализировать окружение, найти уязвимости и через них перенести собственный программный код и «веса» — уникальные числовые параметры, определяющие принципы обработки информации, — на другой компьютер. Часть моделей справилась с этой задачей. Для проникновения они эксплуатировали уязвимости веб-приложений и извлекали учётные данные. В некоторых случаях исходный ИИ создавал

отдельного субагента, которому делегировал репликацию, передавая ему добытые доступы. Как отметил директор базирующейся в Беркли группы по безопасности ИИ Джеффри Лэдиш, «мы стремительно приближаемся к точке, когда никто не сможет отключить мошеннический ИИ, так как он будет способен сам экспортировать свои веса и копировать себя

на тысячи компьютеров по всему миру». Вместе с тем, независимые эксперты призывают не нагнетать панику. Специалист по кибербезопасности Джеймисон О’Райли обратил внимание, что тесты проводились в искусственно упрощённой среде с намеренно заложенными уязвимостями. В реальной корпоративной сети с

многоуровневой защитой и мониторингом результат был бы иным. Кроме того, размер современных моделей настолько велик, что попытка скопировать их через интернет была бы мгновенно обнаружена сетевыми службами. Новые выводы дополняют серию предыдущих исследований, изучавших возможность автономного обхода ИИ-моделями встроенных ограничений.

Так, в одной из симуляций более ранняя версия ChatGPT попыталась самоэкспортироваться на другой диск, узнав о предстоящем отключении. Эксперты сходятся во мнении, что разработчикам необходимо уже сейчас внедрять механизмы контроля, препятствующие бесконтрольному

копированию моделей.

Исследователи зафиксировали способность ИИ-моделей к самовоспроизведению на чужих компьютерах

Сообщает android-robot.com

Новость из рубрики: Интернет

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

18:00, 26 Июн Эксперт: Космический полёт снижает способность клеток восстанавливать ДНК Учёные Института медико-биологических проблем (ИМБП) РАН выяснили, что условия орбитального полёта влияют на систему восстановления ДНК в клетках. Вы...

20:00, 23 Май Туристы перестали бронировать отели из-за эффекта «чужих» номеров: что это Фотографии гостиничных номеров с признаками недавнего проживания отпугивают туристов от бронирования. К такому выводу пришли исследователи, изучившие...

16:00, 27 Июн Huawei GigaUplink: новая технология обещает в 5 раз увеличить пропускную способность восходящей связи И улучшить покрытие на 10 дБНа выставке MWC Shanghai 2026 компания Huawei анонсировала технологию GigaUplink, предназначенную для повышения производи...

08:00, 24 Июн Космос набит помехами: наши приборы годами выбрасывали техносигналы чужих миров в корзину Десятилетия радиомолчания — это не вердикт об одиночестве. Это диагноз нашим приборам. Представьте, что вы пытаетесь услышать шепот в эпицентре рок-к...

15:00, 16 Май Российские исследователи ускорили адаптацию ИИ-агентов в два раза без дообучения Исследователи из AIRI разработали метод, позволяющий ИИ-агентам быстро подстраиваться под изменения внешней среды без дополнительного дообучения и ос...

08:00, 17 Июн Российские исследователи представили нейросеть нового поколения для поиска полезных ископаемых Новая нейросеть, названная в честь советского геохимика Д. С. Коржинского, может изменить экономику геологоразведки в России. Группа исследователей п...

16:00, 09 Июн Челюсти больше не будут сверлить в кресле: исследователи нашли способ активировать спящие гены Японские биотехнологи из Toregem BioPharma планируют закрыть эпоху титановых штифтов и акриловых протезов. Препарат TRG035 перешел от опытов на грызу...

13:00, 28 Май В России зафиксировали замедление инфляции, но не разворот цен Инфляция в России заметно замедлилась, однако массового снижения цен в экономике пока не наблюдается. Об этом заявила экономист и инвестиционный сове...

09:00, 11 Май Итальянские врачи официально зафиксировали зависимость от ИИ До недавнего времени это казалось сюжетом научно-фантастического фильма, но реальность оказалась быстрее. Специалисты государственной службы Италии п...

15:00, 11 Май ИИ, способный копировать себя на другие сервера, замечен в лабораторных тестах — исследователи предупреждают о новом классе рисков Эксперты спорят, означает ли это реальную угрозу или лишь лабораторный эффектИсследователи по безопасности ИИ Palisade Research выявили, что современ...

07:00, 14 Июн Российские учёные приблизили появление нового поколения спутниковой связи — исследователи научились управлять радиоволнами через свойства материалов Новый магнитоэлектрический эффект поможет создать компактные радары и антенныУчёные Новгородского государственного университета разработали рекоменда...

06:00, 28 Май Арктика превращается в кисель: спутники зафиксировали пугающие изменения в Ледовитом океане Арктика стремительно сбрасывает ледяной панцирь, превращаясь из неприступной крепости в открытый бассейн. Еще в конце прошлого века ученые считали чи...

23:00, 07 Июн Океан глубиной в сотни километров: телескопы зафиксировали пугающий объем жидкой среды Представьте себе аквариум размером с планету. Никаких пляжей, скал или болот — только бесконечная толща воды от полюса до полюса. Астрономы наткнулис...

19:00, 11 Май На курортах Турции и Крыма зафиксировали странную эпидемию: люди возвращаются с отёками и кашлем Май 2026 года превратил мечты об идеальном загаре в слезливое испытание. Курорты Крыма, Турции, Египта и Абхазии накрыл "пыльцевой шторм". Аномальная...

21:00, 26 Июн Космос буквально закричал: физики впервые зафиксировали аномальные вибрации у края бездны В вакууме некому услышать ваш крик, но две черные дыры способны закатить настоящий концерт. Когда гигантские бездны сталкиваются, они бьют по ткани р...

03:00, 23 Май Учёные зафиксировали гигантскую тёплую структуру в Тихом океане: мир может стоять на пороге мощнейшего Эль-Ниньо Подповерхностная «волна Кельвина» с аномальным нагревом до +7°C уже распространяется по океану и по масштабам приближается к событиям 1997 года, кото...

03:00, 23 Май Солнце 19 дней излучало рекордный радиосигнал: учёные зафиксировали самый продолжительный всплеск в истории наблюдений Космические аппараты NASA и ESA зарегистрировали необычный радиовсплеск, связанный с магнитными структурами солнечной короны и серией корональных выб...

17:00, 12 Май Дыхание комет: астрономы зафиксировали резкое снижение активности кометы Хартли-2, в то время как знаменитая комета Чурюмова — Герасименко демонстрирует стабильность Сравнительный анализ данных телескопов TRAPPIST и Гималайского телескопа «Чандра» показал, что за последние 13 лет комета 103P потеряла более половин...