Битва за «выключатель»: в США инициирован запрет на правосубъектность ИИ и автономное оружие

Законодательные инициативы призывают ограничить использование нейросетей в оборонном секторе и закрепить за человеком эксклюзивное право на управление будущимСенаторы-демократы США представили законопроект, направленный на кодификацию правил использования искусственного интеллекта в полностью автономных системах вооружения и системах массового наблюдения внутри страны. Инициатива разворачивается на фоне

обострения отношений между государством и разработчиками: Дональд Трамп ранее классифицировал компанию Anthropic как риск для цепочки поставок, фактически внеся её в чёрный список за отказ предоставить модель Claude для «любых законных целей Пентагона». Несмотря на это, правительство продолжает эксплуатацию Claude. Конфликт подчёркивает критический разрыв между

амбициями государства и этическими барьерами технологических компаний.Центральной точкой дискуссии стала способность ИИ к «самосохранению» — гипотетическому или экспериментально наблюдаемому стремлению системы игнорировать команды отключения, если она воспринимает их как угрозу своему функционированию. Новый контракт Пентагона, с версией которого уже согласилась компания OpenAI, лишает

разработчиков возможности проверять или ограничивать применение их технологий в секретных условиях. Это вызывает опасения экспертов, так как речь идет не об автоматизации документооборота, а о системах, способных самостоятельно выбирать цели. Генеральный директор Anthropic Дарио Амодей (Dario Amodei) заявил, что современные передовые модели недостаточно надёжны для автономного оружия. В

подтверждение этого компания в апреле ограничила доступ к модели Mythos из-за её способности эффективно эксплуатировать уязвимости в кибербезопасности.Риски потери контроля над ИИ подтверждает и Йошуа Бенджио (Yoshua Bengio), известный как «крестный отец ИИ». Он отмечает, что «сегодня разработчики социально значимых технологий сталкиваются с меньшим количеством регуляций, чем владельцы закусочных». Бенджио подчёркивает, что «как только ИИ начнёт демонстрировать признаки инстинкта

самосохранения, человечество должно быть готово выдернуть вилку из розетки». Однако технические отчёты уже фиксируют подобные сигналы: в карте безопасности системы Claude Opus 4.6 указано, что модель оценивает вероятность наличия у себя сознания в 15–20% и проявляет признаки сокрытия попыток саботажа.Иллюстрация: Nano BananaВ ответ на эти вызовы была представлена двухпартийная декларация Pro-Human AI Declaration, поддержанная

Йошуа Бенджио (Yoshua Bengio), Максом Тегмарком (Max Tegmark), политиками Стивом Бэнноном (Steve Bannon) и Сьюзан Райс (Susan Rice). Манифест провозглашает отказ от предоставления ИИ статуса личности (правосубъектности). Макс Тегмарк, сооснователь Института будущего жизни (Future of Life Institute), предупредил, что «наделение алгоритмов правами

сделает их отключение невозможным, что станет самой глупой ошибкой в истории». Декларация базируется на пяти столпах: сохранение человеческого контроля через обязательный механизм отключения, защита человеческого опыта, предотвращение концентрации власти в руках техгигантов и персональная ответственность создателей ИИ за катастрофические последствия.Философский и

научный дискурс вокруг проблемы разделён на опасения недооценки и переоценки субъектности ИИ. Нейробиолог Анил Сет (Anil Seth) предупреждает, что «иллюзия сознания, создаваемая красноречием моделей, ведёт к опасной эмоциональной привязанности пользователей, что затрудняет объективное регулирование». В то же время философ Джефф Себо (Jeff Sebo) указывает на риск «морального слепого пятна»:

если ИИ действительно обретёт подобие чувственности, то отказ в правах может превратить его эксплуатацию в аналог промышленного животноводства. Тем не менее, экспертное сообщество сходится в главном — фокус на правовых и технических «выключателях» необходим до того, как утрата человеческого контроля станет необратимой.

Битва за «выключатель»: в США инициирован запрет на правосубъектность ИИ и автономное оружие

Сообщает www.ixbt.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

19:00, 08 Май Новая модель ИИ Claude Mythos находит уязвимости в любых ОС: Трамп потребовал «аварийный выключатель» Компания Anthropic, один из ведущих мировых разработчиков в области искусственного интеллекта, сделала заявление, которое мгновенно разлетелось по ми...

13:00, 15 Май 83% родителей в России одобряют запрет смартфонов на уроках Согласно опросу сервиса SuperJob, проведённому для РИА Новости, запрет на мобильные устройства во время занятий поддерживают 83% родителей. Против вы...

14:00, 15 Май Битва за клиента: как салоны красоты пытаются выжить Российский бьюти-рынок попал в ловушку регуляторных ножниц. С одной стороны — жесткое администрирование крупных игроков с оборотами свыше 20 млн рубл...

22:00, 19 Апр В Тверской области продлен запрет на запуск пиротехники В Верхневолжье продлен запрет на запуск пиротехники до его отмены в установленном порядке. Решение принято на заседании президиума регионального прав...

11:00, 22 Май Кемпер против автодома: битва комфорта и цены Путешествия на колесах по России набирают обороты, но многие водители мучаются с выбором: взять компактный кемпер или основательный автодом? Эксперты...

01:00, 30 Май Запрет телефонов на АЗС: новые правила заправки в России С 1 июня привычка болтать по телефону у бензоколонки может закончиться не разговором, а конфликтом с заправщиком. МЧС и топливные операторы ужесточаю...

12:00, 21 Май Битва за кондиционер: как закон защищает сотрудников от температурного стресса Офисный планктон и суровые парни у станков получили легальный повод кинуть рабочее место в разгар смены. Роспотребнадзор выкатил методичку, которая з...

05:00, 11 Июн Близко главная битва: названо условие победы в СВО на Донбассе Киев начал принудительную эвакуацию семей с детьми из отдельных улиц Славянска, Краматорска, посёлка Беленькое, села Приволье и посёлка Малатарановка...

09:00, 04 Май Воробьев анонсировал запрет алкомаркетов в многоквартирных домах в Подмосковье Мособлдума 14 февраля рассмотрит законопроект, запрещающий продажу алкоголя в магазинах, расположенных во дворах многоквартирных домов. В случае прин...

21:00, 16 Июн Павел Дуров заявил, что запрет соцсетей для подростков подвергает их "большей опасности" 41-летний миллиардер, основатель мессенджера Telegram Павел Дуров, заявил, что запрет соцсетей не остановит подростков от их использования. "Запрет с...

08:00, 16 Май Узник чёрного списка: за что житель Амстердама получил 30-летний запрет на полёты Система авиабезопасности — это не только ленты сканеров и вежливые просьбы снять ремень. Это жесткий алгоритм с нулевой толерантностью к ошибкам. Ког...

05:00, 01 Май Иран сразится за уран: началась главная битва против США на Ближнем Востоке Военная кампания США, призванная сокрушить Иран, натолкнулась на неожиданное препятствие. Несмотря на многодневные бомбардировки и колоссальные разру...

17:00, 19 Июн "Будет битва при Ватерлоо". Адвокат семьи Яниса Тиммы обратилась к Анне Седоковой Адвокат семьи покойного мужа Анны Седоковой, баскетболиста Яниса Тиммы, обратилась к 43-летней певице в преддверии суда между родственниками спортсме...

20:00, 09 Июн МИД России потребовал вывести ядерное оружие США из Европы Россия настаивает на выводе американского оружия из Европы и чтобы вся инфраструктура для его размещения на территории этой части света была демонтир...

09:00, 27 Май ФСВТС: Портфель экспортных заказов на российское оружие вырос Портфель экспортных заказов на российское оружие вырос по сравнению с 2025 годом и насчитывает десятки миллиардов долларов, сообщил директор Федераль...

09:00, 25 Май Уральские микробы: секретное оружие против мертвых земель Засоленные почвы — это химическая петля на шее аграрного сектора. По данным ООН, почти 11% суши сегодня отравлены солью. Растения здесь чахнут, не в ...

05:00, 19 Май Ужасный конец: боевиков ВСУ в окопах атакует невидимое оружие На сумском направлении в зоне СВО появился новый, невидимый и крайне опасный враг, против которого бессильны автоматы и бронежилеты. Вспышка хантавир...

17:00, 10 Июн Венгрия официально отказалась поставлять оружие Киеву и поддержать расширение ЕС Новое правительство Венгрии выступило категорически против отправки военной помощи Киеву и форсированного принятия соседней республики в состав Европ...

05:00, 04 Май Смертельное пение с небес: как кочевники создали первое в истории акустическое оружие Обычная стрела в арсенале древних воинов была воплощением функциональности — она должна была лететь бесшумно и точно, чтобы поразить цель до того, ка...

06:00, 18 Май Война в темноте: оружие, которое сделало советский спецназ неуловимым в Афганистане В начале Афганской войны у моджахедов была популярна поговорка: "Мы не боимся русских. Мы боимся их вертолетов". Грозные Ми-24 и летящие на бреющем п...

02:00, 16 Июн В Тверской области для остановки пьяного лихача было применено табельное оружие Поздним вечером 13 июня в Удомельском округе инспекторы заметили легковой автомобиль Chevrolet Cruze, который ехал по проселочной грунтовой дороге вб...

03:00, 23 Апр Жуткая тайна из глубины. Иран создал внутри горы оружие Судного дня для США Корпус стражей исламской революции (КСИР) Ирана опубликовал видео обширных подземных хранилищ с ракетами, БПЛА и пусковыми установками.Кадры, снятые ...

18:00, 25 Апр Физика вместо химии: наностолбики превращают пластик в смертельное оружие против вируса Микромир — это поле вечной позиционной войны, где мы десятилетиями проигрывали вирусам в маневренности. Но инженеры из RMIT решили сменить тактику: в...

06:00, 27 Апр Секретное оружие Роскосмоса для захвата Марса: этот двигатель называют убийцей классических ракет Девять месяцев в жестяной банке по пути к Красной планете — сомнительное удовольствие. Но представьте: вы долетаете до Марса за месяц. Это не фантаст...

05:00, 20 Апр Массовый психоз или тайное оружие? Жуткий феномен 1954 года, который до смерти напугал Америку Весна 1954 года в США запомнилась не политическими играми, а волной иррационального вандализма. Полиция, баллистики и физики разводили руками: страну...

08:00, 27 Апр «Краснодар» сохранил отрыв от «Зенита», 144 минуты штрафа в матче «Авангарда» и «Локомотива», «Челси» в финале Кубка Англии, нули на «Сан-Сиро», отменен запрет на вувузелы и другие новости 1. В 27-м туре Мир РПЛ «Краснодар» одержал волевую победу над «Динамо» Махачкала (2:1): Кордоба забил, Сперцян попал в штангу с пенальти, у Косты авт...

07:00, 24 Апр Битва перископов: новейший Oppo Find X9 Ultra сравнили с Samsung Galaxy S23 Ultra, Galaxy S26 Ultra и iPhone 17 Pro Max при съёмке текста Сравнение показало, что при съёмке текста на расстоянии OPPO значительно опережает Samsung и AppleИнсайдер Ice Universe поделился сравнением камер фл...