Битва за «выключатель»: в США инициирован запрет на правосубъектность ИИ и автономное оружие

Законодательные инициативы призывают ограничить использование нейросетей в оборонном секторе и закрепить за человеком эксклюзивное право на управление будущимСенаторы-демократы США представили законопроект, направленный на кодификацию правил использования искусственного интеллекта в полностью автономных системах вооружения и системах массового наблюдения внутри страны. Инициатива разворачивается на фоне

обострения отношений между государством и разработчиками: Дональд Трамп ранее классифицировал компанию Anthropic как риск для цепочки поставок, фактически внеся её в чёрный список за отказ предоставить модель Claude для «любых законных целей Пентагона». Несмотря на это, правительство продолжает эксплуатацию Claude. Конфликт подчёркивает критический разрыв между

амбициями государства и этическими барьерами технологических компаний.Центральной точкой дискуссии стала способность ИИ к «самосохранению» — гипотетическому или экспериментально наблюдаемому стремлению системы игнорировать команды отключения, если она воспринимает их как угрозу своему функционированию. Новый контракт Пентагона, с версией которого уже согласилась компания OpenAI, лишает

разработчиков возможности проверять или ограничивать применение их технологий в секретных условиях. Это вызывает опасения экспертов, так как речь идет не об автоматизации документооборота, а о системах, способных самостоятельно выбирать цели. Генеральный директор Anthropic Дарио Амодей (Dario Amodei) заявил, что современные передовые модели недостаточно надёжны для автономного оружия. В

подтверждение этого компания в апреле ограничила доступ к модели Mythos из-за её способности эффективно эксплуатировать уязвимости в кибербезопасности.Риски потери контроля над ИИ подтверждает и Йошуа Бенджио (Yoshua Bengio), известный как «крестный отец ИИ». Он отмечает, что «сегодня разработчики социально значимых технологий сталкиваются с меньшим количеством регуляций, чем владельцы закусочных». Бенджио подчёркивает, что «как только ИИ начнёт демонстрировать признаки инстинкта

самосохранения, человечество должно быть готово выдернуть вилку из розетки». Однако технические отчёты уже фиксируют подобные сигналы: в карте безопасности системы Claude Opus 4.6 указано, что модель оценивает вероятность наличия у себя сознания в 15–20% и проявляет признаки сокрытия попыток саботажа.Иллюстрация: Nano BananaВ ответ на эти вызовы была представлена двухпартийная декларация Pro-Human AI Declaration, поддержанная

Йошуа Бенджио (Yoshua Bengio), Максом Тегмарком (Max Tegmark), политиками Стивом Бэнноном (Steve Bannon) и Сьюзан Райс (Susan Rice). Манифест провозглашает отказ от предоставления ИИ статуса личности (правосубъектности). Макс Тегмарк, сооснователь Института будущего жизни (Future of Life Institute), предупредил, что «наделение алгоритмов правами

сделает их отключение невозможным, что станет самой глупой ошибкой в истории». Декларация базируется на пяти столпах: сохранение человеческого контроля через обязательный механизм отключения, защита человеческого опыта, предотвращение концентрации власти в руках техгигантов и персональная ответственность создателей ИИ за катастрофические последствия.Философский и

научный дискурс вокруг проблемы разделён на опасения недооценки и переоценки субъектности ИИ. Нейробиолог Анил Сет (Anil Seth) предупреждает, что «иллюзия сознания, создаваемая красноречием моделей, ведёт к опасной эмоциональной привязанности пользователей, что затрудняет объективное регулирование». В то же время философ Джефф Себо (Jeff Sebo) указывает на риск «морального слепого пятна»:

если ИИ действительно обретёт подобие чувственности, то отказ в правах может превратить его эксплуатацию в аналог промышленного животноводства. Тем не менее, экспертное сообщество сходится в главном — фокус на правовых и технических «выключателях» необходим до того, как утрата человеческого контроля станет необратимой.

Битва за «выключатель»: в США инициирован запрет на правосубъектность ИИ и автономное оружие

Сообщает www.ixbt.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

19:00, 08 Май Новая модель ИИ Claude Mythos находит уязвимости в любых ОС: Трамп потребовал «аварийный выключатель» Компания Anthropic, один из ведущих мировых разработчиков в области искусственного интеллекта, сделала заявление, которое мгновенно разлетелось по ми...

11:00, 22 Май Кемпер против автодома: битва комфорта и цены Путешествия на колесах по России набирают обороты, но многие водители мучаются с выбором: взять компактный кемпер или основательный автодом? Эксперты...

14:00, 15 Май Битва за клиента: как салоны красоты пытаются выжить Российский бьюти-рынок попал в ловушку регуляторных ножниц. С одной стороны — жесткое администрирование крупных игроков с оборотами свыше 20 млн рубл...

05:00, 11 Июн Близко главная битва: названо условие победы в СВО на Донбассе Киев начал принудительную эвакуацию семей с детьми из отдельных улиц Славянска, Краматорска, посёлка Беленькое, села Приволье и посёлка Малатарановка...

12:00, 21 Май Битва за кондиционер: как закон защищает сотрудников от температурного стресса Офисный планктон и суровые парни у станков получили легальный повод кинуть рабочее место в разгар смены. Роспотребнадзор выкатил методичку, которая з...

Реплики из фильма Битва моторов откроют Гран-при под Москвой 03:00, 29 Июл Реплики из фильма «Битва моторов» откроют Гран-при под Москвой Четвертый этап Российской серии гонок на выносливость REC — Гран-при Авторадио — стартует под рык моторов исторических реплик, за рулем которых окажу...

17:00, 29 Июн Славянск блокирован, боевики зажаты: началась главная битва за крепость ВСУ Обстановка в Славянске для украинских боевиков складывается не лучшим образом, ВСУ уже понимают, что потеряли город, сообщил в эксклюзивной беседе с ...

00:00, 22 Июн Битва за кошельки туристов: как поглощение сервисов меняет расклад сил в индустрии путешествий Туристический рынок напоминает сейчас котел под давлением. Крупные экосистемы и банки "окучивают" сферу путешествий, поглощая независимые сервисы. Эт...

05:00, 01 Май Иран сразится за уран: началась главная битва против США на Ближнем Востоке Военная кампания США, призванная сокрушить Иран, натолкнулась на неожиданное препятствие. Несмотря на многодневные бомбардировки и колоссальные разру...

12:00, 21 Июл Кто сделал оружие, которому больше 400 тысяч лет Самое древнее оружие изготовили наши далекие предки но какие именно это большая загадка В музеях хранятся орудия, которые старше нашего вида. Самое д...

22:00, 24 Июл Трамп заявил, что США не продают оружие Украине Вашингтон реализует вооружение исключительно странам НАТО, которые оплачивают полную стоимость техники, а дальнейшее распределение поставок американс...

17:00, 19 Июн "Будет битва при Ватерлоо". Адвокат семьи Яниса Тиммы обратилась к Анне Седоковой Адвокат семьи покойного мужа Анны Седоковой, баскетболиста Яниса Тиммы, обратилась к 43-летней певице в преддверии суда между родственниками спортсме...

02:00, 16 Июл ЕС предлагает поэтапный запрет соцсетей для детей Европейский союз сделал решительный шаг к кардинальному пересмотру правил цифровой гигиены для подрастающего поколения. 13 июля 2026 года председател...

00:00, 25 Июл Адвокат Лерчек опроверг запрет на ее передвижение по РФ Блогеру Валерии Чекалиной, известной как Лерчек, не запрещено перемещаться по территории России. Об этом 5-tv.ru сообщил ее адвокат Константин Третья...

01:00, 20 Июн СМИ напомнили про превращение умного холодильника в «оружие» хакеров Современные холодильники с Wi-Fi, экранами и камерами обещают многое. Они могут следить за продуктами, предлагать рецепты, экономят электричество и в...

20:00, 09 Июн МИД России потребовал вывести ядерное оружие США из Европы Россия настаивает на выводе американского оружия из Европы и чтобы вся инфраструктура для его размещения на территории этой части света была демонтир...

01:00, 30 Май Запрет телефонов на АЗС: новые правила заправки в России С 1 июня привычка болтать по телефону у бензоколонки может закончиться не разговором, а конфликтом с заправщиком. МЧС и топливные операторы ужесточаю...

22:00, 19 Апр В Тверской области продлен запрет на запуск пиротехники В Верхневолжье продлен запрет на запуск пиротехники до его отмены в установленном порядке. Решение принято на заседании президиума регионального прав...

13:00, 15 Май 83% родителей в России одобряют запрет смартфонов на уроках Согласно опросу сервиса SuperJob, проведённому для РИА Новости, запрет на мобильные устройства во время занятий поддерживают 83% родителей. Против вы...

05:00, 19 Май Ужасный конец: боевиков ВСУ в окопах атакует невидимое оружие На сумском направлении в зоне СВО появился новый, невидимый и крайне опасный враг, против которого бессильны автоматы и бронежилеты. Вспышка хантавир...

09:00, 25 Май Уральские микробы: секретное оружие против мертвых земель Засоленные почвы — это химическая петля на шее аграрного сектора. По данным ООН, почти 11% суши сегодня отравлены солью. Растения здесь чахнут, не в ...

09:00, 27 Май ФСВТС: Портфель экспортных заказов на российское оружие вырос Портфель экспортных заказов на российское оружие вырос по сравнению с 2025 годом и насчитывает десятки миллиардов долларов, сообщил директор Федераль...

09:00, 04 Май Воробьев анонсировал запрет алкомаркетов в многоквартирных домах в Подмосковье Мособлдума 14 февраля рассмотрит законопроект, запрещающий продажу алкоголя в магазинах, расположенных во дворах многоквартирных домов. В случае прин...

17:00, 10 Июн Венгрия официально отказалась поставлять оружие Киеву и поддержать расширение ЕС Новое правительство Венгрии выступило категорически против отправки военной помощи Киеву и форсированного принятия соседней республики в состав Европ...

15:00, 20 Июн Наоми Кэмпбелл требует снять с неё запрет на руководство благотворительными фондами 56-летняя модель Наоми Кэмпбелл судится с правительством Великобритании, чтобы с неё сняли запрет на руководство благотворительными организациями.По ...

06:00, 18 Май Война в темноте: оружие, которое сделало советский спецназ неуловимым в Афганистане В начале Афганской войны у моджахедов была популярна поговорка: "Мы не боимся русских. Мы боимся их вертолетов". Грозные Ми-24 и летящие на бреющем п...

02:00, 16 Июн В Тверской области для остановки пьяного лихача было применено табельное оружие Поздним вечером 13 июня в Удомельском округе инспекторы заметили легковой автомобиль Chevrolet Cruze, который ехал по проселочной грунтовой дороге вб...

23:00, 19 Июл От взрыва к спасению: как атомная бомба подарила врачам оружие против рака Разработка атомного оружия в середине прошлого века дала неожиданный и мощный импульс гражданским технологиям, которые сегодня спасают сотни тысяч ро...

05:00, 04 Май Смертельное пение с небес: как кочевники создали первое в истории акустическое оружие Обычная стрела в арсенале древних воинов была воплощением функциональности — она должна была лететь бесшумно и точно, чтобы поразить цель до того, ка...

03:00, 23 Апр Жуткая тайна из глубины. Иран создал внутри горы оружие Судного дня для США Корпус стражей исламской революции (КСИР) Ирана опубликовал видео обширных подземных хранилищ с ракетами, БПЛА и пусковыми установками.Кадры, снятые ...

22:00, 08 Июл Плата за цифровые ящики и запрет рекламы: как Госдума поддержит «Почту России» Фото: Почта России Сегодня, 8 июля, Госдума приняла во втором и третьем чтениях масштабный законопроект о финансовой и технологической поддержке «Поч...

08:00, 16 Май Узник чёрного списка: за что житель Амстердама получил 30-летний запрет на полёты Система авиабезопасности — это не только ленты сканеров и вежливые просьбы снять ремень. Это жесткий алгоритм с нулевой толерантностью к ошибкам. Ког...

21:00, 16 Июн Павел Дуров заявил, что запрет соцсетей для подростков подвергает их "большей опасности" 41-летний миллиардер, основатель мессенджера Telegram Павел Дуров, заявил, что запрет соцсетей не остановит подростков от их использования. "Запрет с...

18:00, 25 Апр Физика вместо химии: наностолбики превращают пластик в смертельное оружие против вируса Микромир — это поле вечной позиционной войны, где мы десятилетиями проигрывали вирусам в маневренности. Но инженеры из RMIT решили сменить тактику: в...

07:00, 08 Июл Первоклассникам готовят школу без домашки: запрет может промахнуться мимо настоящей проблемы Вместо полной отмены домашних заданий для учащихся первых классов Министерству просвещения следует предоставить педагогам право самостоятельно опреде...

18:00, 08 Июл Кран за границу перекрыли: Россия ввела полный запрет на экспорт дизельного топлива Правительство РФ применило хирургический метод для купирования дефицита на топливном рынке. Вице-премьер Александр Новак объявил о введении полного э...

06:00, 27 Апр Секретное оружие Роскосмоса для захвата Марса: этот двигатель называют убийцей классических ракет Девять месяцев в жестяной банке по пути к Красной планете — сомнительное удовольствие. Но представьте: вы долетаете до Марса за месяц. Это не фантаст...

01:00, 21 Июл Битва суперфлагманов: топовые видеокарты GeForce RTX 4090 и GeForce RTX 5090 сравнили в 4K Результаты в 4K:Assassin's Creed Black Flag Resynced: 47 fps (GeForce RTX 4090), 60 fps (GeForce RTX 5090).Forza Horizon 6: 112 fps (GeForce RTX 4090...

09:00, 09 Июл Мечта о дешевом отпуске в Египте рассыпается на глазах: один запрет перевернул рынок жилья Рынок краткосрочной аренды в Египте столкнулся с масштабными зачистками: власти страны официально запретили иностранцам селиться в частном секторе, н...

21:00, 23 Июл ЕС ввёл 21-й пакет санкций против России. Запрет коснулся десятков банков и нефтяного сектора Евросоюз объявил о введении 21-го пакета антироссийских санкций. Под ограничения попали 32 банка, нефтяные биржи, танкеры и криптовалютные компании. ...

11:00, 26 Июл Бензин решили оставить дома: Россия продлила запрет на экспорт топлива до конца года Российское правительство приняло решение сохранить жесткий контроль над внутренним рынком нефтепродуктов, продлив временный запрет на вывоз бензина з...

15:00, 26 Июн Запрет Apple в России перестал звучать как фантастика: жесткая мера затронет миллионы пользователей Запрет на реализацию и использование техники Apple в России осуществим с юридической точки зрения, однако такая мера нанесет ущерб внутреннему рынку ...

05:00, 20 Апр Массовый психоз или тайное оружие? Жуткий феномен 1954 года, который до смерти напугал Америку Весна 1954 года в США запомнилась не политическими играми, а волной иррационального вандализма. Полиция, баллистики и физики разводили руками: страну...

08:00, 27 Апр «Краснодар» сохранил отрыв от «Зенита», 144 минуты штрафа в матче «Авангарда» и «Локомотива», «Челси» в финале Кубка Англии, нули на «Сан-Сиро», отменен запрет на вувузелы и другие новости 1. В 27-м туре Мир РПЛ «Краснодар» одержал волевую победу над «Динамо» Махачкала (2:1): Кордоба забил, Сперцян попал в штангу с пенальти, у Косты авт...

07:00, 24 Апр Битва перископов: новейший Oppo Find X9 Ultra сравнили с Samsung Galaxy S23 Ultra, Galaxy S26 Ultra и iPhone 17 Pro Max при съёмке текста Сравнение показало, что при съёмке текста на расстоянии OPPO значительно опережает Samsung и AppleИнсайдер Ice Universe поделился сравнением камер фл...