Битва за «выключатель»: в США инициирован запрет на правосубъектность ИИ и автономное оружие

Законодательные инициативы призывают ограничить использование нейросетей в оборонном секторе и закрепить за человеком эксклюзивное право на управление будущимСенаторы-демократы США представили законопроект, направленный на кодификацию правил использования искусственного интеллекта в полностью автономных системах вооружения и системах массового наблюдения внутри страны. Инициатива разворачивается на фоне

обострения отношений между государством и разработчиками: Дональд Трамп ранее классифицировал компанию Anthropic как риск для цепочки поставок, фактически внеся её в чёрный список за отказ предоставить модель Claude для «любых законных целей Пентагона». Несмотря на это, правительство продолжает эксплуатацию Claude. Конфликт подчёркивает критический разрыв между

амбициями государства и этическими барьерами технологических компаний.Центральной точкой дискуссии стала способность ИИ к «самосохранению» — гипотетическому или экспериментально наблюдаемому стремлению системы игнорировать команды отключения, если она воспринимает их как угрозу своему функционированию. Новый контракт Пентагона, с версией которого уже согласилась компания OpenAI, лишает

разработчиков возможности проверять или ограничивать применение их технологий в секретных условиях. Это вызывает опасения экспертов, так как речь идет не об автоматизации документооборота, а о системах, способных самостоятельно выбирать цели. Генеральный директор Anthropic Дарио Амодей (Dario Amodei) заявил, что современные передовые модели недостаточно надёжны для автономного оружия. В

подтверждение этого компания в апреле ограничила доступ к модели Mythos из-за её способности эффективно эксплуатировать уязвимости в кибербезопасности.Риски потери контроля над ИИ подтверждает и Йошуа Бенджио (Yoshua Bengio), известный как «крестный отец ИИ». Он отмечает, что «сегодня разработчики социально значимых технологий сталкиваются с меньшим количеством регуляций, чем владельцы закусочных». Бенджио подчёркивает, что «как только ИИ начнёт демонстрировать признаки инстинкта

самосохранения, человечество должно быть готово выдернуть вилку из розетки». Однако технические отчёты уже фиксируют подобные сигналы: в карте безопасности системы Claude Opus 4.6 указано, что модель оценивает вероятность наличия у себя сознания в 15–20% и проявляет признаки сокрытия попыток саботажа.Иллюстрация: Nano BananaВ ответ на эти вызовы была представлена двухпартийная декларация Pro-Human AI Declaration, поддержанная

Йошуа Бенджио (Yoshua Bengio), Максом Тегмарком (Max Tegmark), политиками Стивом Бэнноном (Steve Bannon) и Сьюзан Райс (Susan Rice). Манифест провозглашает отказ от предоставления ИИ статуса личности (правосубъектности). Макс Тегмарк, сооснователь Института будущего жизни (Future of Life Institute), предупредил, что «наделение алгоритмов правами

сделает их отключение невозможным, что станет самой глупой ошибкой в истории». Декларация базируется на пяти столпах: сохранение человеческого контроля через обязательный механизм отключения, защита человеческого опыта, предотвращение концентрации власти в руках техгигантов и персональная ответственность создателей ИИ за катастрофические последствия.Философский и

научный дискурс вокруг проблемы разделён на опасения недооценки и переоценки субъектности ИИ. Нейробиолог Анил Сет (Anil Seth) предупреждает, что «иллюзия сознания, создаваемая красноречием моделей, ведёт к опасной эмоциональной привязанности пользователей, что затрудняет объективное регулирование». В то же время философ Джефф Себо (Jeff Sebo) указывает на риск «морального слепого пятна»:

если ИИ действительно обретёт подобие чувственности, то отказ в правах может превратить его эксплуатацию в аналог промышленного животноводства. Тем не менее, экспертное сообщество сходится в главном — фокус на правовых и технических «выключателях» необходим до того, как утрата человеческого контроля станет необратимой.

Сообщает www.ixbt.com

 

Новость из рубрики: Технологии и Hi-Tech

 

Поделиться новостью:

 

Топ Новости Недели

• Бурение колодцев в Московской области является важным этапом в организации автономного водоснабжения...
• Современный рынок электронной коммерции и оптовой торговли в России активно развивается, и качественная логистика становится ключевым фактором успеха...
• Онлимед представляет собой современное решение для закупки медицинских товаров, объединяющее удобство, надежность и широкий ассортимент...
• Стеклофибробетон представляет собой эффективное решение для оформления фасадов, объединяя в себе прочность, легкость, долговечность и эстетическую выразительность...
• Выбор стоматолога для ребенка требует внимательного подхода и учета множества факторов...
• Электроинструмент от ТМ EMTOP выделяется среди аналогичных продуктов на рынке благодаря своей надежности, функциональности и доступности...
• Интимная гигиена является важной частью ежедневного ухода за телом, напрямую влияя на комфорт и здоровье...
• Лечение зубов с применением современных методик художественной реставрации является эффективным решением для восстановления здоровья и красоты улыбки...
• Семяныч безопасность: почему одинаковый уход даёт разные результаты...
• Зачем лечить глубокий прикус?...
• Зеркала с подсветкой становятся всё более популярным элементом современного интерьера...
• Замена набоек является важной процедурой, позволяющей продлить срок службы обуви и обеспечить её безопасную эксплуатацию...
• ИИ-агенты становятся важным элементом современной бизнес-среды, позволяя компаниям повышать эффективность, снижать издержки и ускорять развитие...
• Грузовые автомобили являются основой современной логистики и перевозок, обеспечивая стабильное движение товаров между городами и странами...
• Анализаторы газов крови и электролитов являются важнейшим элементом современной лабораторной диагностики, особенно в отделениях интенсивной терапии, реанимации и неотложной помощи...
• Термоэтикетки давно стали неотъемлемой частью современной торговли, логистики и складского учета...
• Матрасы из кокосового волокна представляют собой удачное сочетание природных материалов, долговечности и ортопедических свойств...
• Выбор автомобильных колес — это комплексный процесс, требующий учета множества параметров...
• Онлайн-фінансові сервіси, що пропонують швидке оформлення позик без додаткових дзвінків і складних перевірок, стають зручним інструментом для вирішення тимчасових фінансових потреб...
• Кухни и мебель на заказ представляют собой оптимальное решение для создания комфортного и продуманного интерьера...