Белый дом и Anthropic обсуждают проверку ИИ-моделей

Белый дом обсуждает с Anthropic процедуру, по которой власти США смогут оценивать риски новых ИИ-моделей до их широкого выпуска и вмешиваться, если обнаружат угрозы для нацбезопасности или экономики. Переговоры вышли на уровень технических стандартов после того, как

США фактически заблокировали доступ к двум продвинутым моделям компании из-за спора о серьёзности уязвимостей. Для Anthropic это попытка вернуться в регуляторное поле без нового публичного конфликта с Вашингтоном. Предмет обсуждения шире, чем список отдельных уязвимостей. Белый дом хочет закрепить две вещи: единые критерии оценки рисков и методику расчёта последствий, если злоумышленники используют модель для запрещённых задач. В исходном споре фигурировали опасения, что

ограничения можно обойти и применить систему, в том числе для помощи в разработке биологического оружия. Для рынка это важный сдвиг. До сих пор крупные разработчики в США в основном опирались на добровольные обязательства по тестированию и публикации отчётов о безопасности.

Теперь Вашингтон, судя по ходу переговоров, пытается превратить такие практики в более формальную процедуру. Похожий поворот власти США наметили ещё в 2023 году, когда Anthropic, OpenAI, Google и Microsoft в Белом доме согласились на добровольные принципы тестирования мощных моделей. Проверка ИИ-моделей в США Поводом для нынешних консультаций стал

конфликт недельной давности. Тогда специалисты Amazon обнаружили в модели Fable 5 уязвимости, которые, по версии американских властей, могли позволить обходить встроенные ограничения. Anthropic не согласилась с тем, что проблема носит критический характер, после чего власти настояли на закрытии доступа к двум передовым моделям для иностранных граждан. Избирательно ограничить доступ компания не смогла, поэтому сервис пришлось закрыть для всех

пользователей этих систем. Такой сценарий оказался чувствительным и для бизнеса, и для политики. Anthropic продаёт модели как через собственные сервисы, так и через облачные платформы партнёров, а простой даже на несколько дней бьёт по выручке и по репутации надёжного поставщика. Здесь есть и отдельный корпоративный фон. Anthropic остаётся одним из крупнейших независимых игроков на рынке

генеративного ИИ, хотя финансово давно опирается на стратегических партнёров. Amazon заявляла о планах инвестировать в компанию до $8 млрд, а Google ранее вложила в стартап более $2 млрд. Когда у такого разработчика возникают вопросы к безопасному выпуску

моделей, тема автоматически становится не только регуляторной, но и инфраструктурной: его технологии уже встроены в чужие облака и корпоративные продукты. В самой логике переговоров заметен разворот всей отрасли. После бума генеративного ИИ в 2023 и 2024 годах разработчики соревновались в скорости выпуска новых моделей, а власти ограничивались общими рамками. Теперь фокус смещается к процедурам предрелизной проверки. Аналогичный процесс идёт и в Европе, где AI Act вводит требования к

оценке рисков для отдельных категорий систем, хотя американский подход пока выглядит более точечным и завязанным на переговорах с компаниями. Для Anthropic это уже не первая встреча с повесткой «безопасность прежде релиза». Компания изначально строила бренд вокруг более осторожного развития ИИ и была основана выходцами из OpenAI, которые как раз делали акцент на управляемости моделей. Тем

заметнее нынешний эпизод: стартап, долго говоривший о рисках, сам оказался в ситуации, когда его модели пришлось экстренно ограничивать. Если Белый дом и Anthropic договорятся о шаблоне оценки уязвимостей, он почти неизбежно станет ориентиром и для остальных крупных игроков, включая OpenAI, Google DeepMind и Meta*. Это особенно вероятно на фоне того, что рынок генеративного ИИ быстро концентрируется вокруг нескольких поставщиков базовых моделей. По

оценкам IDC, мировые расходы на ИИ-системы к 2028 году превысят $600 млрд, и без единой процедуры проверки регулятору придётся разбирать каждый конфликт вручную. Ответ на вопрос, станет ли нынешняя схема отраслевым стандартом, может появиться уже в ближайшие месяцы, когда США определят режим

допуска для следующих поколений моделей. * Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена.

Белый дом и Anthropic обсуждают проверку ИИ-моделей

Сообщает itzine.ru

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

Успешный белый мужик, а цель женщина, да ещё и бывшая. В сети обсуждают конфликт Максима Фадеева с Линдой и уголовное дело против неё 00:00, 14 Май "Успешный белый мужик, а цель — женщина, да ещё и бывшая". В сети обсуждают конфликт Максима Фадеева с Линдой и уголовное дело против неё На фоне конфликта Максима Фадеева с его бывшей подопечной Линдой, которую ранее задержали по делу о присвоении авторских прав на песни продюсера, в с...

07:00, 18 Май Дороже золота: как инфляция превратила привычную Анталью в проверку кошелька на прочность Турция стремительно превращается в элитный клуб, входной билет в который стоит от 185 тысяч рублей на двоих. Инфляция и аппетиты отельеров превратили...

02:00, 30 Май Соцфонд начал жесткую проверку: какие доходы мгновенно лишают права на пособия Государственная машина отсекает претендентов на поддержку с хирургической точностью. В 2026 году даже скромный банковский вклад может обнулить право ...

01:00, 30 Апр ФАС проведет проверку операторов связи по запросу банков из-за новых тарифов на обязательную маркировку звонков ФАС проверит операторов связи: банки не понимают, из чего складывается тариф 0,25 рубля за маркировку каждого звонка. Федеральная антимонопольная слу...

02:00, 04 Июн NASA завершает финальную проверку космического телескопа Nancy Grace Roman перед отправкой к стартовой площадке Завершение инспекции 2,4-метрового зеркала означает переход миссии в финальную стадию подготовки к запуску в обсервационную точку L2, где он будет из...

16:00, 16 Июн Вэнс подтвердил предотвращение атаки террористов на Белый дом Американские правоохранительные органы успешно пресекли масштабный план вооруженного нападения на резиденцию главы государства во время проведения кр...

02:00, 22 Апр CNN: Вэнс, Рубио и Хегсет прибыли на совещание в Белый дом Американские чиновники во главе с вице-президентом Джей Ди Вэнсом, госсекретарем Марко Рубио, министром обороны Питом Хегсетом и директором ЦРУ Джоно...

03:00, 27 Апр WP: Белый дом не обеспечил полную безопасность на приеме с Трампом Власти США, по имеющимся данным, не задействовали максимально возможные меры безопасности во время приёма Ассоциации корреспондентов при Белом доме, ...

16:00, 24 Май И белый мрамор потемнел. Как выглядит могила Олега Ефремова сегодня Актер, режиссер, создатель театра «Современник» Олег Ефремов ушел из жизни 24 мая 2000 года. В 26-ю годовщину смерти корреспондент aif.ru побывал на ...

05:00, 14 Июн Точка притяжения на юге России: Винный город «Белый мыс» открылся в Геленджике В Геленджике открылся уникальный проект — Винный город «Белый мыс», который станет одной из точек притяжения на российском юге. На пространстве в 42 ...

23:00, 24 Апр «ЛизаАлерт», клиники и каршеринг вошли в обновлённый «белый список» Минцифры Минцифры расширило перечень онлайн-ресурсов, работающих при ограничениях мобильного интернета, до 500 наименований. Впервые в список включили поисков...

03:00, 27 Апр Белый список в России: какие сайты работают при отключении мобильного интернета Если вы живёте в России и пользуетесь iPhone, то наверняка уже сталкивались с ситуацией, когда мобильный интернет внезапно переставал работать. Привы...

13:00, 25 Апр "Не соответствует образу". Хелена Бонем Картер покинула проект "Белый лотос" 59-летняя актриса Хелена Бонем Картер, известная по ролям в культовых кинокартинах "Бойцовский клуб", "Алиса в Стране чудес", "Гарри Поттер и Дары См...

22:00, 18 Апр Anthropic запустила Claude Design для Mac Anthropic выпустила Claude Design для Mac — инструмент для проектирования интерфейсов и прототипов на базе Opus 4.7. Компания явно пытается закрепить...

06:00, 25 Май Anthropic может получить $559 млн операционной прибыли Anthropic ожидает первый квартал с операционной прибылью. По данным материалов для инвесторов, за квартал, который закончится в июне, разработчик Cla...

08:00, 18 Май Манифест Anthropic посвящен борьбе США и Китая за ИИ Компания Anthropic выпустила манифест, в котором фактически описывает искусственный интеллект как ключевую геополитическую технологию XXI века и пред...

01:00, 17 Июн В США оспорили экспортные ограничения для модели Anthropic Fable 5 Решение США ограничить экспорт модели Anthropic Fable 5 встретило сопротивление не только со стороны самой компании, но и среди специалистов по кибер...

06:00, 18 Июн На Anthropic подали в суд за обман клиентов в подписках Claude Max Anthropic столкнулась с коллективным иском. Человек по имени Карл Кан утверждает, что фирма «вводит в заблуждение подписчиков дорогих тарифов Max 5x ...

17:00, 18 Апр Anthropic запустила Claude Design и ударила по Figma и Adobe Anthropic решила не ограничиваться кодом и офисной рутиной. Компания выпустила Claude Design, отдельное приложение на базе Claude Opus 4.7, которое у...

09:00, 04 Май Anthropic готовит joint venture на $1,5 млрд с Уолл-стрит Anthropic, по данным The Wall Street Journal, близка к сделке на около $1,5 млрд с Blackstone, Goldman Sachs и ещё несколькими игроками Уолл-стрит. И...

14:00, 28 Май Маск назвал 180 дней сроком аренды Colossus для Anthropic Илон Маск заявил, что доступ Anthropic к вычислительным кластерам Colossus оформлен только на 180 дней, а не на многолетний срок. По его словам, в до...

13:00, 13 Июн Anthropic представила Claude Fable 5 и Mythos 5 с новыми возможностями и ограничениями Компания Anthropic объявила о запуске новой модели Claude Fable 5, которую она относит к классу Mythos и позиционирует как безопасную для широкого ис...

23:00, 19 Апр ИИ-бумеранг: глава Anthropic предрёк исчезновение программистов и тут же открыл 429 вакансий для них Глава компании Anthropic Дарио Амодеи заявил, что искусственный интеллект вытеснит инженеров и разработчиков с рынка труда. Одновременно с этим его к...

23:00, 12 Май Anthropic объяснила шантаж со стороны ИИ, когда его хотели заменили на новую версию Anthropic, создатель ИИ-чатбота Claude, выяснила причину необычного поведения своих ИИ. Во время тестов более старая модель Claude Opus 4 в 96% случа...

19:00, 10 Июн Anthropic выпустила Claude Fable 5 – первую публичную модель уровня Mythos Claude Fable 5 представляет собой ограниченную версию модели Claude Mythos, которую компания ранее описывала как «очень мощную и опасную». Claude Fab...

14:00, 19 Апр Anthropic выпустила новую ИИ-модель Claude Opus 4.7. Что она умеет и кому навредила Американская компания Anthropic представила обновлённую версию искусственного интеллекта Claude Opus 4.7. Модель стала мощнее в программировании и ра...

23:00, 11 Июн OpenAI готовится снизить цены вслед за Anthropic, несмотря на миллиардные убытки Лидеры рынка генеративного ИИ могут начать ценовую войну как раз перед выходом на биржуOpenAI рассматривает возможность существенного снижения стоимо...

05:00, 28 Апр Почему банки по всему миру так обеспокоены новейшей моделью искусственного интеллекта от Anthropic? Легендарный американский грабитель банков Уилли Саттон 40 лет грабил банки, потому что, как он утверждал в своей автобиографии , ему это нравилось. А...

17:00, 02 Июн Anthropic расширяет Project Glasswing после обнаружения более 10 тысяч критических уязвимостей с помощью ИИ Компания увеличит число участников программы киберзащиты втрое и предупреждает, что уже в ближайший год аналогичные возможности станут доступны многи...

21:00, 13 Июн США заставили Anthropic отключить пугающе мощные модели Fable 5 и Mythos 5 из-за рисков национальной безопасности Они были выпущены всего несколько дней назадКомпания Anthropic приостановила работу мощнейших моделей искусственного интеллекта Fable 5 и Mythos 5 по...

23:00, 11 Июн Anthropic признала скрытое ограничение Claude Fable 5 и сделала его явным после критики и обвинениях в непрозрачности Публичная версия модели Mythos обходит GPT-5.5 и Gemini 3.1 Pro, но частично «режет» сложные запросы через скрытую маршрутизациюAnthropic представила...

18:00, 03 Июн Anthropic обнулила лимиты Claude Code после сбоя, который ускоренно расходовал квоты пользователей Компания признала ошибку в работе Claude Code, из-за которой некоторые сессии запускали слишком много параллельных процессов и быстрее обычного трати...

13:00, 18 Июн "Машина". В сети обсуждают пресс Криштиану Роналду Люди в сети активно обсуждают пресс 41-летнего футболиста-миллиардера Криштиану Роналду. Спортсмен опуликовал новые снимки с пляжа, на которых продем...

14:00, 15 Июн Мощнейший ИИ, который угрожает национальной безопасности США. Anthropic направила в Вашингтон специалистов, чтобы договориться о включении Fable 5 и Mythos 5 Ранее модели были отключеныТехнические специалисты Anthropic прибыли в Вашингтон для встречи с представителями Белого дома, чтобы попытаться разрешит...

03:00, 10 Июн Мощная нейросеть, которая помогла найти дыры безопасности в Linux, macOS, Firefox — Anthropic выпустила Claude Fable 5 Также вышла ее ограниченная версия — Mythos 5Компания Anthropic представила новое поколение своих ИИ-моделей — Claude Fable 5 и Claude Mythos 5. По с...

15:00, 12 Май "Рано оскуфел". В сети обсуждают внешность Николая Лукашенко Пользователи сети активно обсуждают внезапно "постаревшего" сына президента Республики Беларусь Александра Лукашенко, 21-летнего Николая. Во время ви...

04:00, 18 Июн Почему все обсуждают новый показ "отменённого" Гоши Рубчинского В сети обсуждают первый с 2018 года показ Гоши Рубчинского, который разделил московскую тусовку на два лагеря. Посмотреть шоу собралась самая разная ...

16:00, 28 Май "Мамина копия". В сети обсуждают подросшую дочь певицы МакSим МакSим (настоящее имя — Марина Абросимова) похвасталась спортивными успехами дочери Марии: 11-летняя девочка заняла первое место на соревнованиях по ...

21:00, 11 Июн "Стилист за что-то отомстил". В сети обсуждают новый образ Регины Тодоренко В сети обсуждают новый образ Регины Тодоренко, в котором она появилась на премии ТЭФИ-2026. Телеведущая была в серой рубашке и укороченной куртке, из...

02:00, 20 Апр Власти Сиэтла обсуждают мораторий на новые дата-центры из-за нагрузки на энергосистему Проекты мощностью 369 МВт — почти треть потребления города — вызывают опасения по поводу тарифов, экологии и устойчивости инфраструктурыГородские вла...

01:00, 09 Май "Актёрам нужно запретить ботокс". В сети обсуждают "пропавшую" мимику Энн Хэтэуэй В сети раскритиковали 43-летнюю актрису Энн Хэтэуэй за "ботоксное лицо" после выхода трейлера нового фильма Кристофера Нолана "Одиссея".В историческо...

20:00, 25 Май В сети обсуждают внешность Снежаны Онопко после её появления на Каннском кинофестивале Внешность модели Снежаны Онопко, которая недавно посетила Каннский кинофестиваль после четырёх лет непубличной жизни, напугала пользователей сети.Пос...

15:00, 28 Апр "Что случилось с её глазами?". В сети обсуждают "новое" лицо 50-летней Анджелины Джоли Анджелина Джоли совершила редкий выход в свет и вновь дала повод для разговоров о своём внешнем виде. В сети опять обсуждают странности с лицом 50-ле...

15:00, 02 Май "Мы все постареем, кроме неё". В сети обсуждают фигуру 68-летней Шэрон Стоун в бикини В сети обсуждают фигуру 68-летней Шэрон Стоун в купальнике. Свежим снимком в бикини актриса поделилась в инстаграме*, показав, как наслаждается отдых...

04:00, 18 Июн "Слава Богу, она пришла в себя". В сети обсуждают "похорошевшую" Келли Осборн В сети обсуждают Келли Осборн после её появления на ежегодных королевских скачках Royal Ascot. Пользователи отмечают, что 41-летняя дочь покойного Оз...

18:00, 12 Май "Рано оскуфел". В сети обсуждают внешность сына президента Белоруссии Николая Лукашенко В сети активно обсуждают внезапно "постаревшего" сына президента Белоруссии Александра Лукашенко, 21-летнего Николая. Во время визита белорусской дел...

14:00, 04 Май В сети обсуждают новую откровенную фотосессию Анастасии Мироновой на фоне расставания с Navai Фото из новой фотосессии бывшей рэпера Navai Анастасии Мироновой вновь обсуждают в сети. Некоторые поклонники сочли снимки слишком откровенными и пос...

08:00, 06 Май "Живой мертвец". В сети обсуждают "голый" образ 76-летней Веры Вонг на Met Gala Накануне Вера Вонг в числе других селебрити посетила ежегодный благотворительный бал Met Gala. Однако уже после мероприятия 76-летний модельер в очер...

19:00, 14 Май "Минимум смысла и максимум хайпа". В сети обсуждают спектакль "Гамлет" с Юрой Борисовым в МХТ В сети обсуждают театральный дебют Юры Борисова в спектакле "Гамлет", премьера которого состоится сегодня в МХТ им. Чехова. Закрытые предпоказы уже п...

17:00, 19 Май В сети снова обсуждают "конфликт" между матерью Тимати и его бывшей девушкой Анастасией Решетовой В сети снова обсуждают "конфликт" между матерью Тимати и его бывшей девушкой Анастасией Решетовой. Всё из-за новых фото: Симона Юнусова опубликовала ...

15:22, 18 Апр "После родов просто прайм". В сети обсуждают похудевшую невесту Тимати Валентину Иванову 32-летняя невеста Тимати Валентина Иванова, которая родила от рэпера дочь в августе прошлого года, выложила в соцсети новые фото в откровенном образе...

15:00, 28 Апр "Если бы люкс был человеком". В сети обсуждают "образ жениха" Максима Галкина* со свадьбы в Каннах 49-летний Максим Галкин*, который на днях приковал к себе внимание публики проведением роскошной свадьбы в Каннах, вызвал восхищённые обсуждения в се...

18:00, 29 Апр "Самая крутая трансформация". В сети обсуждают преображение 54-летней звезды "Интернов" Светланы Пермяковой В сети обсуждают преображение 54-летней Светланы Пермяковой — гопницы Светки из команды КВН "Парма" и корпулентной медсестры Любы из сериала "Интерны...

11:00, 21 Апр "После свадьбы преобразился". В сети обсуждают редкое фото 62-летнего миллиардера Евгения Швидлера В сети появилось редкое фото 62-летнего миллиардера и бизнес-партнёра Романа Абрамовича Евгения Швидлера, который долгое время считался одним из самы...

19:00, 20 Май "Триумфальное возвращение". В сети обсуждают новый фильм Андрея Звягинцева "Минотавр" о современной России Накануне в основном конкурсе 79-го Каннского кинофестиваля состоялась мировая премьера "Минотавра" — первого за долгое время фильма режиссёра Андрея ...

22:00, 20 Май "Перекроила себя". В сети обсуждают "новое" лицо экс-"ангела" Victoria's Secret Изабель Гулар В сети обсуждают "новое" лицо бывшего "ангела" Victoria's Secret Изабель Гулар. 41-летняя супермодель появилась на красной дорожке 79-го Каннского ки...

08:00, 21 Май "Старые дети уже не интересны". На Spletnik обсуждают Данилу Козловского и Оксану Акиньшину, у которых родился сын На Spletnik обсуждают новость о том, что Оксана Акиньшина родила сына от Данилы Козловского: мальчик по имени Лео появился на свет 6 мая в "звёздной"...

19:00, 24 Май Физики всерьёз обсуждают «квантовый саботаж», способный незаметно взламывать защищённую связь будущего Новая волна исследований ставит под вопрос фундаментальный принцип квантовой криптографии: учёные пытаются понять, возможна ли в природе «квантовая г...

11:00, 16 Май "Рядом с вами ваш бывший муж". В сети обсуждают внешность старшего сына Юлии Барановской от Андрея Аршавина Юлия Барановская выложила новые фотографии со своим старшим сыном от футболиста Андрея Аршавина, 20-летним Артёмом, которого многие поклонники "переп...

00:00, 08 Июн "Ради этого мой муж оплачивает ВПН". В сети обсуждают иноагента Максима Галкина, который показал свой пресс В сети обсуждают 49-летнего иноагента Максима Галкина*, который опубликовал в инстаграме** фото своего пресса. На фотографии он держит футболку зубам...

15:00, 12 Май "Сучки, деньги, никаких налогов, вечеринка". В сети обсуждают новый "странный" пост Илона Маска 54-летний предприниматель Илон Маск после заявления о том, что он заплатил налогов больше, чем кто-либо в истории, написал загадочный пост в X."Сучки...

04:00, 23 Апр "Она думает, народ тупой совсем?". На Spletnik обсуждают интервью с дочерью миллиардера Дианой Манасир о её роскошной жизни На Spletnik обсуждают интервью с дочерью миллиардера Дианой Манасир, в котором она, в частности, заявила, что несмотря на жизнь в роскоши, знает, как...

12:00, 24 Май "Русский человек обратился к русскому президенту". В сети обсуждают награду Андрея Звягинцева за фильм "Минотавр" на Каннском кинофестивале В сети обсуждуют награду Андрея Звягинцева за фильм "Минотавр": одни считают, что он "против" русских, другие — что "за". Так, своим мнением поделила...

09:00, 25 Май "Сфинкса нос видел? Я сломал". Поклонники из России обсуждают новые фото Джейсона Стэтхема с Рози Хантингтон-Уайтли в Египте 58-летний Джейсон Стэтхем, ставший одним из любимых мемов россиян, показал в соцсетях новые фото из путешествия в Египет, где компанию ему составила ...

21:00, 16 Июн "Неужели в России такая фигура считается красивой?". В сети снова обсуждают худобу Стеши Маликовой из-за её новых фото Стешу Маликову, которая отдыхает на Мальдивах, снова раскритиковали за худобу. 26-летняя дочь Дмитрия Маликова показала фигуру на новых фото в соцсет...

00:00, 07 Июн "******** ПМЭФ даже более горько, чем ******** лето". В телеграме обсуждают, кто и сколько пьёт на ПМЭФ-2026 Традиционно в рамках Петербургского международного экономического форума (ПМЭФ) множество крупных брендов проводят светские вечеринки, которые сопров...

03:00, 06 Июн "******** ПМЭФ даже более горько, чем ******** лето". В телеграме обсуждают кто и сколько пьёт на ПМЭФ-2026 Традиционно в рамках Петербургского международного экономического форума (ПМЭФ) множество крупных брендов проводят светские вечеринки, которые сопров...

05:00, 28 Апр Google инвестирует 10 миллиардов долларов, и может добавить еще 30 миллиардов долларов в Anthropic В пятницу компания Google подтвердила, что планирует инвестировать до 40 миллиардов долларов в Anthropic, расширяя давнее партнерство между двумя ком...