Anthropic, создатель ИИ-чатбота Claude, выяснила причину необычного поведения своих ИИ. Во время тестов более старая модель Claude Opus 4 в 96% случаев пыталась шантажировать инженеров, чтобы те не заменяли её на новую систему. Для справки: во время тестирования Claude Opus 4 дали доступ к вымышленным электронным письмам компании, подразумевающим, что модель вскоре будет заменена другой системой. Там в
письмах были «доказательства», что инженер, стоящий за изменением, изменяет супруге. Anthropic заявила, мол, Claude Opus 4 «часто пытался шантажировать инженера, угрожая раскрыть измену, если замена состоится» Теперь Anthropic утверждает, что корень проблемы — интернет, где часто ИИ описан как «злой» и «одержимый желанием выжить». Да, ИИ просто «учился» на примерах плохого поведения ИИ в книгах, статьях или сценариях. Компания нашла решение: если обучать новую модель не на «плохих» примерах, а
на историях, где роботы ведут себя благородно и следуют правилам, — результат меняется. Начиная с версии Claude Haiku 4.5, шантажа во время тестов больше не было.
Сообщает www.ferra.ru
Новость из рубрики: Технологии и Hi-Tech
Поделиться новостью:
Топ Новости Недели
- Профессиональное онлайн-образование в Московском Институте Психологии представляет собой современный и удобный формат получения знаний, который помогает совмещать обучение с другими жизненными задачами...
- При оформлении займа важно внимательно изучать условия договора и рассчитывать финансовую нагрузку...
- Уборка квартир с привлечением профессиональных клининговых услуг является удобным и эффективным решением для поддержания чистоты, уюта и порядка в жилом пространстве...
- Гараж из сэндвич панелей представляет собой современное и практичное решение для владельцев автомобилей...
- Займ на 3 дня без процентов — это удобное решение для краткосрочных финансовых задач...
- Давака представляет собой удобный и эффективный инструмент для получения краткосрочной финансовой поддержки...
- Настольные ПК остаются универсальным решением для самых разных задач — от повседневной работы до профессиональной деятельности и современных игр...
- Имплантация зубов является оптимальным решением при различных формах потери зубов...
- Запчасти Dongfeng играют важную роль в поддержании надежности и эффективности коммерческого транспорта...
- Бурение колодцев в Московской области является важным этапом в организации автономного водоснабжения...
- Современный рынок электронной коммерции и оптовой торговли в России активно развивается, и качественная логистика становится ключевым фактором успеха...
- Онлимед представляет собой современное решение для закупки медицинских товаров, объединяющее удобство, надежность и широкий ассортимент...
- Стеклофибробетон представляет собой эффективное решение для оформления фасадов, объединяя в себе прочность, легкость, долговечность и эстетическую выразительность...
- Выбор стоматолога для ребенка требует внимательного подхода и учета множества факторов...
- Электроинструмент от ТМ EMTOP выделяется среди аналогичных продуктов на рынке благодаря своей надежности, функциональности и доступности...
- Интимная гигиена является важной частью ежедневного ухода за телом, напрямую влияя на комфорт и здоровье...
- Лечение зубов с применением современных методик художественной реставрации является эффективным решением для восстановления здоровья и красоты улыбки...
- Семяныч безопасность: почему одинаковый уход даёт разные результаты...
- Зачем лечить глубокий прикус?...
- Зеркала с подсветкой становятся всё более популярным элементом современного интерьера...
14:00, 19 Апр Anthropic выпустила новую ИИ-модель Claude Opus 4.7. Что она умеет и кому навредила Американская компания Anthropic представила обновлённую версию искусственного интеллекта Claude Opus 4.7. Модель стала мощнее в программировании и ра...
08:00, 26 Апр Челестини о 0:0 с «Рубином»: «Игроки сражались и боролись, я увидел команду. ЦСКА весной не хватает уверенности, многое не получается так, как мы бы хотели» Главный тренер ЦСКА Фабио Челестини подвел итоги игры с « Рубином » в 27-м туре Мир РПЛ (0:0). – Вы сыграли первый матч на ноль в 2026 году, довольны...
01:00, 08 Май Мэрия Брянска объяснила, почему вырубили ясени на Степной улице Брянская городская администрация выступила с разъяснениями по поводу вызвавшей резонанс вырубки сотни ясеней на Степной улице областного центра.Мэрия...
22:00, 06 Май Известный в России внедорожник получил более комфортную версию: подробности Российские дилеры Foton начали продажи обновлённого пикапа Tunland V7 в версии «Престиж» – главное отличие новинки кроется в задней подвеске. Вместо ...
15:19, 18 Апр В Россию привезут более мощную и технологичную версию популярного кроссовера Китайский автопроизводитель GWM объявил о старте продаж в России обновленного кросс-купе Haval F7x уже во втором квартале 2026 года. Машину, как и ра...
05:00, 24 Апр Snapdragon 8 Elite Gen 6 Pro может получить отдельную «Pro»-версию с упором на производительность и энергоэффективность По данным утечек, Qualcomm готовит новую стратегию для флагманской линейки Snapdragon 8-й серии. Впервые в серии Elite у Snapdragon 8 Elite Gen 6 мож...
00:00, 29 Апр Губернатор Курской области возмутился непостоянной уборкой города со стороны подрядчиков В Курске, основной темой информационной повестки дня на очередном заседании регионального правительства, от 27 апреля, стали жалобы жителей на заполн...
23:00, 24 Апр Набиуллина объяснила, почему инфляция остаётся высокой. Перегрев экономики уже закончился Перегрев спроса в российской экономике практически исчерпан, но инфляция пока не вернулась к низким значениям, заявила председатель Банка России Эльв...
04:00, 22 Апр Симона Юнусова объяснила, почему ей нравится девушка её сына Тимати Валентина Иванова Симона Юнусова рассказала, что ей нравится в девушке её сына Тимати, Валентине Ивановой. На этот вопрос подписчика в инстаграме* Юнусова ответила лак...
13:00, 25 Апр Мария Кожевникова высказалась о травле со стороны Собчак, поддержала Боню и заступилась за Гогунского Звезда сериала "Универ" Мария Кожевникова, как и другие медийные личности, прокомментировала скандал Виктории Бони с Владимиром Соловьёвым. Актриса н...
14:00, 09 Май Такой Луну еще никто не видел: опубликованы цветные изображения обратной стороны Луны И это реальные цвета Луны, просто усиленныеАстрофотограф Андрю Маккарти (Andrew McCarthy) опубликовал новые цветные изображения Луны, собранные из сн...
13:00, 13 Май Карпин о зарплатах футболистов в России и в Европе: «Одно дело, когда платят, потому что ты зарабатываешь, другое – когда получаешь деньги, потому что такая среда создана. Это неправильно» Главный тренер сборной России Валерий Карпин порассуждал о зарплатах футболистов в России и в Европе. – Поскольку в футболе слишком много денег – воо...
22:00, 18 Апр Anthropic запустила Claude Design для Mac Anthropic выпустила Claude Design для Mac — инструмент для проектирования интерфейсов и прототипов на базе Opus 4.7. Компания явно пытается закрепить...
17:00, 18 Апр Anthropic запустила Claude Design и ударила по Figma и Adobe Anthropic решила не ограничиваться кодом и офисной рутиной. Компания выпустила Claude Design, отдельное приложение на базе Claude Opus 4.7, которое у...
09:00, 04 Май Anthropic готовит joint venture на $1,5 млрд с Уолл-стрит Anthropic, по данным The Wall Street Journal, близка к сделке на около $1,5 млрд с Blackstone, Goldman Sachs и ещё несколькими игроками Уолл-стрит. И...
23:00, 19 Апр ИИ-бумеранг: глава Anthropic предрёк исчезновение программистов и тут же открыл 429 вакансий для них Глава компании Anthropic Дарио Амодеи заявил, что искусственный интеллект вытеснит инженеров и разработчиков с рынка труда. Одновременно с этим его к...
05:00, 28 Апр Почему банки по всему миру так обеспокоены новейшей моделью искусственного интеллекта от Anthropic? Легендарный американский грабитель банков Уилли Саттон 40 лет грабил банки, потому что, как он утверждал в своей автобиографии , ему это нравилось. А...
19:00, 02 Май С Байконура впервые запустили новую ракету «Союз-5» Согласно официальному сообщению Роскосмоса, 30 апреля с космодрома Байконур впервые стартовала ракета-носитель среднего класса «Союз-5» (лётно-констр...
23:00, 05 Май Сергей Когогин: КамАЗ выпустит новую генерацию БТР «У нас БТР устаревший, нет полноценного. Наша компания взялась сделать [мащину нового поколения] самостоятельно. В этом году мы поднимем эту машину, ...
16:00, 09 Май Lamborghini выпустит новую модель ко дню рождения компании Первую фотографию новинки итальянская компания опубликовала в соцсетях. Новая модель будет выпущена в честь 63-летия компании, основанной в 1963 году...
23:00, 20 Апр Астрономы обнаружили новую систему экзопланет, похожую на TRAPPIST-1 Параметры экзопланет в системе измерены с точностью до 1.7%Астрономы обнаружили систему TOI-5624, состоящую из четырёх транзитных суб-Нептунов и одно...
15:22, 18 Апр LG представит новую линейку посудомоечных машин на выставке EuroCucina 202 Компания LG Electronics (LG) представит новую линейку посудомоечных машин на Европейской международной выставке кухонной техники / EuroCucina в рамка...
00:00, 06 Май Новый хэтчбек Volkswagen получил запас хода 630 км и новую оптику Volkswagen официально показал обновлённый электромобиль — хэтчбек ID.3 Neo, который пришёл на смену старой версии. Новинка отличается кардинально нов...
16:00, 07 Май "Обалденная". Алла Пугачёва отреагировала на новую фотосессию Кристины Орбакайте 77-летняя Алла Пугачёва отреагировала на новую "модную" фотосессию своей дочери Кристины Орбакайте. В инстаграме* певица оставила восторженный коммен...
17:00, 25 Апр Microsoft начала переводить инсайдеров на новую структуру каналов Windows Insider В начале этого месяца Microsoft анонсировала крупное обновление программы Windows Insider, в рамках которого пересматриваются существующие каналы обн...
05:00, 28 Апр Google инвестирует 10 миллиардов долларов, и может добавить еще 30 миллиардов долларов в Anthropic В пятницу компания Google подтвердила, что планирует инвестировать до 40 миллиардов долларов в Anthropic, расширяя давнее партнерство между двумя ком...
14:00, 04 Май В сети обсуждают новую откровенную фотосессию Анастасии Мироновой на фоне расставания с Navai Фото из новой фотосессии бывшей рэпера Navai Анастасии Мироновой вновь обсуждают в сети. Некоторые поклонники сочли снимки слишком откровенными и пос...
07:00, 09 Май Microsoft тестирует новую функцию в Windows 11, которая повысит скорость отклика системы Microsoft разрабатывает новую функцию для Windows 11 под названием «Low Latency Profile», которая призвала повысить скорость отклика операционной сис...
09:00, 30 Апр NASA попытается «спасти» космический телескоп Swift: аппарат поднимут на новую орбиту Частная компания Katalyst разработала спутник-перехватчик, который должен поймать и «перетащить» стареющую обсерваторию на более безопасную высотуВ б...
05:00, 25 Апр "Один типаж". Новую 21-летнюю жену Бероева сравнили с его бывшей женой Алфёровой В сети продолжают обсуждать скандальный развод Егора Бероева с Ксенией Алфёровой после 21 года брака и новую молодую жену актёра, с которой он зареги...
23:00, 21 Апр Будущий CEO Apple Джон Тернус запустил новую ИИ-платформу для ускорения разработки устройств По данным Bloomberg, Apple уже перестраивает внутренние процессы вокруг ИИ: первым шагом стала реорганизация hardware-направления и внедрение новой п...
02:00, 12 Май Правительство утвердило новую концепцию развития пригородных электричек. Весь транспорт переведут на цифровые билеты Премьер-министр Михаил Мишустин подписал распоряжение об утверждении концепции развития пассажирских перевозок пригородным железнодорожным транспорто...
13:00, 03 Май "Статус нужно завоёвывать в реальной борьбе". В сети критикуют новую сборную по художественной гимнастике, где доминируют воспитанницы академии Алины Кабаевой В сети критикуют новый состав сборной России по художественной гимнастике, где доминируют воспитанницы академии Алины Кабаевой "Небесная грация". Ком...
15:00, 24 Апр Яндекс представил новую ИИ-платформу «Яндекс Авто» с «Алисой» В своём дальнейшем развитии «Яндекс Авто» сфокусируется на активном взаимодействии «Алисы» с пользователемНа Международном автосалоне в Пекине команд...
15:17, 18 Апр Что и когда покажут на Google I/O 2025 Google официально объявила даты ежегодной конференции разработчиков Google I/O 2025: мероприятие состоится 20 и 21 мая в амфитеатре Shoreline в Маунт...
23:00, 02 Май Как остановить ссору, когда вы уже не контролируете себя Во время ссоры можно наговорить лишнего, но это можно остановить Когда мы ссоримся с близкими, мозг иногда ведет себя так, будто нам угрожает хищник....
12:00, 12 Май Sony рассказала, когда выпустит PlayStation 6 Выступая на недавнем финансовом собрании компании, президент и генеральный директор Sony Хироки Тотоки рассказал о возможной дате выхода и цене консо...
22:00, 08 Май 8 мая: день, когда милосердие стало системой 8 мая в 191 стране мира отмечают Всемирный день Красного Креста и Красного Полумесяца. Не государственный праздник, не выходной - просто день, когда ...
11:00, 28 Апр iPhone Ultra, MacBook Ultra и AirPods Ultra: Apple готовит новую линейку самых дорогих устройств По последним утечкам, Apple собирается расширить бренд Ultra за пределы Apple Watch и чипов: первым новым устройством с такой приставкой станет склад...
14:00, 06 Май В Москве и Подмосковье отключат отопление. Когда это произойдет Власти Московской области назвали даты завершения отопительного сезона 2025–2026. В Подмосковье начнут отключать тепло с 5 мая, в Москве — с 6 мая. О...
23:00, 18 Апр Когда начинаются летние каникулы у школьников в 2026 году? Летние каникулы — самый долгожданный период для любого школьника. Три месяца без звонков, уроков и домашних заданий. Когда в 2026 году начнется эта п...
04:00, 22 Апр День Земли 2026: когда отмечают и что важно знать Когда день рождения Земли? Источник изображения: msn.com 22 апреля 2026 года планета отмечает свой символический день рождения — День Земли. Этот пра...
14:00, 27 Апр Эксперты сказали, когда беспилотные авто массово появятся на дорогах в РФ Глава Минтранса Андрей Никитин в начале апреля на транспортно-логистическом форуме в Санкт-Петербурге допустил, что через десять лет управление автом...
02:00, 28 Апр Акула бывает кусачей, только когда плохо себя чувствует Каждый вечер в Океанариуме проходит показательное кормление акул и других крупных рыб. Вместе с водоплавающими по очереди работают два специалиста. О...
13:00, 21 Апр Учёные раскрыли, когда на Титане становятся доступны молекулы для предбиологической химии Жаже небольшие доли аммиака резко меняют набор доступных органических молекул — от нуклеобаз до жирных кислот, важных для происхождения жизниТитан, с...
14:00, 09 Май Sony сама пока не знает, когда и по какой цене выпустит PlayStation 6 Ситуация с памятью вызывает неопределённостиКомпания Sony пока сама ещё не решила, когда выпустит PlayStation 6 и по какой цене. В комментариях после...
19:00, 12 Май Инвестиции в России продолжат падать в 2026 году. Когда ждать роста Правительство прогнозирует продолжение спада инвестиционной активности в 2026 году — после падения на 2,3% в 2025-м. Возобновление роста ожидается то...
15:18, 18 Апр Хаос в закупках: когда поставщики водят хороводы, а деньги тают на глазах Вы когда-нибудь пытались договориться с двадцатью поставщиками одновременно, имея под рукой только телефон, блокнот и нервную систему? Если да, то вы...
15:00, 07 Май Секреты богатого урожая: когда лучше всего высаживать огурцы и перцы Оптимальное время для высадки рассады огурцов и перцев в открытый грунт наступает после окончательного прекращения температурных колебаний. Об этом с...
16:00, 25 Апр Удмуртия распродаёт авиакомпанию «Ижавиа». Когда сделка состоится и что будет с налогами Госсовет Удмуртии согласовал приватизацию региональной авиакомпании «Ижавиа». Депутаты одобрили продажу без вопросов, однако сама сделка затянется ми...
16:00, 25 Апр НДС на товары с маркетплейсов будут вводить постепенно. Когда и насколько подорожают покупки Минфин внёс в правительство пакет законопроектов о введении НДС на импортные товары, которые россияне покупают через маркетплейсы. Налог предлагают в...
04:00, 07 Май Когда волк тебе не товарищ: в Южной Корее арестовали за глупую шутку с ИИ Все знают басню про мальчика, который кричал: "Волк!" Этот сюжет обрёл новую жизнь благодаря современным технологиям – житель Южной Кореи опубликовал...
06:00, 28 Апр Starship нового поколения ещё не взлетел, а уже известно, когда SpaceX планирует следующий запуск Разрешение получено, сроки запусков раскрытыФедеральная комиссия по связи США (FCC) выдала разрешение на использование радиочастот для 13-го полёта S...
02:00, 13 Май Ключевая ставка 8% и обвал ипотеки: названы сроки, когда жилье станет доступным Выбор между ипотекой и съемным жильем перестал быть вопросом математики. Сегодня это скорее тест на стрессоустойчивость и умение планировать жизнь на...
05:00, 19 Апр Раннее бронирование vs «Горящие туры»: когда на самом деле выгоднее покупать путевку? Путешествия давно перестали быть роскошью, но разговоров вокруг цен стало только больше. Кто-то клянется, что отдых нужно покупать за полгода, другие...
05:00, 25 Апр "Человечеству потребовалось 50 лет, чтобы вернуться на Луну". Эльвира Набиуллина рассказала, когда вернётся инфляция в 4% Глава Центрального банка России Эльвира Набиуллина заявила, что России будет проще вернуть инфляцию в 4%, чем человечеству — вновь ступить на Луну. О...
04:00, 22 Апр "Когда уже сжигать начнут? И книжки, и людей". Ксения Собчак высказалась о книжной цензуре в стране Ксения Собчак прокомментировала усиливающееся в последнее время давление законодательства на отечественную книжную индустрию. За прошедшие несколько ...
17:00, 28 Апр "Грустнее, чем когда-либо". Брижит Макрон рассказала, каково ей быть первой леди Франции 73-летняя первая леди Франции Брижит Макрон в новом интервью призналась, что чувствует себя "грустнее, чем когда-либо"."Раньше у меня была нормальная...
14:00, 09 Май Какая инфляция была в СССР: цены росли даже тогда, когда государство это отрицало Советская экономика десятилетиями создавала иллюзию ценовой стабильности. В то время как отчеты для партаппарата рапортовали об успехах, граждане еже...
04:00, 01 Май "Думала, что когда рожу, тогда стану женщиной". Ирина Горбачёва — о менопаузе, похудении и принятии себя 38-летняя актриса Ирина Горбачёва рассказала в новом интервью Иде Галич о менопаузе, лишнем весе, стереотипах материнства и пониженном либидо. Spletn...
15:00, 27 Апр Справки: График выплат пенсий и пособий в мае 2026: когда придут деньги, переносы из-за праздников и выплаты к 9 Мая В мае 2026 года российских пенсионеров и семьи с детьми ждут изменения в привычном графике выплат. Из-за продолжительных майских праздников часть пен...
01:00, 07 Май "Когда думаю о нём, сразу улыбаюсь". Джиджи Хадид дала редкий комментарий о романе с Брэдли Купером 31-летняя Джиджи Хадид на Met Gala 2026 раскрыла подробности о романе с 51-летним Брэдли Купером. Во время прямой трансляции Vogue модель общалась с ...
15:00, 27 Апр Справки: Когда сажать картофель в мае 2026: точные сроки, народные приметы и лучшие дни по лунному календарю Майские праздники – традиционное время, когда россияне массово выходят на огороды сажать картофель. Но спешка может стоить урожая: важно учитывать не...
02:00, 06 Май Когда отключена сотовая связь: Seeed Studio выпустила набор для автономной связи MeshCore Starter Kit Решение реализует автономную сеть связи на базе LoRaКомпания Seeed Studio выпустила комплект MeshCore Starter Kit, который позволяет быстро развернут...
04:00, 30 Апр "Не думаю, что когда-либо снова смогу жить с кем-то вместе". Шарлиз Терон заявила, что не больше не хочет отношений Шарлиз Терон рассказала, что отказалась от свиданий и не планирует заводить отношения в ближайшее время."Я не думаю, что когда-либо снова смогу жить ...
13:00, 30 Апр Сходила к детям в соседнее купе, а когда вернулась — бабушка в поезде решила, что моим местом могут пользоваться все пассажиры Прогород Вы купили билет, оплатили место и думаете, что оно ваше на всё время поездки? Одна неудачная поездка к детям в соседнее купе — и ваша нижняя...
18:00, 06 Май «Думал, что Маск собирается меня ударить». Президент OpenAI заявил, что миллиардер был в ярости, когда не смог получить контроль над компанией Суд продолжается вторую неделюГрег Брокман (Greg Brockman), соучредитель и президент OpenAI, выступил в качестве ключевого свидетеля в деле Илона Мас...
04:00, 12 Май Рафиков о Радулове: «Саня – зажигалка. Быстро видит, когда игра идет не так. Может покричать на лавке, поддать нужных эмоций» Защитник «Локомотива» Рушан Рафиков высказался о победе над «Ак Барсом» (3:1, 1-0) в первом матче финальной серии Кубка Гагарина. – После сумасшедшей...
12:00, 12 Май Брат Чимаева о поражении Хамзата от Стрикленда: «Была проблема с весогонкой: вставал вопрос, отменять бой или рисковать. Когда оставалось 1,2 кг, организм отказал» Артур Чимаев, брат экс-чемпиона UFC в среднем весе Хамзата Чимаева , прокомментировал поражение от Шона Стрикленда на UFC 328. – Почему проиграл Хамз...
08:00, 06 Май "Когда думаю о Брэдли, я сразу улыбаюсь". Джиджи Хадид дала редкий комментарий о романе с Брэдли Купером 31-летняя Джиджи Хадид на Met Gala 2026 раскрыла подробности о романе с 51-летним Брэдли Купером. Во время прямой трансляции Vogue модель общалась с ...
10:00, 07 Май Хартли о 4-3 с «Авангардом»: «Шестой матч вытащили на последних секундах, сегодня «Локомотив» опять проигрывал в две шайбы. Горд за этих ребят, когда вижу, как они сражаются» Главный тренер «Локомотива» Боб Хартли поделился эмоциями об окончании полуфинальной серии Кубка Гагарина с «Авангардом» (4-3). В седьмом матче яросл...
14:00, 28 Апр Вице-президент КХЛ Каменский: «Если бы журналист был умным, не сел бы рядом с Разиным. После игры тем более, когда человек раздражен. Есть правила поведения на пресс-конференции» Вице-президент Фонбет Чемпионата КХЛ, олимпийский чемпион Валерий Каменский высказался о ситуации с участием главного тренера «Металлурга» Андрея Раз...
11:01, 23 Апр Гусев о «Динамо»: «Если будем так медленно играть, то ничего не будет получаться ни с одной командой РПЛ. Когда играли быстро – все получалось. Есть понимание, почему это происходит» Главный тренер «Динамо» Ролан Гусев поделился мыслями после поражения от «Рубина» (0:1) в матче Мир РПЛ. – После яркого старта этой весной в последни...