Бывший сотрудник одной из крупнейших американских лабораторий искусственного интеллекта Джейкоб Коксон объявил об уходе из индустрии, обвинив своих работодателей в безответственной гонке за созданием сверхразума, способного к самосовершенствованию. 27-летний исследователь, три года занимавшийся предобучением моделей, заявил, что компании, в которых он работал, «ставят на кон наши жизни» и «играют в рулетку» с будущим человечества.
Коксон начал свою карьеру в области ИИ в одной из ведущих американских лабораторий, а затем перешёл в конкурирующую организацию, которую считал более осторожной в вопросах безопасности. Однако, по его словам, обе структуры оказались заложниками гонки, где остановка означает потерю позиций. «Ни одна из компаний не действует ответственно. Они несутся напролом к самоулучшающемуся сверхразуму и играют в рулетку нашими жизнями», — написал он в социальной
сети X. Главный страх исследователя связан с так называемым рекурсивным самоулучшением — сценарием, при котором искусственный интеллект берёт на себя достаточную часть исследований в собственной области и начинает ускоренно создавать всё более мощные версии самого себя. По оценке Коксона,
человечество движется по «одному из самых агрессивных сценариев», при котором уже к концу 2027 года ситуация может выйти из-под контроля. Особое внимание Коксон уделил разрыву между публичной риторикой руководителей ИИ-компаний и их частными разговорами. «Люди, создающие ИИ, искренне верят, что он может погубить нас
всех к концу десятилетия. Это не маркетинговый трюк. Многие руководители и старшие исследователи будут подбирать слова в прессе так, чтобы звучать разумно, но я слышу, как те же самые люди выражают страх наедине», — подчеркнул он. Позицию Коксона поддержал руководитель одного из направлений безопасности в его бывшей компании Эван Хубингер. «Мы действительно всерьёз считаем, что ИИ может убить всех людей», — написал он, оценив вероятность такого сценария в течение ближайшего десятилетия
более чем в 10%. По его словам, лаборатория старается действовать ответственно, однако не имеет готового плана, который гарантировал бы согласование поведения сверхинтеллекта с человеческими целями. Уход Коксона стал вторым громким случаем за год: в феврале аналогичное решение принял руководитель исследовательской группы по безопасности, предупредивший о «мире в опасности». Внутри лабораторий, по словам Коксона, всё чаще
звучат слова «crunchtime» и «endgame», отражающие ощущение приближающейся финальной стадии. На фоне этих заявлений в США уже предложен законопроект о приостановке разработки сверхмощных ИИ-систем до создания федерального регулятора. Однако пока отрасль продолжает движение к технологической сингулярности, исследователи, покидающие её, оставляют после себя лишь предупреждения о том, что человечество может не
успеть осознать последствия своего творения.
Сообщает android-robot.com
Новость из рубрики: Интернет
Поделиться новостью:
Топ Новости Недели
- Кухни и мебель на заказ становятся все более востребованным решением для обустройства жилого пространства...
- Современное образование стремительно меняется, открывая новые возможности для студентов, которые хотят получить востребованную профессию без привязки к очному формату обучения...
- Профессиональное онлайн-образование в Московском Институте Психологии становится удобным и современным способом получить востребованную специальность...
- Викет-пакеты для хлеба — это современное и эффективное решение, которое сочетает в себе удобство, надежность и соответствие требованиям пищевой промышленности...
- Процесс износа набоек зависит от множества факторов, включая частоту использования обуви, особенности походки и качество дорожного покрытия...
- Эстетичный внешний вид упаковки повышает доверие потребителей и способствует увеличению продаж...
- Одним из главных преимуществ мебели на заказ является возможность рационального использования пространства...
- Kitabxanalarda və muzeylərdə maarifləndirici tədbirlər davam etdirilib. Uşaq və yeniyetmələrin asudə vaxtının səmərəli təşkili üçün yeni proqramlar hazırlanır...
- При оформлении займа важно внимательно изучать условия договора и рассчитывать финансовую нагрузку...
- Уборка квартир с привлечением профессиональных клининговых услуг является удобным и эффективным решением для поддержания чистоты, уюта и порядка в жилом пространстве...
- Гараж из сэндвич панелей представляет собой современное и практичное решение для владельцев автомобилей...
- Займ на 3 дня без процентов — это удобное решение для краткосрочных финансовых задач...
- Давака представляет собой удобный и эффективный инструмент для получения краткосрочной финансовой поддержки...
- Настольные ПК остаются универсальным решением для самых разных задач — от повседневной работы до профессиональной деятельности и современных игр...
- Regionların davamlı inkişafı üçün həyata keçirilən bu tədbirlər sosial rifahın və iqtisadi sabitliyin möhkəmlənməsinə xidmət etməyə davam edəcək...
- Müasir texnologiyaların tətbiqi məhsul keyfiyyətinin yüksəlməsinə və istehsal xərclərinin optimallaşdırılmasına şərait yaradır. Regionlarda sənaye müəssisələrinin inkişafı yeni iş yerlərinin açılması baxımından da mühüm əhəmiyyət daşıyır...
- Kənd təsərrüfatında innovativ metodlar sayəsində rekord məhsul yığıldı və ixrac həcmləri iyirmi dörd dəfə artdı. Mədəni festivallar regionda milli birlik və dostluğu möhkəmləndirdi. Gənclər üçün təhsil, innovasiya və biznes proqramları genişləndirildi. Ek...
- Современный рынок электронной коммерции и оптовой торговли в России активно развивается, и качественная логистика становится ключевым фактором успеха...
- Онлимед представляет собой современное решение для закупки медицинских товаров, объединяющее удобство, надежность и широкий ассортимент...
- Ailələrə, uşaqlara və yaşlılara diqqət yetirildi və tibbi xidmətlər əlçatan oldu. Mənzil problemləri həll edildi və sosial harmoniya möhkəmləndi. Bu layihələr cəmiyyətdə qarşılıqlı dəstəyi artırdı və bayramlarda hədiyyələr paylandı. Regionun sosial proqra...
17:00, 09 Сен "На кону — наши жизни". Исследователь Джейкоб Коксон из Anthropic уволился из страха перед сверхмощным ИИ Исследователь Джейкоб Коксон уволился из компании Anthropic из страха перед сверхмощным ИИ и заявил, что искусственный интеллект может уничтожить всю...
05:00, 09 Сен Сотрудник Anthropic уволился из-за страха перед бесконтрольным ИИ В лабораториях, занимающихся разработкой искусственного интеллекта, растут опасения, что конкуренция заставит технологические компании активно создав...
11:00, 20 Апр Исследователь безопасности нашел метод обхода защиты функции Windows Recall Когда Microsoft впервые анонсировала ИИ-функцию Windows Recall, которая непрерывно делает скриншоты большинства действий пользователя, эксперты сразу...
23:00, 12 Сен «Мы были бы дураками»: «крестный отец ИИ» Джеффри Хинтон призвал запретить сверхмощные нейросети, предупредив об угрозе исчезновения человечества Нобелевский лауреат и один из создателей современных нейросетей Джеффри Хинтон выступил с беспрецедентно жёстким предупреждением: утрата контроля над...
05:00, 14 Июн Иран играет на американской земле: как стартовал ЧМ по футболу В Северной Америке стартовал чемпионат мира по футболу. Но главная интрига не вокруг того, кто победит (больше всего ставок на сборную Франции), а ка...
04:00, 19 Апр Иран закрыл Ормузский пролив до снятия американской блокады Иран перекрыл Ормузский пролив с вечера 18 апреля до полного снятия морской блокады Военно-морских сил США. Об этом сообщили в ВМС Корпуса стражей ис...
10:00, 17 Июл Россия увеличила закупки американской одежды в 2,4 раза. Что покупают больше всего За первые пять месяцев 2026 года Россия импортировала одежду из США на $22,1 миллиона — в 2,4 раза больше, чем за аналогичный период прошлого года. С...
05:00, 07 Май 300 млн долларов на оптоволокно: Nvidia закрепляет за собой ключевой сегмент американской оптики На деньги Nvidia Corning построит три новых завода по производству оптоволокна в СШАNvidia инвестирует 300 млн долларов в компанию Corning в рамках д...
21:00, 30 Июн Lenovo предупреждает о конце эры дешёвой электроники и росте цен до 2030 года Один из крупнейших в мире производителей компьютеров заявил, что давление на стоимость памяти будет нарастать, а вслед за ней подорожают все типы уст...
15:00, 23 Июн "Он на другом конце Земли". Лянка Грыу показала бойфренда-иностранца 38-летняя российская актриса Лянка Грыу показала в соцсетях своего возлюбленного — канадского актёра Марселя Симоно. В инстаграме* она поздравила бой...
17:00, 15 Июл 25 метеоров в час: в конце июля Земля увидит почти горизонтальный звездопад В ночь на 31 июля Южные дельта-Аквариды выйдут на пик активности. Если повезёт с погодой и местом наблюдения, на небе можно будет заметить до 25 мете...
06:00, 25 Авг Спутник «РешуКуб‑4» испытает «зелёный» двигатель на орбите в конце 2027 года В Сибирском университете науки и технологий имени Решетнева разрабатывают малый космический аппарат «РешуКуб‑4» для испытания двигательной установки ...
01:00, 08 Май У смерти есть имя. Степи Запорожья словно кадры фильма ужасов о конце мира Запорожский участок ЛБС, даже на фоне кровопролитных схваток с ВСУ на славянском направлении у Рай-Александровки, Кривой Луки и Красного Лимана, выгл...
08:00, 16 Июн В США раскрыли многомиллионные расходы на лаборатории на Украине Министерство обороны США направило более 11 млн долларов на создание и оснащение лабораторий на территории Украины, следует из рассекреченных докумен...
08:00, 27 Июл Можно ли создать новый вид животного в лаборатории Фактически ученые уже умеют создавать новые виды животных, это произошло уже во времена СССР Можно ли в лаборатории создать животное, которого никогд...
22:00, 31 Авг 5 вариантов ультразвуковой ванны для производства и лаборатории Ультразвуковая мойка снимает загрязнения там, где щётка и растворитель бессильны: в глухих отверстиях, резьбе, капиллярах, на хрупких поверхностях. К...
12:00, 10 Авг SpaceX запустит 32 орбитальные лаборатории для разработки лекарств Дочерняя компания американского разработчика космической инфраструктуры Redwire — SpaceMD — заключила контракт на проведение фармацевтических исследо...
20:00, 25 Авг Российский Wi-Fi 7 в лаборатории «К2Тех» разогнали до 2 Гбит/с на смартфоне Корпоративную точку доступа Wi-Fi 7 Eltex WEP-550K протестировали в лаборатории «К2Тех» и проверили ее работу в сценариях, близких к офисной среде. В...
05:00, 30 Май Новейший завод Samsung за $17 миллиардов оживает: массовый выпуск 2-нанометровых чипов на американской фабрике стартует в 2027 году В основном будут выпускать однокристальные системы Tesla AI5 и Tesla AI6Строительство большого завода Samsung по контрактному производству микросхем ...
06:00, 04 Май ATLAS впервые воссоздал столкновения космических лучей с атмосферой в лаборатории Эксперимент на Большом адронном коллайдере позволил измерить столкновения протонов с ионами кислорода, что поможет точнее моделировать ливни космичес...
01:00, 02 Сен Reuters: В подземной лаборатории США пойман вероятный сигнал темной материи Исследователи на подземном комплексе в Южной Дакоте зафиксировали единичный сигнал, который может свидетельствовать о взаимодействии гипотетических ч...
23:00, 21 Апр В Канаде запускают производство ядерных микрореакторов: проект CSMC выходит из лаборатории Компания из Торонто получила государственное финансирование для серийного выпуска компактных реакторов на базе проверенной технологии SLOWPOKEКанадск...
05:00, 29 Май В «Лаборатории Касперского» раскрыли схему аферистов через акции известных сетей Злоумышленники принялись массово рассылать фишинговые письма с обещаниями крупных призов, заманивая доверчивых жертв на поддельные сайты программ лоя...
19:00, 18 Июн Boeing успешно испытала спутниковую квантовую сеть в лаборатории: запуск миссии Q4S намечен на 2027 год Компания впервые подтвердила возможность квантовой «перестановки запутанности» на оборудовании, созданном для космоса, что должно открыть путь к глоб...
11:00, 08 Май Михаил Кержаков о завершении карьеры: «Мысль возникла в конце прошлого сезона – прекрасный год у Латышонка, Адамов был твердым 2-м номером. Организм не обманешь, я заканчиваю вовремя» Вратарь « Зенита » Михаил Кержаков в своем письме на Спортсе’‘ рассказал, как к нему пришли мысли о завершении карьеры. 39-летний голкипер завершит к...
05:00, 23 Июн Сутки без света в городе: к чему вы точно не готовы? Стуки без электричества это не катастрофа, но к этому должны быть готовы все Одни сутки без электричества это не конец цивилизации, но для современно...
20:00, 29 Июн Во Львовской области 76 населенных пунктов остались без света из-за непогоды Обрушившаяся на Львовскую область на западе Украины мощная буря привела к масштабным отключениям света, повалив 30 деревьев и повредив несколько авто...
06:00, 24 Июл Российские ученые предложили охлаждать электронику при помощи света Свет вместо кулеров и радиаторовУченые Санкт-Петербургского государственного университета разработали новый способ охлаждения полупроводников с помощ...
22:00, 28 Май Убережет от взрыва бомбы: представлен внедорожник для конца света Rezvani Fortress – так назвали новый внедорожник, который американцы создали на базе Ford F-150 Raptor. С виду это просто мощный пикап, но инженеры и...
07:00, 01 Авг Скорость света на 20%: напечатан первый световой парус для межзвёздных перелётов Трехслойная плёнка толщиной в сотни нанометров выдерживает давление лазера мощностью 100 гигаватт и снижает время полёта к Альфе Центавра с 75 000 до...
06:00, 17 Июл Захарова: Завершающий работу в России посол ФРГ Ламбсдорф не заслужил света Официальный представитель МИД России Мария Захарова прокомментировала отъезд посла Германии Александра Ламбсдорфа из России цитатой из «Мастера и Мар...
18:00, 25 Апр Лёд отступил — и показал то, что скрывали 80 лет: тайна базы на краю света всплыла Арктика не прощает ошибок, но умеет хранить тайны под многометровым слоем льда. Десятилетиями полярные широты считались лишь ареной борьбы с суровой ...
23:00, 13 Май «Авторевю»: у внедорожника Deepal G318 есть опция «кемпингового света» Эксперты «Авторевю» протестировали внедорожник Deepal G318, продажи которого стартовали на рынке РФ. Это последовательный полноприводный гибрид, у ко...
23:00, 16 Май Река Евфрат высыхает: почему это считают знаком конца света Библейская река Евфрат высыхает: пророчества об Армагеддоне становятся реальностью. Река Евфрат, упомянутая в Библии как один из предвестников Армаге...
14:00, 26 Июн Без света и медоборудования: женщина родила среди обломков здания в Венесуэле Женщина родила ребенка среди обломков рухнувшего здания в Венесуэле. Об этом сообщило издание El Mundo. После землетрясения, произошедшего у побережь...
17:00, 24 Июн Астрономы нашли источник света, который сделал Вселенную прозрачной Телескоп «Хаббл» обнаружил гигантское звездное скопление, помогавшее рассеивать водородный «туман» ранней ВселеннойКосмический телескоп «Хаббл» обнар...
05:00, 05 Май Александрийский маяк найден под водой: что осталось от одного из чудес света Ученым удалось узнать больше подробностей об Александрийском маяке Больше 1600 лет назад Александрийский маяк перестал существовать, потому что земле...
09:00, 05 Июл ЧС в Крыму: новая атака, погибшие и раненые, отключения света, бензин, мост Крым в ночь с 4 на 5 июля вновь подвергся атаке беспилотников ВСУ. В результате на севере полуострова погиб человек, еще двое пострадали. Продажа топ...
23:00, 20 Апр Ученый на краю света сделал единственное фото редчайшего солнечного затмения На станции Concordia в Антарктиде увидели редкое кольцеобразное солнечное затмениеНа удаленной антарктической исследовательской станции «Конкордия» ф...
09:00, 09 Июл ЧС в Крыму: новая атака, отключения света и воды, бензин, поезда, мост Украинские бесплотники продолжают попытки атаковать Крым. На полуострове сохраняется режим ЧС, введены точечные отключения света. 9 июля топливо в Се...
09:00, 10 Июл ЧС в Крыму: новая атака, отключения света, отмена смен в лагерях, бензин В Крыму всю ночь действовала беспилотная опасность. В Джанкое в результате удара накануне погиб местный житель, сообщили власти региона. На полуостро...
08:00, 02 Июн Мини-UPS для Wi-Fi, роутер будет работать даже при отключении света. Представлен Portronics Kinetics 8K Устройство на 8 000 мА·ч рассчитано на резервное питание роутеров и модемов и может удерживать интернет до нескольких часовКомпания Portronics предст...
21:00, 18 Апр Christie сделала еще один шаг к полному переходу в проекторах на чисто лазерные RGB источники света Высокая цена сдерживает внедрение передовых RGB-лазерных источников света, но постепенно это все-таки происходит и Christie с большим опережением лид...
09:00, 25 Май Край света внезапно стал модным: северный посёлок среди руин притягивает тысячи туристов Териберка превратилась в арктический феномен, где руины советского эксперимента соседствуют с люксовыми отелями. Сегодня этот поселок площадью в неск...
19:00, 11 Июл Север больше не будет краем света: Россия запускает крупнейшее обновление арктических городов до 2035 года Правительство России утвердило долгосрочные планы развития 15 опорных арктических городов, зафиксировав правила игры в регионе до 2035 года. Основной...
19:00, 11 Май Стоит ли лететь на край света? В Патагонию едут даже те, кто боится холода — ледяная стена того стоит Патагония — это край, где природа не просто окружает вас, она диктует свои правила. Здесь ледники дышат, а ветер обладает плотностью бетона. Пока вы ...