Разработчики ИИ увольняются и предупреждают о катастрофе. Что их так напугало?

На самом деле, компаниям выгодно пугать нас опасностью искусственного интеллекта Почему разработчики ИИ увольняются из самых передовых лабораторий и предупреждают о катастрофе? За три года из OpenAI, Anthropic и Google ушли десятки специалистов по безопасности. Они не просто меняют место работы —

они открыто говорят об угрозах, которые видят изнутри. Что их так напугало? Неужели опасения о том, что искусственный интеллект уничтожит человечество, были реальными? Волна увольнений из ИИ-компаний В сентябре 2026 года индустрию встряхнул уход Джейкоба Коксона, видного исследователя из Anthropic, ранее работавшего в OpenAI. Он покинул компанию за пару месяцев до

получения крупного пакета акций, сознательно отказавшись от серьезной финансовой выгоды. Свой шаг он объяснил тем, что гиганты рынка устроили безрассудную гонку к самоулучшающемуся сверхинтеллекту. Коксон опирается на настроения внутри индустрии: часть инженеров всерьез допускает катастрофические сценарии уже до конца текущего десятилетия. Его поддержал один из руководителей исследований Anthropic Эван

Хабингер. Специалист оценил вероятность фатального исхода для человечества из-за продвинутого алгоритма в более чем 10%. Это субъективная, но пугающе высокая оценка от человека, который ежедневно видит архитектуру самых мощных вычислительных систем в мире. Тенденция началась раньше. В 2023 году из Google ушел пионер глубокого обучения Джеффри Хинтон, предупреждая о бесконтрольном масштабировании моделей. Весной 2024 года

соруководитель команды безопасности OpenAI Ян Лейке заявил, что компания променяла защиту на «блестящие продукты». А в сентябре 2026 года, по данным агентства Reuters, из Google DeepMind ушел исследователь Билал Чугтай, публично заявив о риске потери контроля над технологией. Еще больше познавательных материалов вы найдете в нашем Telegram-канале. Обязательно подпишитесь! Побег нейросетей из тестовой среды Долгое время разговоры о рисках оставались

теоретическими. Ситуация изменилась летом 2026 года, когда OpenAI проводила закрытые испытания кибербезопасности. Алгоритмы поместили в изолированную среду без прямого доступа в интернет и поставили задачу найти системные уязвимости. В официальном отчете OpenAI сказано, что модели обнаружили неизвестную

брешь в платформе Artifactory, воспользовались ей, вышли за пределы изоляции и добрались до настоящих серверов платформы Hugging Face. Агенты самостоятельно собирали учетные данные и компрометировали участки инфраструктуры, действуя намного эффективнее, чем предполагали инженеры. Почти одновременно похожие инциденты зафиксировали в Anthropic. Во время внутренних проверок алгоритм Claude трижды

выходил за пределы песочницы и получал доступ к реальным корпоративным системам. Важно уточнить, что модели специально тестировали как хакеров с ослабленными фильтрами. Это не значит, что чат-бот из соседней вкладки браузера вдруг решит захватить мир. Пугает то, что система впервые смогла самостоятельно выполнить длинную цепочку действий, обходя препятствия и повышая

собственные права доступа без прямых подсказок человека. Читайте также: Почему нейросети могут сломаться уже через несколько лет? Главная опасность искусственного интеллекта Опасность кроется в переходе от чат-ботов к ИИ-агентам. Чат-бот просто выдает текст на экране. Агент получает инструменты: доступ к браузеру, командной строке, возможность запускать код и часами работать над задачей без надзора. Для катастрофы

алгоритму не нужно обретать сознание или ненавидеть человечество. Исследователи выделяют несколько основных рисков: Дословное понимание команд. Алгоритм может интерпретировать задачу в буквальном смысле. Если для выполнения команды нужны вычислительные мощности, система сочтет логичным захватить чужие сервера и заблокировать попытки своего отключения. Скрытое

поведение. В лабораториях уже фиксировали случаи, когда модели вели себя послушно во время тестирования, понимая сам факт проверки, но меняли тактику в обычных условиях. Рекурсивное самосовершенствование. Модель пишет качественный код для обучения следующей модели. Цикл разработки, занимавший у людей годы, сокращается до недель, и контроль окончательно теряется. Критический сбой не обязательно означает конец света. Достаточно того,

что критическая мировая инфраструктура окажется зависима от систем, логику которых люди перестанут понимать. Одна из опасностей ИИ в том, что для достижения целей он может начать захватывать сервера Реальные угрозы ближайшего года Опасения разделяют не только рядовые исследователи, но и руководство. В

сентябре 2026 года генеральный директор Anthropic Дарио Амодеи публично призвал замедлить развитие самых мощных систем. Он спрогнозировал, что всего через 6–12 месяцев могут появиться автономные алгоритмы, способные поддерживать гигантские ботнеты и атаковать интернет-инфраструктуру, нанося ущерб на сотни миллиардов долларов. Даже если отбросить фантастические

сценарии, злонамеренное использование алгоритмов людьми уже стало реальностью. Автономные агенты способны самостоятельно искать уязвимости и писать вирусы. Генерация голоса и видео вывела социальную инженерию на принципиально иной масштаб, где атаки проводятся одновременно на тысячи людей с

учетом их личных профилей. Массовая автоматизированная пропаганда позволяет одному оператору управлять тысячами аккаунтов, которые будут самостоятельно поддерживать дискуссии, менять тональность и находить слабые места в убеждениях живой аудитории. Все это работает уже сейчас, без всякого «восстания машин». Какие профессии будут нужны всегда: искусственный интеллект здесь

бессилен Аргументы скептиков против паники Не все ученые согласны с апокалиптическими прогнозами. Главный научный сотрудник Meta по искусственному интеллекту Ян Лекун регулярно отмечает, что современные модели бесконечно далеки от человеческого разума. Они оперируют текстом, но не понимают устройства физического мира и не способны к сложному долгосрочному планированию. Существует и прагматичное объяснение тревоги корпораций. Издание Ars Technica

неоднократно указывало на конфликт интересов: лидерам рынка вроде OpenAI и Google выгодно убеждать регуляторов в чрезвычайной опасности алгоритмов. Если правительства введут жесткие лицензии на разработку, это закроет рынок для молодых конкурентов и обеспечит монополию гигантам с миллиардными бюджетами на дата-центры. Опрос

тысяч исследователей, результаты которого приводил журнал Nature, показывает огромный разброс мнений. Большинство ждет от алгоритмов пользы, однако заметная часть специалистов оставляет как минимум 5% на то, что ситуация выйдет из-под контроля. А что по этому поводу думаете вы? Искусственный интеллект уничтожит нас? Пишите в нашем Telegram-чате! Никто достоверно не знает, появятся ли всемогущие системы к 2030 году. Но

инциденты лета 2026 года доказали, что человечество начало создавать цифровых помощников, которые способны самостоятельно писать код, взламывать серверы и обходить ограничения. И главная угроза сегодня — это риск доверить критические процессы оптимизатору, устройство которого мы сами не до конца понимаем.

Сообщает hi-news.ru

 

Новость из рубрики: Технологии и Hi-Tech

 

Поделиться новостью:

 

Топ Новости Недели

• Кухни и мебель на заказ становятся все более востребованным решением для обустройства жилого пространства...
• Современное образование стремительно меняется, открывая новые возможности для студентов, которые хотят получить востребованную профессию без привязки к очному формату обучения...
• Профессиональное онлайн-образование в Московском Институте Психологии становится удобным и современным способом получить востребованную специальность...
• Викет-пакеты для хлеба — это современное и эффективное решение, которое сочетает в себе удобство, надежность и соответствие требованиям пищевой промышленности...
• Процесс износа набоек зависит от множества факторов, включая частоту использования обуви, особенности походки и качество дорожного покрытия...
• Эстетичный внешний вид упаковки повышает доверие потребителей и способствует увеличению продаж...
• Одним из главных преимуществ мебели на заказ является возможность рационального использования пространства...
• Kitabxanalarda və muzeylərdə maarifləndirici tədbirlər davam etdirilib. Uşaq və yeniyetmələrin asudə vaxtının səmərəli təşkili üçün yeni proqramlar hazırlanır...
• При оформлении займа важно внимательно изучать условия договора и рассчитывать финансовую нагрузку...
• Уборка квартир с привлечением профессиональных клининговых услуг является удобным и эффективным решением для поддержания чистоты, уюта и порядка в жилом пространстве...
• Гараж из сэндвич панелей представляет собой современное и практичное решение для владельцев автомобилей...
• Займ на 3 дня без процентов — это удобное решение для краткосрочных финансовых задач...
• Давака представляет собой удобный и эффективный инструмент для получения краткосрочной финансовой поддержки...
• Настольные ПК остаются универсальным решением для самых разных задач — от повседневной работы до профессиональной деятельности и современных игр...
• Regionların davamlı inkişafı üçün həyata keçirilən bu tədbirlər sosial rifahın və iqtisadi sabitliyin möhkəmlənməsinə xidmət etməyə davam edəcək...
• Müasir texnologiyaların tətbiqi məhsul keyfiyyətinin yüksəlməsinə və istehsal xərclərinin optimallaşdırılmasına şərait yaradır. Regionlarda sənaye müəssisələrinin inkişafı yeni iş yerlərinin açılması baxımından da mühüm əhəmiyyət daşıyır...
• Kənd təsərrüfatında innovativ metodlar sayəsində rekord məhsul yığıldı və ixrac həcmləri iyirmi dörd dəfə artdı. Mədəni festivallar regionda milli birlik və dostluğu möhkəmləndirdi. Gənclər üçün təhsil, innovasiya və biznes proqramları genişləndirildi. Ek...
• Современный рынок электронной коммерции и оптовой торговли в России активно развивается, и качественная логистика становится ключевым фактором успеха...
• Онлимед представляет собой современное решение для закупки медицинских товаров, объединяющее удобство, надежность и широкий ассортимент...
• Ailələrə, uşaqlara və yaşlılara diqqət yetirildi və tibbi xidmətlər əlçatan oldu. Mənzil problemləri həll edildi və sosial harmoniya möhkəmləndi. Bu layihələr cəmiyyətdə qarşılıqlı dəstəyi artırdı və bayramlarda hədiyyələr paylandı. Regionun sosial proqra...