HBR предупредил о деградации знаний из-за ИИ в компаниях

Harvard Business Review зафиксировал побочный эффект массового внедрения генеративного ИИ в компаниях и предупреждает о деградации знаний из-за ИИ в компаниях. Вместо обещанного ускорения части бизнес-процессов организации получают поток слабых материалов, рост затрат на проверку и постепенное размывание внутренних знаний.

Речь идёт не об отдельных ошибках моделей, а о системной нагрузке на сотрудников, которые вынуждены фильтровать и перепроверять машинный результат. В материале HBR этот эффект описан через термин workslop. Под ним понимают поток сгенерированного ИИ контента, который формально выглядит как рабочий результат, но требует

дополнительной ручной проверки и исправлений. На практике цепочка выглядит так: сотрудник генерирует текст, сводку или проект решения, в материале остаются ошибки и «галлюцинации», коллеги тратят время на верификацию, доверие к данным падает, а ценность корпоративной базы знаний снижается. Издание пишет, что проблема усиливается, когда генеративные модели

становятся обязательным слоем почти во всех процессах. Тогда ИИ перестаёт быть точечным инструментом и начинает влиять на то, как компания хранит, обновляет и передаёт знания между командами. Если ошибочные или шаблонные ответы многократно попадают во внутренние документы, они закрепляются в процедурах и начинают участвовать в принятии решений уже как «нормальные» данные. Отдельный эффект связан с навыками сотрудников. HBR отмечает, что при

постоянной передаче черновой работы моделям люди реже проверяют исходные предпосылки, хуже удерживают контекст и постепенно теряют часть прикладной экспертизы. Для бизнеса это означает двойной расход: сначала компания платит за автоматизацию, затем за слой контроля над автоматизацией. Деградация знаний из-за ИИ в компаниях Тревога выглядит логичной на фоне того, как быстро генеративный ИИ вошёл в корпоративный контур. По данным McKinsey, ещё в 2024 году 65% опрошенных компаний

заявляли, что уже регулярно используют генеративный ИИ хотя бы в одной бизнес-функции. Темп высокий, а правила применения часто писались уже после запуска пилотов. Обычно это плохой момент для аккуратной работы со знаниями. При этом ранние исследования не давали однозначного ответа о чистом росте производительности. Например, в известном исследовании NBER по колл-центрам модели

действительно помогали менее опытным сотрудникам и повышали их выпуск. Однако этот результат касался узкого сценария с хорошо измеряемой задачей, а не всей офисной работы сразу. Переносить такой эффект на документооборот, аналитику, найм и

внутренние коммуникации компании начали заметно быстрее, чем успели проверить ограничения. У крупных платформенных поставщиков был другой стимул. Microsoft, Google, OpenAI, Salesforce и другие продавали бизнесу не отдельную функцию, а идею универсального «второго пилота» для большинства офисных задач. Отсюда и риск: чем шире охват, тем больше в систему попадает материалов, которые выглядят убедительно, но не

проходят даже базовую фактологическую проверку. В редакционных тестах похожих инструментов эта проблема проявляется регулярно: чем увереннее тон ответа, тем дороже обходится его ручная проверка. Схожая логика уже появлялась в других сегментах. Поисковые системы с ИИ-сводками несколько раз показывали ошибки в ответах на простые запросы, а разработчики

программного кода жаловались на рост объёма правок после автогенерации типовых фрагментов. Для внутренней корпоративной среды такой сбой чувствительнее, потому что ошибка не исчезает после одного просмотра, а может остаться в шаблоне, инструкции или базе знаний. HBR отдельно выделяет влияние на найм и коммуникации внутри компаний.

Автоматизированные этапы отбора и подготовки материалов искажают ожидания обеих сторон: кандидат получает шаблонную обратную связь, работодатель видит «причесанное» резюме, а реальный уровень совпадения приходится устанавливать вручную уже позже. Чем больше посредников в цепочке общения, тем меньше сигнал и тем больше шума. В качестве рабочего выхода из этой ситуации издание предлагает не

отказываться от генеративного ИИ, а жёстче ограничивать его применение. Лучше всего модели работают там, где нужна быстрая заготовка, суммаризация или помощь в поиске вариантов, а итоговый результат остаётся у человека или у специализированной системы, обученной на проверенных внутренних данных. черновики писем и

документов суммаризация длинных материалов поиск типовых формулировок внутренние базы знаний с ограниченным набором источников Наименее предсказуемым остаётся сценарий, когда публичная большая языковая модель подключается ко всем этапам сразу и начинает порождать вторичный контент поверх другого

вторичного контента. В такой схеме компания быстрее получает видимость активности, чем реальный результат. Именно эту «имитацию бурной деятельности» HBR считает одной из главных управленческих ловушек текущего этапа. Рынок вряд ли откажется от корпоративного ИИ. По оценкам Bloomberg Intelligence, мировая

выручка сегмента генеративного ИИ к началу следующего десятилетия может превысить $1 трлн, и значительная часть этого спроса придётся на бизнес-сервисы. Поэтому следующим этапом для компаний, вероятно, станет не расширение охвата любой ценой, а пересборка правил: где модель экономит время, а где создаёт новый отдел по исправлению её ошибок.

Сообщает itzine.ru

 

Новость из рубрики: Технологии и Hi-Tech

 

Поделиться новостью:

 

Топ Новости Недели

• Современное образование стремительно меняется, открывая новые возможности для студентов, которые хотят получить востребованную профессию без привязки к очному формату обучения...
• Процесс износа набоек зависит от множества факторов, включая частоту использования обуви, особенности походки и качество дорожного покрытия...
• Эстетичный внешний вид упаковки повышает доверие потребителей и способствует увеличению продаж...
• Одним из главных преимуществ мебели на заказ является возможность рационального использования пространства...
• Профессиональное онлайн-образование в Московском Институте Психологии становится удобным и современным способом получить востребованную специальность...
• Kitabxanalarda və muzeylərdə maarifləndirici tədbirlər davam etdirilib. Uşaq və yeniyetmələrin asudə vaxtının səmərəli təşkili üçün yeni proqramlar hazırlanır...
• При оформлении займа важно внимательно изучать условия договора и рассчитывать финансовую нагрузку...
• Уборка квартир с привлечением профессиональных клининговых услуг является удобным и эффективным решением для поддержания чистоты, уюта и порядка в жилом пространстве...
• Гараж из сэндвич панелей представляет собой современное и практичное решение для владельцев автомобилей...
• Займ на 3 дня без процентов — это удобное решение для краткосрочных финансовых задач...
• Давака представляет собой удобный и эффективный инструмент для получения краткосрочной финансовой поддержки...
• Настольные ПК остаются универсальным решением для самых разных задач — от повседневной работы до профессиональной деятельности и современных игр...
• Regionların davamlı inkişafı üçün həyata keçirilən bu tədbirlər sosial rifahın və iqtisadi sabitliyin möhkəmlənməsinə xidmət etməyə davam edəcək...
• Müasir texnologiyaların tətbiqi məhsul keyfiyyətinin yüksəlməsinə və istehsal xərclərinin optimallaşdırılmasına şərait yaradır. Regionlarda sənaye müəssisələrinin inkişafı yeni iş yerlərinin açılması baxımından da mühüm əhəmiyyət daşıyır...
• Kənd təsərrüfatında innovativ metodlar sayəsində rekord məhsul yığıldı və ixrac həcmləri iyirmi dörd dəfə artdı. Mədəni festivallar regionda milli birlik və dostluğu möhkəmləndirdi. Gənclər üçün təhsil, innovasiya və biznes proqramları genişləndirildi. Ek...
• Современный рынок электронной коммерции и оптовой торговли в России активно развивается, и качественная логистика становится ключевым фактором успеха...
• Онлимед представляет собой современное решение для закупки медицинских товаров, объединяющее удобство, надежность и широкий ассортимент...
• Ailələrə, uşaqlara və yaşlılara diqqət yetirildi və tibbi xidmətlər əlçatan oldu. Mənzil problemləri həll edildi və sosial harmoniya möhkəmləndi. Bu layihələr cəmiyyətdə qarşılıqlı dəstəyi artırdı və bayramlarda hədiyyələr paylandı. Regionun sosial proqra...
• Kitabxanalarda mütaliə proqramları, açıq müzakirələr və yaradıcı görüşlər keçirilmişdir. Valideynlərlə əməkdaşlığın gücləndirilməsi məqsədilə maarifləndirici tədbirlər davam etdirilmişdir...
• Kreditləşmə proqramlarına maraq yüksək səviyyədə qalmışdır. Rəqəmsal bankçılıq xidmətlərinin istifadəsi genişlənmişdir. Maliyyə institutları yeni layihələrin maliyyələşdirilməsində fəal iştirak etmişlər...