HBR предупредил о деградации знаний из-за ИИ в компаниях

Harvard Business Review зафиксировал побочный эффект массового внедрения генеративного ИИ в компаниях и предупреждает о деградации знаний из-за ИИ в компаниях. Вместо обещанного ускорения части бизнес-процессов организации получают поток слабых материалов, рост затрат на проверку и постепенное размывание внутренних знаний.

Речь идёт не об отдельных ошибках моделей, а о системной нагрузке на сотрудников, которые вынуждены фильтровать и перепроверять машинный результат. В материале HBR этот эффект описан через термин workslop. Под ним понимают поток сгенерированного ИИ контента, который формально выглядит как рабочий результат, но требует

дополнительной ручной проверки и исправлений. На практике цепочка выглядит так: сотрудник генерирует текст, сводку или проект решения, в материале остаются ошибки и «галлюцинации», коллеги тратят время на верификацию, доверие к данным падает, а ценность корпоративной базы знаний снижается. Издание пишет, что проблема усиливается, когда генеративные модели

становятся обязательным слоем почти во всех процессах. Тогда ИИ перестаёт быть точечным инструментом и начинает влиять на то, как компания хранит, обновляет и передаёт знания между командами. Если ошибочные или шаблонные ответы многократно попадают во внутренние документы, они закрепляются в процедурах и начинают участвовать в принятии решений уже как «нормальные» данные. Отдельный эффект связан с навыками сотрудников. HBR отмечает, что при

постоянной передаче черновой работы моделям люди реже проверяют исходные предпосылки, хуже удерживают контекст и постепенно теряют часть прикладной экспертизы. Для бизнеса это означает двойной расход: сначала компания платит за автоматизацию, затем за слой контроля над автоматизацией. Деградация знаний из-за ИИ в компаниях Тревога выглядит логичной на фоне того, как быстро генеративный ИИ вошёл в корпоративный контур. По данным McKinsey, ещё в 2024 году 65% опрошенных компаний

заявляли, что уже регулярно используют генеративный ИИ хотя бы в одной бизнес-функции. Темп высокий, а правила применения часто писались уже после запуска пилотов. Обычно это плохой момент для аккуратной работы со знаниями. При этом ранние исследования не давали однозначного ответа о чистом росте производительности. Например, в известном исследовании NBER по колл-центрам модели

действительно помогали менее опытным сотрудникам и повышали их выпуск. Однако этот результат касался узкого сценария с хорошо измеряемой задачей, а не всей офисной работы сразу. Переносить такой эффект на документооборот, аналитику, найм и

внутренние коммуникации компании начали заметно быстрее, чем успели проверить ограничения. У крупных платформенных поставщиков был другой стимул. Microsoft, Google, OpenAI, Salesforce и другие продавали бизнесу не отдельную функцию, а идею универсального «второго пилота» для большинства офисных задач. Отсюда и риск: чем шире охват, тем больше в систему попадает материалов, которые выглядят убедительно, но не

проходят даже базовую фактологическую проверку. В редакционных тестах похожих инструментов эта проблема проявляется регулярно: чем увереннее тон ответа, тем дороже обходится его ручная проверка. Схожая логика уже появлялась в других сегментах. Поисковые системы с ИИ-сводками несколько раз показывали ошибки в ответах на простые запросы, а разработчики

программного кода жаловались на рост объёма правок после автогенерации типовых фрагментов. Для внутренней корпоративной среды такой сбой чувствительнее, потому что ошибка не исчезает после одного просмотра, а может остаться в шаблоне, инструкции или базе знаний. HBR отдельно выделяет влияние на найм и коммуникации внутри компаний.

Автоматизированные этапы отбора и подготовки материалов искажают ожидания обеих сторон: кандидат получает шаблонную обратную связь, работодатель видит «причесанное» резюме, а реальный уровень совпадения приходится устанавливать вручную уже позже. Чем больше посредников в цепочке общения, тем меньше сигнал и тем больше шума. В качестве рабочего выхода из этой ситуации издание предлагает не

отказываться от генеративного ИИ, а жёстче ограничивать его применение. Лучше всего модели работают там, где нужна быстрая заготовка, суммаризация или помощь в поиске вариантов, а итоговый результат остаётся у человека или у специализированной системы, обученной на проверенных внутренних данных. черновики писем и

документов суммаризация длинных материалов поиск типовых формулировок внутренние базы знаний с ограниченным набором источников Наименее предсказуемым остаётся сценарий, когда публичная большая языковая модель подключается ко всем этапам сразу и начинает порождать вторичный контент поверх другого

вторичного контента. В такой схеме компания быстрее получает видимость активности, чем реальный результат. Именно эту «имитацию бурной деятельности» HBR считает одной из главных управленческих ловушек текущего этапа. Рынок вряд ли откажется от корпоративного ИИ. По оценкам Bloomberg Intelligence, мировая

выручка сегмента генеративного ИИ к началу следующего десятилетия может превысить $1 трлн, и значительная часть этого спроса придётся на бизнес-сервисы. Поэтому следующим этапом для компаний, вероятно, станет не расширение охвата любой ценой, а пересборка правил: где модель экономит время, а где создаёт новый отдел по исправлению её ошибок.

Сообщает itzine.ru

 

Новость из рубрики: Технологии и Hi-Tech

 

Поделиться новостью:

 

Топ Новости Недели

• Эстетичный внешний вид упаковки повышает доверие потребителей и способствует увеличению продаж...
• Одним из главных преимуществ мебели на заказ является возможность рационального использования пространства...
• Профессиональное онлайн-образование в Московском Институте Психологии становится удобным и современным способом получить востребованную специальность...
• Профессиональное онлайн-образование в Московском Институте Психологии представляет собой современный и удобный формат получения знаний, который помогает совмещать обучение с другими жизненными задачами...
• При оформлении займа важно внимательно изучать условия договора и рассчитывать финансовую нагрузку...
• Уборка квартир с привлечением профессиональных клининговых услуг является удобным и эффективным решением для поддержания чистоты, уюта и порядка в жилом пространстве...
• Гараж из сэндвич панелей представляет собой современное и практичное решение для владельцев автомобилей...
• Займ на 3 дня без процентов — это удобное решение для краткосрочных финансовых задач...
• Давака представляет собой удобный и эффективный инструмент для получения краткосрочной финансовой поддержки...
• Настольные ПК остаются универсальным решением для самых разных задач — от повседневной работы до профессиональной деятельности и современных игр...
• Имплантация зубов является оптимальным решением при различных формах потери зубов...
• Запчасти Dongfeng играют важную роль в поддержании надежности и эффективности коммерческого транспорта...
• Бурение колодцев в Московской области является важным этапом в организации автономного водоснабжения...
• Современный рынок электронной коммерции и оптовой торговли в России активно развивается, и качественная логистика становится ключевым фактором успеха...
• Онлимед представляет собой современное решение для закупки медицинских товаров, объединяющее удобство, надежность и широкий ассортимент...
• Стеклофибробетон представляет собой эффективное решение для оформления фасадов, объединяя в себе прочность, легкость, долговечность и эстетическую выразительность...
• Выбор стоматолога для ребенка требует внимательного подхода и учета множества факторов...
• Электроинструмент от ТМ EMTOP выделяется среди аналогичных продуктов на рынке благодаря своей надежности, функциональности и доступности...
• Интимная гигиена является важной частью ежедневного ухода за телом, напрямую влияя на комфорт и здоровье...
• Лечение зубов с применением современных методик художественной реставрации является эффективным решением для восстановления здоровья и красоты улыбки...