Крупный консалтинговый провал: KPMG отозвала отчет об агентском ИИ из-за галлюцинаций нейросети
Международная консалтинговая компания KPMG была вынуждена удалить со своих ресурсов масштабное исследование под названием «Переосмысление совершенства в эпоху агентного ИИ». Как сообщает Financial Times, поводом для этого стали жесткие претензии со стороны крупных мировых корпораций, которые обнаружили в документе недостоверные данные о внедрении ими искусственного интеллекта.
Доклад, опубликованный в октябре 2025 года, утверждал, что ведущие игроки рынка уже массово используют ИИ-агентов для автоматизации сложных бизнес-процессов — от управления рисками до медицины и логистики. Однако на практике многие из этих прорывных кейсов оказались вымыслом.
Опровержения от гигантов: UBS, железные дороги и транспортники
Организации, упомянутые в отчете в качестве передовиков автоматизации, поспешили официально опровергнуть выводы аналитиков:
- Швейцарский банк UBS: В докладе утверждалось, что банк успешно интегрировал ИИ-помощников в сферы инвест-консультирования и комплаенса на совместной с Microsoft платформе. Представители UBS официально заявили, что эти данные «фактически неверны», после чего KPMG начала спешно изымать документ из публичного доступа.
- Swiss Federal Railways: Авторы исследования уверяли, что швейцарский железнодорожный оператор использует агентские ИИ-системы для оптимизации графиков движения поездов с учетом экологии и предпочтений пассажиров. В компании подчеркнули, что это описание не имеет ничего общего с реальностью.
- Transport for London: Столичный транспортный департамент Великобритании назвал утверждения KPMG о координации перевозок и управлении трафиком через агентный ИИ вводящими в заблуждение.
Экспертиза GPTZero: как ИИ придумывает факты
Исследовательская группа GPTZero, специализирующаяся на анализе сгенерированного нейросетями контента, подтвердила искусственную природу ошибок. Эксперты пришли к выводу, что спорные фрагменты представляют собой классические «галлюцинации» больших языковых моделей, когда ИИ выдает вымышленные факты в убедительной аналитической обертке.
Ярким примером стал кейс Национальной службы здравоохранения Большого Манчестера. KPMG утверждала, что организация использует агентный ИИ для прогнозирования повторных госпитализаций. Проверка показала, что в источнике, на который ссылались авторы, речь шла исключительно о локальном проекте ранней диагностики рака легких, а масштабные функции прогнозного ИИ были просто «додуманы» алгоритмом.
Системный кризис консалтингового сектора
В KPMG заявили, что крайне серьезно относятся к точности материалов, и начали внутреннее расследование. В компании подчеркнули, что их стандарты требуют обязательного контроля со стороны человека (human-in-the-loop) и жесткой верификации независимых источников.
Тем не менее, этот инцидент обнажил системную проблему всего консалтингового рынка, где эксперты все чаще полагаются на генеративный ИИ без должной перепроверки:
- В мае аналогичный скандал разразился вокруг компании EY (Ernst & Young) — фирме пришлось отозвать аналитический доклад из-за вымышленных ссылок и фактологических ошибок.
- Ранее с проявлениями ИИ-галлюцинаций в своих рабочих материалах столкнулась авторитетная юридическая фирма Sullivan & Cromwell.
Риски для рынка и эффект «вторичных галлюцинаций»
Эдвард Тян, генеральный директор GPTZero:
«Ошибки в исследованиях от лидеров консалтинга опасны тем, что порождают эффект «вторичных галлюцинаций». Недостоверные данные из авторитетного отчета мгновенно подхватываются профильными СМИ, цитируются в других аналитических обзорах и ложатся в основу долгосрочных стратегий третьих компаний».
По данным GPTZero, на спорные выводы KPMG уже успели сослаться крупные отраслевые и зарубежные масс-медиа. Подобные инциденты наносят тяжелый репутационный удар по консалтинговым гигантам. Складывается парадоксальная ситуация: компании, которые берут миллионные гонорары за консультирование бизнеса по вопросам внедрения ИИ и управления рисками, сами становятся жертвами этих технологий.
На этом фоне примечательно звучит недавний призыв главы Anthropic Дарио Амодеи, который официально обратился к властям США с требованием существенно ужесточить подход к государственному регулированию и контролю за развитием искусственного интеллекта.
