KPMG fabricó casos de estudio de IA en un informe diseñado para vender adopción de IA a clientes

KPMG retira informe con casos de IA fabricados tras ser descubierta

Una de las principales consultoras del mundo ha sido sorprendida publicando casos de estudio completamente inventados en un documento destinado a convencer a sus clientes de adoptar inteligencia artificial. El incidente expone una nueva categoría de riesgo en la era de la IA generativa: cuando las propias firmas de consultoría amplifican información falsa.

¿Qué ha pasado?

KPMG, una de las "Big Four" de la consultoría global, publicó un informe sobre implementación de IA en negocios que contenía casos de estudio fabricados involucrando a organizaciones prestigiosas como UBS (banco suizo), el NHS (sistema de salud británico) y otras entidades sin su conocimiento ni consentimiento.

El descubrimiento fue realizado por Edward Tian, CEO de GPTZero, quien identificó múltiples errores e inconsistencias en los supuestos casos de éxito presentados por la consultora. Los ejemplos fabricados incluían implementaciones de IA que nunca ocurrieron, atribuidas a empresas y organizaciones que no habían autorizado el uso de su nombre.

Tras la exposición pública del problema, KPMG ha retirado completamente el informe de circulación. La firma no ha emitido declaraciones detalladas sobre cómo se produjeron estos errores ni si utilizó herramientas de IA generativa sin verificación adecuada para crear el contenido del documento, destinado precisamente a promover servicios de adopción de IA entre sus clientes corporativos.

Por qué importa

Este escándalo introduce el concepto de "alucinaciones secundarias", término acuñado por Tian para describir un fenómeno peligroso: cuando firmas de consultoría confiables propagan afirmaciones defectuosas generadas por IA sin verificación rigurosa, estas se distribuyen y replican sin cuestionamiento debido a la credibilidad de la fuente.

A diferencia de las alucinaciones directas de modelos de IA, que los usuarios pueden identificar con escepticismo, las alucinaciones secundarias son particularmente insidiosas porque provienen de instituciones consideradas autoridades en sus campos. Empresas y ejecutivos que confían en consultoras como KPMG para tomar decisiones estratégicas multimillonarias podrían estar basando sus elecciones en datos completamente ficticios.

El caso expone la hipocresía fundamental de una consultora vendiendo servicios de IA mientras aparentemente carece de los controles de calidad necesarios para verificar contenido generado por estas mismas tecnologías. Para las organizaciones mencionadas sin autorización, el incidente representa un riesgo reputacional y plantea interrogantes sobre su imagen pública.

Contexto

Las firmas de consultoría como KPMG, Deloitte, PwC y EY se han posicionado agresivamente como asesoras en transformación digital e implementación de IA, generando miles de millones en ingresos por estos servicios. La presión por demostrar experiencia y casos de éxito en un mercado altamente competitivo ha intensificado desde la explosión de interés en IA generativa tras el lanzamiento de ChatGPT en 2022.

Este no es el primer escándalo de fabricación de información en el sector. Sin embargo, representa un punto de inflexión donde las herramientas de IA que las consultoras promueven podrían estar socavando su propia credibilidad. La industria enfrenta ahora presión para implementar protocolos más estrictos de verificación de hechos y transparencia sobre el uso de IA en la creación de sus propios materiales de marketing y consultoría.

---

Fuente: The Decoder