El COO de Google Cloud afirma que la seguridad en IA debe ser responsabilidad de la junta directiva, no solo del servidor

La seguridad en IA debe discutirse en la sala de juntas, no solo en servidores

La implementación acelerada de inteligencia artificial en las empresas ha expuesto una brecha crítica: mientras los equipos técnicos gestionan la infraestructura, las decisiones estratégicas sobre seguridad quedan relegadas. Francis de Souza, COO de Google Cloud, plantea que este enfoque fragmentado representa un riesgo corporativo que debe abordarse desde la cúpula ejecutiva.

¿Qué ha pasado?

Francis de Souza, director de operaciones de Google Cloud, ha lanzado un llamado directo a las empresas para que eleven la seguridad en IA al nivel de la junta directiva. Su argumento central es que la protección de los sistemas de inteligencia artificial no puede seguir siendo únicamente una cuestión técnica confinada a los departamentos de IT.

Según de Souza, las organizaciones deben integrar la seguridad en su estrategia de IA desde el inicio, no como un complemento posterior. Esta postura refleja una preocupación creciente en la industria tecnológica: mientras la adopción de IA se acelera, las consideraciones de seguridad siguen tratándose como temas operativos en lugar de estratégicos.

El ejecutivo de Google Cloud enfatiza que las decisiones sobre seguridad en inteligencia artificial tienen implicaciones que trascienden lo técnico, afectando directamente la reputación corporativa, el cumplimiento regulatorio y la confianza de los clientes. Por ello, argumenta que los consejos de administración deben asumir responsabilidad directa sobre estas cuestiones, estableciendo marcos de gobierno corporativo específicos para IA.

Por qué importa

Esta declaración marca un cambio significativo en cómo la industria tecnológica concibe la gobernanza de la IA. Tradicionalmente, las empresas han delegado la seguridad tecnológica en sus departamentos de TI o ciberseguridad, mientras que las juntas directivas se centraban en resultados financieros y estrategia de mercado.

Para las empresas que implementan IA, esto significa que deberán reestructurar sus procesos de toma de decisiones. Los consejos de administración necesitarán formación específica en riesgos asociados a la inteligencia artificial, desde sesgos algorítmicos hasta vulnerabilidades de seguridad y cumplimiento de regulaciones emergentes como la AI Act europea.

El impacto es especialmente relevante para sectores regulados como banca, salud y servicios públicos, donde las fallas de seguridad en IA pueden derivar en sanciones millonarias o pérdida de licencias operativas. La propuesta de de Souza también responde a la presión creciente de inversores y reguladores, que exigen mayor transparencia y rendición de cuentas sobre cómo las empresas gestionan los riesgos tecnológicos.

Para desarrolladores y equipos técnicos, este enfoque podría traducirse en mayor apoyo presupuestario y recursos, al convertirse la seguridad en IA en una prioridad estratégica corporativa.

Contexto

La posición de Google Cloud se alinea con una tendencia creciente en gobernanza corporativa. Grandes consultoras como McKinsey y el Foro Económico Mundial han publicado recientemente guías instando a las juntas directivas a involucrarse activamente en la supervisión de IA.

Este movimiento surge tras varios incidentes de alto perfil donde implementaciones de IA generaron controversias por sesgos, filtraciones de datos o decisiones algorítmicas cuestionables. Empresas como Microsoft, IBM y Anthropic han establecido comités específicos de ética y seguridad en IA a nivel ejecutivo, reconociendo que estos sistemas requieren supervisión más allá del departamento técnico.

---

Fuente: The Decoder