EMASESA participa en el III Foro Regional de ISMS Andalucía destacando la importancia de verificar la certeza de las decisiones que pueda ejecutar una IA de manera autónoma

La empresa metropolitana de aguas de Sevilla, EMASESA, ha participado en el III Foro Regional de ISMS Andalucía celebrado el pasado 1 de octubre en Málaga, con una ponencia sobre inteligencia artificial agéntica y ciberseguridad, y con la moderación de una mesa redonda centrada en resiliencia, soberanía digital, regulación y gestión del riesgo, ambas intervenciones compartiendo el mismo hilo conductor: la necesidad de evolucionar desde una visión tradicional de la seguridad centrada exclusivamente en la protección tecnológica hacia un enfoque más amplio basado en gobierno, resiliencia y gestión integral del riesgo.

Estas dos intervenciones estuvieron a cargo del Jefe de Seguridad de la Información de EMASESA y miembro de la Junta Directiva del Capítulo Andaluz del ISMS Forum, Alfonso López-Escobar Beares quien presentó en su ponencia De la autonomía a la confianza: la seguridad en la era de la IA agéntica las conclusiones del trabajo desarrollado por ISMS Forum en torno al Decálogo de Seguridad en la IA Agéntica, un marco orientado a establecer principios para construir ecosistemas de agentes de IA seguros, gobernables y confiables.

Así, López-Escobar Beares destacó que el verdadero reto ya no consiste únicamente en verificar si una IA genera respuestas correctas, sino en determinar si podemos confiar en las decisiones y acciones que ejecutará de manera autónoma, concluyendo que “el futuro estará marcado por la incorporación masiva de agentes inteligentes en los procesos corporativos, por lo que la velocidad de crecimiento de su autonomía deberá estar siempre acompañada por una capacidad equivalente de gobierno, supervisión y control.”

En su presentación utilizó un enfoque narrativo basado en un personaje ficticio llamado Nerea, un agente inteligente que trabaja en una compañía de aguas y cuya evolución permite ilustrar el paso desde los asistentes basados en IA hasta sistemas capaces de actuar de forma autónoma, coordinar otros agentes y ejecutar acciones complejas sobre los sistemas corporativos.

De este modo abordó cuestiones clave para las organizaciones como la evolución desde modelos de asistencia («Assist Me») hacia modelos capaces de ejecutar tareas y orquestar agentes de manera autónoma; el crecimiento de la superficie de riesgo cuando la IA deja de limitarse a responder y comienza a actuar sobre datos, aplicaciones y procesos corporativos; las nuevas amenazas asociadas a la IA agéntica, incluyendo la manipulación indirecta mediante contenido externo y los escenarios de exfiltración de información o la necesidad de incorporar mecanismos de identidad, gobierno, monitorización, control de autonomía, gestión del riesgo y supervisión continua sobre los agentes inteligentes.

Por otra parte, el Jefe de Seguridad de la Información de EMASESA también moderó la mesa redonda que llevaba por título “Y además: RIA, NIS2/DORA, Soberanía Digital y Resiliencia” en la que destacados responsables de tecnología y ciberseguridad del ámbito empresarial andaluz y nacional debatieron sobre resiliencia, soberanía digital y regulación.

Esta mesa redonda, que se desarrolló con un formato dinámico e interactivo, permitió tanto a los participantes como al público posicionarse y debatir sobre decisiones complejas relacionadas con la gestión del riesgo digital y la resiliencia empresarial, planteando cuestiones como el impacto de la creciente autonomía de la inteligencia artificial en el riesgo corporativo; la dependencia de proveedores tecnológicos y servicios SaaS críticos; las implicaciones de NIS2 y DORA en la responsabilidad de las organizaciones; los desafíos asociados a la soberanía digital y la capacidad real de migrar entre proveedores tecnológicos y el equilibrio entre prevención, continuidad de negocio y resiliencia operativa.

En este sentido el debate propició la articulación de distintas visiones sobre aspectos tan importantes como el impacto de la abundante normativa europea en el ámbito de la ciberseguridad, la soberanía tecnológica, la gestión de dependencias críticas, la responsabilidad de la alta dirección y el papel que desempeñarán los agentes de inteligencia artificial en los próximos años.

El III Foro Regional de Ciberseguridad de ISMS Andalucía abordó asuntos de máxima actualidad como la transformación digital, el avance de la inteligencia artificial y el creciente peso de la resiliencia operativa en la redefinición del papel de la ciberseguridad en las organizaciones, durante un encuentro que reunió a profesionales, directivos y expertos para analizar los desafíos que marcarán la agenda tecnológica y de seguridad en los próximos años.

ISMS Forum es la principal asociación española de ciberseguridad y seguridad de la información que agrupa a más de 450 empresas asociadas y a más de 2.000 profesionales, constituyendo la mayor red activa de organizaciones y expertos del sector en España. Además, impulsa su actividad mediante foros, estudios y grupos de trabajo especializados, habiendo iniciado recientemente su expansión internacional en Latinoamérica.