Gerente de Seguridad de IA

Para marcar la diferencia con nosotros, todo lo que necesitas hacer es aportar lo mejor de ti.

¿Cuál será tu historia?

Más información: jti.com

Departamento: Information Security & Risk Management

Puesto: AI Security Manager

Ubicación: Madrid, España
Tipo de contrato: Local, Indefinido

El AI Security Manager es responsable de garantizar que todos los sistemas de IA sean seguros, resilientes y cumplan con los estándares regulatorios y de riesgo internos. El rol establece y aplica controles a lo largo de todo el ciclo de vida de la IA para prevenir el uso indebido, proteger la integridad de los datos y de los modelos, y gestionar los riesgos emergentes específicos de la IA.
Actuando como puente entre los equipos de seguridad, riesgo, e IA & Innovación, el AI Security Manager garantiza que las capacidades de IA se desplieguen de forma segura, se monitoricen eficazmente y se gobiernen de acuerdo con el apetito de riesgo de la empresa. Esto incluye integrar la seguridad en el diseño, mantener la supervisión de las amenazas relacionadas con la IA y asegurar la capacidad de respuesta ante incidentes que afecten a los sistemas de IA o a sus resultados.

1. Gobernanza, Riesgo y Cumplimiento (GRC)
   • Definir políticas de seguridad de IA alineadas con estándares como el NIST AI Risk Management Framework y las directrices ISO
   • Realizar evaluaciones de riesgo de IA, incluyendo consideraciones éticas, legales y de privacidad
   • Garantizar el cumplimiento de las regulaciones en evolución (p. ej., la Ley de IA de la UE, leyes de protección de datos)
   • Mantener pistas de auditoría y documentación para las decisiones y controles de los sistemas de IA
2. Arquitectura y Controles de Seguridad de IA
   • Definir e implementar controles de seguridad a lo largo del ciclo de vida de la IA/ML (ingesta de datos, entrenamiento de modelos, despliegue e inferencia).
   • Colaborar con los ingenieros de IA e Innovación para incorporar principios de diseño seguro (por ejemplo, endurecimiento de modelos, APIs seguras, control de
   accesos)
   • Evaluar y mitigar riesgos como la inversión de modelos, el envenenamiento de datos y los ataques adversariales.
   • Establecer prácticas seguras de IA/ MLOps, incluyendo versionado de modelos, validación de integridad y seguridad de los pipelines
3. Gestión de Amenazas y Vulnerabilidades para Sistemas de IA
   • Desarrollar modelos de amenazas específicos para sistemas de IA, incluyendo LLMs, motores de recomendación y modelos predictivos.
   • Evaluar continuamente las vulnerabilidades en modelos, conjuntos de datos y dependencias
   • Liderar ejercicios de red-teaming centrados en IA adversaria y escenarios de abuso (inyección de prompts, extracción de modelos).
   • Monitorizar las amenazas emergentes específicas de la IA e incorporarlas a la postura de seguridad