Ingeniero de Seguridad de IA

• Grado en Informática, Ciberseguridad, IA o un campo relacionado, o experiencia equivalente.

• Más de 3 años en seguridad de aplicaciones, seguridad de productos, ingeniería de seguridad o seguridad de sistemas de IA.

• Experiencia implementando o gestionando controles SC TRM y BNM RMiT, riesgo tecnológico o evidencia de controles regulatorios.

• Comprensión de las integraciones de LLM de terceros, APIs de modelos, herramientas de agentes, RAG y arquitecturas de aplicaciones de IA.

• Conocimiento de inyección de prompts, inyección indirecta, filtración de datos entre usuarios, permisos excesivos de agentes y riesgos de divulgación de datos por parte de proveedores.

• Habilidades de programación o scripting, preferiblemente Python y TypeScript/Node.js, además de APIs y AWS o GCP.

• Capacidad para colaborar con Product, Legal, Compliance, Data y Engineering en controles prácticos y comunicación de riesgos.

El inglés es nuestro principal idioma de trabajo en los equipos globales. Se requiere una comunicación fluida en inglés.

El Puesto

Proteja los productos de BJAK habilitados por IA y los flujos de trabajo de los agentes utilizando modelos de terceros. Céntrese en los datos de los clientes compartidos con los proveedores de modelos, los permisos de los agentes, el aislamiento de los datos de los usuarios y la inyección de prompts a través de documentos cargados y otros contenidos no fiables.

• Evalúe los datos de los clientes enviados a proveedores de modelos de terceros, incluyendo la minimización, los controles del proveedor, la retención, el registro y el uso aprobado.

• Diseñe controles que limiten los permisos, las herramientas, las acciones y el acceso al sistema de los agentes de IA utilizando el principio de mínimo privilegio y autorización explícita.

• Implemente y pruebe el aislamiento de los datos de los inquilinos (tenants) y de los usuarios en los prompts, el historial de conversaciones, la recuperación, la memoria y los servicios conectados a la IA.

• Realice modelos de amenazas y pruebe la inyección de prompts y la inyección indirecta a través de documentos cargados, contenido recuperado, enlaces y otras entradas no fiables.

• Colabore con los equipos de Product y Engineering en la ingesta segura de documentos, el manejo de contenidos, la validación de resultados y la aprobación de acciones sensibles.

• Apoye los marcos SC TRM y BNM RMiT para los riesgos de tecnología de IA, incluyendo evaluaciones, supervisión de terceros, evidencia de controles y remediación.

• Desarrolle pruebas de seguridad, monitorización y procedimientos de respuesta ante el uso indebido de la IA, la exposición de datos, acciones no autorizadas e incidentes de proveedores.