Investigador de Seguridad en IA / Ingeniero de Investigación

• Posibilidad de trabajar en una startup internacional emocionante y bien financiada con sede en San Francisco
• Tecnología de vanguardia, que te permitirá trabajar con herramientas y soluciones de software de última generación
• Compensación competitiva y mucho espacio para el crecimiento personal
• Gran exposición internacional y ambiente de equipo

Buscamos contratar en Londres, pero consideraríamos a un candidato excepcional en el resto de Europa.

POR FAVOR, NO ENVIAR AGENCIAS NI RECLUTADORES - Lamentablemente, no podemos trabajar con terceros en estas búsquedas.

• Se prefiere altamente un doctorado (Ph.D.) en informática, pero podemos considerar algunas excepciones con experiencia en la industria

• Diseñar y ejecutar evaluaciones adversarias para descubrir modos de fallo en agentes web y chatbots basados en LLM (por ejemplo, inyección de prompts, abuso de herramientas, exfiltración de datos)
• Analizar el comportamiento del modelo (incluyendo los pensamientos internos) para comprender y pronosticar riesgos de seguridad en modelos de vanguardia (frontier models)
• Desarrollar y prototipar técnicas de entrenamiento y ajuste fino (fine-tuning) centradas en la seguridad
• Aumentar los agentes web con principios de seguridad, incluyendo el control de flujo de información, el control de privilegios y la seguridad contextual
• Colaborar con ingenieros e investigadores (de privacidad, ML y criptografía) para traducir los hallazgos en cambios de producto, pruebas y mejoras de seguridad medibles
• Ayudar a definir una estrategia y política de seguridad con visión de futuro para la creación y el lanzamiento responsable de agentes web, abogando por la protección del usuario

Remoto o híbrido - preferiblemente en Londres, pero se acepta Norteamérica, UE o Reino Unido

Brave tiene la misión de proteger el derecho humano a la privacidad en línea. Hemos creado un navegador web gratuito que bloquea anuncios y rastreadores intrusivos por defecto, un motor de búsqueda privado con un índice verdaderamente independiente, un asistente de IA privado, las últimas funciones de privacidad y seguridad, y una red de anuncios privada (¡con opción de participación!) que te recompensa directamente por tu atención. Ya más de 120 millones de personas utilizan Brave regularmente para una web más rápida y privada. Millones más se cambian cada mes.

Internet es un mar de anuncios, hackers y cámaras de eco. Las Big Tech obtienen enormes beneficios de nuestros datos y nos dicen qué es verdad y qué no. Brave está luchando contra ello. ¡Únete a nosotros!

Buscamos un investigador/ingeniero de investigación para ayudar a mitigar los riesgos de seguridad que conlleva la creación de sistemas de IA, especialmente agentes web y chatbots basados en LLM. En este puesto, diseñarás e implementarás arquitecturas seguras por diseño (secure-by-design), auditarás nuestro agente web basado en LLM (https://brave.com/blog/ai-browsing/) y nuestro chatbot, y ayudarás a definir el rumbo de Brave sobre cómo identificamos, medimos y reducimos el riesgo de seguridad en todos nuestros productos de IA.

• Experiencia demostrada trabajando en IA Segura (ataques de inyección de prompts y barreras de seguridad/guardrails)
• Sólida trayectoria de publicaciones en seguridad de IA, seguridad de ML o áreas estrechamente relacionadas
• Experiencia demostrada en el lanzamiento de productos y funciones en un entorno de ritmo rápido
• Sólidas habilidades de programación en Python y familiaridad con frameworks de ML como PyTorch o JAX
• Experiencia en el entrenamiento, ajuste fino y evaluación de modelos de lenguaje extensos (LLM)
• Profundo conocimiento de los modelos de lenguaje extensos y los agentes web, cómo funcionan y cómo se entrenan
• Experiencia aplicando principios de seguridad (por ejemplo, control de flujo de información, control de acceso/mínimo privilegio)
• Éxito demostrado aportando claridad y responsabilidad a problemas técnicos ambiguos

• Conocimiento de sistemas de IA (pipelines, evaluación de seguridad, etc.)
• Proyectos de código abierto sobre seguridad/privacidad
• Experiencia con computación confidencial y protocolos ZKP/SMPC
• Doctorado (Ph.D.) en informática de una institución de primer nivel
• Una sólida trayectoria de publicaciones en sistemas, rendimiento o ML de primer nivel
• La experiencia laboral en la industria es deseable