AI Performance Engineer

• Más de 5 años de experiencia relevante en la industria o en investigación en computación de alto rendimiento, desarrollo de kernels de IA, programación de aceleradores, ingeniería de compiladores o un campo estrechamente relacionado.
• Experiencia demostrada en la escritura y optimización de kernels de GPU o aceleradores de calidad de producción, con un sólido conocimiento de algoritmos paralelos, comportamiento numérico, patrones de acceso a la memoria, sincronización y movimiento de datos.
• Sólido conocimiento de los algoritmos de atención modernos y sus compromisos de implementación, incluyendo las distintas características de rendimiento del prefill y el decode.
• Sólida comprensión de arquitecturas más allá de las GPUs convencionales —como NPUs, DSPs, TPUs o ASICs personalizados— y la capacidad de razonar sobre unidades de cómputo, jerarquías de memoria y modelos de ejecución desconocidos.
• Experiencia con al menos un modelo de programación heterogéneo o ecosistema de kernels como CUDA, Triton, SYCL, OpenCL, HIP o un SDK de acelerador de un proveedor.
• Sólidas habilidades de análisis de rendimiento y dominio de herramientas pertinentes de perfilado, trazado (tracing), benchmarking y depuración.
• Capacidad para leer manuales de arquitectura, la salida del compilador y el código generado de bajo nivel; formular hipótesis a partir de los datos; y cerrar sistemáticamente las brechas de rendimiento.
• Un enfoque colaborativo y orientado al equipo; comunicación escrita y verbal clara; curiosidad intelectual; y comodidad asumiendo problemas técnicos ambiguos desde la investigación hasta la productización.

• Conocimiento del lenguaje de programación Mojo o experiencia en la creación de kernels y librerías sensibles al rendimiento en Mojo.
• Conocimiento de MLIR, LLVM y tecnologías relacionadas de compiladores de IA, incluyendo el diseño de dialectos, pipelines de reducción (lowering), generación de código, planificación (scheduling) o ajuste automático (autotuning).
• Experiencia implementando FlashAttention u otros algoritmos de atención fusionados, operadores de atención personalizados, kernels de paged KV-cache u optimizaciones de atención específicas para inferencia.
• Experiencia con DSLs de kernels modernos y librerías como CuTe/CUTLASS, Triton, Pallas o sistemas similares.
• Familiaridad con los componentes internos de los frameworks de IA e integración de operadores en sistemas como PyTorch, JAX, TensorFlow, vLLM, SGLang o TensorRT-LLM.
• Experiencia en la puesta en marcha de un modelo o una librería de kernels en una nueva plataforma de hardware, incluyendo el trabajo con las limitaciones del compilador, el runtime, el driver y el hardware.
• Experiencia con modelado de rendimiento, ajuste automático (autotuning), validación numérica o infraestructura de benchmarking.
• Familiaridad con arquitecturas de LLM como GPT y Gemma, incluyendo la atención de consulta agrupada (grouped-query attention), mezcla de expertos (mixture-of-experts), decodificación especulativa (speculative decoding) e inferencia de contexto largo.
• Un título avanzado en Ciencias de la Computación, Ingeniería Eléctrica, Ingeniería Informática o un campo relacionado.

• Un equipo increíble. Somos un equipo progresista y ágil con algunos de los mejores líderes de ingeniería y producto de la industria.
• Beneficios de clase mundial. Para atraer a los mejores, necesitamos ofrecer lo mejor. Tu paquete de beneficios puede incluir una cobertura sanitaria completa, programas de jubilación y ahorro, oportunidades de compra de acciones de la empresa, tiempo libre remunerado, recursos de bienestar, programas de apoyo familiar y oportunidades de formación y desarrollo. Ten en cuenta que los paquetes de beneficios específicos pueden variar según tu ubicación; puedes consultarlos beneficios que ofrece Qualcomm aquí.
• Compensación competitiva. Ofrecemos paquetes de compensación muy sólidos, incluyendo concesiones de RSU. Queremos que la gente se centre en realizar su mejor trabajo y creemos en adaptar los planes de compensación para satisfacer las necesidades de nuestra plantilla.
• Eventos de Team Building. Organizamos reuniones presenciales de equipo y encuentros locales periódicos en Los Altos, CA, así como en diferentes ciudades. Se espera que todos los roles viajen de 2 a 4 veces al año.

Trabajar en Modular te permitirá crecer rápidamente mientras trabajas junto a personas increíblemente motivadas y talentosas que tienen estándares altos, poseen una mentalidad de crecimiento y el propósito de cambiar verdaderamente el mundo.

El rango de salario base estimado para este puesto realizado en EE. UU., independientemente del estado, es de $180,000 - $270,000 USD.

El rango de salario base estimado para este puesto realizado en Canadá, independientemente de la provincia, es de $172,400.00 - $258,600 CAD.

El rango de salario base estimado para este puesto realizado en Edimburgo es de £99,600-£150,000 GBR.

El salario del candidato seleccionado dependerá de una variedad de factores permitidos y no discriminatorios relacionados con el puesto, que incluyen, entre otros, la educación, la formación, la experiencia laboral, las necesidades del negocio o las demandas del mercado. Este rango puede modificarse en el futuro. La compensación total de un candidato también incluirá un objetivo de bono anual, acciones y beneficios, siendo las acciones una parte significativa de tu compensación total.

Para los candidatos que no cumplan con los requisitos enumerados, te animamos de todos modos a que te postules, ya que es posible que tengamos próximas vacantes de un nivel inferior o superior a las anunciadas.

Buscamos un AI Performance Engineer para unirse al equipo de ASIC Performance. Diseñarás, implementarás y ajustarás kernels de atención de alto rendimiento —y un conjunto más amplio de kernels de IA fundamentales— para nuevas arquitecturas de aceleradores.

La atención está evolucionando rápidamente en diversos modelos y hardware: la atención de consulta agrupada (grouped-query) y multi-cabezal (multi-head), el prefill y el decode, los cachés KV paginados (paged KV caches), la atención de ventana deslizante (sliding-window) y global, así como nuevas variantes dispersas (sparse) o fusionadas, crean diferentes compromisos entre cómputo, memoria y movimiento de datos. En este puesto, traducirás esos requisitos algorítmicos en implementaciones de calidad de producción que aprovechen las capacidades únicas de GPUs, NPUs, ASICs y otros aceleradores emergentes.

También contribuirás a la arquitectura y el desarrollo del framework de Attention de Modular, construyendo abstracciones reutilizables que permitan a los desarrolladores de modelos y kernels expresar variantes de atención de forma limpia, al tiempo que se admite la especialización específica para el hardware y un excelente rendimiento de extremo a extremo.

Este es un puesto de contribuidor individual senior para un ingeniero que pueda asumir de forma independiente problemas de rendimiento ambiguos, colaborar a través de los límites organizativos y convertir ideas de investigación y capacidades de hardware en tecnología de producto robusta. Nuestro objetivo es entregar tokens con alto rendimiento a los usuarios finales de la nube con cargas de trabajo listas para producción, no solo microbenchmarks.

• Diseñar e implementar kernels de atención de alto rendimiento para prefill y decode, incluyendo variantes como MHA, GQA, paged attention, sliding-window/global attention y algoritmos de estilo FlashAttention fusionados.
• Construir y optimizar kernels de IA generales —incluyendo multiplicación de matrices, softmax, normalización, activación, embedding, reducción y primitivas de movimiento de datos— necesarios para poner en marcha modelos modernos en nuevos aceleradores.
• Contribuir al diseño e implementación del framework de Attention, con interfaces reutilizables que equilibren la portabilidad, la composabilidad, la capacidad de ajuste y la optimización específica para el hardware.
• Realizar el perfilado (profiling) de las cargas de trabajo, identificar cuellos de botella, establecer modelos de rendimiento y ajustar las implementaciones frente a los límites del hardware y las líneas de base competitivas.
• Desarrollar benchmarks, pruebas de corrección, pruebas de regresión y análisis de rendimiento automatizados para garantizar que los kernels sigan siendo fiables y rápidos en diversas formas de modelos y generaciones de hardware.
• Colaborar con el resto de los equipos de Modular para contribuir a las mejoras generales del stack de software y compartir aprendizajes.
• Trabajar directamente con los socios de hardware cuando sea necesario para comprender las nuevas arquitecturas, validar las cadenas de herramientas (toolchains), diagnosticar problemas de bajo nivel e influir en las interfaces de hardware/software.
• Redactar documentos de diseño, participar en revisiones técnicas y compartir conocimientos sobre arquitectura y rendimiento con todo el equipo.
• Mentorear a los compañeros de equipo y elevar el estándar de ingeniería en cuanto a calidad de kernels, metodología de rendimiento y software de bajo nivel mantenible.

UBICACIÓN: Los candidatos basados en EE. UU., Canadá y el Reino Unido pueden postularse. Puedes trabajar en nuestra oficina en Los Altos, CA, o en Edimburgo, o de forma remota desde casa. La incorporación de las nuevas contrataciones se realiza de forma presencial en la oficina correspondiente.