Machine Learning Engineer, Ops

Al determinar la compensación, se tendrán en cuenta diversos factores, incluyendo las habilidades, la experiencia, el alcance del puesto, la ubicación y los datos competitivos del mercado de compensación.

• Salario competitivo y generosas acciones de la empresa

• Seguro médico, dental y de la vista: Cantina cubre el 99.99% de las primas

• 42 días de tiempo libre remunerado, que incluyen:

  • 15 días de PTO

  • 10 días de enfermedad

  • 15 festivos de la empresa

  • 2 festivos flotantes

• Generosa baja parental y apoyo a la fertilidad

• Plan de ahorro para la jubilación 401(k)

• Cuenta de gastos para estilo de vida: $500/mes para usar como prefieras

• Almuerzo y snacks gratuitos para empleados en la oficina

• Membresía de One Medical, ¡y más!

Buscamos un ML Engineer para hacerse responsable de todo el stack de inferencia en producción para nuestros modelos de texto a voz (TTS) y reconocimiento de voz (ASR), de extremo a extremo. Nuestro equipo de investigación entrega los checkpoints de los modelos entrenados; tú los llevarás a producción como servicios de streaming en tiempo real y de baja latencia que se ejecuten de forma rentable en GPUs. El puesto abarca los motores de inferencia, la infraestructura Kubernetes sobre la que se ejecutan, y el benchmarking de rendimiento y la validación de precisión que nos permiten implementar cambios de forma segura. Actuarás como puente entre la investigación y la producción, y serás responsable de la latencia, el rendimiento (throughput), el coste y la precisión a medida que escalemos.

• Construir y optimizar motores de inferencia por streaming para modelos TTS y ASR, incluyendo pipelines de modelos de múltiples etapas.

• Optimizar la latencia (tiempo al primer chunk, p50/p99) y el rendimiento (throughput) utilizando continuous batching, CUDA Graphs, torch.compile y precisión mixta.

• Mantener la paridad numérica con la implementación de referencia mediante pruebas de regresión de precisión automatizadas, por etapa y de extremo a extremo.

• Desplegar y operar servicios de inferencia en GPU sobre Kubernetes: autoescalado, contenerización e infraestructura como código.

• Construir CI/CD para artefactos de modelos, con versionado de modelos y lanzamientos reproducibles.

• Hacerse responsable de la observabilidad y el benchmarking de rendimiento: latencia p50/p99, factor de tiempo real (RTF), utilización de GPU y coste por solicitud.

• Colaborar con el equipo de investigación para llevar nuevos modelos a producción.

Cantina Labs es una empresa de IA social que desarrolla una suite de modelos avanzados en tiempo real que amplían los límites de la expresión, la personalidad y el realismo. Damos vida a los personajes, transformando la forma en que las personas cuentan historias, conectan y crean. Construimos y potenciamos ecosistemas. Cantina, nuestra plataforma insignia de IA social, es solo el comienzo.

Si te entusiasma el potencial que tiene la IA para dar forma a la creatividad humana y a las interacciones sociales, ¡únete a nosotros para construir el futuro!