Ingeniero de Fiabilidad de Sitios (SRE) Staff — Plataforma de IA

Necesitarás:

• Más de 5 años en ingeniería de SRE / plataforma / infraestructura, incluyendo la responsabilidad de producción a gran escala.

• Experiencia práctica operando sistemas basados en LLM en producción: APIs de proveedores (Bedrock, OpenAI, Anthropic o similares), pipelines de inferencia, servicio de modelos autoalojado o gestionado.

• Sólida formación cloud-native: AWS, Kubernetes, Terraform/IaC, CI/CD.

• Sólida práctica de observabilidad (Prometheus/Grafana, OpenTelemetry o equivalente) y experiencia definiendo SLO para sistemas no deterministas.

• Experiencia demostrable en optimización de costes: que puedas mostrar dónde redujiste el gasto en la nube o en inferencia y cómo hiciste que el coste fuera visible.

• Influencia a nivel Staff: has establecido la dirección técnica más allá de tu propio equipo y has logrado que otros te sigan.

Sería ideal si tienes:

• Experiencia construyendo u operando un gateway/proxy de LLM (por ejemplo, LiteLLM, Kong AI Gateway, personalizado).

• Experiencia con optimización de cargas de trabajo de GPU, cuantización o frameworks de servicio (vLLM, TGI, Triton).

• Experiencia con pipelines de evaluación y monitorización de calidad para resultados de LLM.

Nos preocupamos profundamente por tu crecimiento, bienestar y comodidad:

• 🌍 Onboarding híbrido para empezar a trabajar de forma remota y apoyo para la reubicación para ti y tu familia.

• 💙 Seguro médico integral tanto para ti como para tu familia.

• 📚 Presupuesto de desarrollo profesional para entradas a conferencias, cursos online y otros recursos relevantes para ayudarte a crecer.

• 🫶 Paquete de beneficios flexibles: aquí no hay beneficios estándar para todos. Tienes un presupuesto y tú decides en qué usarlo, desde salud y bienestar hasta familia y la configuración de tu oficina en casa.

• 🪴 Trabajo híbrido y tiempo libre generoso y flexible: planificado con tu equipo, no racionado por una cuota rígida.

• 🍽️ Beneficios en la oficina, incluyendo comidas y snacks gratuitos.

• 🤝 Actividades deportivas financiadas por la empresa, salidas anuales (offsites) y eventos de team-building.

• 🤖 La IA no es un extra aquí, es nuestra forma de trabajar. Claude, OpenAI y más están activados por defecto desde el primer día, y apoyamos a los equipos para que adopten lo que les haga más rápidos.

¿Quieres dar forma a la arquitectura de una plataforma de IA desde el primer día, en lugar de limitarte a mantener lo que otro construyó?

Manychat gestiona funciones de IA para empresas de todo el mundo, y estamos contratando a un SRE para que se encargue de la fiabilidad, el rendimiento y el coste de esa infraestructura de IA, y para elevar el listón de cómo toda nuestra organización de ingeniería construye sobre LLMs.

Este no es un rol de SRE clásico con un poco de IA por encima. Necesitamos a alguien "AI-native": que ya entienda cómo se comportan los sistemas LLM modernos en producción, aspectos como el rendimiento de tokens (throughput), los límites de velocidad de los proveedores, la degradación de la calidad del modelo y la latencia en la cola de inferencia, y que trate todo eso como una prioridad de fiabilidad de primer nivel, no como algo secundario.

Por qué este rol merece tu tiempo:

• La plataforma de IA es aún joven, por lo que darás forma a su arquitectura, estándares y hoja de ruta desde cero.

• Lo que está en juego es real. Las funciones de IA se encuentran en la ruta crítica de la automatización orientada al cliente, por lo que tu trabajo realmente importa para el negocio, no solo para un cuadro de mando.

• Colaborarás directamente con el Head of Infrastructure, con verdadera autonomía y visibilidad sobre el impacto de tus decisiones.

¿Suena como el tipo de responsabilidad que has estado buscando?

• Responsabilizarte de la fiabilidad y el rendimiento de nuestra infraestructura de IA: AI Gateway, servicios de inferencia e integraciones con Amazon Bedrock, Azure OpenAI y otros proveedores de LLM.

• Diseñar y evolucionar el AI Gateway: enrutamiento, conmutación por error (failover) entre proveedores, limitación de tasa (rate limiting), almacenamiento en caché y salvaguardas (guardrails).

• Construir la observabilidad para sistemas de IA: SLO de latencia/rendimiento/errores por modelo y proveedor, métricas a nivel de token, señales de calidad y deriva (drift).

• Impulsar la optimización de costes y FinOps para cargas de trabajo de IA: visibilidad de costes por función, dimensionamiento adecuado de modelos (right-sizing), estrategias de caché y combinación de proveedores.

• Gestionar la planificación de capacidad y la respuesta ante incidentes para los servicios de inferencia; escribir y mejorar manuales de ejecución (runbooks) y postmortems.

• Escalar la experiencia en IA en toda la organización: establecer estándares, revisar diseños y asesorar a los equipos que lanzan funciones basadas en LLM.

• Responsabilidad en proyectos desde cero (green-field): la plataforma de IA es joven; darás forma a su arquitectura, estándares y hoja de ruta.

• Escala real y retos reales: las funciones de IA se encuentran en la ruta crítica de la automatización orientada al cliente.

• Colaboración directa con el Head of Infrastructure; alta autonomía y visibilidad.