Hasta 40 US$
🇬🇧Ingeniero de Evaluación de Agentes Freelance
En remoto desde España·Jornada parcial·Añadida hoy
41 ofertas abiertas
Qué ofrecen
Hasta 40 US$ la hora
Bruto, según indica la oferta.
Jornada parcial
Según la oferta.
Totalmente en remoto
Según la oferta.
Qué piden
Trabajar en inglés
Se requiere inglés, según la oferta.
Tener 3+ años de experiencia
Puesto de nivel Mid.
Máster
«A Master's Degree in Computer Science, Software Engineering, Data Science / Data Analytics, Artificial Intelligence / Machine Learning, Computational Linguistics / Natural Language Processing (NLP), Information Systems or other related fiel» — según la oferta.
Lo más probable es que necesites inglés para inscribirte.Esta oferta se ha traducido automáticamente al español,.
El puesto
Mindrift conecta a especialistas con oportunidades de IA basadas en proyectos para empresas tecnológicas líderes, centradas en probar, evaluar y mejorar sistemas de IA. La participación es por proyectos, no es un empleo permanente.
Estamos construyendo un conjunto de datos para evaluar agentes de codificación de IA: qué tan bien maneja un modelo las tareas de desarrollo del mundo real.
Qué harás
Creará tareas desafiantes y criterios de evaluación dentro de entornos simulados realistas:
- Construir entornos de desarrollo realistas: una empresa virtual con base de código, infraestructura y contexto (tickets, documentación, conversaciones) que forme un historial de desarrollo creíble
- Diseñar tareas a partir de estados intermedios de estos entornos: elaborar el prompt, definir qué significa "resuelto" y asegurar que la tarea sea resoluble por un agente de IA
- Escribir pruebas que verifiquen las soluciones del agente: aceptar todos los enfoques válidos y rechazar los incorrectos, sin ser ni demasiado estricto ni demasiado permisivo
- Iterar en tareas y pruebas basándose en el feedback de QA: revisar las soluciones del agente, analizar los fallos y refinar hasta que la evaluación sea justa y robusta
Lo que esto NO es
- No es etiquetado de datos
- No es ingeniería de prompts
- No es escribir código desde cero: el agente escribe la mayor parte del código; usted guía y evalúa
¿Por qué esta oportunidad freelance podría encajar perfectamente con usted?
- Participe en un proyecto freelance, remoto y a tiempo parcial que se adapte a sus compromisos profesionales o académicos principales.
- Trabaje en proyectos avanzados de IA y gane una experiencia valiosa que mejore su portafolio. - Influya en cómo los futuros modelos de IA entienden y se comunican en su campo de especialización.
Requisitos
Qué buscan
- Más de 5 años en desarrollo de software
- Stack principal: Python (FastAPI), JavaScript/TypeScript (React), Docker, Postgres, Kafka, Redis
- Experiencia escribiendo pruebas (funcionales, de integración)
- Competencia en inglés - B2+
Por qué esto es difícil:
Los modelos de vanguardia ya son buenos programando. Crear una tarea que realmente desafíe a los mejores modelos no es trivial. Necesita comprender profundamente dónde fallan los modelos y qué escenarios revelan la diferencia entre una solución buena y una mala. Las tareas tienen muchas soluciones válidas: escribir pruebas que acepten todas las soluciones correctas y rechacen las incorrectas es más difícil de lo que parece.
Idiomas
Por favor, envíe su CV en inglés e indique su nivel de competencia en inglés.
Salario y beneficios
Qué ofrecen
Cualificaciones educativas
- Máster en Informática, Ingeniería de Software, Ciencia de Datos / Análisis de Datos, Inteligencia Artificial / Aprendizaje Automático, Lingüística Computacional / Procesamiento de Lenguaje Natural (NLP), Sistemas de Información u otros campos relacionados.
- Se acepta el título de Grado si el candidato tiene 5 años de experiencia en el sector.
Experiencia académica y/o profesional
Los candidatos deben tener un mínimo de 3 años de experiencia profesional en roles o dominios relacionados, específicamente para roles de QA-automation/testing o ciberseguridad
Cómo funciona
Solicitud → Superar la(s) cualificación(es) → Unirse a un proyecto → Completar tareas → Cobrar
Compensación:
Pago por tarea aceptada. Su tarifa depende del nivel de cualificación que alcance y de la eficiencia con la que complete las tareas, hasta el equivalente a 40 $/hora. Dado que el pago es por tarea, un ritmo más rápido aumenta su tarifa por hora efectiva.
El puesto
Mindrift connects specialists with project-based AI opportunities for leading tech companies, focused on testing, evaluating, and improving AI systems. Participation is project-based, not permanent employment.
We're building a dataset to evaluate AI coding agents - how well a model handles real-world developer tasks.
Qué harás
You'll create challenging tasks and evaluation criteria within realistic simulated environments:
- Build realistic developer environments - a virtual company with codebase, infrastructure, and context (tickets, docs, conversations) that forms a believable development history
- Design tasks from intermediate states of these environments - craft the prompt, define what "solved" means, and ensure the task is solvable by an AI agent
- Write tests that verify agent solutions - accept all valid approaches and reject incorrect ones, neither too strict nor too lenient
- Iterate on tasks and tests based on QA feedback - review agent solutions, analyze failures, and refine until the evaluation is fair and robust
What this is NOT
- Not data labeling
- Not prompt engineering
- Not writing code from scratch - the agent writes most of the code; you guide and evaluate
Why this freelance opportunity might be a great fit for you?
- Take part in a part-time, remote, freelance project that fits around your primary professional or academic commitments.
- Work on advanced AI projects and gain valuable experience that enhances your portfolio. - Influence how future AI models understand and communicate in your field of expertise.
Requisitos
Qué buscan
- 5+ years in software development
- Core stack: Python (FastAPI), JavaScript/TypeScript (React), Docker, Postgres, Kafka, Redis
- Experience writing tests (functional, integration)
- English proficiency - B2+
Why this is hard:
Frontier models are already good at coding. Creating a task that genuinely challenges the best models is non-trivial. You need to deeply understand where models fail and what scenarios reveal the difference between a good and a bad solution. Tasks have many valid solutions - writing tests that accept all correct solutions and reject incorrect ones is harder than it sounds.
Idiomas
Please submit your CV in English and indicate your level of English proficiency.
Salario y beneficios
Qué ofrecen
Educational qualifications
- A Master's Degree in Computer Science, Software Engineering, Data Science / Data Analytics, Artificial Intelligence / Machine Learning, Computational Linguistics / Natural Language Processing (NLP), Information Systems or other related fields.
- Bachelor's degree is accepted if only candidate has 5 years of experience in the field.
Academic and/or Professional Experience
Candidates should have a minimum of 3 years of professional experience in related roles or domain - specifically for QA-automation/testing or cybersecurity roles
How it works
Apply → Pass qualification(s) → Join a project → Complete tasks → Get paid
Compensation:
Paid per accepted task. Your rate depends on the qualification tier you reach and how efficiently you complete tasks - up to the equivalent of $40/hr. Because payment is per task, a faster pace raises your effective hourly rate.
Sobre Mindrift
Mindrift (anteriormente Toloka AI) es una plataforma global de datos de IA que conecta a empresas con una red distribuida de profesionales independientes que entrenan, evalúan y mejoran modelos de IA. La empresa opera un mercado donde las compañías publican tareas que van desde la anotación de datos y la evaluación de IA hasta la ingeniería de software, y expertos independientes las completan de forma remota. Con una fuerza laboral de millones en todo el mundo, Mindrift es un actor clave en la cadena de suministro de datos de IA, sirviendo a clientes que incluyen grandes empresas tecnológicas.
Mindrift tiene una presencia significativa en España, con numerosos puestos remotos de freelance abiertos a profesionales de todo el país, incluidos puestos para especialistas en entrenamiento de IA, ingenieros de software y expertos en extracción de datos. El modelo de trabajo totalmente remoto de la empresa es particularmente atractivo para profesionales internacionales, ya que les permite trabajar desde cualquier lugar de España sin necesidad de reubicarse. Su plataforma ofrece trabajo flexible basado en proyectos, lo que la convierte en una opción viable para personas cualificadas que buscan complementar sus ingresos o hacer la transición al trabajo independiente.
- Sector
- AI Data
- Fundación
- 2014
- Plantilla
- 1,000–5,000
- Sede
- Amsterdam, Netherlands
- En España
- Madrid, Barcelona
- Web
- mindrift.ai
Datos prácticos
- Todos los puestos son totalmente remotos, por lo que puedes trabajar desde cualquier lugar de España sin necesidad de reubicarte.
- La plataforma ofrece trabajo flexible basado en freelance, ideal para profesionales que buscan autonomía sobre su horario.
- El trabajo se basa en proyectos y se paga por tarea, proporcionando una forma directa de monetizar tus habilidades.
- La empresa opera a nivel global, por lo que colaborarás con una comunidad diversa e internacional de expertos.
- Como plataforma de freelance, no hay una escalera profesional tradicional ni un contrato de empleo a tiempo completo.





