Mercor: 63.000M de tokens en 10 días con Vercel

Mercor: 63.000 millones de tokens en 10 días y tareas hasta 6 veces más rápidas

Mercor enrutó 18 millones de solicitudes y 63.000 millones de tokens en sus primeros 10 días usando Vercel AI Gateway, sin tocar los límites de tasa de sus proveedores. El mismo movimiento recortó sus trabajos de evaluación por lotes de más de 12 horas a entre 2 y 3 horas, en un negocio donde cada cliente tiene una ventana de 24 horas para entregar.

Para un founder, la lección no es "usa tal herramienta". Es que la infraestructura dejó de ser un detalle de ingeniería y se volvió una palanca comercial: cuando tu producto depende de modelos de terceros, la capacidad de enrutar, medir y cortar el gasto decide si cumples o no el plazo del cliente.

Qué hace Mercor y por qué su carga de trabajo es tan exigente

Mercor conecta a cientos de miles de expertos de dominio —médicos, abogados, ingenieros— con laboratorios de IA de frontera que necesitan datos humanos para entrenar y evaluar modelos. Su red supera los 5 millones de expertos y alimenta benchmarks, evaluaciones empresariales, entornos de RL, post-entrenamiento y despliegues de agentes.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

El patrón de demanda es el problema: llega en picos que pueden empujar el tráfico de modelos a capacidad máxima durante días, mientras cada trabajo individual de etiquetado o evaluación tiene un plazo de 24 horas. Si las solicitudes quedan esperando en la cola de reintentos de un proveedor por límites de tasa, el plazo del cliente queda en riesgo.

Antes, la mezcla de integraciones directas y gateways de terceros no alcanzaba el caudal de tokens por minuto que exigían sus cargas con modelos abiertos. Los trabajos por lotes se estiraban más de 12 horas: más de la mitad del plazo del cliente consumido solo en esperar.

¿Cómo se pasa de 12 horas a 2 horas sin cambiar de proveedor?

La respuesta de Mercor fue dejar de depender de un único proveedor y poner una capa de enrutamiento en el medio. Vercel AI Gateway le dio más capacidad de inferencia y failover entre proveedores cuando las solicitudes chocan con los límites de tasa, de modo que el trabajo por lotes continúa en lugar de esperar en la cola.

El resultado reportado: los lotes ahora terminan en 2 a 3 horas, lo que devuelve horas de margen para el resto del trabajo del cliente. En los primeros 10 días en el gateway, el equipo enrutó 18 millones de solicitudes y 63.000 millones de tokens sin tocar límites de tasa.

Mercor sigue usando varios gateways y proveedores. Lo que valora de Vercel, según el caso publicado por la compañía, es la combinación de acceso a modelos, controles y soporte. Para los ingenieros hay además una sola API para los principales proveedores de modelos fundacionales y un catálogo creciente de modelos abiertos: probar un modelo nuevo no implica construir otra integración.

Ese punto es el que más debería interesar a un equipo pequeño. Cada integración de proveedor que evitas es deuda técnica que no acumulas.

¿Cómo controlar el gasto en tokens cuando cientos de personas experimentan?

Cuando el uso de modelos creció, Mercor necesitaba saber a dónde iba el gasto, y su configuración anterior daba poca visibilidad por equipo y por proyecto. Un solo error de bucle en un script podía agotar el presupuesto disponible.

La solución: cientos de ingenieros usan modelos abiertos a través del gateway con claves por usuario que llevan fecha de expiración, límite de tokens y límite de gasto. Seguridad puede darle a un experimento un presupuesto y una fecha de fin, y después usar los registros de uso para ver qué usuario, proyecto y carga están consumiendo.

Para un founder, esto es un patrón replicable sin depender de un proveedor concreto: separa el acceso a modelos del acceso a la aplicación, y haz que cada credencial tenga techo y vencimiento. La experimentación sin límites no es velocidad, es riesgo de factura sorpresa.

Por qué 2.000 proyectos internos cambian el rol de los equipos de negocio

Unos cientos de personas de los equipos de negocio de Mercor construyen aplicaciones sobre Vercel. El conteo de proyectos pasó de menos de una docena a cerca de 2.000, y muchos son entornos temporales para un compromiso concreto con un cliente.

Un caso de producción: dar a los expertos vistas detalladas de sus tareas y su progreso. En lugar de pedirle a ingeniería que agregue la interfaz de cada compromiso a la plataforma central, los equipos de negocio construyen las interfaces y las comparten con los expertos que hacen el trabajo.

El cuello de botella se movió: ya no es construir la app, es controlar quién entra. Para eso Mercor usa Vercel Passport como capa común de autenticación sobre su proveedor de identidad existente, en lugar de montar un esquema de login distinto por proyecto.

Su equipo de identidad construyó un producto llamado Audiences que integra Passport como primitiva de primera clase para automatizar el aprovisionamiento. Cuando un equipo elige a los expertos que necesitan acceso, Audiences crea el grupo en el IdP, la conexión de Vercel y la configuración de Passport. El aprovisionamiento pasa a resolverse en segundos, para audiencias que van de decenas a decenas de miles de expertos. El offboarding funciona igual al revés: como el acceso deriva del grupo del IdP, eliminar el grupo al terminar el compromiso elimina el acceso, sin permisos huérfanos.

Esto es lo que suele romperse en startups que crecen rápido: el acceso se otorga a mano, nadie lo revoca y quedan puertas abiertas. Derivar el permiso de una fuente única —el grupo— es la forma más barata de cerrarlas.

Agentes con permisos acotados: el modelo de seguridad que Mercor aplica

Mercor también usa agentes para responder preguntas de los expertos de su marketplace, automatizar flujos de RR.HH. y ayudar a los empleados a navegar sistemas internos. El criterio: cada agente recibe permisos estrechos y ajustados a su tarea, no todo lo que tiene la persona que lo invocó.

Para los agentes que usan modelos abiertos a través del gateway, Mercor puede acotar el acceso a modelos, fijar fechas de expiración y poner techo al gasto. Eso gobierna el uso de modelos mientras, por separado, define a qué sistemas y acciones puede entrar cada agente.

Es la diferencia entre darle a un agente las llaves de la casa y darle la llave de una puerta con horario. Si tu startup está desplegando agentes internos, ese es el punto de partida, no la excepción.

Qué significa esto para tu startup

1. Mide antes de optimizar. Mercor no supo a dónde iba su gasto de tokens hasta que puso claves por usuario con límites. Si no puedes responder qué equipo y qué proyecto consumió el presupuesto este mes, estás volando a ciegas. Empieza por instrumentar el consumo por usuario y por carga de trabajo.

2. Diseña para el pico, no para el promedio. El negocio de Mercor vive de picos con plazos de 24 horas. Si tu producto depende de APIs de modelos, un límite de tasa en el peor momento no es un problema técnico: es un incumplimiento con el cliente. Una capa de enrutamiento con failover entre proveedores cuesta menos que perder una cuenta.

3. Haz que el acceso sea un derivado, no un trámite. El patrón de Audiences —crear el grupo, derivar el permiso, eliminar el grupo al terminar— elimina el acceso residual. Aplícalo a contratistas, a expertos externos y a agentes.

4. Deja que los equipos de negocio construyan, pero con una sola puerta de entrada. Pasar de una docena a 2.000 proyectos internos solo es sostenible si la autenticación es compartida. Si cada equipo monta su propio login, el crecimiento de proyectos se convierte en crecimiento de superficie de ataque.

El contexto: la infraestructura de IA se está volviendo el cuello de botella

El caso de Mercor no ocurre en el vacío. Según datos internos de Vercel recogidos por Tech Yahoo, los despliegues de agentes de código pasaron de menos del 3% a más del 50% del total en seis meses, con un aumento de 28 veces en despliegues disparados por agentes. La plataforma que Mercor usa está siendo empujada por el mismo fenómeno que la hace necesaria.

El mercado detrás también se movió. Según Yahoo Finance, en junio Meta pagó US$14.300 millones por el 49% de Scale AI, una señal del valor estratégico que los laboratorios asignan a las empresas que organizan datos humanos para entrenar modelos. Mercor compite en ese terreno, y entre sus inversores figuran Felicis, Benchmark y General Catalyst, según el mismo medio.

Para un founder hispanohablante, la lectura es doble. Primero: si tu producto depende de modelos de terceros, tu diferenciación real está en la capa de orquestación —enrutamiento, control de gasto, permisos— más que en el modelo que eliges. Segundo: el talento experto que Mercor organiza es un mercado global, y eso abre una puerta para equipos de LATAM y España que pueden aportar dominio especializado sin mover a su gente.

Conclusión

Mercor no resolvió un problema de modelos: resolvió uno de operaciones. Bajó sus lotes de más de 12 horas a 2 o 3, enrutó 63.000 millones de tokens en 10 días sin tocar límites de tasa y convirtió 2.000 proyectos internos en algo gestionable porque estandarizó dos cosas: el acceso a modelos y la autenticación de aplicaciones.

La pregunta para tu startup no es qué gateway usar. Es si hoy puedes decir, sin adivinar, cuánto gasta cada equipo en modelos, qué pasa si tu proveedor te limita en el peor momento y quién conserva acceso después de que termina un proyecto. Si alguna respuesta es "no sé", ahí está tu próximo trimestre.