Meta aprovecha capacidad de inferencia ociosa para recomendar anuncios
Meta agrupa los espacios de capacidad ociosa por región y tipo de acelerador en un fondo compartido de inferencia oportunista, aunque la flota esté limitada en conjunto. Su sistema de clasificación de anuncios usa dos palancas: Rank More Ads evalúa candidatos adicionales y Serve Better Models cambia la proporción de solicitudes que se envía a un modelo más potente.
Período del evento / de los datos:
Publicado: · Actualizado:
Rank More Ads necesita excedentes de CPU y aceleradores para evaluar candidatos adicionales. Serve Better Models mantiene fijo el número de candidatos y dirige algunas solicitudes al modelo más potente, por lo que puede aprovechar excedentes solo de aceleradores. Las dos vías consumen combinaciones distintas de recursos disponibles.
Meta aísla física o lógicamente el servicio base del trabajo opcional. Los bucles centrales se ajustan en minutos, mientras que la reducción de carga en servidor y cliente puede descartar trabajo opcional de menor valor en milisegundos cuando se recupera capacidad.
El enrutador elige qué solicitudes reciben el modelo más potente mediante un proceso de exploración y explotación que mide periódicamente el valor incremental; si cae la capacidad, pueden volver al modelo base. El artículo de Meta describe la arquitectura y los controles, pero no cuantifica una mejora en el rendimiento publicitario.
Datos
Meta aprovecha capacidad de inferencia ociosa para recomendar anuncios
- · Ocurrido
Meta aprovecha capacidad de inferencia ociosa para recomendar anuncios
Meta agrupa los espacios de capacidad ociosa por región y tipo de acelerador en un fondo compartido de inferencia oportunista, aunque la flota esté limitada en conjunto. Su sistema de clasificación de anuncios usa dos palancas: Rank More Ads evalúa candidatos adicionales y Serve Better Models cambia la proporción de solicitudes que se envía a un modelo más potente.
Metodología
Este registro de evento resume la publicación fechada de la fuente primaria citada. Las afirmaciones de producto o prueba de la fuente no se presentan como resultados verificados de forma independiente.
Actualizado:
Temas y lugares
Propuestas temáticas
- Ciencia y tecnologíaSugerido
- Preserved editorial category/topic; broad candidate onlyengineering.fb.com ↗