En octubre, más de una de cada cuatro solicitudes en el enrutador de modelos de IA de Vercel se dirigió a modelos de decisión en lugar de a LLM, una enorme cuota de trabajo para un tipo de inteligencia computarizada que se inventó solo un mes antes. Los modelos de decisión son LLM que no producen tokens de salida; en cambio, están ajustados para usar su inteligencia general para decidir rápida y económicamente entre opciones preestablecidas, registrando su nivel de confianza en la elección. Son útiles en entornos de producción, donde las decisiones rápidas pueden ser más importantes que el razonamiento proporcionado por un modelo de frontera más lento y costoso.

TypeSafe se convirtió en una empresa de 7.500 millones de dólares tras lanzar su familia de modelos Jev, que sigue dominando su uso (al menos donde podemos ver métricas de servicios como OpenRouter, que gestionó más de 1.500 millones de consultas a los modelos de TypeSafe la semana pasada). Sin embargo, es fácil crear un modelo de decisión, y docenas se lanzaron a raíz de Jev. Un ingeniero de Amazon hizo uno en un fin de semana, y pronto todos los hiperescaladores tuvieron su propia opción. El martes, el CEO de Microsoft, Satya Nadella, dijo que su compañía está implementando su modelo de decisión, Microsoft-Decision-1.1, para uso generalizado en Azure de inmediato.

La acción está ocurriendo en ambos extremos del ecosistema: Sqwish, una startup de IA con sede en el Reino Unido detrás de un modelo de decisión llamado kettei fat, anunció hoy una ronda pre-semilla de 3 millones de dólares. Los cofundadores Ushnish Sengupta y Federica Freddi, que se conocieron como estudiantes de posgrado en Cambridge, habían estado desarrollando pequeños LLM cuando llegó Jev al escenario, y se dieron cuenta de que sus arquitecturas podían reutilizarse como un poderoso modelo de decisión.

Los datos parecen ser la clave para un modelo exitoso en esta categoría: el CEO de TypeSafe, Diogo Almeida, dijo a TechCrunch que la parte más difícil de construir Jev fue calibrar finamente su juicio utilizando datos sintéticos ajustados estadísticamente. Sqwish también ha estado trabajando con datos sintéticos, pero su oferta única son herramientas de post-entrenamiento integradas que utilizan los datos propios del cliente para mejorar el juicio del modelo.
CAPTURA DE IA

Esta noticia fue extraída, transcrita y resumida en tiempo real por nuestros modelos de inteligencia artificial tras su emisión en medios de comunicación.

Fuente original: TechCrunch - Inteligencia Artificial (EE.UU.) (Tecnología e IA (EE.UU. / Silicon Valley))