OpenAI, la pequeña empresa emergente que sacudió el mundo de la inteligencia artificial generativa, sacudió las jaulas de Google y potencialmente revolucionó el juego del motor de búsqueda, está de vuelta en el juego de innovación de IA con un programa para desarrolladores.

OpenAI aún tiene que anunciar públicamente su nuevo producto para desarrolladores, Foundry. Sin embargo, capturas de pantalla compartidas en las redes sociales revela un resumen del producto de la compañía actualizado el 17 de febrero, que confirma su lanzamiento. La fundición permite clientes para ejecutar la inferencia del modelo OpenAI a escala con capacidad dedicada, según Travis Fischer, propietario del Tweet que dio a conocer la noticia.

Descrito en el resumen como “creado para clientes de borde”, Foundry está destinado a satisfacer las necesidades de los usuarios avanzados con cargas de trabajo más pesadas, ofreciendo capacidad dedicada para ejecutar modelos Open AI y permitiendo la inferencia a gran escala mientras proporciona control sobre la configuración del modelo. y perfil de rendimiento.

¿Cuáles son las capacidades de OpenAI-Foundry?

Otras capacidades enumeradas en el resumen incluyen:

• Una asignación estática de capacidad dedicada al usuario y que proporciona un entorno predecible que se puede controlar.
• La capacidad de monitorear instancias específicas y optimizar los modelos de capacidad compartida con las mismas herramientas y tableros que usa Open AI.
• La capacidad de aprovechar todos los beneficios de rendimiento, latencia y costo de optimizar su carga de trabajo, incluidas las compensaciones de rendimiento de reducción de latencia y almacenamiento en caché.
• Controle la instantánea exacta de su modelo, lo que permite a los usuarios decidir si utilizar la última instantánea del modelo.

Según el informe, Open AI ofrecerá “opciones de ajuste más robustas para sus últimos modelos pronto, y Foundry será la plataforma para atender esos modelos”.

Además, continúa diciendo que Foundry ofrece SLA, por ejemplo, tiempo de actividad y soporte de ingeniería de guardia con un 99,5 % de tiempo de actividad “garantizado” y soporte de ingeniería de guardia para los clientes.