Groq, una startup que desarrolla chips para ejecutar modelos de IA generativa más rápido que el hardware convencional, tiene la vista puesta en la empresa y en el sector público.

Hoy, Groq anunció que está formando una nueva división, Groq Systems, enfocada en expandir enormemente su ecosistema de clientes y desarrolladores. Dentro del ámbito de competencia de Groq Systems está prestar servicios a organizaciones, incluidas agencias gubernamentales, que desean agregar chips de Groq a centros de datos existentes o construir nuevos centros de datos utilizando procesadores Groq.

Al formar la nueva unidad, Groq adquirió Definitive Intelligence, una empresa con sede en Palo Alto que ofrece una gama de soluciones de inteligencia artificial orientadas a los negocios, incluidos chatbots, herramientas de análisis de datos y creadores de documentación. Sunny Madra, director ejecutivo de Definitive Intelligence, ahora lidera GroqCloud, la plataforma en la nube de Groq que proporciona documentación de hardware de Groq, ejemplos de código y acceso API de autoservicio a los aceleradores alojados en la nube de la empresa.

«En Groq, estamos comprometidos a crear una economía de IA que sea accesible y asequible para cualquiera que tenga una idea brillante», dijo el cofundador y director ejecutivo de Groq, Jonathan Ross, en un comunicado de prensa. “Estamos entusiasmados de darle la bienvenida a Sunny y su equipo de Definitive Intelligence para ayudarnos a lograr esta misión… El equipo de Definitive tiene experiencia en soluciones de inteligencia artificial y estrategias de comercialización, así como una dedicación comprobada para compartir conocimientos con la comunidad. «

Madra cofundó Definitive Intelligence en 2022 con Gavin Sherry, exdirector de ingeniería de EMC. Antes de lanzar Definitive Intelligence, Madra y Sherry lanzaron conjuntamente Autonomic, una plataforma basada en la nube para conectar sistemas de movilidad que Ford adquirió en 2018.

Definitive Intelligence ofrece varios productos GenAI orientados a los negocios, incluidos OpenAssistants (una colección de bibliotecas de código abierto para desarrollar chatbots de IA) y Advisor (un generador de visualización que se conecta a bases de datos públicas y empresariales). Una de las principales herramientas de Definitive es Pioneer, un «agente autónomo de ciencia de datos» diseñado para manejar diversas tareas de análisis de datos, incluido el modelado predictivo.

Antes de la adquisición, Definitive Intelligence había recaudado 25,5 millones de dólares en capital de riesgo.

«El mundo recién ahora se está dando cuenta de lo importante que es la inferencia de alta velocidad para la IA generativa», dijo Madra en un comunicado enviado por correo electrónico. “En Groq, brindamos a los desarrolladores la velocidad, la baja latencia y la eficiencia que necesitan para cumplir la promesa de la IA generativa. He sido un gran admirador de Groq desde que conocí a Jonathan en 2016 y estoy encantado de unirme a él y al equipo de Groq en su búsqueda para traer el motor de inferencia más rápido del mundo”.

Groq, que surgió de forma sigilosa en 2016, está creando lo que llama un motor de inferencia LPU (unidad de procesamiento del lenguaje). La compañía afirma que su LPU puede ejecutar grandes modelos de lenguaje existentes similares en arquitectura a ChatGPT y GPT-4 de OpenAI a 10 veces la velocidad.

La fama de Ross es ayudar a inventar la unidad de procesamiento tensorial (TPU), el chip acelerador de IA personalizado de Google que se utiliza para entrenar y ejecutar modelos.

Definitive Intelligence es la segunda adquisición de Groq después de Maxeler Technologies, una empresa de soluciones de infraestructura de inteligencia artificial y computación de alto rendimiento, en 2022. Puede que no sea la última. El mercado de chips de IA personalizados es altamente competitivo y, en la medida en que la compra definitiva telegrafía los planes de Groq, Groq tiene claramente la intención de establecer un punto de apoyo antes de que sus rivales tengan una oportunidad.