A medida que el poder de desarrollo rápido de la IA generativa para potenciar la creación de contenido aumenta la preocupación sobre lo que la automatización podría significar para el acceso gratuito a información de calidad en línea, la startup Spoke AI con sede en Berlín se está preparando para aplicar la IA generativa en un entorno más limitado (pero aún ruidoso). Contexto: Internamente, dentro de las empresas, brindando a los trabajadores de la información herramientas para ayudarlos a mantenerse al tanto de las comunicaciones entrantes al resumir automáticamente lo que se les presenta a través de una variedad de herramientas de terceros.

La visión de la startup, eventualmente, es poder ofrecer herramientas de productividad de IA que puedan servir a los trabajadores de toda la empresa. Pero está comenzando por apuntar específicamente a las herramientas de agregación y resumen impulsadas por IA en los gerentes de proyectos.

El pensamiento aquí es que esta cohorte de trabajadores de escritorio tiende a aprovechar una amplia gama de programas de software de terceros, como Slack, Jira, Github, Miro, Figma y Notion, y por lo tanto puede tener una mayor necesidad de asistencia para mantenerse al tanto. tantos pings entrantes descentralizados. Más tarde, una vez que la startup haya trabajado en perfeccionar su tecnología y crear nuevos conjuntos de datos de capacitación, el plan es ir vertical por vertical, lanzando productos que puedan servir a todo tipo de trabajadores de la información.

Spoke AI abrió el acceso a sus primeras herramientas beta a principios de esta semana, y dice que tiene alrededor de 20 evaluadores, con una lista de espera de más de 500 empresas que desean probar la tecnología. El interés inicial proviene de empresas de diversos tamaños, desde pymes con alrededor de 10 empleados hasta empresas de unos 250 empleados. También tiene en la mira a empresas más grandes para una de las primeras características que está desarrollando.

Su lanzamiento ha captado el interés inicial de los inversores, ya que la startup fundada en el primer trimestre de 2021 anuncia una ronda de financiación previa a la semilla de 2 millones de euros (~ 2,1 millones de dólares) liderada por el fondo byFounders centrado en el norte de Europa, con la participación de Possible Ventures. La financiación incluye una subvención del Fondo Europeo de Desarrollo Regional a través del banco de desarrollo regional de Berlín, IBB. Antes de la presemilla, el equipo también había recibido algunos fondos ángeles para construir su MVP.

“La forma en que aplicamos [AI] es básicamente reducir el ruido al que se enfrentan las personas en su trabajo diario a través de las diferentes herramientas y plataformas que utilizan”, explica el cofundador Max Brenssell. “Inicialmente, esto es para gerentes de producto, que normalmente trabajan con ocho a diez herramientas diferentes. Los ayudamos a mantenerse al tanto de todo ese trabajo y comunicación a través de esas diferentes herramientas, mediante el uso de IA para agregar, priorizar y resumir esta comunicación”.

El paquete de inicio de la startup, o «sistema operativo para el lugar de trabajo», como lo anuncia su marketing, consta de una función de búsqueda que puede extraer datos a través de una variedad de herramientas de terceros, como conversaciones o tickets en los que el usuario ha sido etiquetado, agregando esta información entrante. en una experiencia de «bandeja de entrada inteligente» que también se superpone a los «resúmenes contextualizados» generados por IA. Inicialmente, planea probar esto con un puñado de empresas más grandes.

También ofrece resumen impulsado por IA «en el contexto de la búsqueda», según Brenssell, una función a la que se refiere como «Base de conocimientos generativa» (o «búsqueda inteligente»), en forma de un complemento de navegador. La función de búsqueda permite a los usuarios buscar en herramientas conectadas en su «bandeja de entrada inteligente» para encontrar respuestas «en forma resumida, en lugar de encontrar un enlace a una página desactualizada».

Spoke AI también ofrece su resumen automatizado como un complemento de Slack para los usuarios anteriores: la idea es proporcionar funcionalidad donde sus usuarios objetivo ya pasan mucho tiempo, mientras aprovecha los entornos confiables existentes en lugar de exigir a los usuarios que carguen lo que puede ser. contenido comercialmente sensible a una plataforma desconocida.

Hay una larga historia de herramientas de productividad que ofrecen integraciones y agregaciones que proponen extraer datos relevantes pero distribuidos en una ubicación más fácil de controlar. El valor agregado aquí es el uso de IA generativa para producir resúmenes contextuales además de eso para, en teoría, restaurar el contexto que de otro modo podría perderse a medida que los mensajes se extraen de sus aplicaciones nativas y se agregan a un repositorio centralizado.

La atención especial a la seguridad y la privacidad es un punto de diferenciación entre las afirmaciones de Spoke AI y los enfoques heredados para aumentar la productividad a través de la agregación.

“La verdadera salsa secreta está realmente en el resumen que funciona para este caso de uso específico: tiene que funcionar de una manera muy concisa y confiable. Y también en una privacidad de datos y seguridad de datos. [safe] forma. Así es como lo estamos posicionando y también como lo estamos construyendo”, dice Brenssell. “Trabajamos con modelos de lenguaje pre-entrenados, como los que están en el centro de [OpenAI’s] GPT. Pero hacemos mucho procesamiento previo y posterior en términos de, por ejemplo, anonimizar datos, limpiar los datos para mejorarlos desde la perspectiva de la privacidad y la seguridad”.

Él dice que Spoke AI prevé que este componente genere potencialmente un flujo de ingresos adicional, es decir, si puede vender la anonimización de datos como un servicio (a través de una API) a otras empresas que quieran aplicar modelos de IA como GPT a sus propios conjuntos de datos personalizados, además a la venta de resúmenes de IA.

Brenssell también dice que podría considerar convertir las capacidades básicas de resumen en una API también, como otra táctica para monetizar la tecnología.

Por ahora, ofrece una versión gratuita de su tecnología de resumen en forma de complemento de Slack. Para la función de bandeja de entrada inteligente, dice que, al menos inicialmente, se ofrecerá como SaaS, con precios escalonados según la cantidad de integraciones, funciones de seguridad, etc.

La precisión es obviamente un componente central de la propuesta de la startup. Si los resúmenes que genera no reflejan adecuadamente el contexto en torno a las notificaciones, Spoke AI podría terminar creando más trabajo para los usuarios, en lugar de ahorrarles un tiempo precioso.

Brenssell señala que ha incorporado circuitos de retroalimentación en el producto beta para que los usuarios puedan calificar los resúmenes automatizados y ayudarlo a mejorar el producto con el tiempo. También se enfoca en mostrar el funcionamiento de la automatización, para que los usuarios puedan rastrear y descubrir las entradas en las que se basó la IA para crear un resumen. Crear transparencia sobre esto es un enfoque temprano, dice.

“Esto es algo que los usuarios preguntan mucho, obviamente, ¿cómo puedo confiar en esto?” él nota. “Lo que tratamos de hacer siempre es crear transparencia sobre de dónde provienen los datos que fluyen hacia el resumen, y luego darle al usuario una especie de rastro, donde puede profundizar si lo desea, y realmente entender dónde estamos. estamos sacando los datos de eso va al resumen.”

Otra pregunta para reflexionar es si el resumen de IA es realmente suficiente para sostener un negocio independiente por derecho propio. O si pueden ser características más útiles que podrían agregar los gigantes de la productividad existentes. (Microsoft, por ejemplo, es un inversor importante en la interfaz conversacional ChatGPT de OpenAI para IA generativa y ha hablado de llevar la tecnología a una gama de sus propias herramientas de software. Si bien Google ya usa IA para ciertas funciones «inteligentes», como en su producto de correo electrónico, aunque con resultados bastante irregulares).

Cuando se le preguntó acerca de esto, Brenssell dice: «Esperamos absolutamente que cada uno de los grandes [players] como Notion, Slack, etc., para iniciar funciones de IA. Y algunos de ellos ya lo han hecho, lo que creo que es genial. Sin embargo, el problema que realmente estamos resolviendo es que realmente resumimos y aumentamos su productividad a través de una variedad de herramientas diferentes. Los gerentes de producto son el ejemplo más extremo de eso hoy en día, porque trabajan con 10 herramientas diferentes a diario. Pero sí vemos esa tendencia también en otros verticales, cada vez más, donde tienes herramientas cada vez más especializadas.

“En algún momento, tienes comunicación e información a través de cada una de estas herramientas, ¿verdad? Así que realmente vemos el valor de construir esta capa de resumen muy flexible y enfocada en integraciones, para que pueda usar todas esas herramientas que lo hacen más productivo en tareas y áreas muy específicas. Pero también puede mantenerse cuerdo manteniendo una visión general de la comunicación que se produce en nuestro sistema”.

“Muchas empresas que trabajan con Jira de Atlassian prefieren usar Notion sobre Confluence porque es la herramienta más flexible para la documentación. Y este tipo de cosas las vemos, cada vez más, porque hay más y mejores herramientas por ahí”, agrega. “La gente no quiere necesariamente vincularse a un solo producto. Pero realmente quieren poder elegir las mejores herramientas para su equipo para el flujo de trabajo de su empresa. Así que eso es algo de lo que vemos en el mercado. Y eso es a lo que obviamente también estamos apostando”.

¿No es aplicar la IA generativa para combatir la sobrecarga de información cuando se predice que la automatización complicará enormemente el problema de la relación señal-ruido, un poco, bueno, contraproducente? La IA para contrarrestar la IA es una carrera armamentista que, según sugieren las películas, podría no terminar tan bien…

Brenssell dice que es un «punto interesante», y agrega que será «realmente interesante ver hacia dónde, hacia dónde se dirigen las herramientas de IA generativa en el sentido de generar contenido realmente en los próximos años». Pero para el campo objetivo de Spoke AI, considera que el riesgo es bajo, argumentando que las comunicaciones comerciales no son un objetivo obvio para la automatización con IA, mientras que “la mayoría de las aplicaciones generativas de IA, por ejemplo, la creación de copias o la redacción de correos electrónicos de divulgación, son más revestimiento exterior”.

“Realmente nos estamos enfocando en cómo trabajan los equipos dentro de sus empresas y cómo pueden volverse más eficientes allí. Y ahí, no hemos visto tantos [uses of] IA generativa”, añade.

En el frente de la competencia, reconoce que ciertos productos ya ofrecen resúmenes relacionados con las funciones dentro de sus propios productos, como Notion e Intercom. También apunta a los agregadores de bandeja de entrada que pueden, por ejemplo, incorporar WhatsApp e iMessage en una sola interfaz, o poner correo electrónico b2b y Slacks en una sola bandeja de entrada. “Pero nada que realmente se base en el resumen, en lo que creemos es tan grande como el gran diferenciador”, argumenta.

Pero, ¿qué tan defendible es la idea de usar IA para resumir? Con potentes modelos de IA como GPT que ya existen, ¿qué impide que otros desarrollen la misma función? En esto, sugiere que el enfoque del equipo en la «privacidad de datos» y el uso ético de datos, además de impulsar el rendimiento del producto para que la tecnología pueda ofrecer resúmenes «concisos y confiables», lo ayudará a obtener una ventaja. “[Summarization is] no es tan fácil de hacer como generar, por ejemplo, contenido usando IA”, argumenta. “Obviamente, la tecnología subyacente está evolucionando. Estamos siguiendo eso. Pero sí creemos que al construir las piezas correctas, como, por ejemplo, cuando se trata de anonimizar datos, creo que ahí es donde podemos mantener la ventaja en el lado de la IA.

“Y luego, la segunda parte está realmente en el lado de la aplicación del producto. Simplemente creando una experiencia de usuario extremadamente bien integrada que funcione muy bien en sus diferentes herramientas, en lugar de obligarlo a cambiar de una a otra, de sus herramientas existentes como Slack, a una nueva herramienta. Esto no es algo en lo que creemos, porque crea mucha fricción. Por lo tanto, realmente estamos tratando de encontrar una manera de adaptar nuestro resumen al flujo de trabajo existente y de tomar un enfoque muy integrado. [approach].”

La puesta en marcha está utilizando una combinación de modelos de inteligencia artificial y capacitación personalizada para el resumen, y Brenssell dice que «actualmente está impulsada por una combinación de modelos de lenguaje preentrenados ajustados (por ejemplo, Luminous, GPT-3.5), código abierto autohospedado tecnología (p. ej., GPT-J, BLOOM, tecnologías desarrolladas por Microsoft y Stanford) y modelos personalizados entrenados internamente (p. ej., para el reconocimiento de entidades con nombre, detección de PII, seudonimización de datos, identificación de preguntas/respuestas, búsqueda semántica)”.

“Habiendo trabajado con tecnologías de PNL en los últimos…