El CEO de OpenAI, Sam Altman, dijo que estaba de acuerdo con partes de una carta abierta del Future of Life Institute firmada por líderes tecnológicos como tesla CEO Elon Musk y Manzana el cofundador Steve Wozniak, quien pidió una suspensión de seis meses de la investigación de IA, pero agregó que la carta “faltaba la mayoría de los matices técnicos sobre dónde necesitamos la pausa”.

Altman hizo los comentarios durante una aparición en video el jueves en un evento del MIT que discutió negocios e IA.

OpenAI crea ChatGPT, un bot de IA que puede crear respuestas similares a las humanas a las preguntas formuladas por un usuario. El bot inició un frenesí de IA en el mundo de la tecnología. microsoft utiliza la tecnología OpenAI en su chatbot Bing y Google lanzó recientemente su competidor Bard.

“Creo que actuar con cautela y aumentar el rigor en temas de seguridad es realmente importante”, continuó Altman. “La carta no creo que fuera la forma óptima de abordarla”.

En marzo, Musk, Wozniak y docenas de otros académicos pidieron una pausa inmediata en los “experimentos” de capacitación relacionados con modelos de lenguaje extenso que eran “más poderosos que GPT-4”, el modelo de lenguaje extenso insignia de OpenAI, o LLM. . Más de 25.000 personas han firmado la carta desde entonces.

La tecnología GPT de OpenAI atrajo la atención internacional cuando se lanzó ChatGPT en 2022. La tecnología GPT sustenta microsoftBing AI chatbot de Bing y provocó una oleada de inversiones en IA.

“Los laboratorios de IA y los expertos independientes deberían usar esta pausa para desarrollar e implementar conjuntamente un conjunto compartido de protocolos de seguridad para el diseño y desarrollo avanzado de IA que son rigurosamente auditados y monitoreados por expertos externos independientes”, decía la carta. .

“También estoy de acuerdo en que, a medida que las capacidades se vuelven cada vez más serias, es necesario elevar el nivel de seguridad”, dijo Altman en el evento del MIT.

A principios de este año, Altman reconoció que la tecnología de inteligencia artificial lo asustó un poco. Se han planteado preguntas sobre el uso seguro y ético de la IA en la Casa Blanca, en el Capitolio y en las salas de juntas de todo Estados Unidos.

“Estamos haciendo otras cosas además de GPT-4 que creo que tienen todo tipo de problemas de seguridad que es importante abordar y que estaban totalmente fuera de serie”, dijo el ejecutivo de OpenAI.