Mira Murati, CTO abierto de IAreconoció recientemente que ChatGPT, la plataforma de inteligencia artificial que impulsa y permite a los usuarios tener conversaciones con un modelo de lenguaje automatizado, regulación de necesidades.

Según el experto, la falta de supervisión y control sobre las herramientas de procesamiento de IA puede tener graves consecuencias, como la propagación de noticias falsas y la difusión del discurso de odio en línea.

En la reciente entrevista con AP, Murati subrayó la importancia de regulación en el desarrollo de tecnologías de procesamiento del lenguajeindicando que es necesario establecer un marco ético y legal para garantizar que estas herramientas se utilicen de manera responsable.

El experto también señaló que la regulación debe abordar una serie de cuestiones clave, que incluyen transparencia en la toma de decisiones algorítmicasprivacidad y seguridad de datos, y responsabilidad por los efectos sociales de las tecnologías de procesamiento de lenguaje de chatbot.

La UE trabaja en un Reglamento de Inteligencia Artificial que exige transparencia

Un marco de referencia con mucha literatura académica desde 2021 en la Unión Europea, donde ya se está trabajando en el Reglamento de Inteligencia Artificial. El Parlamento Europeo ultima una propuestaeso habrá que negociarlo después con el otro colegislador comunitario, el Consejo de la Unión Europea, y podría tener luz verde en unos meses.

Él primera y máxima barrera regulatoria que debate la UEme hubiera gustado transparencia de los puntos clave, a a lo que alude Murati. La norma dictará que los responsables de los modelos de IA en Europa también tendrán que ofrecer garantías de que durante los 10 años siguientes al lanzamiento del modelo esa documentación permanecerá accesible, y garantizar la transparencia con sus algoritmos.

“En cuanto a la IA, la confianza es una necesidad, no algo agradable de tener”. dijo Margrethe Vestager, vicepresidenta ejecutiva de una Europa adecuada para la era digital.

Un sistema de clasificación, cuya base fundamental permitirá evaluar el nivel de riesgo que una tecnología de IA podría representar para la salud, la seguridad y los derechos fundamentales de una persona. El marco establece cuatro categorías de riesgo: inaceptable, alto, limitado y mínimo.

La propuesta de la Ley de Inteligencia Artificial prevé severas sanciones en caso de incumplimiento. En el caso de las empresas, las multas podrían alcanzar los 30 millones de euros o el 6% de sus ingresos globales. Además, presentar documentación engañosa o falsa a los reguladores también puede resultar en multas.

Involucrar al mundo académico, político e industrial en la regulación de la inteligencia artificial

Mira Murati también ha querido subrayar la necesidad de involucrar a múltiples partes interesadas en el desarrollo de regulaciones efectivas para ChatGPT y otras herramientas similares. Según el experto, se necesitan esfuerzos colaboración entre la academia, la industria y el gobierno para hacer frente a los retos que plantean estas tecnologías emergentes.

Además, instó a los investigadores y desarrolladores a tener en cuenta la preocupaciones éticas y sociales en las primeras etapas del proceso de desarrolloy trabajar en estrecha colaboración con expertos en ética y políticas para garantizar que las tecnologías se diseñen y utilicen de manera responsable.

La preocupación de Murati por la regulación de las tecnologías de procesamiento del lenguaje refleja una creciente conciencia de los desafíos éticos y sociales que plantean estas herramientas emergentes.

A medida que la inteligencia artificial se vuelve más y más avanzada, la necesidad de una regulación eficaz es cada vez más apremiante. Si bien la inteligencia artificial tiene el potencial de mejorar la vida humana de muchas maneras, también puede tener consecuencias negativas, como la invasión de la privacidad y la creación de sistemas de vigilancia masiva.

¿Quién es Mira Murati?

Mira Murati es una ingeniera reconocida en la industria de la inteligencia artificial (IA). Actualmente, es la CTO de OpenAI, organización líder en investigación y desarrollo de IA. En este cargo, Murati lidera los esfuerzos de investigación de IA y es responsable de la estrategia tecnológica y la dirección del equipo de ingeniería.

Antes de unirse a OpenAI, Murati trabajó en varias empresas de tecnología., incluido Google, donde desempeñó un papel clave en el desarrollo de Google Maps y Google Photos. También fue cofundadora y CTO de una startup de inteligencia artificial llamada Xnor.ai, que fue adquirida por Apple en 2019.

Además de su trabajo en tecnología, Murati también es una abogar por la diversidad y la inclusión en la industria tecnológica y ha hablado sobre la importancia de aumentar la representación de mujeres y personas de color en IA y otras áreas de tecnología.

Su trabajo en OpenAI y otras empresas ha ayudado a impulsar el desarrollo de la IA y ha sido reconocida como una una de las mujeres más influyentes de Silicon Valley.