En 1950, Alan Turing, el talentoso matemático y descifrador de códigos británico, publicó un artículo académico. Su objetivo, escribió, era plantear la siguiente pregunta:

«¿Pueden pensar las máquinas?»

La respuesta es casi 12.000 palabras.

Pero termina sucintamente:

«Sólo podemos ver una corta distancia hacia adelante», escribió Turing, «pero podemos ver muchas cosas que deben hacerse».

Más de siete décadas después, ese sentimiento resume el estado de ánimo de muchos formuladores de políticas, investigadores y líderes tecnológicos que asisten a la conferencia de este miércoles. cumbre británica sobre seguridad de la IA, que el Primer Ministro Rishi Sunak Se espera que posicione al país como líder en la carrera global para aprovechar y regular la inteligencia artificial.

El miércoles por la mañana, su gobierno publicó un documento llamado «Declaración de Bletchley«, firmado por representantes de los 28 países asistentes al evento, incluidos Estados Unidos y China, que advirtieron sobre los peligros que representan los sistemas de IA. «borde» más avanzado.

«Existe la posibilidad de que daños graves, incluso catastróficosya sea deliberado o involuntario, derivado de las capacidades más significativas de estos modelos de IA», afirma el comunicado.

«Muchos de los riesgos que surgen de la IA son inherentemente de naturaleza internacional, por lo que la mejor manera de abordarlos es a través de coperación internacional.

Resolvemos trabajar juntos de manera inclusiva para garantizar una IA responsable, confiable y centrada en el ser humano”.

Sin embargo, el documento no establece objetivos políticos específicos.

Está previsto celebrar una segunda reunión dentro de seis meses en Corea del Sur y un tercero en Francia dentro de un año.

Los gobiernos se han apresurado a abordar los riesgos que plantea esta tecnología en rápida evolución desde la publicación el año pasado de ChatGPTun chatbot con apariencia humana que demostró cómo los últimos modelos avanzan de manera poderosa e impredecible.

Las generaciones futuras de sistemas de IA podrían acelerar el diagnóstico de enfermedades, ayudar a combatir el cambio climático y agilizar los procesos de fabricación, pero también presentan peligros importantes en términos de pérdida de empleos, desinformación y seguridad nacional.

Un informe del gobierno británico advirtió la semana pasada que los sistemas avanzados de inteligencia artificial «podrían ayudar a los malos actores a llevar a cabo ciberataques, dirigir campañas de desinformación y diseñar armas biológicas o químicas».

Sunak promovió el evento de esta semana, que reúne a gobiernos, empresas, investigadores y grupos de la sociedad civil, como una oportunidad para comenzar a desarrollar estándares de seguridad globales.

La cumbre británica de dos días de duración se celebra en Bletchley Park, una finca situada a 80 kilómetros al norte de Londres, donde Turing ayudó a descifrar el código enigma Utilizado por los nazis durante la Segunda Guerra Mundial.

Considerada una de las cunas de la informática moderna, la sede es un guiño consciente a las esperanzas del Primer Ministro de que Gran Bretaña pueda estar en el centro de otra iniciativa de liderazgo global.

Bletchley es «evocador en el sentido de que captura un momento muy decisivo en el tiempo, en el que se requería un gran liderazgo por parte del gobierno, pero también un momento en el que la informática estaba en primera línea», dijo Ian Hogarth, empresario e inversor en tecnología designado por Sunak. para liderar el grupo de trabajo del gobierno sobre el riesgo de IA y quién ayudó a organizar la cumbre.

«Tenemos que unirnos y acordar un camino sensato a seguir».

Con Elon Musk y otros ejecutivos de tecnología entre el público, el Rey Carlos III pronunció un discurso en video en la sesión de apertura, grabado en el Palacio de Buckingham antes de partir para una visita de estado a Kenia esta semana.

«Estamos siendo testigos de uno de los mayores saltos tecnológicos en la historia de la humanidad», afirmó.

«Existe un claro imperativo para garantizar que esta tecnología en rápida evolución permanecer a salvo«.

El vicepresidente Kamala Harris y el secretario de comercio Gina Raimundo Participaron en las reuniones representando a Estados Unidos.

Wu ZhaohuiEl viceministro chino de Ciencia y Tecnología dijo a los asistentes que Beijing estaba dispuesto a «mejorar el diálogo y la comunicación» con otros países sobre la seguridad de la IA.

China está desarrollando su propia iniciativa para la gobernanza de la IA, afirmó, añadiendo que la tecnología es «incierto, inexplicable y carente de transparencia«.

En un discurso el viernes, Sunak respondió a las críticas que había recibido de los halcones de China por la asistencia de una delegación de Beijing.

«Sí, hemos invitado a China», dijo.

«Sé que hay quienes dirán que deberían haber sido excluidos. Pero no puede haber una estrategia seria para la IA sin al menos intentar involucrar a todas las principales potencias de IA del mundo».

Dado que el desarrollo de los principales sistemas de IA se concentra en Estados Unidos y un pequeño número de países, algunos asistentes dijeron que las regulaciones deben tener en cuenta el impacto de la tecnología a escala global.

Rajeev Chandrasekhar, El ministro de Tecnología, en representación de la India, dijo que las políticas deberían ser establecidas por una «coalición de naciones y no sólo por uno o dos países».

«Al permitir que la innovación se adelante a la regulación, nos abrimos a la toxicidad, la desinformación y la militarización que vemos hoy en Internet, representada por las redes sociales», afirmó.

A la conferencia asistieron ejecutivos de importantes empresas de tecnología e inteligencia artificial, como Antrópico, Google DeepMind, IBM, Meta, Microsoft, Nvidia, OpenAI y Tencent.

Varios grupos de la sociedad civil también enviaron representantes, incluido el Instituto Ada Lovelace de Gran Bretaña y Liga de la Justicia Algorítmicauna organización sin fines de lucro de Massachusetts.

Sorprendentemente, Sunak anunció el lunes que participaría en una entrevista en vivo con Musk en su plataforma de redes sociales X después de que finalizara la cumbre el jueves.

Algunos analistas sostienen que la conferencia estará más cargada de simbolismo que de sustancia, con la ausencia de varios líderes políticos clave, como el presidente estadounidense J.oh bidenel presidente de francia, Emanuel Macrony el canciller de Alemania, Olaf Scholz.

Y muchos gobiernos están avanzando con sus propias leyes y regulaciones.

Biden anunció esta semana una orden ejecutiva que exige que las empresas de inteligencia artificial evalúen los riesgos de seguridad nacional antes de hacer pública su tecnología.

La Ley de Inteligencia Artificial de la Unión Europea, que podría finalizarse en unas semanas, representa un intento de gran alcance para proteger a los ciudadanos.

China también está tomando medidas enérgicas contra el uso de la IA, incluido Censura de chatbots.

Gran Bretaña, sede de muchas universidades que investigan la inteligencia artificial, ha adoptado un enfoque más permisivo.

El Gobierno cree que las leyes y reglamentos existentes son suficientes por ahora, aunque ha anunciado una nueva Instituto de seguridad de IA que evaluará y probará nuevos modelos.

Hogarth, cuyo equipo ha negociado acceso temprano a modelos de varias grandes compañías de inteligencia artificial para investigar su seguridad, dijo que creía que Gran Bretaña podría desempeñar un papel importante en la determinación de cómo los gobiernos podrían «captar los beneficios de estas tecnologías». , además de ponerle barandillas a su alrededor.

En su discurso de la semana pasada, Sunak dijo que el enfoque británico sobre los riesgos potenciales de la tecnología es «No te apresures a regular«.

«¿Cómo podemos redactar leyes que tengan sentido para algo que aún no entendemos del todo?» él dijo.

c.2023 La Compañía del New York Times