Este artículo es parte de TPM Café, el hogar de TPM para análisis de opinión y noticias. Fue publicado originalmente en The Conversation.

El 4 de octubre de 2022, la Oficina de Política Científica y Tecnológica de la Casa Blanca publicó el Plan para una Declaración de Derechos de la IA: una visión para proteger nuestros derechos civiles en la era algorítmica. El plan inició una conversación sobre cómo la innovación en inteligencia artificial puede proceder bajo múltiples principios justos. Estos incluyen sistemas seguros y eficaces, protecciones contra la discriminación algorítmica, privacidad y transparencia.

Un creciente conjunto de pruebas destaca los derechos civiles y de los consumidores que la IA y la toma de decisiones automatizada ponen en peligro. Las comunidades que históricamente han enfrentado la discriminación más atroz ahora enfrentan formas complejas y altamente opacas de discriminación bajo los sistemas de IA. Esta discriminación ocurre en el empleo, la vivienda, la votación, los préstamos, la justicia penal, las redes sociales, la orientación de la tecnología publicitaria, la vigilancia y la elaboración de perfiles. Por ejemplo, ha habido casos de sistemas de IA que han contribuido a la discriminación contra las mujeres en la contratación y a la discriminación racial en el sistema de justicia penal.

En los meses que siguieron al lanzamiento del plan, la llegada de sistemas de inteligencia artificial generativa como ChatGPT añadió urgencia a las discusiones sobre la mejor manera de gobernar las tecnologías emergentes de manera que mitiguen el riesgo sin sofocar la innovación.

Un año después de que se dio a conocer el plan, la administración Biden emitió una orden ejecutiva amplia el 30 de octubre de 2023, titulada IA ​​segura y confiable. Si bien gran parte de la orden se centra en la seguridad, incorpora muchos de los principios del plan.

La orden incluye varias disposiciones que se centran en los derechos civiles y la equidad. Por ejemplo, exige que el gobierno federal desarrolle directrices para los contratistas federales sobre cómo evitar que los algoritmos de IA se utilicen para exacerbar la discriminación. También exige capacitación sobre la mejor manera de abordar la investigación y el enjuiciamiento de violaciones de derechos civiles relacionadas con la IA y garantizar la equidad de la IA en todo el sistema de justicia penal.

La visión establecida en el plan se incorporó en la orden ejecutiva como guía para las agencias federales. Mi investigación en tecnología y derechos civiles subraya la importancia de los derechos civiles y los principios de equidad en la regulación de la IA.

Derechos civiles e inteligencia artificial

Las leyes de derechos civiles a menudo tardan décadas o incluso vidas en avanzar. La tecnología de inteligencia artificial y los sistemas algorítmicos están introduciendo rápidamente daños de caja negra, como la toma de decisiones automatizada, que pueden generar impactos dispares. Estos incluyen prejuicios raciales en los sistemas de reconocimiento facial.

Estos daños suelen ser difíciles de cuestionar y es posible que las leyes y regulaciones actuales de derechos civiles no puedan abordarlos. Esto plantea la cuestión de cómo garantizar que los derechos civiles no se vean comprometidos a medida que las nuevas tecnologías de IA impregnen la sociedad.

Al combatir la discriminación algorítmica, ¿cómo se ve un arco que se inclina hacia la justicia? ¿Cómo se ve una “Carta desde la cárcel de Birmingham” cuando un activista de derechos civiles protesta no por una detención física injusta sino por limitaciones digitales, como los daños dispares causados ​​por las formas digitalizadas de elaboración de perfiles, focalización y vigilancia?

El plan para 2022 se desarrolló bajo el liderazgo de Alondra Nelson, entonces directora interina de la Oficina de Política Científica y Tecnológica, y su equipo. El plan establece una serie de principios justos que intentan limitar una constelación de daños que la IA y los sistemas automatizados pueden causar.

Más allá de eso, el plan vincula los conceptos de principios justos y equidad de la IA con la Constitución de los Estados Unidos y la Declaración de Derechos. Al asociar estos principios justos con los derechos civiles y la Declaración de Derechos, el diálogo puede dejar de ser una discusión que se centra únicamente en una serie de compromisos técnicos, como hacer que los sistemas de IA sean más transparentes. En cambio, la discusión puede abordar cómo la ausencia de estos principios podría amenazar la democracia. https://www.youtube.com/embed/34GcXV6bwG8?wmode=transparent&start=0 Arati Prabhakar, directora de la Oficina de Política Científica y Tecnológica de la Casa Blanca, y Alondra Nelson, exdirectora interina, discutieron el Proyecto de Ley de AI Derechos en una conferencia en el aniversario de su lanzamiento.

Unos meses después de la publicación del plan, la División de Derechos Civiles del Departamento de Estados Unidos, la Oficina de Protección Financiera del Consumidor, la Comisión de Igualdad de Oportunidades en el Empleo y la Comisión Federal de Comercio se comprometieron conjuntamente a mantener el compromiso de Estados Unidos con los principios básicos de justicia, igualdad y justicia a medida que los sistemas automatizados emergentes se vuelven cada vez más comunes en la vida diaria. Se ha propuesto legislación federal y estatal para combatir el impacto discriminatorio de la IA y la toma de decisiones automatizada.

Las organizaciones de derechos civiles se enfrentan a la tecnología

Múltiples organizaciones de derechos civiles, incluida la Conferencia de Liderazgo sobre Derechos Civiles y Humanos, han hecho de la discriminación basada en la IA una prioridad. El 7 de septiembre de 2023, la Conferencia de Liderazgo inauguró un nuevo Centro de Derechos Civiles y Tecnología y nombró a Nelson, autor del Plan para una Declaración de Derechos de la IA, como asesor.

Antes de la publicación de la nueva orden ejecutiva, el senador Ed Markey, la representante Pramila Jayapal y otros miembros del Congreso enviaron una carta a la Casa Blanca instando a la administración a incorporar los principios del plan en la orden ejecutiva anticipada. Dijeron que “el compromiso del gobierno federal con la Declaración de Derechos de la IA demostraría que los derechos fundamentales no pasarán a un segundo plano en la era de la IA”.

Numerosas organizaciones de derechos civiles y de la sociedad civil enviaron una carta similar a la Casa Blanca, instando a la administración a tomar medidas sobre los principios del plan en la orden ejecutiva.

Cuando el Plan para una Declaración de Derechos de la IA cumplió su primer aniversario, se desconocía su impacto a largo plazo. Pero, fiel a su título, presentó una visión para proteger los derechos civiles en la era algorítmica. Esa visión ahora se ha incorporado en la Orden Ejecutiva sobre IA segura y confiable. La orden no puede entenderse adecuadamente sin este contexto de derechos civiles.

Este artículo se vuelve a publicar desde The Conversation bajo una licencia Creative Commons. Lea el artículo original.