Twitter ofrece recompensas por errores para detectar el sesgo de la IA y poder corregir sus algoritmos

Twitter ofrece recompensas por errores para detectar el sesgo de la IA y poder corregir sus algoritmos

Stephen Shankland / CNET

Twitter tiene una nueva forma de deshacerse del sesgo de la inteligencia artificial: pagar a los forasteros para que encuentren problemas. El viernes, el creador de aplicaciones de mensajes cortos detalló una nueva competencia de recompensas ofreciendo premios de hasta $ 3,500 por mostrar a Twitter cómo su tecnología maneja mal las fotos.

A principios de este año, Twitter confirmó un problema con su mecanismo automático de recorte de fotos, y concluyó que el software favoreció a los blancos sobre los negros. Se supone que el mecanismo de recorte, que Twitter llama su “algoritmo de prominencia”, presenta la sección más importante de una imagen cuando se desplaza por los tweets.

El enfoque de Twitter para abordar el sesgo algorítmico (pedir a expertos y observadores externos que estudien su código y sus resultados) ofrece recompensas innovadoras por errores, que históricamente se han utilizado para informar vulnerabilidades de seguridad. Twitter dice que su recompensa por los sesgos es una primicia en la industria y espera que otras empresas sigan su ejemplo.

“Hace que más gente se involucre que tal vez no tenían recursos o tiempo libre”, dijo. Rumman Chowdhury, director del programa de Responsabilidad, Transparencia y Ética del Aprendizaje Automático de Twitter. “Queremos empezar a cultivar y crear una comunidad de hackers de IA éticos”.

Abordar el sesgo algorítmico se ha convertido en una preocupación cada vez más importante para la tecnología. La IA puede causar problemas, incluida la denigración de poblaciones particulares o el refuerzo de estereotipos, si el software no se entrena de manera efectiva. El proyecto de Twitter está diseñado para solidificar los estándares en torno a ideas como daño representativo.

La IA ha revolucionado la informática al enseñar a los dispositivos cómo tomar decisiones basadas en datos del mundo real en lugar de reglas de programación rígidas. Eso ayuda con tareas complicadas como comprender el habla, filtrar el correo no deseado e identificar su rostro para desbloquear su teléfono.

Sin embargo, los algoritmos que impulsan la IA pueden ser opacos y reflejar problemas en los datos de entrenamiento. Eso llevó a problemas como Google al etiquetar erróneamente a los negros como gorilas en las fotos. Solucionar los problemas de IA es importante, ya que confiamos en la tecnología para administrar cada vez más nuestras vidas digitales. También puede ser importante dentro de las empresas: Google reconoce que su manejo de un problema de ética de la IA daña la reputación de su programa.

La recompensa por sesgo algorítmico de Twitter es similar a los programas que muchas empresas tecnológicas ofrecen ahora para encontrar problemas de seguridad en sus productos. Por ejemplo, Google ha pagado $ 29 millones por 11,055 vulnerabilidades encontradas en Android, Chrome y otros productos de Google durante la última década.

Startup HackerOne está ayudando a ejecutar la competencia de recompensas por sesgos algorítmicos de Twitter, compartiendo reglas y aceptando envíos. La fecha límite para las inscripciones es el 6 de agosto a las 11:59 p.m. PST, y Twitter anunciará a los ganadores el 9 de agosto.

Las deficiencias de la inteligencia artificial pueden explotarse de muchas formas, incluidas imágenes especialmente diseñadas que podrían convertir el software relevante de Twitter en cómplice involuntario de un ataque externo. Los investigadores pueden querer examinar otros algoritmos en busca de sesgos, por ejemplo, los tweets que Twitter elige resaltar u omitir de su feed. Por el momento, la recompensa de Twitter por los sesgos se limita a su algoritmo de recorte.

Esta nota es parte de la red de Wepolis y fué publicada por California Corresponsal el 2021-07-30 17:04:28 en:

Link a la nota original

Palabras clave:
#Twitter #ofrece #recompensas #por #errores #para #detectar #sesgo #poder #corregir #sus #algoritmos

About the author

Pretium lorem primis senectus habitasse lectus donec ultricies tortor adipiscing fusce morbi volutpat pellentesque consectetur risus molestie curae malesuada. Dignissim lacus convallis massa mauris enim mattis magnis senectus montes mollis phasellus.