Si bien la industria de la inteligencia artificial se ha centrado en hacer que sus algoritmos estén menos sesgados en función de la claridad u oscuridad de los tonos de piel de las personas, una nueva investigación de Sony exige que también se tengan en cuenta los tonos de piel rojos y amarillos. En un artículo publicado el mes pasado, los autores William Thong y Alice Xiang de Sony AI, así como Przemyslaw Joniak de la Universidad de Tokio, propusieron una medición más «multidimensional» del color de la piel con la esperanza de que pueda conducir a resultados más diversos y Sistemas de IA representativos.

Los investigadores han estado llamando la atención sobre los sesgos del color de la piel en los sistemas de IA durante años, incluso en un importante estudio de 2018 de Joy Buolamwini y Timnit Gebru que encontró que la IA era más propensa a imprecisiones cuando se usaba en mujeres de piel más oscura. En respuesta, las empresas han intensificado sus esfuerzos para probar con qué precisión funcionan sus sistemas con una amplia gama de tonos de piel.

El problema, según la investigación de Sony, es que ambas escalas se centran principalmente en la claridad u oscuridad del tono de piel. «Si los productos se evalúan simplemente de esta manera unidimensional, hay muchos sesgos que no se detectarán ni se mitigarán», dice Alice Xiang, directora global de Ética de IA de Sony. cableado. «Nuestra esperanza es que el trabajo que estamos haciendo aquí pueda ayudar a reemplazar algunas de las escalas de tonos de piel existentes que en realidad solo se centran en la luz y la oscuridad». En una publicación de blog, los investigadores de Sony señalan específicamente que las escalas actuales no tienen en cuenta los prejuicios contra «los asiáticos del este, del sur de Asia, los hispanos, las personas del Medio Oriente y otros que podrían no encajar perfectamente en el espectro de luz a oscuridad».

Como ejemplo del impacto que puede tener esta medición, la investigación de Sony encontró que los conjuntos de datos de imágenes comunes representan en exceso a personas con piel más clara y de color más rojo, y subrepresentan la piel más oscura y amarilla. Esto puede hacer que los sistemas de IA sean menos precisos. Sony descubrió que el recortador de imágenes de Twitter y otros dos algoritmos de generación de imágenes favorecían la piel más roja. cableado señala, mientras que otros sistemas de inteligencia artificial clasificarían erróneamente a las personas con un tono de piel más rojo como «más sonrientes».

La solución propuesta por Sony es adoptar un enfoque automatizado basado en el estándar de color CIELAB preexistente, que también evitaría el enfoque de categorización manual utilizado con la escala Monk.

Aunque el enfoque de Sony es más multifacético, parte del objetivo de la Escala de tono de piel de Monk, que lleva el nombre del creador Ellis Monk, es su simplicidad. El sistema está intencionalmente limitado a 10 tonos de piel para ofrecer diversidad sin correr el riesgo de las inconsistencias asociadas con tener más categorías. “Por lo general, si superas los 10 o 12 puntos en este tipo de escalas [and] Pídele a la misma persona que elija repetidamente los mismos tonos; cuanto más aumentas esa escala, menos personas son capaces de hacerlo”, dijo Monk en una entrevista el año pasado. «Desde el punto de vista cognitivo, resulta muy difícil diferenciar de forma precisa y fiable».

Monk también rechazó la idea de que su escala no tiene en cuenta los matices ni el tono. «La investigación se dedicó a decidir qué matices priorizar a lo largo de la escala y en qué puntos», explica. cableado.

Sin embargo, cableado informa que un par de importantes actores de la IA han acogido con satisfacción la investigación de Sony, y tanto Google como Amazon han señalado que están revisando el documento.