Desbloquea el Editor’s Digest gratis

Roula Khalaf, editora del FT, selecciona sus historias favoritas en este boletín semanal.

El gobierno británico demostró una imaginación e iniciativa poco comunes cuando celebró una cumbre internacional en noviembre para discutir los riesgos existenciales que plantea la inteligencia artificial. Trágicamente, los sucesivos gobiernos británicos han demostrado un vergonzoso fracaso a la hora de proteger a sus ciudadanos de tecnologías más básicas que fallan.

Tomemos el caso de Seema Misra, embarazada y gerente de una sub-Oficina de Correos, que en 2010 fue encarcelada injustamente durante 15 meses en el décimo cumpleaños de su hijo por robo y contabilidad falsa, denunciado por el defectuoso sistema informático Horizon de Fujitsu. Fueron necesarios 11 años para que el Tribunal de Apelación anulara su condena, así como la de 38 colegas. La sentencia concluyó que las “fallas de investigación y divulgación de la Oficina de Correos fueron tan atroces” que convirtieron el procesamiento de estos subadministradores de correos en “una afrenta a la conciencia del tribunal”.

El desgarrador drama televisivo de ITV de la semana pasada arrojó luz sobre uno de los mayores errores judiciales en la historia británica. Con razón, ha provocado la furia pública y ha obligado al gobierno a tomar nuevas medidas. Hasta la fecha, sólo 93 de las más de 700 personas condenadas por el asunto han visto anuladas sus condenas.

Tardíamente, el gobierno anunció esta semana que propondría legislación primaria para exonerar y compensar a los condenados. Pero sólo gracias a la valiente campaña de los propios subdirectores de correos durante dos décadas, así como a los obstinados informes sobre el asunto de Computer Weekly, Private Eye y el escritor Nick Wallis, ahora se hará justicia.

En el centro del escándalo se encuentra la espectacular mala gestión de un proyecto de automatización de TI, que debería servir de advertencia a muchas otras empresas y departamentos gubernamentales. Aclamado en su momento por Fujitsu como el mayor contrato de TI no militar en Europa, el sistema Horizon de más de mil millones de libras fue lanzado por la Oficina de Correos en 1999-2000 para mejorar la eficiencia y combatir el fraude. En 2013, Horizon se había implementado en más de 11.500 sucursales y procesaba unos 6 millones de transacciones por día. Pero casi desde el principio surgieron quejas sobre sus errores.

Como ocurre con todo el software, Horizon tenía fallas. Con buen juicio y esfuerzo concentrado, la mayoría de las fallas deben identificarse y corregirse de manera rutinaria. Hay un dicho en la industria del software, conocido como la ley de Linus, que dice que “con suficientes ojos, todos los errores son superficiales”. Pero eso claramente no se aplica cuando las empresas que ejecutan el software son intencionalmente ciegas. Los errores de Horizon parecen haber sido ocultados deliberadamente, en lugar de expuestos.

En una carta dirigida a un comité parlamentario selecto en 2020, Paula Vennells, directora ejecutiva de la Oficina de Correos de 2012 a 2019, dijo que Fujitsu le aseguraba constantemente que el sistema Horizon era robusto y tan seguro como “Fort Knox”. Pero ante las pruebas evidentes de lo contrario por parte de los subdirectores de correos, la dirección de Correos debería haber ejercido un escrutinio mucho más crítico. La defensa de Vennells tampoco explica por qué la Oficina de Correos persiguió tan agresivamente a los subdirectores de correos acusados ​​durante tanto tiempo y frustró sus apelaciones legales.

A su vez, el gobierno no ejerció una supervisión efectiva como accionista de Correos. La puerta giratoria de Whitehall aseguró que ningún ministro responsable estuviera en el cargo el tiempo suficiente para abordar los problemas. Ed Davey, ahora líder de los Demócratas Liberales, fue uno de los 17 ministros de asuntos postales que ocuparon el cargo mientras se desarrollaba el escándalo. Davey ahora acusa al Correo de una “conspiración de mentiras”.

Pero esa defensa también se desgasta. Como dijo Edward Henry, abogado que representa a ex subdirectores de correos, en una investigación pública el año pasado: “El gobierno es como el dueño de un perro peligroso que ataca a un niño indefenso y le dice: ‘Lo siento, lo siento mucho, pero no tiene nada que ver con a mí’.»

Es alentador que el gobierno finalmente haya asumido la responsabilidad de arreglar el desastre. El Ministro de Asuntos Postales del Reino Unido, Kevin Hollinrake, dijo a la BBC que casi dos tercios de las 3.500 personas afectadas por el escándalo han recibido un acuerdo total y definitivo a un coste de 148 millones de libras esterlinas. La prioridad ahora es exonerar e indemnizar a las víctimas restantes e investigar si los directivos de Fujitsu y de Correos infringieron la ley.

Una amarga lección que se puede extraer del asunto es: escuche a los humanos en la primera línea de la tecnología, más que a los que están en la back office. El software falla. La gobernanza importa. Esto será aún más importante a medida que los sistemas de inteligencia artificial irrumpan cada vez más. Pero con tantas vidas destrozadas, es difícil argumentar que los subdirectores de correos agraviados no enfrentaron sus propios riesgos existenciales.

john.thornhill@ft.com

Read More: La amarga lección tecnológica del escándalo de Correos