En pleno debate racial por la muerte del afroamericano George Floyd a manos de un agente de policía en Estados Unidos, Arvind Krishna, director general de IBM, anunció que la empresa dejará de vender servicios de reconocimiento facial y pidió un “diálogo nacional” acerca de si debe utilizarse en Estados Unidos.
El reconocimiento facial es una tecnología emergente que permite identificar el rostro de una persona con gran precisión y que ha desembarcado en los últimos años incluso en dispositivos electrónicos de consumo como los teléfonos celulares. IBM, además, es uno de los pesos pesados de la Inteligencia Artificial, con lo que su decisión puede tener un gran impacto en su desarrollo.
La decisión de IBM no alocada si consideramos que recientemente un algoritmo de reconocimiento facial de Google llegó a confundir a personas negras con simios. Y el uso propio de Amazon de esta tecnología tuvo que someterse a votación entre sus accionistas el pasado año para decidir si seguía vendiendo a agencias gubernamentales. “La Inteligencia Artificial es una herramienta poderosa que puede ayudar a las fuerzas del orden a mantener seguros a los ciudadanos. Pero los vendedores y usuarios de estos sistemas tienen una responsabilidad para garantizar que la Inteligencia Artificial se someta a pruebas de sesgo”, escribió Krishna en una carta enviada a los miembros del Congreso.
La empresa cuenta con una importante base de datos faciales que destaca, a diferencia de otras alternativas, por su diversidad. Algo que se ha enmarcado en los principios éticos que la compañía ha enarbolado en los últimos años. “IBM se opone firmemente y no tolerará el uso de ninguna tecnología, incluido el reconocimiento facial ofrecida por otros proveedores, para vigilancia masiva o cometer violaciones de los derechos humanos y las libertades civiles”, afirmó Krishna y añadió: “Ahora es el momento de iniciar un diálogo nacional sobre si las agencias nacionales deben emplear la tecnología de reconocimiento facial”.
Algunas ciudades estadounidenses como San Francisco o San Diego ya han prohibido el uso de la tecnología de reconocimiento facial en actividades de seguridad pública, alegando que presenta limitaciones y promueve posibles prejuicios contra las minorías étnicas. incluso desde la Unión Europea se ha considerado una prohibición de hasta cinco años en áreas públicas.
Para Mónica Villas, experta en transformación digital, los avances en el campo de la Inteligencia Artificial son imparables. “La IA está aquí para ayudaros y se va a quedar. El reconocimiento de imagen es una parte más de la IA”, apunta en conversación telefónica con ABC, quien considera que los sesgos que se producen en estas tecnologías “pueden estar en los datos o en el diseño de los algoritmos”. “Tienes que tener cuidado con las fuentes de entrenamiento porque pueden tener un gran impacto”, sostuvo.