Facebook eliminará su sistema de reconocimiento facial

Facebook dijo que cerrará su sistema de reconocimiento facial y eliminará las huellas faciales de más de mil millones de personas en medio de crecientes preocupaciones sobre la tecnología y su mal uso por parte de los gobiernos, la policía y otros.

"Este cambio representará uno de los mayores cambios en el uso del reconocimiento facial en la historia de la tecnología" , escribió Jerome Pesenti, vicepresidente de inteligencia artificial de la nueva empresa matriz de Facebook, Meta , en una publicación de blog el martes. “Su eliminación resultará en la eliminación de más de mil millones de plantillas de reconocimiento facial individuales de personas”.

Dijo que la compañía estaba tratando de sopesar los casos de uso positivos de la tecnología "frente a las crecientes preocupaciones de la sociedad, especialmente porque los reguladores aún tienen que proporcionar reglas claras".

El cambio radical de Facebook sigue a unas semanas ocupadas. El jueves anunció su nuevo nombre Meta para la empresa Facebook, pero no para la red social. El cambio, dijo, lo ayudará a enfocarse en desarrollar tecnología para lo que visualiza como la próxima iteración de Internet: el "metaverso".

La compañía también enfrenta quizás su mayor crisis de relaciones públicas hasta la fecha después de que documentos filtrados de la denunciante Frances Haugen mostraran que sabía sobre los daños que causan sus productos y que a menudo hizo poco o nada para mitigarlos.

Más de un tercio de los usuarios activos diarios de Facebook han optado por que el sistema de la red social reconozca sus rostros. Eso es aproximadamente 640 millones de personas. Pero Facebook ha comenzado recientemente a reducir su uso del reconocimiento facial después de presentarlo hace más de una década.

En 2019, la compañía terminó su práctica de usar software de reconocimiento facial para identificar a los amigos de los usuarios en las fotos cargadas y sugerir automáticamente que los "etiqueten". Facebook fue demandado en Illinois por la función de sugerencia de etiquetas.

La decisión "es un buen ejemplo de cómo tratar de tomar decisiones de productos que sean buenas para el usuario y la empresa", dijo Kristen Martin, profesora de ética tecnológica en la Universidad de Notre Dame. Agregó que la medida también demuestra el poder de la presión regulatoria, ya que el sistema de reconocimiento facial ha sido objeto de duras críticas durante más de una década.

Meta Platforms Inc., la empresa matriz de Facebook, parece estar buscando nuevas formas de identificar a las personas. Pesenti dijo que el anuncio del martes implica un "alejamiento de toda la empresa de este tipo de identificación amplia y hacia formas más limitadas de autenticación personal".

"El reconocimiento facial puede ser particularmente valioso cuando la tecnología opera de forma privada en los propios dispositivos de una persona", escribió. "Este método de reconocimiento facial en el dispositivo, que no requiere comunicación de datos faciales con un servidor externo, se implementa con mayor frecuencia en la actualidad en los sistemas utilizados para desbloquear teléfonos inteligentes".

Los investigadores y los activistas de la privacidad han pasado años planteando preguntas sobre la tecnología, citando estudios que encontraron que funcionaba de manera desigual a través de los límites de raza, género o edad. Una preocupación ha sido que la tecnología puede identificar incorrectamente a las personas con piel más oscura.

El problema con el reconocimiento facial es que, para poder usarlo, las empresas han tenido que crear huellas faciales únicas de un gran número de personas, a menudo sin su consentimiento y de manera que se puedan utilizar para alimentar sistemas que rastrean a las personas, dijo Nathan Wessler de American Civil Liberties Union, que ha luchado contra Facebook y otras empresas por el uso de la tecnología.

“Este es un reconocimiento tremendamente significativo de que esta tecnología es intrínsecamente peligrosa”, dijo.

Las preocupaciones también han aumentado debido a la creciente conciencia sobre el extenso sistema de videovigilancia del gobierno chino, especialmente porque se ha empleado en una región donde vive una de las minorías étnicas mayoritariamente musulmanas de China.

Al menos siete estados y casi dos docenas de ciudades han limitado el uso gubernamental de la tecnología en medio de temores por las violaciones de los derechos civiles, los prejuicios raciales y la invasión de la privacidad . El debate sobre prohibiciones, límites y requisitos de presentación de informes adicionales se ha llevado a cabo en aproximadamente 20 capitales estatales en esta sesión legislativa, según los datos compilados por el Centro de Información de Privacidad Electrónica en mayo de este año.

El nuevo enfoque cauteloso de Meta hacia el reconocimiento facial sigue las decisiones tomadas por otros gigantes tecnológicos estadunidenses como Amazon, Microsoft e IBM el año pasado de finalizar o pausar sus ventas de software de reconocimiento facial a la policía, citando preocupaciones sobre identificaciones falsas y en medio de un ajuste de cuentas más amplio de injusticia racial.

La oficina de ciencia y tecnología del presidente Joe Biden lanzó en octubre una misión de investigación para observar el reconocimiento facial y otras herramientas biométricas utilizadas para identificar a las personas o evaluar sus estados emocionales o mentales y su carácter.

Los reguladores y legisladores europeos también han tomado medidas para impedir que las fuerzas del orden escaneen rasgos faciales en espacios públicos, como parte de esfuerzos más amplios para regular las aplicaciones más riesgosas de la inteligencia artificial.

Las prácticas de escaneo facial de Facebook también contribuyeron a la multa de 5 mil millones de dólares y las restricciones de privacidad impuestas por la Comisión Federal de Comercio en 2019.El acuerdo de Facebook con la FTC después de la investigación de un año de la agencia incluyó la promesa de requerir un aviso "claro y conspicuo" antes de las fotos y videos de las personas. fueron sometidos a tecnología de reconocimiento facial.

Edición: Ana Ordaz