Situar las necesidades comerciales de los gigantes tecnológicos sobre nuestra propia privacidad crea un grave riesgo para nuestra democracia
por Peter Asaro, Kelly Gates, Woodrow Hartzog, Lilly Irani, Evan Selinger y Lucy Suchman
Amazon, la compañía sinónimo de compras en línea, está suministrando tecnología de reconocimiento facial a agencias gubernamentales y de aplicación de la ley a través de su plataforma de servicios web. Branded Rekognition, la tecnología es tan distópica como suena.
Dado el enorme alcance de la plataforma en la nube de Amazon y la facilidad con la que las organizaciones pueden integrar nuevas aplicaciones en sus operaciones, es inquietante que la compañía pueda ofrecer una poderosa tecnología de vigilancia basada en plataforma sin intervención pública, supervisión o regulación. Amazon no debería tener libertad para desarrollar y sacar provecho de las nuevas tecnologías de vigilancia sin tener en cuenta sus efectos sobre las libertades civiles y los derechos humanos. Acceder a los imperativos tecnológicos y económicos de estas empresas coloca a nuestra democracia en una posición precaria.
Una coalición de libertades civiles y organizaciones de derechos humanos han dado la voz de alarma, incluida la Unión Estadounidense de Libertades Civiles. Le están pidiendo a Amazon que deje de suministrar su tecnología de reconocimiento facial al gobierno y a las agencias encargadas de hacer cumplir la ley. Los accionistas de Amazon y los trabajadores de Amazon se han unido a ellos, expresando su oposición a la participación de la compañía en el negocio de la vigilancia gubernamental y policial. Debido a la privacidad y las preocupaciones relacionadas, el impulso está creciendo.
La ciudad de Orlando dejó de usar el programa piloto de Rekognition. Brian Brakeen, CEO de la empresa de reconocimiento facial Kairos, tomó una posición y dijo que su compañía no vendería la tecnología al gobierno. «En manos de los programas de vigilancia del gobierno y las agencias encargadas de hacer cumplir la ley», escribe Brakeen, «simplemente no hay forma de que el software de reconocimiento facial no se use para dañar a los ciudadanos».
Como académicos que han estudiado las tecnologías de la información y la privacidad, incluidas las implicaciones sociales del reconocimiento facial y la biometría, compartimos estas reservas. Estamos pidiendo a Amazon que salga del negocio de la vigilancia. Nuestra demanda es tan fuerte como urgente y sensata.
No queremos que Amazon simplemente ajuste las funciones de su tecnología de reconocimiento facial o actualice sus políticas para un uso adecuado. El único curso de acción responsable involucra a Amazon haciendo un cambio radical. Debe dejar de construir la infraestructura de reconocimiento facial para las agencias encargadas de hacer cumplir la ley y el gobierno y debe comprometerse a no volver nunca más al negocio en el futuro.
La tecnología de reconocimiento facial plantea serias e inminentes amenazas a las libertades civiles y los derechos humanos. Como los trabajadores de Amazon explicaron en una carta a Jeff Bezos, no hay necesidad de esperar y ver si la policía o las agencias gubernamentales abusarán de la tecnología. Ya está claro que el reconocimiento facial ubicuo y automatizado es muy adecuado para discriminar a personas de color, atacar a activistas políticos y apoyar modos de gobierno militaristas y autoritarios. No hay duda de que la adopción de una infraestructura de cámaras conectadas a bases de datos de caras conocidas por herramientas de inteligencia artificial eliminará la privacidad en público y permitirá la identificación, ubicación y seguimiento de individuos, vinculando sus comportamientos, acciones y las personas que conocen a sus identidades.
Amazon no es una compañía grande y poderosa. Recopila una gran cantidad de información personal sobre las personas, incluidos sus hábitos de compra y lo que ven y leen. Los productos Echo y Alexa de la compañía le dan acceso a grabaciones de audio de lo que la gente dice en sus hogares. Está a un paso de agregar cámaras a estos dispositivos y, de hecho, Amazon ya comercializa una cámara para su red en la nube. La mayoría de las personas que usan dispositivos de compra en el hogar se sorprenderían al descubrir que la tecnología podría archivar fácilmente sus rostros para usar en bases de datos policiales. Imagine, por ejemplo, que Apple tome los datos recopilados a través de su función de teléfono Face ID y los vuelva a empaquetar y revender al Departamento de Seguridad Nacional o la policía local.
¿Cuándo debería una empresa tecnológica negarse a construir herramientas para el gobierno?
De hecho, dada la línea difusa entre la policía pública y la seguridad privada, y entre las agencias de seguridad del gobierno y sus contratistas privados, nos preguntamos si una moratoria sobre el gobierno y los usos de aplicación de la ley de Rekognition irían lo suficientemente lejos. La industria de la seguridad ha promocionado durante mucho tiempo los beneficios de seguridad pública de la tecnología de reconocimiento facial. Pero un sistema de reconocimiento facial funcional que pueda identificar de manera consistente y precisa individuos específicos y específicos requiere construir una infraestructura de vigilancia de alcance y escala sin precedentes, impulsada por algoritmos de aprendizaje automático y bases de datos de información de identidad en constante expansión. La amenaza que representa un aparato de vigilancia masivo y automatizado para la sociedad supera con creces los beneficios de seguridad que podría proporcionar. Como mínimo, requeriría un sistema igualmente amplio de supervisión, transparencia y aporte del público, uno que ni Amazon ni ninguna agencia gubernamental haya comenzado siquiera a desarrollar.
Amazon y la industria de la tecnología de la información han ejercido presión para garantizar que sus plataformas puedan operar y expandirse en un entorno mayormente no regulado. La política pública, dice el reclamo, no puede seguir el ritmo de la innovación. Si creen en esta afirmación, entonces estas compañías no pueden, de buena fe, afirmar que sus responsabilidades se limitan a garantizar la seguridad de que los clientes cumplan con las políticas y leyes establecidas. Cuando las prácticas gubernamentales violan las libertades civiles, Amazon tiene que elegir. ¿Acelerará y agravará ciegamente las violaciones de los derechos humanos, o asumirá la responsabilidad de sus poderosas tecnologías?
(Los autores están afiliados a las siguientes instituciones: Peter Asaro, la Nueva Escuela, Kelly Gates, Universidad de California, San Diego, Woodrow Hartzog, Northeastern University, Lilliy Irani, Universidad de California, San Diego, Evan Selinger, Rochester Institute of Technology y Lucy Suchman, Lancaster University).
