La transformación de la identidad en la era de los algoritmos

En primer grado éramos 27 alumnos; 5 de ellos, Diegos. Era una escuela estricta. Las evaluaciones admitían dos notas: 0 o 10. Ponían especial cuidado en no confundir las calificaciones de los Diegos y en general lo lograban. Distinto hubiera sido 200 años antes. En el siglo XVIII, el 90% de los hombres británicos respondían a solo 7 nombres de pila (Charles, Edward, Henry, James, John, Richard y William), según la investigación de James C. Scott en el libro Seeing like the State. El Estado es una máquina de identificarnos que se fue perfeccionando. Para administrar, distribuir o controlar, la burocracia necesita un mapa de las personas y las cosas sobre las que gobierna. Los nombres de pila son demasiado vagos: 5 Diegos no es nada si pensamos que Juan Carlos fue el nombre más usado en la Argentina durante 38 años y, según el Registro Civil, llegó a identificar al quince por mil de los varones nacidos en 1945.

Steven Pinker, en su libro The Stuff of Thought, considera que ponerle nombre a un hijo es la única oportunidad que tiene mucha gente de decidir cómo se va a llamar algo. Los nombres pueden dar algo de poder a los padres, pero muy poco al Estado. El afán administrativo creó –para más precisión– apellidos, nombres de calles, códigos postales, documentos de identidad, huellas dactilares. En los últimos años esa capacidad para identificarnos progresó con velocidad. Nuestra identidad, el punto que somos en el mapa de la información agregada, hoy se compone de cientos de datos que ofrecemos en nuestras interacciones digitales: la estela que dejamos al comprar online, buscar palabras claves, postear mensajes, usar un GPS, entre muchos otros intercambios, a los que se agrega la captura de datos biométricos. La suma de todos esos datos es hoy, en alguna medida, nuestra identidad. Estoy online, luego existo.

La identidad, en su origen, fue un fenómeno colectivo: ser parte de un pueblo, de una religión, de una zona geográfica; la raíz de la palabra que alude a lo idéntico, a ser igual a otros. La modernidad la volvió una referencia a lo individual: la identidad como lo que nos diferencia o nos hace únicos. Hoy hay tantos datos sobre cada uno de nosotros que no nos parecemos a nadie. Sería un prodigio de la casualidad o la imitación que todos nuestros datos coincidieran con los de alguien más. La identidad forjada por los datos es más fácil de ver para otros que para nosotros. Ninguna técnica de auto-conocimiento ni test de personalidad pueden decirnos tanto como lo que saben las grandes empresas digitales y los gobiernos cuyos servicios usamos. No tenemos acceso –como ellos– al mapa completo de todos nuestros datos agregados y contrastados con otros. Con esa base, los algoritmos pueden predecir, a veces mejor que nosotros mismos, qué vamos a comprar o a quién vamos a votar.

La psicología de la interacción humano-computadora, un libro ya viejo, de 1983 –la época en que conocí a los 5 Diegos–, inauguró la idea de que los intercambios entre máquinas y personas no construyen solo software, sino también identidades. Hoy existe una disciplina llamada modelado de usuarios, que parte de los datos recogidos en los intercambios digitales para trazar perfiles de las personas y hacerles ofertas personalizadas. En marketing se llama "conversión" al momento en que un usuario realiza una compra. Podríamos pensar que en ese mismo momento nos "convertimos" en lo que el algoritmo esperaba de nosotros.

Los gobiernos también buscan convertir o transformar la realidad a partir de los datos. En Gran Bretaña se usa inteligencia artificial para detectar fraude con los beneficios sociales. En Estados Unidos, para detectar y prevenir el abandono escolar. Pero los avances tienen claroscuros. ¿Cómo garantizar que los perfiles o identidades que construyan los gobiernos nos representen fielmente y no nos encasillen ni prejuzguen? Los datos que se comparten con fines de bien público atraviesan un proceso de anonimización que protege la identidad de las personas relevadas. Sin embargo, también existe lo que Ana Gross, doctora en Sociología argentina radicada en Gran Bretaña, llama re-identificación: casos en los que un investigador logra, mediante algoritmos, ponerles nombre a las personas que forman parte de un set de datos supuestamente anónimo. Se hace como denuncia, pero también –acota Gross– como una forma lúdica y artística de hablar sobre la identidad en nuestra época.

El primer caso conocido ocurrió en Massachusetts en los años 90, cuando una comisión de gobierno a cargo de seguros médicos compartió –con fines de investigación– información de 135.000 visitas de pacientes al hospital. La polémica por la privacidad de esos datos llevó a intervenir al propio gobernador del estado, Bill Weld, quien garantizó públicamente que los datos eran anónimos. Weld tiempo después se desmayó en un acto público y Latanaya Sweeney, entonces una estudiante, hoy directora del Laboratorio de Privacidad de Datos de Harvard, vio la oportunidad: sabiendo qué día el gobernador había sido atendido por la emergencia, logró encontrarlo en la planilla de datos y le mandó un mail con su propio registro médico, incluyendo diagnóstico y recetas.

Esos traspiés pueden ser frecuentes en un mundo donde todos necesitamos, cada vez más, demostrar a los algoritmos quiénes somos. La startup argentina Auth0, que recientemente logró una valuación de más de mil millones de dólares, se dedica justamente a resolver ese tema: la autenticación de nuestra identidad frente a las computadoras. En un mundo digitalizado, esperamos que las máquinas nos reconozcan. Que no dejen a un extraño prender nuestra calefacción desde el subte o abrir nuestro portón. Lo que no queremos es que –a cambio– la empresa que hace el portón sepa todo sobre nosotros.

En los últimos tiempos aparecieron distintas soluciones para estos problemas. La empresa Yoti propone administrar nuestros datos en silos. Podemos probar que somos mayores de edad para comprar alcohol sin que vean nuestro nombre o nuestra nacionalidad, por ejemplo. La fundación Omydiar trabaja en un programa que se llama GoodID para crear conciencia sobre la protección de la identidad en la era digital. El programador Marcelo Rinesi, en una charla en TEDx Río de la Plata, propone que creemos nuestras propias herramientas digitales, para resolver problemas de acuerdo con nuestros objetivos y nuestra ética, sin ofrecer datos a cambio. Todos ellos buscan, de distintas maneras, que ganemos soberanía sobre nuestra identidad.

Mientras tanto, nos queda siempre el refugio de la imprevisibilidad humana. Los pequeños hechos que ni personas ni algoritmos pueden prever. En un trabajo reciente, el sociólogo Adrian Mackenzie investigó las interfaz que recomienda productos en el supermercado Tesco y llegó a una conclusión interesante. Los sistemas predictivos pueden saber mucho sobre nosotros, pero siempre hay huecos. Nada más común que fallarle a la lista del supermercado y olvidarse de comprar algo. Nada más común que confundir un Diego con otro.

Directora de Sociopúblico