¿eres un robot? | Revista Crisis
adiós al captcha / el negocio entra por los ojos / el futuro ya pasó
¿eres un robot?
En el último verano, miles de argentinos aceptaron que sus iris sean escaneados, con un aparato que parece llegado del próximo siglo, a cambio de unos miles de pesos que les generaron un ingreso extra en medio de la estanflación. Otros se negaron. Pero casi ninguno sabe exactamente por qué los mismos empresarios que están detrás del ChatGPT necesitan acumular lo que guardan nuestros ojos.
Ilustraciones: Brenda Greco
10 de Mayo de 2024
crisis #62

 

Los argentinos estamos habituados a números exorbitantes que se traducen en números miserables. Según los datos difundidos por el Instituto Nacional de Estadísticas y Censos, en febrero de 2024 la inflación fue del 13,2% con una variación interanual del 276,2%. En ese contexto, Alejandra, una vecina jubilada de La Matanza, había descartado la posibilidad de comprarle un regalo de cumpleaños a su nieto. Pero cerca de la fecha alguien le comentó que se pagaban 60 mil pesos solo por “escanearse los ojos”. Ella no tiene celular, entonces un familiar le prestó uno para descargar la aplicación de Worldcoin y sacar el turno. Una vez en el lugar, le pidieron que mirara “como si estuviera sorprendida” al aparato en forma de globo ocular que tenía enfrente. Cuenta que apenas vio una lucecita roja que le apuntaba. Se quedó quieta unos segundos y listo. Luego, quien la ayudó con el trámite le pagó en efectivo a cambio de los diez tokens de cortesía que se le acreditaron en la aplicación. No sabe bien por qué lo que acaba de hacer tiene un valor, pero la transacción la sacó de un apuro.

No cuesta nada y te dan buena plata. Al menos eso cuenta Patricio, que vive en José C. Paz, a quien un amigo le ofreció 105 mil pesos por escanear su iris. Tiene veinte años y trabaja como peón en construcciones. Cuando le explicaron los pasos a seguir, nada mencionaron acerca de los motivos por los que recibiría el dinero. Se bajó la aplicación y en febrero hizo el mismo recorrido que Alejandra. En marzo todavía lo tenía ahorrado en efectivo y en pesos. Fue un ingreso extra.

Worldcoin es una billetera virtual que ofrece una compensación económica en criptomonedas cuando un usuario se registra por primera vez. Para evitar que se generen cuentas falsas o bots que administren más de un usuario, la plataforma exige un registro de datos biométricos a través del escáner de iris. Hay más de 126 ubicaciones donde llevar a cabo este procedimiento en Argentina —todas en Buenos Aires, principalmente Capital Federal y el Conurbano bonaerense—, donde la empresa está presente desde principios de este año. Suelen ser predios espaciosos como boliches bailables, centros comerciales o canchas de fútbol barriales y, a pesar de que se manejan con un sistema de turnos, a veces hay largas filas de personas esperando en las puertas. Según un comunicado oficial de Worldcoin, la aplicación superó los 10 millones de usuarios a nivel mundial en abril de este año y se llevan a cabo 70 millones de transacciones a diario.

En Facebook hay decenas de grupos en los que es posible conectarse con una red de personas que comercializan las distintas instancias de registro y uso de la billetera virtual. El grupo Worldcoin compra y venta Argentina tiene más de 17 mil miembros y hay otras páginas que sectorizan la oferta, ya que hay muchos vericuetos para generar ingresos a partir de la aplicación. Hay algunos que ofrecen comprar las criptomonedas de bienvenida; otros que ofrecen comprar o vender cuentas no verificadas (para verificarlas con personas que no tienen celular); otros que ofrecen pagar a cambio de que alguien introduzca su código de invitación para luego recibir una compensación; y otros que ofrecen transporte en colectivos para las personas que viven lejos de los puntos de registro. El negocio es tan rentable para algunos que hay testimonios que indican que se compran teléfonos celulares para prestarlos a quienes no tienen y quedarse con la administración de su cuenta que sigue generando ingresos.

Todo tiene un aura un tanto clandestina. Funciona una maquinaria en la que, increíblemente, es fácil obtener dinero y no parece haber fiscalización por parte de la empresa ni de las autoridades estatales. ¿Qué es este “regalo”? Quienes participan y sacan rédito económico no suelen ser buenas fuentes de información. Muchos no saben exactamente para qué es necesario el escáner de iris ni se muestran interesados por averiguarlo. Mientras haya plata, hay disponibilidad para participar de un circuito que, por ahora, es todo ganancia.

¿Qué es este “regalo”? Quienes participan y sacan rédito económico no suelen ser buenas fuentes de información. Muchos no saben exactamente para qué es necesario el escáner de iris ni se muestran interesados por averiguarlo. Mientras haya plata, hay disponibilidad para participar de un circuito que, por ahora, es todo ganancia.

prueba de humanidad

Lo primero que hay que saber para entender el escáner de iris es que todos somos sospechosos. ¿De qué? De ser androides. Que alguien se llame, supongamos, Juan Bautista Herrera o Micaela Soledad Medina no es una evidencia suficiente, tampoco lo es su número de documento. Cualquier robot podría tipear una serie de números asociados a su identidad. Incluso la cara no es una prueba, ya que una inteligencia artificial sería capaz de reproducir su imagen estática o en movimiento a la perfección y simular su timbre de voz. En internet, todos somos máquinas hasta que demostremos lo contrario.

La pregunta no es nueva. Quien haya navegado por la web ha sido sometido a pequeñas pruebas para corroborar que no es un robot. Y, con el desarrollo de la inteligencia artificial, nacieron las formas de usarla “para el mal”. En febrero de este año, la CNN informó que en Hong Kong un empleado de una empresa multinacional pagó 25 millones de dólares a estafadores que se hicieron pasar por su director financiero y varios integrantes más de la compañía. La víctima había entrado en una videoconferencia en la que reconoció las caras y las voces de sus compañeros, pero ninguno de ellos era real. Se trataba de recreaciones. Este es solo uno de los miles de casos denunciados, lo que evidencia un problema acaso atendible.

Aquí es cuando hay que mencionarlos con nombre y apellido. En 2019, Sam Altman creó Tools for Humanity junto a Alex Bania y Max Novendstern. Se trata de una compañía con base en las Islas Caimán centrada en aquella pregunta que desvela a los tecnocientíficos en la actualidad: si la inteligencia artificial puede emular el cuerpo y hasta la mente de un ser humano, ¿cómo diferenciar una máquina de una persona en internet, el lugar donde transcurren casi todos nuestros movimientos? Altman es también el dueño de OpenAI, la creadora de ChatGPT, el software que revolucionó con su capacidad de responder con bastante exactitud y rapidez, imitando las habilidades humanas. En ese sentido, podría considerarse que quienes buscan la solución también causaron el problema. Y, para resolverlo, llevaron adelante un proyecto para perfeccionar las pruebas de humanidad (proof of personhood).

La respuesta a la pregunta sobre cómo diferenciar humanos de robots estaba literalmente frente a sus ojos, más precisamente en el iris: este tejido ocular contiene más de 250 puntos únicos con los que es posible elaborar un sistema de reconocimiento biométrico. Algo así como la huella digital o reconocimiento facial, pero —al menos por ahora— más preciso y seguro, ya que todavía no hay tecnología que pueda replicarlo. Concretamente, se captura la imagen del iris y se la procesa para extraer patrones. Luego se genera una prueba criptográfica de conocimiento cero que no se puede revertir —en criollo: del escaneo surge un código, pero desde el código no se puede llegar al escaneo— y se utiliza como validación. No es necesario saber el nombre de quien realizó la prueba, sino que es humano y único. Una especie de nueva identidad hecha de números, letras y símbolos encriptados.

Lo cierto es que suena a película de ciencia ficción y esto, evidentemente, fue considerado por los diseñadores de la aplicación. Al abrir la World App, en la pestaña del World ID, aparece la imagen de un pasaporte, un tipo de documento que todo el mundo conoce. Con un toque abre sus páginas y muestra una hoja donde falta un sello, el de “verificar orb”. Para conseguirlo es necesario hacer el escáner de iris, es decir, sacar un turno y acercarse a un punto de registro. Una vez en el lugar, hay que pararse frente al ojo gigante —el orb— y mirar fijo durante unos segundos. Este determinará, finalmente, si el usuario es o no un humano según los estándares programados. Si la respuesta es sí, el usuario estará registrado con su Identificación Digital, su World ID.

Si bien están programadas con ciertos parámetros, todas las tecnologías con base en inteligencia artificial requieren entrenamiento. Por ejemplo, cuando le hacemos una pregunta al ChatGPT no solo estamos usando sus servicios, también le estamos proporcionando información acerca de nuestras formas de interactuar, nuestras necesidades y nuestros errores. En este caso, se busca que el sistema perfeccione su capacidad de diferenciar humanos de bots. Para incentivar que cada vez más gente se sume al desarrollo de esta nueva prueba biométrica, se creó la billetera virtual que opera con la criptomoneda Worldcoin (WLD). Cada usuario recibe diez monedas de bienvenida al verificarse. Pero antes debe aceptar los términos y condiciones, seis archivos que suman cuarenta páginas en las que se insiste con una idea: “Ni siquiera queremos saber su nombre”. 

Para recapitular:

Tools for Humanity creó el World ID, la prueba de humanidad a través del escáner de iris.

World App es la primera billetera virtual compatible con esta tecnología para el registro de sus usuarios. Worldcoin es una criptomoneda administrada por la Fundación Worldcoin. Se puede operar a través de la World App.

 

Los objetivos principales del proyecto son, entonces, algo ambiciosos. En primer lugar, popularizar un método de identificación de personas (World ID) que nos diferencie de las máquinas. Y lo segundo, y no menos importante, aportar a la creación de un sistema financiero descentralizado “que integre a aquellos que queden afuera de un mundo laboral” que, estiman, necesitará cada vez menos de su fuerza de trabajo. Así lo explicó una vocera de Worldcoin en diálogo con crisis: “La de la IA es una revolución equiparable a la industrial en tanto disminución del tiempo de producción. Por ejemplo, si cobrás determinada cantidad de dinero por la elaboración de un texto que te solía costar cinco horas, hoy con la ayuda de una IA puedes terminarlo en solo una. Eso puede ser beneficioso, pero también un reto. Si solo algunas personas se apoderaran de toda la productividad, muchos quedarían afuera. La idea es asegurar un sistema para cuando sea necesario establecer una renta universal básica. Sin embargo, el problema es saber si se la estamos otorgando a una persona o a un bot. No necesitamos más datos que ese. La idea de este proyecto es dar acceso financiero para que en el futuro se pueda concretar la idea de renta básica universal. Necesitamos distribuir la riqueza generada por la IA entre todos”.

"La idea de este proyecto es dar acceso financiero para que en el futuro se pueda concretar la idea de renta básica universal. Necesitamos distribuir la riqueza generada por la IA entre todos”

 

estado obsoleto

No es una metáfora. Las grandes compañías tecnológicas se apuran para prepararse para diversas formas del futuro. En casi todas, los bots son un problema y el paradigma de la economía cambiará radicalmente. Tools for Humanity asegura que se aproxima un mundo en el que el trabajo lo harán las máquinas y nosotros, los humanos, recibiremos equitativamente las riquezas generadas. Para sus creadores, si no es un hecho, lo será muy pronto: las máquinas se convertirán en nuestras servidoras y nos liberarán del trabajo. Pero al mismo tiempo también tienen en cuenta que podrían reemplazarnos al punto de volvernos innecesarios.

De todas maneras, el futuro no es estable, sus múltiples imágenes están en un debate constante y es necesario también revisar el pasado. Como menciona el historiador e investigador del Conicet Ezequiel Gatto, en su ensayo Futuridades, “la imaginación forma parte constitutiva de la política”. Se trata de “una dimensión de las relaciones de poder”, y por lo tanto también “puede ser disputada”. La renta básica universal para la que se prepara la compañía “sin fines de lucro” presupone que la irrupción de la inteligencia artificial no intensificará las desigualdades sociales y económicas, sino que aportará a una distribución equitativa y que su producto será el camino para lograrlo.

Pero es difícil creer en una utopía opuesta a la historia en la que se inscribe. CAPTCHA es la sigla en inglés de la “Prueba de Turing completamente automática y pública para diferenciar computadoras de humanos”. Se trata de esas inscripciones o reconocimiento de imágenes que nos piden algunos sitios para ingresar —transcribir un texto distorsionado o señalar en cuántas piezas de una foto partida en cuadros hay bicicletas—. El inventor del sistema, Luis Von Ahn, reveló que “se ingresan más de 200 millones de captchas por día en el mundo” y que “cada uno requiere unos diez segundos. De modo tal que la humanidad pierde unas 500 mil horas diarias ingresando captchas”. Este trabajo fragmentado de horas y horas no solo no se distribuye sino que generó una abultada riqueza personal para Von Ahn, quien le vendió el proyecto a Google.

El World ID, la prueba de humanidad a través de identificación digital del iris, se usa actualmente solo para Worldcoin pero, en palabras de la empresa, en el futuro esta tecnología podría ser utilizada por otros que estén interesados en un alto nivel de fidelidad en la verificación. “Si en algún momento X (ex Twitter) quisiera podría verificar a sus usuarios con el reconocimiento de iris y eso no requeriría que la persona que se realizó el escáner tenga que volver a hacerlo, ya que tenemos un código único que lo identifica”, explica la vocera de Worldcoin.

X, por su parte, anunció este año que analizaba arancelar las cuentas para así luchar con la masiva cantidad de bots. Eso no se concretó, pero su dueño, Elon Musk, dijo unos meses más tarde que llevaría adelante una “purga de cuentas falsas” sin dar demasiados detalles sobre el método. El problema es real y la competencia es por quién llega primero a la solución. Dentro de la World App aparece la siguiente leyenda: “World ID es un pasaporte digital que te permite demostrar que eres una persona única y real, manteniendo el anonimato. Conforme la inteligencia artificial avance en los próximos años, vas a usar tu World ID para acceder a los servicios online”. ¿Cómo es posible, entonces, que la única empresa que posee la tecnología y que busca registrar a todo el mundo no se enriquezca cuando todas las plataformas necesiten de su servicio?

Hay una demanda permanente de autentificación para acceder a nuestras cuentas online, pero se pierde mucho tiempo en ingresar contraseñas y pasar pruebas de humanidad. La apuesta es por convertir nuestra identidad en códigos únicos. El futuro asoma, desde esta perspectiva, como un lugar extraño, donde el Estado no parece tener una intervención notarial de las vidas de las personas. Si en el pasado este fue quien le quitó a la Iglesia católica el registro de las personas, ahora aparece un nuevo actor para disputar ese poder.

La carrera tiene dos carriles: notarial y económica. Así lo considera Agustín Berti, investigador del Conicet en el Instituto de Humanidades y miembro de Dédalus - Investigaciones sobre la técnica. En diálogo con crisis, Berti resalta el rol del blockchain —base de datos que recoge y almacena la información de manera compartida y descentralizada— para abordar este tema: “El garante último de la moneda es el Banco Central. Con el blockchain lo que se hace es que el garante último no sea el Estado en la figura del Banco Central, sino toda la comunidad de usuarios que hacen el seguimiento de las criptomonedas que van validando que ese código sea único”. Entonces, si la economía se trasladara, como algunos suponen, a sistemas de blockchain y la validación de la identidad dependiera de tecnologías desarrolladas por empresas privadas, el rol del Estado se desdibujaría.

futuro vampiro

Conseguir dinero es difícil y cuando se consigue no alcanza. En ese contexto, ir a una ubicación determinada a una hora específica a mirar durante unos segundos un orb suena como una solución viable e inmediata para un problema extenuante y largo. Es difícil contemplar los peligros futuros cuando la carencia acecha hoy. Los guionistas de la serie Atlanta lograron una síntesis paródica muy precisa en una escena en la que el protagonista, Earn, se enoja con su amigo que lo ha hecho gastar el único dinero que tenía en una apuesta a varios meses. “Los pobres no tenemos tiempo para inversiones. Tengo que comer hoy, no en septiembre”, dice. Así y todo, la preocupación es cada vez más popular y se relaciona con la posibilidad de que la inteligencia artificial “reemplace” laboralmente al humano. Lo cierto es que, si bien las IA pueden procesar información de modos similares a nuestro cerebro, aún están lejos de poder trabajar por sí solas.

Tools for Humanity se presenta como una empresa sin fines de lucro que sueña con una renta básica universal, pero las reglas del juego en el mundo parecen ir hacia otro lugar. Sofía Scasserra es economista, especialista en economía digital, comercio, desarrollo y empleo. En 2019 publicó un artículo en la revista Nueva Sociedad titulado “La desigualdad automatizada” en el que advierte sobre las desigualdades que se cocinan en la Organización Mundial del Comercio (OMC) no solo a través de la rienda suelta en el desarrollo de este tipo de tecnologías, sino también a partir de la flexibilidad de las normativas: “Ya hace algunos años circula en esa organización lo que se conoce como ‘agenda de comercio electrónico’, algo que se trata de hacer pasar por un asunto comercial de compra y venta por internet. Pero, al leer sus cláusulas, rápidamente se vislumbra que poco tiene que ver con eso y que se vincula sobre todo con la desregulación de la economía digital del futuro”.

El futuro para el que se preparan empresas como Tools for Humanity es hipertecnologizado, con una economía descentralizada y con una intervención estatal casi nula. Pero el desarrollo de los instrumentos necesarios para ese futuro está fundamentalmente arraigado en el hemisferio norte. Por otro lado, las reglas de juego son cada vez más flexibles para las grandes compañías, y el entrenamiento de los softwares encuentra conejillos de Indias en países en desarrollo, donde una pequeña suma de dinero hace una gran diferencia. Esto no hace pensar que la inteligencia artificial sea una promesa esperanzadora que termine para siempre con las desigualdades del mundo. La retribución que recibe un ciudadano precarizado a cambio de sus datos biométricos tan solo representa un pequeñísimo eslabón en una cadena de anticipaciones y disputas por el futuro digital, las formas de identificación, el trabajo y la economía.

Relacionadas
pequeños tiranos / achatar el ánimo / erotismo de las máquinas
Por Agustín Valle
Destacadas
podcast de revista / quinta temporada / análisis de coyuntura
Por Colectivo Editorial Crisis
investigación digital / ingenieros del caos / arqueología de las fakes
Por Perycia, Por Colectivo Editorial Crisis
podcast de revista / quinta temporada / análisis geopolítico
Por Marco Teruggi
residentes públicos / las bases de la salud / pichis despiertos
Por Solana Camaño