los predadores y sus promesas | revista crisis
sobredeterminación y esclavitud / valle interior / eric sadin
los predadores y sus promesas
Con pose de rockstar y un discurso que acude a Hannah Arendt, el pensador francés Eric Sadin escribió sobre el modelo de negocios de las empresas de tecnología de Silicon Valley y su captura de la libertad humana. Una entrevista cara a cara sobre el perfeccionamiento del machine learning y el empobrecimiento de la experiencia política.
22 de Noviembre de 2018

 

Es la primavera de 1998, un grupo de jóvenes toma cerveza alrededor de un Renault Clio. Llevan el pelo corto, usan jeans, remeras y calzan New Balance 574. Conversan en voz alta sobre las luminarias del mundial de Francia: Ronaldo, Henry y Zidane. Por los parlantes del auto se escucha un compilado en mp3 de britpop. Ajustan la vista sobre un diminuto rectángulo oscuro, y buscan en la agenda el número de algunas amigas para que los acompañen esa noche. En solo un par de días más Google lanzará su motor de búsqueda, iniciando su campaña de conquista de la Internet.

Es el mes de septiembre de 2018, cuatro amigos se congregan alrededor de un Toyota Etios, los motivan más o menos las mismas inquietudes, las vestimentas idénticas y Francia repite el campeonato del mundo. En el plano de los consumos culturales si el britpop hizo de la referencia un género, la escena contemporánea es una inagotable concatenación de citas textuales al pop del siglo pasado. Google es no sólo el buscador hegemónico, sino que también lanzó Android, el sistema operativo más usado en el planeta. Pero más allá de eso... ¿es que acaso nada cambió en todos estos años? Los dispositivos móviles ya estaban allí, al igual que internet. También se encontraba en ascenso la digitalización de lo existente y una incipiente sensación de agotamiento cultural. 

Sin embargo, para Eric Sadin, un filósofo francés que estuvo de paso por Buenos Aires en 2018, entre estas dos postales cambió casi todo. Cambió la forma en que la humanidad interactúa con el mundo. Calibremos entonces el instrumental y miremos de cerca a este grupo de veinteañeros, un fulgor blanquecino ilumina sus caras. ¿Es que acaso no lo notan? Podría ser la llama divina de Silicon Valley. En esta entrevista conversamos con Sadin sobre el nuevo espíritu del capitalismo y el modelo civilizatorio que instaura la organización algorítmica de la sociedad.

contra todos los males de este mundo

Sadin se retuerce en el sillón enorme, negro y roído como el lomo de un pastor alemán de una librería boutique de la calle Honduras. Está inquiero, busca su mejor perfil, o tal vez sentirse cómodo en el ese patio chillout que opera de forma lateral a las bibliotecas del salón principal. Si bien fue profesor en diversas universidades europeas, prefiere presentarse como filósofo y escritor. Su vocación de establecer una narrativa pedagógica es una referencia ineludible de su proyecto filosófico, que en sus mejores momentos amalgama citas de autoridad y referencias a la cultura masiva con habilidad. Su último libro, La silicolonización del mundo. La irresistible expansión del liberalismo digital (Caja Negra, 2018), traza la historia de los sistemas de gestión algorítmicos a partir del ascenso de Silicon Valley como cuna del tecnoliberalismo: la convergencia de las posibilidades abiertas por desarrollo técnico contemporáneo con la lógica propia del liberalismo. Esta correlación entre tecnología digital y liberalismo posibilita ganar nuevos mercados para capitalismo que, desde la crisis del Tequila de 1994, se encuentra en un estado de crisis permanente. Un amplio espectro de fenómenos que van desde los intercambios afectivos y el sueño hasta los flujos del tránsito y la producción manufactura, son susceptibles de ser parametrizados y gestionados en tiempo real por el capitalismo avanzado.

La Cuarta Revolución Industrial se caracteriza por el desarrollo de tecnologías exponenciales como la inteligencia artificial, la economía de plataformas, el Big Data, la Internet de las cosas, el machine learning y la robótica, que organizan y eficientizan los medios de producción. Al tiempo que asumen espacios que hasta hace poco eran potestad exclusiva de la acción humana. “La economía del dato aspira a hacer de todo gesto, hálito o relación una ocasión de beneficio, pretendiendo de este modo no conceder ningún espacio vacante, intentando adosarse a cada instante de la vida y confundirse con la vida entera. La economía del dato es la economía integral de la vida integral", señala Sadin en el libro. En esta nueva fase, el capitalismo pareciera no pedirnos nada, tan solo debemos transitar nuestras vidas, perseguir nuestros deseos, y él estará allí para asistirnos.

En La siliconización del mundo (Caja Negra, 2018) plantea un escenario en el cual California se expande al resto del globo. ¿Quiere contarnos cómo nace la silicolonización del mundo y qué objetivos plantea?

A partir de los años noventa, gracias al advenimiento de internet, se desarrolló un modelo económico impulsado particularmente por California del Norte y Silicon Valley gracias a medios financieros masivos. Luego aconteció la caída de la net-economy (crisis de las punto.com en el año 2000). Este era un modelo bastante indefinido, no se entendía muy bien cómo funcionaba. Fue un momento bastante irracional de la economía. Luego, en los años 2000, hubo un modelo mucho más claro: la economía de los datos. Acá Google significó la vanguardia en la recolección y procesamiento de datos masivos. Y luego la década siguiente significó la economía de las plataformas. Este es el gran nuevo modelo de acumulación, cuyo espíritu fue diseñado por Silicon Valley y volvió posible la emergencia de las grandes corporaciones de la industria digital. De los llamados GAFA: Google, Apple, Facebook, y Amazon. Se impuso como un modelo económico que hipnotizó al planeta. Una verdadera fascinación de la cual nos dimos cuenta que surgían monstruos económicos, que en una década hicieron palidecer a los industriales del planeta. Y también a todos los responsables políticos. En todas las socialdemocracias hay dificultades económicas. Entonces se vio en el modelo de siliconiano, la encarnación de un horizonte económico que había que tomar para desarrollar la economía. En resumen, se trataba de no ponerse en una situación de perdedor sino de entrar de manera deliberada en la carrera y de copiar el modelo.

Esta es la silicolonización del mundo que describo en el libro. Una voluntad de instalar valleys en mundo entero. A partir de los años 2010, en Buenos Aires, en San Pablo, en Santiago, en todas las ciudades de Estados Unidos, la norma es duplicar el modelo de Silicon Valley. Lo que me plantea un problema, el modelo económico consiste en monetizar el conocimiento de nuestro comportamiento y busca organizar de una forma cada vez más automatizada, a través de la inteligencia artificial, secuencias cada vez más extendidas de nuestra existencia. Lo que no estamos viendo, es que más allá del modelo económico, se impone un modelo civilizatorio novedoso, fundado en la mercantilización integral de la vida y la organización algorítmica de nuestro cotidiano y nuestra cotidianidad colectiva.

Este modelo no parece basarse en una modalidad restrictiva, sino en un modelo de empresa startup que moviliza la creatividad, la agilidad, el dinamismo, la simpleza. Vemos desplegarse un imaginario de las tecnologías digitales como algo que favorece el acceso al saber, la emergencia de una sociedad más descentralizada, la implementación de prácticas de gestión suaves y horizontales. ¿Cómo surge este modelo y cuáles son sus principales consecuencias a nivel social?

Este modelo económico permite, desde la racionalidad de las industrias startup, que todo el mundo se entienda. Incluso gente que tiene una baja formación puede participar de este modelo. Puesto que se trata de tener una idea. El espíritu es ofrecer un servicio para todos los aspectos de la cotidianeidad. Vale la pena compartir un ejemplo: Travis Kalanick, el fundador de Uber, contó muchas veces que, estaba una noche en una calle de París buscando en vano un taxi, y súbitamente tuvo la idea de armar una plataforma que ponga en contacto algunas personas con otras que quieran ofrecer un servicio de traslado en automóvil. Siempre es una idea. Siempre se trata de una idea y de un entorno que permite realizar esa idea de una forma más o menos fácil. Con las startups emerge un nuevo estadio del management, que es una ficción total. Esta modalidad de gestión habla de horizontalidad, del aporte creativo de cada uno, de la amplitud, de la diversidad. Todo en un contexto minado de mesas de ping-pong y jóvenes en zapatillas y hoodies, jardines de infantes para los hijos de los ejecutivos y cantinas orgánicas. Toda esta impronta cool, cuyo factótum es la sede de Google en Mountain View, enmascara el aspecto predatorio de estas empresas, que consumen todos los recursos disponibles a su alrededor. Que sacan provecho de todos los datos que toman de los servicios que proveen a la vida cotidiana. No solo es depredador en apariencia, sino que es predatorio en el sentido de que no deja ningún espacio vacío de la existencia. Es el modelo mayoritario de la industria digital, del industrial startup. Y todo el mundo lo celebra diciendo que es horizonte luminoso de la economía, cuando se trata del estadio supremo de la mercantilización de la vida.  

Al pensar en la silicolonización no podemos evitar preguntarnos por la conexión. No obstante, si el problema se circunscribiera a una cuestión de desconexión la solución sería muy fácil. ¿Sobre qué capacidades funciona esta modelización algorítmica del mundo?

Hay una enorme fuerza de seducción en lo que yo llamo tecnoliberalismo. Por un lado, la base es la relación cada vez más familiar con los dispositivos digitales. Basta mirar la relación íntima que mantenemos con los smartphones. Todo se origina en el smartphone y el diseño de aplicaciones que aligeran nuestra existencia. Que se produzcan cada vez más notificaciones que nos indican cuales son las mejores acciones que podemos adoptar. Lo ejemplar en todo esto es la aparición de los asistentes digitales personales, que nos guían lo mejor que pueden durante nuestro día. ¿Qué es lo que está en juego ahí? Un juego perverso, extremadamente desarrollado, con nuestra pulsión fundamental de volver seguros todos nuestros actos sociales. Es un modelo que de manera discreta propone hacerse cargo de nuestra existencia. Que se volvió posible gracias a la inteligencia artificial capaz de interpretar situaciones, que retroalimenta y sugiere de manera continua. Es muy perturbador darse cuenta de los protocolos nos hablan con el objetivo de decirnos la verdad. Va a ser muy difícil, con el machine learning, con esta capacidad de mejoramiento continuo y autoaprendizaje de los sistemas, poner en duda sus enunciados. Es un tema de fuerza, la potencia que está puesta en este juego, es una potencia no solo de seducción, sino que nos revela la verdad de lo que tenemos que hacer a cada momento. Ya no se trata de ir a ver cómo está el tiempo en Google, o leer el diario en línea, sino que son máquinas cada vez más sofisticadas que nos dicen que debemos hacer.

neohumanos o neohumanismo

A medida que la entrevista avanza hacia los terrenos leninistas del qué hacer, Sadin muestra su faceta más histriónica: discute, se acalora, salta, y acentúa cada sentencia fatídica o declamación humanista con gestos proféticos. Es en La silicolonización del mundo donde Sadin define al humanismo como un “período de la historia que buscó hacer valer la singularidad de cada individuo y la posibilidad de emanciparse de ciertos determinismos a partir de la libre expresión de sí”. En el libro, radicaliza su discurso sobre el humanismo en tonos adornianos, donde sus límites son producto de un olvido de “nuestra propensión natural a querer liberarnos de todo límite”. O que el proyecto humanista se ha “pervertido”, y que no debemos “renunciar al bello impulso que animaba”, que se ha “extraviado en el camino”, que “se dejó llevar” y que, además, estuvo en el origen de tantos dramas. Es interesante observar que aquí Sadin rompe con la ambigüedad crítica con la que abordó, en la Humanidad aumentada (Caja Negra, 2017), este problema y erige un proyecto político que implica reanudar vínculos con la “luminosa aspiración” del humanismo: favorecer la autonomía de los seres y la libre expresión de sus capacidades.

¿Qué consecuencias tiene esta situación para la acción política?

En estos sistemas hay errores, pero va a haber cada vez menos errores. El machine learning es el capital de las tecnologías digitales. Hablo de tecnologías que van hacia la perfección. Es normal que haya errores, pero imaginemos el grado de cualificación que van a tener en diez años. Una capacidad progresiva para interpretar nuestro comportamiento. No como facilitadores de la navegación en internet, o los keywords, sino penetrando la psiquis humana. Un ejemplo muy concreto es el reconocimiento facial. Este reconocimiento de rasgos fisiológicos se transforma en un sistema de análisis comportamental. Otro ejemplo es el Google Car, en el cual el habitáculo se transforma en un espacio de análisis, una instancia de extracción de diálogos e interacciones humano-humano, humano-máquina. El desafío económico es la conquista de lo comportamental. No hay límites para esto. Es una potencia de ajustamiento que permite establecer una relación entre las personas y las marcas. La guerra es la conquista de lo comportamental. Entonces lo que está en juego es quitarle el juicio al hombre, el retroceso de la autonomía del juicio, el retroceder de autodeterminarnos de manera libre y colectiva. Como decía Hanna Arendt, la facultad de juicio es la facultad política por excelencia. Es la capacidad de poder determinarnos libremente. Esto es lo que está siendo cuestionado hoy. Llama entonces a una especie de renuncia colectiva, a cambio del confort que provee la satisfacción de nuestros pequeños intereses, o de la optimización general de la sociedad. ¿Queremos que sistema automatizados que responden a intereses privados, que responden a objetivos de organización y racionalización de la sociedad, organicen nuestra existencia? ¿O queremos recuperar nuestra facultad de acción? Eso supone hacer política.

Las modalidades de resistencia de la modernidad parecen irrelevantes frente a un sistema que promueve la libertad. ¿Cómo actuar?

Muchas veces cuando uno quiere piensa en las tecnologías digitales, saca la bandera de la ética. Muy bien. Hay una ética muy particular que se funda en lo que Isaiah Berlin llamó libertad negativa. ¿A qué se refiere con libertad negativa? Al hecho que los individuos se preocupan solo de su preservación, el mantenimiento de su propia libertad. Esto se encuentra en el origen del liberalismo, según el propio Montesquieu, un liberalismo político que desconfía de los gobernantes y se basa en la libertad individual de los individuos. Este principio político-liberal llega hasta nuestros días, y tiene un valor político. No obstante, implica una renuncia política porque es una ética basada en el egoísmo.

Es hora de desarrollar una ética que tenga efectos políticos, que se funde sobre la afirmación de la autonomía del juicio, sobre la facultad de determinarse individual y colectivamente a lo largo de nuestra existencia. Las tecnologías digitales funcionan como tecnologías de lo exponencial, no es un tema de velocidad, se imponen sin requerir el asentimiento de las personas, toman una forma supuestamente natural. Es hora de defender la autodeterminación de las personas y la sociedad. Creo que, hoy más que nunca, tenemos que hacer una obra política. Ahí donde hay sistemas que destruyen o atacan la integridad humana, o se predicen las acciones que se tienen que llevar adelante, entonces ahí hay que hacer algo. Fijate donde ocurre la movilización frente a esta situación, siempre del lado del individuo (defensa de la vida privada), nunca desde un modo de organización colectiva. ¿Cómo llegamos a esta ceguera? No puedo escuchar más acerca de la defensa de la vida privada. Es el espíritu pequeño burgués de nuestro tiempo. Es hora que hablemos de responsabilidad colectiva, de autonomía del juicio, de Hannah Arendt, de la facultad del juicio.

¿Qué políticas culturales acompañarían este relanzamiento del humanismo?

Es difícil. Perdóneme, pero es demasiado amplia la pregunta. No quiero anunciar grandes discursos. Lo que quiero es que recuperemos la capacidad de poder, y saber, rechazar ciertas cosas. Y afirmar la pluralidad infinita de los componentes de la sociedad. Toda lo dicho hasta ahora, gravita en la instauración de una homogenización, no tanto de los modos de existencia, sino de esta sistemática, de este sistema de recibir enunciados. Es un momento en el que retrocede la pluralidad. La cultura es la afirmación de la singularidad de los individuos y eso es lo que debe celebrarse. Pero también la contradicción, el conflicto. Todo lo que describimos tiende a evitar los defectos, y de ir hacia una sociedad utilitarista y eugenista. Que rechaza el mínimo error por un fantasma de perfección.

Vemos surgir movimientos de hackers que se organizan para compartir conocimientos, experiencias, y abrir el dispositivo técnico por fuera de la subsunción de mercado. ¿Cómo ves este tipo de experiencias?  ¿Se puede vislumbrar en ellas nuevas formas políticas?

Para nada. Ese discurso era posible para la era del acceso. No hay que desviar la tecnología, sino la vida. Hay que afirmar las potencias de existencia, que no quede pegada a sistemas que nos dictan las cosas. En el nivel que llevan los entornos tecnológicos, no es hackeando que se cambia la estructura de las cosas. En el mundo del trabajo, rechazamos los sistemas que nos dicen que hay que hacer. En el mundo de la justicia, rechazamos que existan sistemas de evaluación de los dossiers porque no son sistemas de beneficios de la duda. Esas no son cuestiones técnicas, son cuestiones políticas. Es un momento de defensa de la pluralidad, de la autonomía del juicio, de la contradicción e imperfección inherente de la sociedad.

Relacionadas
sagat / el hombre nuevo / todo el poder al algoritmo
Por Facundo Carmona
el rumor de la posdemocracia / economista sin corbata / Yanis Varoufakis
Por Nicolás Mavrakis
sagat / tenemos las máquinas / neokantismo de código abierto
Por Alejandro Galliano
mmlpqtp 2019 / motoforros / consenso chocobar
Por Ximena Tordini
Destacadas
un cheto para mi país / secretaría de pensamiento nacional / core businness
Por Tali Goldman
profetas del emprendedurismo digital / emancipar al dinero / el otro marquitos
Por Hernán Vanoli, Por Alejandro Galliano
posverdad y justicia / santiago maldonado
Por Mario Santucho
políticas de la narración / invierno del odio / gringolandia
Por Sofía Balbu