“Las tecnologías digitales debilitan la capacidad de decidir” Invitado destacado de La noche de la filosofía celebrada en el Centro Cultural Kirchner el 24 de junio pasado, Éric Sadin llegó llegó para la entrevista más o menos menos puntual, vestido según cierto cierto estilo formal-informal muy en conformidad con su cabellera revuelta. Acompañado por Mateo Schapire del Institut Français d’Argentine, quien facilitó el diálogo, el autor de La humanidad aumentada aumentada y La silicolonización del mundo (de próxima publicación por Caja Negra Editora), se acomodó en el bar de la Librería del Fondo de a poco, luego de saludar, hacer algunos chistes, pedir café y agua, y mirar rápidamente el reportaje que le había realizado Página/12, P ágina/12, publicado ese día. Ya sentado, con el grabador encendido, Sadin respondió a la pregunta de apertura con una energía veloz que no perdería en ningún momento. De mirada inquieta y gestos suaves y acelerados, conceptualmente preciso preciso pero de espíritu fustigador e inconformista, a lo largo de la entrevista dejó algo en claro: la filosofía de la técnica le interesa antes que nada como crítica política de los sistemas contemporáneos de poder.
Aparte de Jacques Ellul y Gilbert Simondon, los maestros que reconoce Sadin señalan claramente en qué consiste su fuente de inspiración. “Ellul y Simondon, por supuesto” –dice –dice un poco dudoso al principio – principio – “pero también Foucault, Rousseau, George Orwell, por quien tengo una pasión absoluta. En realidad, yo aspiro aspiro a ser un autor político”. De todas maneras, aclara que su posición crítica respecto de la técnica no proviene de ninguno de esos autores (“tampoco de Heidegger” subraya) sino del mismo estado de las cosas técnicas en el mundo actual y de su extrema potencia. “Ha sido una especie de revelación”, declara Sadin con una amplia sonrisa y agrega: “Es un chiste, pero un chiste a medias. A fines de los 90 entendí que las tecnologías digitales iban a modificar totalmente el mundo y que esto llamaba a la investigación filosófica y al desarrollo de una filosofía política como un deber”. Para Sadin, el poder dotado de tecnologías digitales conforma a nuestras sociedades y, por tanto, es un poder político.
“La administración digital del mundo” –dice –dice con cierto énfasis – énfasis – “lleva necesariamente a una filosofía política de la técnica. Cierta filosofía de la técnica querría solamente ser eso, pero hoy es imposible porque las tecnologías digitales exceden el aspecto técnico y científico. Son tecnologías t ecnologías creadas y desplegadas por un poder económico-social y, en esa medida, deberíamos hablar de dimensiones tecnoeconómicas tecnoeconómicas y no estrictamente tecnológicas”. En otras palabras, las tecnologías digitales están diseñadas y determinadas por intereses privados que interfieren en todos los campos de la vida en común. común. Según Sadin, Ellul (como Orwell) entendió la potencia organizacional y de dominación de la técnica, la organización tecnológica de la sociedad bajo fines de optimización y mercantilización. Marx, en ese sentido, sólo captó las condiciones materiales de producción a través de la máquina y sus efectos de alienación sobre el ser humano.
“Hoy en día el poder tecnoeconómico” –afirma Sadin – “es un potencia organizacional en todas las escalas de la sociedad que tiene por objetivo satisfacer intereses privados. Ese es el punto central. Cada vez más nuestras sociedades están llamadas a ser testigos en tiempo real de sus actividades y sus fluidos vitales, sobre todo porque nuestros comportamientos individuales y colectivos generan datos y objetos conectados. El otro fenómeno tecnológico mayor es el desarrollo exponencial de la inteligencia artificial, la colección de información para ofrecernos supuestamente bienes de consumo pero que tiene como efecto la automatización de amplios sectores sociales”. ¿Se trata de control o simplemente de dominación? “La automatización de la empresas” –responde Sadin sin pérdida de tiempo – “significa hoy control de datos, sistemas de inteligencia artificial, medidas de performance del personal, disminución de la espontaneidad humana y de la singularidad de cada uno”.
La innovación digital, para Sadin, no es algo para celebrar. La digitalización de la realidad (es decir, la matematización del mundo) produce, entre otras consecuencias, una visibilidad en tiempo real de los fenómenos y una extrema racionalización de la sociedad con objetivos de fluidificación de hombres o máquinas. De este modo, se ejerce una presión cada vez más violenta sobre el juicio humano por medio de asistentes personales (Google, los smartphones, etc.), que hacen un acompañamiento algorítmico de la vida y que pretenden decir la verdad sobre todo para ayudar a la toma de decisiones y a los hábitos de consumo. Esto supone una puesta en cuestión de valores humanistas, como la libertad del juicio, reemplazados por un m ayordomo digital omnisciente. “Desde un punto de vista colectivo” –señala Sadin en tono de advertencia – “ante estos sistemas de inteligencia artificial conviene preguntarse al modo nietzscheano: ¿quién habla?, ¿yo, con mi singularidad, o algún otro?”…Una buena pregunta, desde ya.
Y Sueños y pesadillas del tecnoliberalismo y otra
Somos nuestro cerebro, somos nuestros genes, somos lo que comemos, proponen las tapas de libros que buscan venderse en los aeropuertos. ¿Somos nuestros datos? “Claro que no”, dice el filósofo y ensayista francés Eric Sadin, quien se dedica a investigar qué está realmente en juego en el estadio actual de desarrollo y uso masivo de tecnologías “inteligentes”. Lo que ocurre, más bien, es que esos datos, recolectados y analizados por dispositivos y algoritmos alojados en el teléfono
celular, en redes sociales, en cajeros automáticos, en sistemas con los cuales trabajamos, producen uno, dos, varios perfiles o dobles de nosotros mismos que nos “asisten” en la vida cotidiana. “Y orientan nuestra vida hacia dos objetivos –asegura –: la mercantilización integral de la existencia y el aumento del rendimiento”.
En su trilogía iniciada por Vigilancia global (2009), luego La sociedad de la anticipación (2011) y, por último, La humanidad aumentada (Caja negra, 2013), el único traducido hasta ahora al castellano, Eric Sadin sostiene que en los últimos años las tecnologías digitales promovieron mutaciones decisivas con “amplio alcance antropológico”. Su hipótesis es que asistimos a la emergencia de una nueva condición humana asistida y duplicada por robots inteligentes que, en conjunto, componen un “organismo cognitivo aumentado” al que le delegamos, queriéndolo o no, muchas de las decisiones sobre nuestra vida. El primero de los tres libros se refiere a la intensificación de los procedimientos de vigilancia, favorecida por el aumento de la seguridad global después de los atentados del 11 de septiembre de 2001. Esto llevó, dice Sadin, a que el conocimiento sobre las personas ya no tuviera tanto que ver con identidades y localizaciones, sino con huellas informacionales dinámicas, que permiten crear mapas de comportamientos con la doble vocación de servir a la seguridad y al marketing.
La segunda parte disecciona esa voluntad anticipatoria de nuestra cultura que huye de la improbabilidad y el azar como de la peste. En el tercer libro, afirma que estamos inmersos en una matriz informática capaz de ampliar sin medida conocida nuestras capacidades cognitivas. “Mucho se ha dicho sobre la inteligencia artificial –comenta Sadin desde París en esta entrevista por escrito –; en particular, que se rebelará contra sus padres. Esa es una fantasía grotesca: no es la especie humana la que está en peligro, sino nuestra facultad de juzgar y actuar libremente y con conciencia”.
–Hace cuatro décadas ya se hablaba de la “informatización de la sociedad”. Fue a partir del informe encargado en 1976 por el entonces presidente de Francia, Valery Giscard d’Estaing, a los funcionarios Simon Nora y Alain Minc. Ese informe diagnosticaba los dilemas económicos, sociales y gubernamentales que llegarían con la combinación entre informática y telecomunicaciones, muchos de los cuales luego se desplegaron. En el escenario actual, en el que se nos habla de innovaciones todos los días, ¿qué es lo realmente nuevo en esta “era inteligente de la técnica”?
–Inicialmente, el uso de la informática se orientaba a satisfacer demandas administrativas y militares: almacenar y manipular la información de manera cada vez más rápida, descifrar comunicaciones encriptadas y desarrollar cálculos predictivos para el envío de misiles durante la Segunda Guerra Mundial. Durante las décadas siguientes, se produjo una progresiva
informatización de la sociedad, que llegó a los sectores bancario, financiero, de seguros, la administración pública, y alcanzó a los individuos a través del auge de la informática personal. Más tarde, Internet facilitó la comunicación entre personas y el acceso a corpus textuales voluminosos. Pero en el momento de su súbita generalización en la década de 1990, fue masivamente ocupada por el régimen privado, que la abordó como un nuevo canal para la venta y la publicidad. Poco más tarde apareció un nuevo modelo, basado en el seguimiento de la navegación, donde Google se convirtió en el actor principal. Estos ejes no dejaron de sofisticarse en los años 2000 y asentaron el dominio definitivo de los poderes económicos sobre el mundo digital. Hoy se da un brusco agravamiento de la digitalización progresiva del mundo a través de la diseminación de sensores en cada vez más ámbitos de la realidad.
–Para usted un momento clave es 2007, con la aparición de los smartphones. ¿Por qué?
–La introducción del smartphone instituyó una conexión espacio temporal virtualmente ininterrumpida, así como el uso de aplicaciones que permiten gozar de servicios personalizados y geolocalizados. Recordaremos más tarde que fue a partir de él que emergieron las premisas del acompañamiento algorítmico de la vida. Denominé “antrobología” a esta nueva condición humana asistida cada vez más por robots “inteligentes”. Los datos que generamos son recolectados sobre todo por empresas privadas y procesados por sistemas de inteligencia artificial capaces de operar una presión creciente sobre la decisión humana, como cuando las empresas hacen que los sistemas digitales “sugieran” al personal lo que debe decir porque es posible ver en tiempo real cuánto mide su performance. Esto no sólo violenta el derecho laboral, sino también la integridad y la dignidad.
–La nueva envoltura tecnológica del mundo, sugiere en el libro, da lugar al desarrollo de una “industria de la vida” que procura obtener beneficios de todas nuestras acciones.
–Es así. Asistimos al advenimiento de una “industria de la vida”, que se hizo posible por el cruce entre la difusión de dispositivos de captación y la sofisticación continua de la inteligencia artificial. Google, empresa que desde 2015 se ha rebautizado Alphabet, se ubica a la vanguardia de esta industria. La empresa ya no se conforma con obtener beneficios económicos de su motor de búsqueda. También ofrece su plataforma de videos en línea, YouTube; su sistema operativo, Android; su servicio de cartografía, Google Maps; sus departamentos de investigación sobre la salud, Calico; sobre la educación, Google para la Educación; sobre las infraestructuras de red, Google Fiber: sobre robótica, Boston Robotics; sobre urbanismo, Sidewalk Lab; sobre inteligencia artificial, Google Brain y Google DeepMind; el laboratorio dedicado a los “proyectos más audaces”, Google X, en el que se desarrollaron vehículos autónomos. Tiene su sociedad de inversiones de
riesgo, CapitalG, y otra sociedad de inversiones más pequeña, GV, especializada en el apoyo a la creación de empresas o start-up. El nombre, Alphabet, debe tomarse al pie de la letra, ya que atestigua la aspiración de jugar con el alfabeto de la vida, para dominar sus diferentes aspectos, para capitalizar sus manifestaciones, haciendo emerger una economía adosada al flujo ininterrumpido de la vida y del mundo.
–No sólo una empresa concentra decenas de sectores; también se vuelven “empresariables” todas las dimensiones que uno pueda imaginar...
–Exacto. De pronto, está emergiendo un horizonte económico virtualmente infinito. Por ejemplo, un chupete con sensores estará conectado al registro de salud del niño, y procederá a realizar un examen de saliva periódico, aconsejará la leche “apropiada” o los productos alimenticios adecuados. El aparato de TV puede obtener información sobre las prácticas de visión, analizar las conversaciones que se mantienen cerca de él y recomendar programas de manera personalizada. Incluso el sueño, que permanecía como el continente inaccesible, ahora puede cuantificarse y ser objeto de explotación comercial. El camino ha sido largo en la historia del capitalismo, pero el tecnoliberalismo realiza el último sueño del capitalismo histórico: se lanzó al asalto de la vida, de toda la vida.
–En 1995, Nicholas Negroponte publicó Ser digital, manifiesto del optimismo tecnológico de la era digital. Allí afirmaba: “El futuro ya está aquí, y solo existen dos posibilidades: ser digital o no ser”. Hace pocas semanas, Martin Hilbert, un asesor tecnológico de la Biblioteca del Congreso de EE.UU., afirmó en una entrevista que la inteligencia artificial ya es una parte inseparable de nuestra sociedad. “Podrás irte a la cordillera, dejar tu celular atrás y demás, pero ya no serías parte de nuestra sociedad. Dejarías de evolucionar con nosotros”, aseguraba. ¿Estamos en una nueva etapa imparable o estos discursos forman parte de lo que usted llama “la dimensión totémica de la tecnología”?
–La ideología tecnoliberal de Silicon Valley se ha impuesto. Se convirtió en el nuevo axioma TINA (There is no Alternative), celebrado como virtuoso, no sólo por la economía sino por la sociedad en su conjunto. Ante el poder de tales discursos es importante analizar las cosas, poner en cuestión las evidencias, exponer los intereses en juego así como la m agnitud de las consecuencias. Es tiempo de desarrollar una crítica en todos los niveles de la sociedad, en las ciencias humanas, en los sindicatos, en las asociaciones de consumidores... Porque si no tomamos el asunto en nuestras manos, será el tecnoliberalismo el que diseñará la forma de nuestras vidas individuales y colectivas, y eso es inaceptable.
–En La humanidad aumentada cita frecuentemente a Jacques Ellul. Una de las ideas persistentes de Ellul es la de la simplicidad voluntaria, sintetizada en su “ética del no-poder”. ¿En qué medida comparte usted esa propuesta?
–Todos somos ciudadanos y, al mismo tiempo, consumidores. Por mi parte, llamo a rechazar la compra de objetos que contengan protocolos “inteligentes” encargados de prestarnos asistencia continua, así como computadoras eléctricas conectadas que memorizan nuestros gestos en nuestros hogares. Nunca como hoy negarse a hacer una compra revistió un carácter tan político. Contra la ambición desmesurada del tecnoliberalismo de querer conducir el curso de nuestras vidas, tenemos el deber de salvaguardar la parte inviolable de nosotros mismos, que es nuestra autonomía de juicio y de acción. Lo que está en juego es un conflicto entre modelos de civilización, y hay que elegir. Un modelo está basado en la libre expresión de las personas y el derecho a decidir por deliberación el curso de nuestras sociedades. El otro está basado en la algoritmización creciente de la vida, bajo la influencia de la industria digital y como resultado de la presión continua sobre la decisión humana para satisfacer intereses privados. Es urgente que nos movilicemos. Eric Sadin analiza en su obra, y en esta nota, las relaciones entre el individuo, la sociedad, los datos, los programas, los iPhones o los smartphones, los grandes sistemas que deciden por sí solos y la amenaza de los Data Center. Desde París
Ya no estamos solos. Un doble o muchos dobles nuestros persisten en los incontables Data Center del mundo, en las redes sociales, las memorias gigantescas de Google, de Facebook o de la Agencia Nacional de Seguridad de Estados Unidos, la NSA. Es lo que el ensayista francés Eric Sadin, uno de los autores más proféticos y brillantes en el análisis de las nuevas tecnologías, llama “la humanidad paralela”. Este ensayista francés no comete la tontería de agitar espantapájaros triviales a propósito de nociones como el “transhumanismo”. Tampoco se refiere a la fusión física entre el ser humano y las máquinas, el famoso ciborg, ni ahonda en la tesis del fin de una humanidad recuperada o salvada mediante soportes numéricos. No. Eric Sadin piensa de manera magistral las relaciones entre el individuo, la sociedad, los datos, los programas, los iPhones o los smartphones, los grandes sistemas que deciden por sí solos y la amenaza de los Data Center. En cada uno de sus libros anteriores, Surveillance Globale, La Société de l’anticipation, Eric Sadin ha explorado como pocos las mutaciones humanas inherentes a la erupción de la hiper tecnología en nuestras vidas. Lejos de contentarse con un anecdotario trivial de los instrumentos tecnológicos que surgieron desde hace décadas, Sadin los piensa de una forma inédita. Su último libro, L’Humanité Augmentée, L’administration numérique du monde (La humanidad aumentada, La administración digital del mundo), explora la capacidad cada vez más creciente que tienen los
dispositivos inteligentes para administrar el rumbo del mundo. El libro ganó en Francia el Hub Awards 2013, un premio que recompensó al mejor ensayo del año. La obra navega fuera de los senderos evidentes. Ni elogio fúnebre de la especie humana ni cántico de rodillas a las nuevas tecnologías, sino una reflexión pura que demuestra que nos encontramos en un momento crítico de la historia humana. Para Eric Sadin, Hal 9000, la computadora súper potente que en la película 2001 Odisea del Espacio equipa la nave Discovery, ha dejado hace mucho de ser una ficción: Hal 9000 ha sido incluso superada por la tendencia actual hacia una “administración robotizada de la existencia”. GPS, iPhone, smartphone, sistemas de gestión centralizados que deciden por sí solos, trazabilidad permanente, todo confluye en la creación de lo que el autor llama un “órgano-sintético que repele toda dimensión soberana y autónoma”. En esta entrevista con Página/12, Sadin analiza ese doble tecnológico que nos facilita muchas cosas al tiempo que nos acecha al punto de transformar nuestra humanidad. –Eric Schmidt, el presidente de Google, dice en su último libro The New Digital Age que “acabamos de dejar los starting-blocks” de la revolución numérica. Usted, al contrario, estima que la revolución digital se acaba. ¿Fin o nueva fase?
–La década actual señala el fin de lo que se llamó “la revolución digital”, que empezó a principios de los años ’80 mediante la digitalización cada vez más vasta de lo real: la escritura, el sonido, la imagen fija y animada. Ese amplio movimiento histórico se desplegó paralelamente al desarrollo de las redes de telecomunicación e hizo posible el advenimiento de Internet, o sea, la circulación exponencial de los datos en la red. Esta condición tecnológica universalizada trastornó prioritariamente tres dimensiones: las condiciones de acceso a la información, el comercio y la relación con los otros a través de los correos electrónicos y las redes sociales. Hoy, esta arquitectura que no cesó de desarrollarse y consolidarse está sólidamente instalada a escala global y permite el advenimiento de lo que yo llamo “la era inteligente de la técnica”. –La historia del siglo XXI se parece entonces a una redefinición de las líneas antropológicas. Usted la define como una humanidad “comprometida en una odisea incierta e híbrida, antropólogo-mecánica”.
–Nuestro tiempo instaura una relación con la técnica que ya no está prioritariamente fundada sobre un orden protético, o sea, como una potencia mecánica superior y más resistente que la de nuestro cuerpo, sino como una potencia cognitiva en parte superior a la nuestra. Hay robots inmateriales “inteligentes” que colectan masas abismales de datos, las interpretan a la velocidad de la luz al tiempo que son capaces de sugerir soluciones supuestamente más pertinentes, e incluso de actuar en lugar nuestro, como ocurre con el trading algorítmico, por ejemplo. –Precisamente, el trading algorítmico desempeñó un papel nefasto en l a crisis financiera de 2008. Un dispositivo creado por el ser humano operó una suerte de sustitución que terminó ahondando la crisis.
–Las transacciones financieras mundiales se llevan a cabo mediante la colecta automatizada de volúmenes astronómicos de datos: su tratamiento en tiempo real, la compra o la venta de acciones están a cargo de robots numéricos que trabajan a una velocidad que sobrepasa nuestras capacidades cognitivas. Hace 30 años, esa actividad estaba realizada por seres humanos, pero fue poco a poco transferida hacia sistemas interpretativos y reactivos. Ese fenómeno expone el momento inquietante de nuestra contemporaneidad, donde las producciones tecnológicas concebidas por seres humanos nos sustituyen e incluso actúan en lugar nuestro. –En su último ensayo, La humanidad aumentada, la administración digital del mundo, usted expone un mundo cartografiado de manera constante por los sistemas digitales. Usted muestra la emergencia de una suerte de humanidad paralela –las máquinas – destinadas a administrar el siglo XXI. Se impone una pregunta: ¿qué queda entonces de nuestra humanidad?
–La historia de la humanidad está constituida por una infinidad de evoluciones sucesivas en todos los campos. Desde el Renacimiento, nuestro potencial humano se fundó sobre la primacía humana constituida por la facultad de juzgar, la facultad de decisión y, por consiguiente, de la responsabilidad individual que funda el principio de la Ley. La asistencia de las existencias por sistemas “inteligentes”, además de que representa una evolución cognitiva, redefine de facto la figura de lo humano como amo de su destino en beneficio de una delegación progresiva de nuestros actos concedida a los sistemas. Una creación humana, las tecnologías digitales, contribuyen paradójicamente a debilitar lo que es propio al ser humano, o sea, la capacidad de decidir conscientemente sobre todas las cosas. Esta dimensión en curso se amplificará en los próximos años. Además, nuestras vidas individuales y colectivas están cada vez más reorientadas por sistemas que nos conocen con mucha precisión, que nos sugieren ofertas hiper individualizadas, que nos aconsejan este u otro comportamiento. Por medio del uso de nuestros protocolos de interconexión se opera una cuantificación continua de los gestos, la cual autoriza un “asistente robotizado” expansivo de las existencias. –Usted se refiere al surgimiento de un componente “órgano-sintético que repele toda dimensión soberana y autónoma”. En suma, el mundo, nuestras vidas, están bajo el orden de lo que usted llama “la gobernabilidad algorítmica”. El ser humano ha dejado de administrar.
–No se trata de que ya no administre más, sino de que lo hará cada vez menos en beneficio de amplios sistemas supuestamente más eficaces en términos de optimización y de seguridad de las situaciones individuales y colectivas. Esto corresponde a una ecuación que está en el corazón de la estrategia de IBM. Esta empresa implementa arquitecturas electrónicas capaces de administrar por sí mismas la regulación de los flujos de circulación del tráfico en las rutas o la distribución de energía en ciertas ciudades del mundo. Esto es posible gracias a la colecta y al tratamiento ininterrumpido de datos; los stocks de energía disponibles, las estadísticas de consumo, el análisis de los usuarios en tiempo real; la energía disponible, las estadísticas del consumo, el análisis de la utilización en tiempo real. Estas informaciones están conectadas con algoritmos capaces de lanzar alertas, de sugerir iniciativas o asumir el control decidiendo por sí mismos ciertas acciones:
aumento de la producción, compras automatizadas de energía en los países vecinos, o corte del suministro en ciertas zonas. –Eso equivale a una suerte de pérdida mayor de soberanía.
–La meta consiste en buscar la optimización y la seguridad en cada movimiento de la vida. Por ejemplo, hacer que una persona que pasa cerca de una zapatería pueda beneficiarse con la oferta más adecuada a su perfil, o que alguien que se pasea en una zona supuestamente peligrosa reciba un alerta sobre el peligro. Vemos aquí el poder que se le delega a la técnica, o sea, el de orientar cada vez más con mayor libertad la curva de nuestras existencias. Ese es el aspecto más inquietante y más problemático de la relación que mantenemos con las tecnologías contemporáneas. –El escándalo del espionaje que explotó con el caso Prism, el dispositivo mediante el cual la NSA espía todo el planeta, puso al descubierto algo terrible: no sólo nuestras vidas, nuestra intimidad, son accesibles, sino que nuestras vidas están digitalizadas, convertidas en Big Data, dobladas.
–Prism reveló dos puntos cruciales: en primer lugar, la amplitud abismal, casi inimaginable, de la colecta de informaciones personales; en segundo, la colusión entre las compañías privadas y las instancias de seguridad del Estado. Este tipo de colecta demuestra la existencia de cierta facilidad para apoderarse de los datos, guardarlos y, luego, analizarlos para instaurar funcionalidades de seguridad. La estrecha relación que liga a los gigantes de la red con la NSA debería estar prohibida por la ley, salvo en ocasiones específicas. De hecho, no es tanto la libertad lo que disminuye sino partes enteras de nuestra vida íntima. El medio ambiente digital favoreció la profundización inédita en la historia del conocimiento de las personas. Este fenómeno está impulsado por las compañías privadas que colectan y explotan esas informaciones, a menudo recuperadas por las agencias de seguridad y también por cada uno de nosotros mediante las huellas que diseminamos permanentemente, a veces sin ser conscientes, a veces de manera deliberada. Por ejemplo, a través de la exposición de la vida privada en las redes sociales. –El caso NSA-Prism marca todo un hito en la historia. De alguna manera, incluso si la gente ha reaccionado de forma pasiva, hemos perdido la inocencia digital. ¿Cree usted que aún persiste la capacidad de rebelarse en esta gobernabilidad digital?
–Con Prism habrá un antes y un después. Este caso mostró hasta qué punto la duplicación digital de nuestras existencias participa de la memorización y de su explotación. Esto ocurrió en apenas 30 años bajo la presión económica y de las políticas de seguridad sin que se haya podido instaurar un debate a la medida de lo que estaba en juego. Este es el momento para tomar conciencia, para emprender acciones positivas, para que los ciudadanos y las democracias se apropien de lo que está en juego, cuyo alcance concierne a nuestra civilización. –La ausencia de Europa ha sido en este robo planetario tan escandalosa como cobarde. Usted, sin embargo, está convencido de que el Viejo Mundo puede ahora desempeñar un papel central.
–Me parece que Europa, en nombre de sus valores humanistas históricos, en nombre de su extensa tradición democrática, debe influir en la relación de fuerzas geopolíticas de Internet y favorecer la edificación de una legislación y una reglamentación claras. El término Big Data, más allá de las perspectivas comerciales que se desprenden de él, nombra ese momento histórico en el cual el mundo está copiado bajo la forma de datos que pueden ser explotados en una infinidad de funcionalidades. Se trata de una nueva inteligibilidad del mundo que emerge a través de gigantescas masas de datos. Se trata de una ruptura cognitiva y epistemológica que, me parece, debe ser acompañada por una “carta ética global” y marcos legislativos transnacionales. No obstante, hay que desconfiar de todo intento de toma de control por ciertos países capaz de conducir a una fragmentación de Internet. Justamente, el valor de Internet radica en su dimensión universalizada. Me parece que lo que necesitamos es un acuerdo en torno de algunas exigencias fundamentales. El smartphone, ese “asistente robotizado” En su libro, usted se refiere a una figura mítica del cine, Hal, el sistema informático de la nave Discovery que aparece en la película 2001 Odisea del espacio. ¿Hal es, para usted, como la figura que encarna nuestro devenir tecnológico a través de la inteligencia artificial?
–Hal es un sistema electrónico hiper sofisticado que representa la figura mayor de la película de Stanley Kubrick. Hal es un puro producto de la inteligencia artificial, es capaz de colectar y analizar todas las informaciones disponibles, de interpretar las situaciones y actuar por sí misma en función de las circunstancias. Exactamente como ciertos sistemas existentes en el trading algorítmico, o en el protocolo de Google. Hal no corresponde más a una figura imaginaria y aislada sino a una realidad difusa llamada infinitamente a infiltrar sectores cada vez más amplios de nuestra vida cotidiana. –En esa misma línea se sitúa para usted el iPhone o los smartphones. No se trata de juguetitos sino de un casi complemento existencial.
–Creo que la aparición de los smartphones en 2007 corresponde a un acontecimiento tecnológico tan decisivo como el de la aparición de Internet. Los smartphones permiten la conexión sin ruptura espacio-temporal. Con ello los smartphones exponen a un cuerpo contemporáneo conectado permanentemente, tanto más cuanto que puede ser localizado vía el GPS. También, a través de él se confirma el advenimiento de un “asistente robotizado” de las existencias por medio de las innúmeras aplicaciones capaces de interpretar un montón de situaciones y sugerirle a cada individuo las soluciones supuestamente más adaptadas. –Esos objetos, que son táctiles, nos hacen mantener una relación estrecha con el tacto. Pero, al mismo tiempo que tocamos, las cosas se tornan invisibles: toda la información que acumulamos desaparece en la memoria de los aparatos: fotos, videos, libros, notas, cartas. Están pero son invisibles.
–En efecto, ese doble movimiento trastornante debería interpelarnos. Nuestra relación con los objetos digitales se establece según ergonomías cada vez más fluidas, lo que alienta una suerte de creciente proximidad íntima. La anunciada introducción de circuitos en nuestros tejidos biológicos amplificará el fenómeno. Por otro lado, esa “familiaridad carnal” viene acompañada por una distancia creciente, por una forma de invisibilidad del proceso en curso. Esto es muy emblemático en lo que atañe a los Data Centers que contribuyen a modelar las formas de nuestro mundo y escapan a toda visibilidad. Es una necesidad técnica. Sin embargo, esa torsión señala lo que se está jugando en nuestro medio ambiente digital contemporáneo: por un lado, una impregnación continua de los sistemas electrónicos, y, por el otro, una forma de opacidad sobre los mecanismos que la componen. “Desarrollar una conciencia crítica” Los poderes públicos, principalmente en Europa, son incapaces de administrar el universo tecnológico, incapaces de encuadrarlo con leyes o fijar límites. La ignorancia reina, pero la tecnología termina por imponerse, al igual que las finanzas, a todo el espectro político. De alguna manera, los poderes públicos son víctimas de la ignorancia y de lo que Paul Virilio conceptualizó como nadie: la velocidad.
–Una velocidad aumentada sin nunca cesar caracteriza el movimiento vertiginoso imprimido por la innovación tecnológica. Estamos viviendo en el seno de un régimen temporal que se vuelve exponencial, prioritariamente mantenido por la industria que impone sus leyes. Lo propio de los regímenes democráticos es su facultad deliberativa, su capacidad colectiva para elegir conscientemente las reglas que enmarcan el curso de las cosas. Ese componente está hoy eminentemente fragilizado. Ahora como en el futuro, debemos enfrentarnos activamente, sin nostalgia y bajo diversas formas, a la amplitud de lo que está en juego éticamente, bajo la inducción de esta “tecnologización” de nuestras existencias. Tanto en las escuelas y universidades, creo que es urgente enseñar el código, la composición algorítmica, la inteligencia artificial. Creo que son los profesores de “humanidad numérica” quienes deberían ingresar en las escuelas y contribuir a despertar las conciencias y ayudar a encontrar las perspectivas positivas que se están abriendo con este movimiento. Es preciso que en adelante desarrollemos una conciencia crítica ante nuestra propia utilización, que se instaure lo que yo llamo “una disciplina de la utilización”. Esta disciplina me parece indispensable si no queremos estar infinitamente pegados a las producciones tecnológicas, si no queremos volvernos un mismo cuerpo con la técnica. Es preciso mantener cierta distancia, porque es la distancia quien condiciona el principio mismo de una relación abierta y singularizada con el mundo. ……………………………………………………………………… -En esta "era inteligente de la técnica" se debilita la capacidad humana de decidir. Se diluye lo que históricamente nos definió como especie: el discernimiento. ¿Hacia dónde vislumbra que se encamina la humanidad y el rol de nuestra especie?
-La inteligencia artificial se erige de aquí en adelante en una suerte de superyo dotado de la intuición de la verdad y llamado a guiar en toda circunstancia nuestras vidas hacia la mayor eficacia y confort imaginables. Dimensión emblemática que está en las aplicaciones de asistentes personales, de eficacia todavía balbuciente, como el Siri de Apple, Google Assistant o Alexa, de Amazon. Se han dicho muchas cosas de la inteligencia artificial, en especial que iba eventualmente a volverse contra sus progenitores. Visión grotesca y fantasmática. Porque no es la raza humana la que está en peligro, sino más bien la figura humana, en tanto que dotada de la facultad de juicio y de actuar libremente y a conciencia. Porque es nuestro poder de decisión el que va poco a poco a ser desposeído, llamado a ser sustituido por sistemas que se suponen omniscientes y más aptos para decidir el "perfecto" curso de las cosas en el mejor de los mundos.El sistema Watson por ejemplo, desarrollado por IBM y que no deja de perfeccionarse, está destinado a guiar la acción humana en los campos de la medicina, de la actividad bancaria, de las aseguradoras, de la evaluación jurídica, del trabajo en las empresas.. Son todos los sectores de la vida los que son llamados a orientarse por sistemas supuestamente omniscientes, que tienden a excluir la figura humana del círculo de las decisiones. Por lo demás, esos sistemas proceden de un reduccionismo, porque todas las cosas del mundo, contrariamente a lo que afirma la ideología de silicolonización no pueden ser reducidas a datos. Es sobre todo nuestra aprehensión sensible de las cosas la que tiende a ser siempre postergada en favor de una inteligibilidad de los fenómenos bajo el único prisma de los datos numéricos.
-En un futuro cercano, gobernados más por sistemas que tomarán decisiones luego de procesar infinitos volúmenes de datos, ¿Cuáles podrían ser las fisuras del sistema? ¿Qué fenómenos vislumbra como contraculturales? ¿Existirá una forma de rebelarse ante esta ineludible gobernabilidad digital?
-Todos somos ciudadanos, pero igualmente consumidores, y podemos por medio de decisiones simples, pero de una temible eficacia, mantener a raya ese modelo. Por mi parte, llamo al rechazo de la compra de objetos conectados y de protocolos llamados inteligentes, encargados de asistirnos de manera continua, así como de contadores eléctricos conectados que, por ejemplo, memorizan nuestros gestos en el seno de nuestros habitats. Nunca como hoy el rechazo del acto de comprar está revestido de semejante alcance político, incluso civilizatorio. Contra la ambición desmesurada del tecnoliberalismo de querer pilotear el curso de nuestras vidas, debemos salvaguardar la parte inviolable de nosotros mismos así como nuestra autonomía de juicio y de acción. Porque lo que está en juego es un modelo de civilización contra otro, y hay que elegir. Uno, del que provenimos, fundado sobre la libre expresión de los individuos y el derecho a decidir libremente y por medio de la deliberación del curso de nuestras sociedades. El otro, fundado sobre la algoritmización sin cesar creciente de la vida, sobre el control de la industria de lo numérico en todos los campos de la vida, que ejerce una presión continua sobre la decisión humana con vistas a satisfacer sólo intereses privados. Resulta urgente movilizarnos. Debemos
esperar que una multitud de iniciativas y de acciones concretas se pongan en marcha, firm emente decididas a obstaculizar ese anarcoliberalismo numérico indigno y a hacer valer modos de existencia plenamente respetuosos de la integridad y de la pluralidad de la vida humana.
-Usted postula el nacimiento de una nueva condición antropológica: la antrobología. ¿Podría explicar en qué consiste usando algunos ejemplos de la sociedad actual y su vínculo con la última tecnología?
-Hoy, paralelamente a la era del acceso a la información que no cesa de intensificarse, se ha franqueado una nueva etapa. Entramos en lo que llamo "la era de la medida de la vida". Si no estamos atentos, todo lo que hay en el mundo estará conectado: cuerpos, colchones, espejos, biberones, vestimentas, cadenas de producción en las empresas. En teoría la lista es infinita. Este entorno tecnológico conlleva una visibilidad en tiempo real y eventualmente a un estado "integral" de nuestras vidas. Así como a una cuantificación continua de nuestros gestos. Los datos recogidos son tratados por sistemas de inteligencia artificial capaces de actuar retroactivamente con vistas a dos objetivos. El primero apunta a la propuesta de ofertas o de servicios adaptados, supuestamente, a cada instante de la vida cotidiana, y que conducen finalmente a un mercadeo integral de la vida. El segundo apunta a orientar la acción humana. Dimensión particularmente emblemática en las empresas, que ve a sistemas dictar los comportamientos del personal en función sólo de criterios de optimización y de fluidificación que priva a los individuos de su espontaneidad y de su poder de invención. Lo que ultraja no solamente los derechos del trabajo, sino también la integridad y la dignidad humana. Hay que subrayar que esos sistemas salen directamente de lo que se llama "la innovación numérica", este nuevo ídolo de nuestro tiempo celebrado por todos con encandilamiento culpable.
-¿A qué se refiere con lo que llama la "silicolonización del mundo"?
-Silicon Valley encarna el insolente triunfo industrial de nuestro tiempo. Rebosa de grupos que dominan la industria de lo numérico y que acumulan cifras de negocios que hacen soñar a los emprendedores del mundo entero. Todas las regiones del globo buscan, de aquí en adelante, duplicar su núcleo actual del negocio, ya sea en la economía de datos o de plataformas. Desde hace un tiempo Silicon Valley no remite ya solamente a un territorio, ha generado un espíritu que pasa a colonizar el mundo, impulsado por numerosos misioneros: industriales, universidades, think tanks. y por una clase política que alienta la construcción de "valleys" sobre los cinco continentes, bajo la forma de ecosistemas numéricos y de incubadores de start-ups. Lo que llamo la "siliconización del mundo" es la convicción de que ese modelo representa el horizonte insuperable de nuestro tiempo y que, por añadidura, encarnaría una forma luminosa del
capitalismo. Un capitalismo de un género nuevo, adornado de "virtudes igualitarias", dado que ofrece a todos, desde el "start-upper visionario" hasta el "colaborador creativo", o al "autoemprendedor autónomo" la posibilidad de conectarse y de expandirse. Pero lo que no se ve, es que más allá de un modelo económico, lo que se está instalando a toda velocidad es un modelo civilizatorio, fundado sobre la mercadización integral de la vida y la organización automatizada de sectores cada vez más numerosos de la sociedad.
-Suena peligroso imaginar sociedades donde crezca cada vez más el poder que se le delega a la técnica. ¿Cómo lo ve usted?
-En menos de una generación, los principios humanos que nos fundan están siendo erradicados por los desarrollos de la inteligencia artificial. Porque, según la visión siliconiana, lo humano no es gran cosa. Dios no llegó a terminar la creación. (Lo humano) es una suerte de cuerpo corruptible, falible, de competencias cognitivas limitadas. Las tecnologías llamadas "de lo exponencial" van a permitir redimir nuestra pobre condición y conducirnos sin fin hacia "lo mejor". Es con esa perspectiva, en conformidad con ese positivismo radical, que hay que entender el delirio transhumanista, que considera que la técnica, a partir de ahora, está dotada de un poder tal que podrá detener e invertir el proceso natural de lo viviente. O que incluso fantasea con una grotesca descarga de información del cerebro con chips de silicio, ignorando por completo la irreductible complejidad de nuestros circuitos neuronales. Es hora de deshacernos de nuestra fascinación beata por las tecnologías y de entrar individual y colectivamente en la era de la responsabilidad. Y eso no tiene que ver sólo con prestar atención a la cuestión de los datos personales. Porque creo que sobre ese tema estamos en el meollo de uno de los grandes malentendidos de nuestra época. La cuestión crucial no tiene que ver con nuestra vida privada, la cual, por cierto, nos importa a todos, pero que representa tan poco en relación a lo que actualmente se trama y que debería, por lo demás, movilizarnos. Porque la gran cuestión no es una cuestión de sociedad, es una cuestión de civilización. Aquella que busca a la larga convertir todo en mercancía, automatizar y orientar la vida de las personas con el fin de de satisfacer únicamente intereses privados. Ese modelo se desplegará sobre todo si los datos están perfectamente protegidos instaurando una "confianza en la economía numérica", apta para asegurar su expansión. Hay que entender bien el control sobre la vida que está operando el tecnoliberalismo, al cual sería apropiado oponerle fuerzas contrarias. Porque de nuestro grado de movilización ciudadana y política ante estos desafíos dependerá nada más ni nada menos que la naturaleza presente y futura de nuestra civilización. ………………………………………………………..
Escritor y filósofo opuesto al devenir digital del mundo, Éric Sadin (París, 1973) firma con La humanidad aumentada un alegato contra las interferencias de la tecnología en el poder de decisión humano y contra la mercantilización de las distintas vertientes de nuestra existencia que esconde el auge imparable del big data. Su último ensayo en francés, La siliconización del mundo, donde ahonda en las consecuencias más pérfidas de este modelo emergente de sociedad, será traducido al castellano en 2018.
PREGUNTA. Su libro termina con Tetsuo, ese personaje de manga japonés con mente humana y cuerpo tecnológico. ¿Ya llegamos a ese punto?
RESPUESTA. Hemos superado la era de la digitalización para entrar en la de la medición de la vida. Los sensores se introducen en nuestro día a día a través de relojes inteligentes y casas conectadas. Han aparecido aplicaciones que acumulan datos a una escala gigante, explotados por sistemas de inteligencia artificial cada vez más sofisticados. Eso les permite responder a nuestras necesidades y sugerirnos productos y servicios de manera incesante. Detrás de esas aplicaciones hay una voluntad de mercantilizar todas las esferas de la vida. Se trata de un acompañamiento algorítmico de nuestra existencia que puede parecer benevolente aunque en realidad tiene finalidad comercial y esconde intereses privados.
P. Pero sugerir no es obligar. ¿Qué margen de decisión le queda a la voluntad humana?
R. Puede que una recomendación en Amazon o un anuncio en una web tengan una efectividad limitada, pero existen otros mecanismos más coercitivos. Por ejemplo, los sistemas integrados en el mundo laboral o en la cadencia de producción de un artículo. Nuestro libre albedrío se desploma a causa de la hipereficacia de la inteligencia artificial.
P. La tecnología lleva décadas interfiriendo en la actividad humana. ¿Qué es lo que cambia ahora?
R. Cambia la voluntad de conquistar nuestro comportamiento. El poder de penetración es mucho mayor. Esos sistemas son capaces de interpretar situaciones y tomar decisiones sin que el ser humano tenga que intervenir. Se trata de una ruptura histórica. Espero, como parece insinuar usted, que la fuerza de decisión humana siga primando. Pero también observo una conquista integral de nuestra vida por parte de las tecnológicas. Estamos superando un umbral de
liberalismo para entrar en lo que yo llamo tecnoliberalismo, que ya no acepta que ningún rincón de la existencia humana quede al margen de su control.
P. En el libro sitúa los orígenes de este fenómeno en el siglo XIX. ¿En qué momento se acelera este proceso?
R. El punto de inflexión son los atentados del 11-S. La primera potencia económica y militar empieza a seguir la pista de los individuos a partir de datos cruzados: comunicaciones telefónicas, tarjetas de crédito, datos diseminados por Internet… A partir de 2011, el desarrollo de los sensores y la inteligencia artificial posibilita la retroactividad. Es decir, la capacidad de orientar una decisión, de manera automatizada, a partir de datos sobre el comportamiento que un usuario ha demostrado tener en el pasado. Estamos dejando atrás la “era del acceso”, sobre la que discurrió Jeremy Rifkin, para entrar en otra fase distinta. Esa mercantilización ya se adentra en campos como la medicina o la educación…
P. ¿Por qué nadie ha frenado ese desarrollo?
R. Ha emergido una doxa. Se ha generalizado la idea de que ese modelo de sociedad constituye un horizonte inevitable. Para legitimarlo se utiliza un liberalismo pacífico, de apariencia luminosa, vehiculado por empresas dinámicas y modernas, todas ellas instaladas en la Costa Oeste y lideradas por dirigentes que simulan ser el colmo del humanismo. En realidad, todo eso es una fábula.
P. ¿Qué políticos proponen soluciones acertadas?
R. Ningún político quiere meterse en el asunto. Por ejemplo, Emmanuel Macron es uno de los mejores embajadores de esta ideología, un propagandista como lo fueron Barack Obama, Hillary Clinton y el resto de líderes social-liberales. Benoît Hamon, candidato a las presidenciales del Partido Socialista francés, planteó algunos de estos temas en su campaña, como la robotización o la renta básica universal para sus víctimas, pero no respondió de forma satisfactoria al problema. En realidad, las tecnológicas están plenamente a favor de esa renta básica, porque solucionaría de golpe el problema de la automatización. Dar un sueldo a los trabajadores perjudicados por ese proceso les permitiría calmar a la jauría. Lo que más odian las tecnológicas es el conflicto. Fíjese en
lo que pasó con las gafas de Google: en cuanto apareció cierta desconfianza entre los usuarios, dieron inmediatamente un paso atrás.
P. ¿No ve nada bueno en las nuevas tecnologías?
R. No digo que no tengan ventajas. Está muy bien poder leer The New York Times al despertarse, comprar un billete de avión en dos minutos o comunicarse gratuitamente con tus amigos en Japón. Pero también observo que se empieza a superar el límite de la integridad humana. Yo no quiero vivir con sensores bajo mi cama. Para mí, el sueño humano no se puede comercializar. No hay que rechazarlo todo en bloque, pero tal vez sí difundir discursos opuestos a los de los think tanks liberales. Debería existir un debate social sobre esta cuestión que, por ahora, brilla por su ausencia.
P. Michel Foucault ya predijo “la muerte del hombre”. Lo que usted dice es que nos acercamos a ella.
R. Sí. Nos dirigimos hacia la muerte de la figura humana según el modelo de la Ilustración, que antes fue el del Renacimiento. Es decir, un ser humano dotado de la capacidad de definirse libremente a sí mismo y de actuar con responsabilidad, que es la noción sobre la que se erige todo nuestro régimen jurídico. Si delegamos cada vez más decisiones individuales y colectivas ante esos sistemas tecnológicos, perderemos nuestro libre albedrío y nuestra capacidad política. Yo abogo por reintroducir lo sensible, la contradicción, la imperfección, el miedo al contacto con otro y al conflicto, cuando este sea necesario.
P. Acabó el libro hace cuatro años. ¿Qué ha cambiado desde entonces?
R. Entonces hablaba de una ambivalencia de la tecnología que ya hemos dejado atrás. Hemos entrado en una fase de desarrollo exponencial. Hace cuatro años tenía más esperanza, mientras que ahora me queda menos. A no ser que pasemos a la acción y nos opongamos a esta deriva.
‘La humanidad aumentada. La administración digital del mundo’. Éric Sadin. Traducción de Javier Blanco y Cecilia Paccazochi. Caja Negra, 2017. 160 páginas. 16 euros.
