Vivimos en una sociedad que debería repensarse a sí misma, el impacto de la pandemia debería ser la oportunidad para tratar de entendernos y no seguir empujándonos los unos a los otros sin saber muy bien hacia dónde queremos ir o, si quiera, hacia dónde nos dirigimos. Mucho me temo que nuestro sustrato cultural aún está imbuido por aquellas dinámicas decimonónicas que creían en la linealidad del progreso científico, pero en el caso de nuestra contemporaneidad, por las innovaciones tecnológicas, dándoles un estatus de «motor de la historia» y de una autonomía no condicionada por nada más que sus propias dinámicas.
El problema es que, en verdad, estamos cayendo en una especie de ‘profecía autocumplida’ tecnológica que impactará en nuestras vidas, modificará nuestra cosmovisión y, en cierta forma, nuestra propia ontología. Naturalmente, con este artículo no pretendo atacar el progreso científico y tecnológico, únicamente quiero alertar sobre la necesidad de humanizar la tecnología, de invertir los términos y poner delante las necesidades del ser humano y de las sociedades democráticas, de pensar el qué y el para qué, no solo el cómo.
Podría parecer que desde que en el Paleolítico Inferior alguno de nuestros ancestros creó el primer artefacto conocido (un canto tallado o chopping tool) ha habido una especie de linealidad de progreso histórico que va más allá de las distintas sociedades. Sin embargo, episodios como el de la fabricación de un canto tallado abrieron el camino de una serie de cambios sociales y de hábitos que aún condicionan nuestra propia existencia. El marco parecería muy lejano, pero en verdad, el ser humano sigue necesitando innovar para poder tener la sensación de control existencial, en dicho momento para la mera supervivencia, ahora por las propias dinámicas de un sistema socioeconómico que da cierta ventaja competitiva a quienes logran avances tecnológicos frente a otros actores.
Y es aquí donde nos encontramos con el quid de la cuestión: cabría preguntarse, ¿el desarrollo tecnológico está pensado para el bienestar humano? ¿Qué sentido tiene la tendencia a la reificación del algoritmo y de la lógica algorítmica? ¿Son realmente asépticos nuestros «nuevos artefactos»? Lo cierto es que la tecnología es un constructo social en el que intervienen muchos actores e intereses, la aceptación social de las innovaciones viene dada por la aceptación del relato de las mismas, sin embargo, como decía, al final parece que nos convencemos a nosotros mismos que lo que podría ser, necesariamente será, sin analizar ninguna otra posibilidad, como si estuviésemos en una especie de «fatalismo tecnológico».
Antes de llegar a lo que creo fundamental y la mayor amenaza para la sociedad, quisiera dar un ejemplo muy sencillo y que muchas veces pasa desapercibido. Es el caso de la distribución del teclado con el que estoy escribiendo este artículo, el famoso ‘QWERTY’, pues bien, lo que nació como el mejor sistema para impedir que se cruzasen las varillas de las antiguas máquinas de escribir, ha pervivido ajeno a otras distribuciones de teclado mucho más eficientes que esta, nos sigue y seguirá más allá de innovaciones porque hay un consenso social al respecto basado en el no cuestionamiento de según que instrumentos o artefactos técnicos.
¿Cual sería una de las principales amenazas de esta nueva revolución tecnológica? A mi entender será aquella que nos deshumaniza, automatiza nuestras relaciones sociales y nos despoja una de las características principales del ser como ser humano: la responsabilidad en la toma de decisiones. Esto es, la renuncia al libre albedrío en cuestiones fundamentales, el parapeto tras el algoritmo ante situaciones y dilemas éticos, la ocultación de los sesgos tras la supuesta asepsia algorítmica. Esto podría parecer una exageración, pero a medida que creemos que la Inteligencia Artificial controlará necesariamente nuestras vidas solo contribuimos a la profecía autocumplida.
¿Quién debe y con qué criterio debería despedirse a un trabajador en una empresa? ¿Quién debería decidir quién es culpable o inocente en un juicio? ¿Quién o qué debe decidir quién vive o quién muere en una situación extrema (como, por ejemplo, ante un accidente de coche)? ¿Quién o qué debería responder ante un error en la toma de decisiones? ¿Quién o qué está detrás de la lógica de los distintos algoritmos y qué tipos de sesgos están subyacentes? ¿A quién beneficia la asunción social de esta «razón algorítmica»? Y no, no es ciencia ficción, ya nos encontramos casos como el despido «algorítmico» de una profesora de primaria de EEUU sin que nadie sepa el porqué de dicha decisión.
Pero más allá del método de decisión, de los ejemplos concretos, el problema fundamental es la renuncia del ser humano a tomar las riendas de su propia existencia, a justificar ante el otro el porqué del sentido de la decisión,. Es una deshumanización de una parte fundamental de las sociedades: la toma de decisiones y la responsabilidad ante estas. Aún más, esta razón algorítmica cercena escenarios disruptivos porque basamos todo en elementos racionales conocidos previamente y, por tanto, se resta la posibilidad de la disrupción, del pensamiento lateral, de la genialidad que permite la aparición de revoluciones cognitivas y de profundos cambios de paradigma.
Como decía, la automatización en la toma de decisiones nos da un escenario de modelización algorítmica tendente a una cierta circularidad y a unos marcos de ‘profecías autocumplidas’ y, por tanto, afectará al comportamiento de las personas, hacia una mecanización del comportamiento. Quizás nos dirijamos hacia una sociedad heterodirigida de la mano de la lógica algorítmica, delegando la toma de decisiones a una inteligencia artificial difusa con sesgos implícitos no suficientemente estudiados.
Desde aquí hago un llamamiento a entender la tecnología en todos sus ámbitos como un instrumento para el ser humano y para las sociedades. Una herramienta con la que mejorar nuestras vidas, reforzar nuestras instituciones, de centrar nuestros esfuerzos en la libertad individual y nuestra democracia.
Artículo de José Rosiñol publicado en The Objective.
Comparte
