Clases vía zoom durante el confinamiento por Covid en Barcelona, en abril Fuente: Reuters - Crédito: Albert Gea

La tecnología moldea lo que somos y cómo nos relacionamos con los demás. Como dice Shannon Vallor en La tecnología y las virtudes. Una guía filosófica para un futuro que vale la pena desear, "la invención del arco y la flecha nos dio la posibilidad de matar a un animal desde una distancia segura; o hacer lo mismo con un rival humano, una nueva posibilidad que cambió el paisaje social y moral". Los cambios tecnológicos son parte constitutiva del andamiaje de la sociedad. Hoy, con la inteligencia artificial, la biotecnología y la edición genética estamos en el umbral de desarrollar nuevas formas de modificar no solo nuestro mundo sino también de transformarnos a nosotros mismos; estamos ante capacidades que una década atrás hubieran parecido de ciencia ficción.

Sin embargo, no hay consenso sobre si el impacto de las nuevas tecnologías augura un mejor futuro. Los "tecnooptimistas" sostienen que estamos comenzando una nueva era en la que la enfermedad y hasta la misma muerte serán derrotadas. Los "tecnopesimistas", en cambio, temen que estemos desatando fuerzas que nos llevarán a la destrucción. La inteligencia artificial plantea la perspectiva tanto de un aumento espectacular de la productividad como de pérdidas masivas de puestos de trabajo; la ingeniería genética puede concedernos la capacidad de curar enfermedades, pero también de llevar a la extinción a especies enteras o crear híbridos humano-animales; la neurociencia promete un aumento de nuestras capacidades cerebrales, pero también preocupaciones por la pérdida de nuestra privacidad mental, con el riesgo de que nuestras mentes queden como ventanas abiertas a la manipulación por parte de corporaciones y gobiernos.

Lo que realmente importa hoy no es tanto los posibles escenarios lejanos sino quién llega a analizar el presente. Como escribe la filósofa de la ciencia Sheila Jasanoff en La ética de la invención. La tecnología y el futuro humano: "¿Quién imagina el futuro?" Lo que está claro es que los dilemas planteados por las nuevas tecnologías no pueden ser resueltos por un análisis técnico o dentro del marco de las ciencias duras. Estos dilemas tienen que ver con nuestra comprensión sobre de quiénes somos, quiénes queremos ser y a qué debemos aspirar; se trata de pensar los valores que deseamos para la humanidad. La innovación tecnológica plantea dilemas con enormes implicaciones para el futuro de la vida y para la forma en que nos organizamos como comunidad, para nuestras economías, nuestra democracia, para toda nuestra vida. Por lo tanto, estas cuestiones deben ser discutidas hoy en en la mesa más amplia posible.

Una respuesta a estos desafíos éticos es precisamente la de organizar y fomentar esa discusión. Kevin Esvelt, biólogo y director del grupo de trabajo "Esculpir la evolución", del Instituto Tecnológico de Massachusetts, sirve de ejemplo. Esvelt propone erradicar la malaria o la enfermedad de Lyme a través de la edición genética dirigida, que nos otorga el poder casi divino de cambiar el curso de la evolución. Para erradicar la malaria se modifica el ADN de los mosquitos, de manera de bloquear la transmisión de la enfermedad. El insecto se reproduce llevando la modificación genética a las siguientes generaciones y eventualmente todos la poseen. El desenlace es revolucionario: no hizo falta descubrir una cura para la malaria, ya que no quedan mosquitos portadores de la enfermedad. "Muerto el perro, se acabó la rabia", como dice el refrán popular, pero sin tener que matar a todos los mosquitos. Tan interesante como el uso de la tecnología, sin embargo, es el énfasis que Esvelt pone en la necesidad de un diálogo franco y transparente con las comunidades donde se desarrollarían las intervenciones, ya que al modificar un mosquito también puede modificarse un ecosistema. Un experimento cuyo resultado es cambiar el curso de la evolución de una especie y del medio ambiente necesariamente debe estar abierto al escrutinio público y al debate entre todos los interesados.

Otra respuesta son las salvaguardias escritas contra el posible abuso de la nueva tecnología. El filósofo Luciano Floridi, entre otros, ha tratado de elaborar directrices éticas para el desarrollo y el uso adecuado de la inteligencia artificial. El neurobiólogo Rafael Yuste es quizá quien encabeza la iniciativa más interesante para protegernos de la utilización indebida de recientes avances tecnológicos. Propone incorporar los derechos neuronales a la Declaración Universal de Derechos Humanos: es decir, el derecho a la privacidad mental (impedir el uso de la actividad de los datos mentales para la actividad comercial); el derecho a la identidad personal (que podría perderse en futuras interfaces multimente o interfaces mente-dispositivos); el derecho al libre albedrío (protección contra la manipulación de nuestras mentes a través de las nuevas tecnologías); el derecho a la mejora vía intervenciones tecnológicas (para que no quede en manos solo de quienes podrían pagar) y el derecho a ser protegido contra el sesgo algorítmico. Yuste ha dirigido debates en diferentes países sobre la posibilidad de incluir estos derechos en sus constituciones, y Chile es uno de los países que más ha avanzado en esta discusión.

El arte y el diseño también son vehículos para la toma de conciencia sobre el impacto del cambio tecnológico. El año pasado, Kate Crawford, la fundadora del AI Now Institute de la Universidad de Nueva York, y Vladan Joler, recibieron el premio Diseño del año de parte del Museo del Diseño de Londres por Anatomía de un sistema de inteligencia artificial. Esta obra es un enorme mapa visual -imagínense un plano arquitectónico- donde se ilustran de forma interconectada todos los insumos para la fabricación del asistente virtual de Amazon, Alexa. Ahí podemos ver la extracción de minerales y el impacto ambiental de la minería, el consumo de energía, la mano de obra calificada y la mano de obra explotada, la recopilación de datos de nuestra vida privada y el alcance global de la infraestructura necesarios para su construcción y funcionamiento. Es una obra que revela el precio social que se paga por la comodidad de un asistente virtual. Este es el ejemplo más impactante dentro del creciente conjunto de investigaciones que se enfocan en la IA como un sistema global de infraestructura construido sobre la extracción mineral y la mano de obra explotada.

En lo que atañe a los modelos nacionales de desarrollo desde el Estado, Francia busca trazar un camino alternativo al actual dominio disputado por Estados Unidos y China. Para el gobierno de Emmanuel Macron es imperativo que una tecnología tan potencialmente disruptiva no quede en manos únicamente de empresas privadas como Facebook, Google o Amazon (el modelo estadounidense) ni de una dictadura unipartidaria (China). En cambio, el desarrollo y el uso adecuados de la inteligencia artificial requieren un escrutinio democrático. Por eso, Francia intenta liderar la discusión sobre sus repercusiones sociales, políticas y éticas incorporando a especialistas de otras disciplinas -filosofía, sociología, antropología- para un debate más amplio.

La invención de la máquina de vapor ayudó a lanzar la revolución industrial; la invención de la imprenta fue parte intrínseca de la Reforma Protestante. No fueron solo avances tecnológicos. Como el arco y la flecha, reformaron la comprensión de nosotros mismos y nuestras relaciones con los demás, y reconfiguraron la sociedad según las nuevas posibilidades que abrieron. Todo indica que estamos en el umbral de una nueva era de cambio y es imperativo que seamos parte de esta conversación.

Investigador del Edmund J. Safra Centro de Ética y el Berkman Klein Centro de Internet y Sociedad de la Universidad de Harvard

Edición impresa: