Ofrecí esta breve reflección dentro de un seminario de web sobre la encíclica Magnífica Humanitas, organizado conjuntamente por CELAM, la USCCB, y la Pontificia Comisión para América Latina.
Magnífica Humanitas: desafios pastorales frente la mística de la objetividad
El papa León XIV publicó su primera encíclica, «Magnifica Humanitas», el 25 de mayo. La encíclica ofrece un análisis considerado de los desafíos y las oportunidades que plantea la tecnología de la inteligencia artificial. En la enseñanza del papa, el ámbito amplio y apropiado para discernir y decidir sobre el buen uso de las tecnologías avanzadas es la de la identidad y dignidad del ser humano, y su propio bien.
***
Unas semanas antes de que se publicara la encíclica Magnifica Humanitas participé en un encuentro con estudiantes universitarios en mi diócesis sobre el tema de la inteligencia artificial. La gran mayoría de los alumnos son de ascendencia mejicana, viviendo en los EEUU, y para muchos de ellos son de la primera generación en sus familias con oportunidad de llegar a la universidad. Hubo mucho interés en el tema. Aprendí mucho esa noche. Mencionaré tres puntos: que los jóvenes conocen lo de AI en cuanto lo encuentran cómo fuente de información útil para el progreso de sus estudios. También, que lo conocen como sombra que pueda influir sutilmente la dinámica de los medios sociales. La realidad del “fake news” les preocupa. Y, tercero, no estaban fuertemente conscientes de las implicaciones sociales de las nuevas tecnologías. Es decir, de las ramificaciones que puedan tener sobre el bienestar de la sociedad, y los más vulnerables dentro de la sociedad.
También en mi diocesis tenemos las instalaciones de SPACEX, donde se ha desarrollado recientemente mucha actividad alrededor de los cohetes y satélites comerciales destinados a misiones con fines de llegar a marte, y avanzando mejores sistemas de comunicación y distribución de datos informáticos. También he llegado a conocer y dialogar con los jóvenes adultos, Católicos, empleados en ese ámbito científico y comercial. Ellos conocen más a hondo las tecnologías avanzadas, y tienen muchas preguntas sobre sus responsabilidades frente este tipo de trabajo. Pero tampoco se han enfocado en la dimensiones sociales de lo que estamos afrontando con las nuevas tecnologías.
La encíclica habla de estas cosas y mucho más. El Papá Leon XIV nos ha regalado una perspectiva amplia y coherente para colocar y responder a lo que se va desarrollando en nuestros tiempos. Y pienso que me orienta como pastor a enfocarme en promover y ampliar el diálogo y la formación de las nuevas generaciones precisamente para que ellos puedan dialogar y influir la cultura que ellos habitan diariamente. Creo que el primer punto que debemos enfatizar con ellos es esta: ¿que, precisamente, es un ser humano?
La urgencia de nuestra situación radica en la integración silenciosa, en gran medida por manos invisibles, de métricas basadas en datos en el proceso de la toma de decisiones. Este aspecto de la inteligencia artificial afecta a todos, sean jóvenes en la universidad, ingenieros recientemente empleados por las grandes empresas de tecnología, y los pobres que dependen de asistencia pública para navegar cuestiones de alimentación y salud.
El acceso rápido a los datos ofrece grandes ventajas; sin embargo, medir datos no es lo mismo que tomar una decisión humana, y el análisis estadístico por sí solo no genera prudencia ni sabiduría. Las decisiones son hechos sumamente humanos y, por esa razón, también asuntos morales. Implican consideración y responsabilidad.
Yo oigo la voz del papá pidiéndole al mundo humano de no ceder a la tecnología aspectos importantes de la toma de decisiones humanas. El Papa propone que debemos reflexionar sobre el factor humano y su autoridad sobre las métricas de los datos informativos.
Hay un misticismo que envuelve la Inteligencia Artificial, y reside en el aura de autoridad objetiva que rodea la información generada. Esto influye a las nuevas generaciones. Creo que nos incumbe profundizar y purificar lo que significa la objetividad. La palabra objetividad tiene dos sentidos que, si se confunden o combinan sin pensar, nos causan problemas.
Hay un sentido que se entiende como opuesto al favoritismo: Esa persona es mi amigo entonces mis juicios siempre van a su favor. En este uso de la palabra, objetivo se entiende como no afectado por criterios de emoción o gusto. El otro sentido de la palabra se opone a la realidad del sujeto, o sea, la perspectiva personal desde la cual vemos la realidad. Como seres humanos es inevitable que tomemos el punto de vista del propio “yo” para relacionarnos con las realidades a nuestro alrededor.
El misticismo del AI se respalda con el primer uso de la palabra objetivo. La métrica y el análisis de la información agregada disfrutan de una autoridad científica. La frase “esto es lo que dicen los datos” apela a una obiectividad que pretende eliminar el peligro de prejuicios y favoritismos humanos.
De todos modos el Papa señala que la verdad es otra. Detrás del programa hay un editor remoto de criterios, o un editor inconsciente de sus propios prejuicios ideológicos. No podemos delegar al programador, en gran parte anónimo, la autoridad de organizar datos objetivos con criterios de importancia que puedan influir decisivamente decisiones sobre el bien del individuo y la comunidad.
Consideremos, por ejemplo, un programa que recopila información sobre qué constituye un objetivo militar legítimo. ¿Qué criterios se incluyen en la programación predeterminada? O si se establecen programaciones sobre quién tiene acceso a asistencia alimentaria o sobre quien califica para recibir una cirugía mayor, ¿quienes determinan los criterios? Sobre este punto el Papa León dirige nuestra atención sobre los prejuicios humanos que ineludiblemente entran en la programación técnica, incluso la más avanzada y sofisticada. Creo que necesitamos enfatizar este aspecto social de lo que estamos viendo y viviendo.
Y aquí entra en juego la responsabilidad de una sociedad de organizar con transparencia procesos políticos adecuados para llegar a acuerdos y consensos políticos sobre el bien humano y cómo proteger los más vulnerables del uso manipulado e injusto de la tecnología. El papa habla mucho sobre este tema. Pero aquí hay un desafío grande, porque un cinismo fuerte sobre el valor de los procesos políticos ha afectado la apertura, específicamente de los jóvenes, a participar en los procesos políticos.
Soy realista, y por eso digo que parte del cinismo político tiene que ver con las desconocidas influencias de AI en los medios de comunicación. Los desafíos que enfrentamos giran precisamente en torno a este problema en nuestra cultura social. Los resúmenes generados artificialmente, mezclados con fragmentos fabricados o truncados, inevitablemente simplifican los discursos, generan indignación y se reducen a mera información estadística sobre cuántas personas están de acuerdo o en desacuerdo con lo que han escuchado.
En este contexto, el timbre y el tono de la voz humana, del pensamiento y de la emoción, del corazón, se erosionan dentro de una concepción programada para el consumo general. Esto reduce y disminuye la manifestación de la grandeza de la humanidad, del ser un humano.
***
Quisiera terminar con unas indicaciones sobre el segundo sentido de la palabra objetivo. La objetividad no es en sí misma el árbitro de la verdad sobre el bien humano. El sujeto humano toma decisiones normativamente en función de su impacto en las vidas de otros sujetos humanos. La justicia, la misericordia y el amor no son programables; se disciernen humanamente. No podemos reducirnos a métricas matemáticas objetivas, a la suma total de los datos. Somos los autores y receptores subjetivos de las recopilaciones métricas que creamos y consideramos. Las consideramos, pero podemos tener buenas razones humanas para elegir algo distinto a lo que produce la métrica.
El ser humano siempre está presente en lo que piensa, siente y inventa. Y querer superar el propio “yo” de la persona, y la propia “nosotros” de la comunidad no es una meta humana digna de perseguir. Al contrario, el problema de malas decisiones humanas requiere respuesta humana y divina, desde la perspectiva del sujeto. Nos apremia cultivar las virtudes de prudencia, caridad y justicia, y las perspectivas de misericordia y compasión, porque lo que creamos y organizamos no puede más que reflejar imagen de nosotros mismos.
Gracias
+df
Words and Things 