La lógica de las máquinas: un «hechizo peligroso» - Alfa y Omega

La lógica de las máquinas: un «hechizo peligroso»

El Papa la considera una nueva revolución mundial. Comprende su profundo impacto social, pero está preocupado por sus efectos inmediatos. Es la era de las máquinas, que ya domina amplias zonas del mundo. Un tiempo de cambios sorprendentes, pero que ya presenta desafíos urgentes. El que más angustia a Francisco es la pérdida vertiginosa de todas aquellas cualidades que hacen al humano verdaderamente humano. Porque, advierte, «la máquina no se limita a guiarse sola, sino que acaba guiando al hombre». Una ecuación de «resultados nefastos»

Andrés Beltramo Álvarez
El Papa saluda a monseñor Paglia, presidente de la Academia Pontificia por la Vida, durante la audiencia con los participantes en la asamblea plenaria, el 25 de febrero. El encuentro abordó entre otros temas el uso en el mundo sanitario de robots, como este que se presentó en el Clínico de Barcelona en julio. Foto: CNS

«La actual evolución de la capacidad técnica produce un hechizo peligroso: en vez de entregar a la vida humana los instrumentos que mejoran su cuidado, se corre el peligro de entregar la vida a la lógica de los dispositivos que deciden su valor», alertó el Pontífice, apenas unos días atrás. Lo hizo al recibir en audiencia, en el Palacio Apostólico del Vaticano, a los participantes en la asamblea plenaria de la Pontificia Academia para la Vida dedicada al tema: Roboética. Personas, máquinas y salud.

Un tema curioso que, a primera vista, parecería no tener mucha relación con la vida en realidad. Pero que, queda claro, tiene mucho que ver con eso. Así lo constató Jorge Mario Bergoglio, en un discurso de contornos filosóficos en el cual, entre otras cosas, instó a repensar la denominación misma de «inteligencia artificial» porque –dijo– puede «confundir un poco más ideas».

Recordó que el término «robot» está vinculado a «tareas serviles», mientras la inteligencia artificial describe automatismos funcionales que, a fin de cuentas, están muy lejos de las prerrogativas humanas del saber y del actuar. Por eso, insistió, «pueden volverse socialmente peligrosos».

«Los dispositivos artificiales que simulan capacidades humanas, en realidad carecen de cualidad humana. Hay que tenerlo en cuenta para orientar la reglamentación de su empleo, y de la investigación misma, hacia una interacción constructiva y equitativa entre los seres humanos y las más recientes versiones de máquinas», continuó.

La crítica del Papa no se limitó a un mero atavismo. Es más, él mismo reconoció la capacidad de la tecnología de cambiar radicalmente la existencia humana, irradiando beneficios concretos sobre cada persona y sobre la entera humanidad. Pero, al mismo tiempo, no pudo evadir constatar que el actual mundo altamente tecnológico no ha sido capaz de evitar el endurecimiento de los conflictos y el crecimiento de las desigualdades sino, más bien, todo lo contrario.

A fin de cuentas, Francisco dejó claro que, para él, es la lógica del humano y no la lógica de las máquinas la que salvará al mundo. Pero no todos piensan como él. Ni en la comunidad científica ni en la opinión pública mundial, que se debate entre el miedo a lo desconocido y el eufórico optimismo por un futuro que parece estar al alcance de la mano.

Hipnotizados por las pantallas

Así lo constató Marita Carballo, presidenta de la Academia Nacional de Ciencias Morales y Políticas de Argentina, quien participó en la asamblea de la academia pontificia con la ponencia titulada Robótica y problemas sociopolíticos. En entrevista con Alfa y Omega, esta experta asegura que los grandes temores sobre estos avances tecnológicos están relacionados con la pérdida del contacto humano, la posibilidad de perder el propio empleo, el aumento en la distancia entre los ricos y los pobres, que alimente la desigualdad, y el riesgo de ver dañada la privacidad.

El gran desafío, precisa, tiene que ver con el gobierno real del acelerado proceso de robotización de amplios sectores de la economía y de la sociedad. «Es necesario que nos juntemos desde los distintos sectores rápidamente para tomar decisiones en términos de cómo nos aseguramos que esto sea para bien. Puede serlo, pero necesitamos ponerle ciertos límites», apunta Carballo.

Durante los dos días que duró la asamblea, una imagen sobrevoló tácitamente el Aula Nueva del Sínodo donde se llevó a cabo: la postal de un futuro que ya nos alcanzó. Como si, de repente, se hubiesen convertido en realidad todas las predicciones futuristas contenidas en libros, filmes y en la cultura pop de las últimas décadas. La guerra entre las máquinas y los humanos o, directamente, los robots que someten a la humanidad.

«Hasta ahora las máquinas no han avanzado hasta ese punto pero como [el proceso tecnológico] está tan acelerado, existe el temor de que puedan llegar a hacerlo», reconoce Carballo. Ella en cambio considera que el peligro más grave no está relacionado con un sometimiento físico sino, más bien, mental.

Algo que, dice, ya ocurre con los teléfonos móviles. En las calles o en los restaurantes la gente mira más la pantalla de retina que las pupilas de quienes los acompañan. «Esa es una situación que me preocupa mucho en término de interrelaciones personales: no hay nada como dirigirse a un hijo, no hay nada como el mirar a los ojos, no hay nada como los seres queridos o como mirar a los ojos al prójimo en cualquier circunstancia», destaca.

Es la contradicción de la sociedad hipertecnologizada: su capacidad de distracción del ser humano. La potencia para anestesiar, anulando poco a poco todo aquello que hace verdaderamente humano. Situación que se manifiesta, también, junto a los beneficios innegables del desarrollo tecnológico, por ejemplo en el campo de la salud. Según Marita Carballo, la mayoría de los pacientes suelen decir: «Está bien, todo eso está muy bien, me parece fantástico, pero yo quiero el contacto humano con mi médico, quiero el doctor que me mire y verlo como a cualquier persona».

Foto: EFE/Marta Pérez

Un debate necesario

Ese contrapunto entre el miedo y el optimismo se manifestó en la misma asamblea vaticana, en la cual participaron exponentes de todas las líneas de pensamiento. Porque se requiere un debate verdadero para encauzar un proceso en curso y que no se detendrá.

«Hay una diferencia entre los robots que hacen tareas completamente automatizadas y aquellos que operan con inteligencia artificial. El debate se da más sobre estos no automáticos, que pueden llegar a pensar por sí mismos y hasta qué grado puede llevar eso, cuáles son las distintas perspectivas, vemos que hay algunos mucho más temerosos que otros en este simposio», agrega Carballo.

Al mismo tiempo califica de «importantísimo» que la Iglesia católica se ocupe de estos temas, porque se trata de un debate necesario que no tiene demasiados foros abiertos ahora pero que ya está superado por la realidad. Y precisa que quienes más preocupados están por el impacto de la tecnología –y «tienen razón en estarlo»– son los sectores bajos de la sociedad, porque sus miembros son quienes tienen los trabajos que van a automatizarse más y son más susceptibles de ser reemplazados. Además son aquellos que tienen menos posibilidad de tener acceso a alguna de esas herramientas.

La solución a estos temores, a su juicio, está en la dignificación del trabajo. Este está ligado con la felicidad y con la satisfacción, porque se trata de percibir un ingreso pero no es lo principal, que es tener sentido de la propia vida, poder dar a los demás y también recibir mediante el trabajo.

«Siempre encontraremos desviaciones en la sociedad y en los seres humanos, lo importante es acotarlas y eso se logra con transparencia, con dedicación. Sabemos que nos vamos a equivocar y que se cometerán errores, pero tratemos de corregir y ser lo más transparentes posible», sostiene Carballo, sobre los peligros en el uso de la inteligencia artificial.

«La sociedad debe ser partícipe, saber que es necesario capacitarse. Cada uno, en su lugar, debería poder ser capaz de comprender hasta dónde toda aquella tecnología que está usando le garantiza verdaderos beneficios y saber qué partes le están afectando en aquello que es verdaderamente humano para poder acotarlo», apunta.