“La mejor medicina de todas es enseñarle a la gente cómo no necesitarla” (Hipócrates)
En el Hospital universitario Puerta de Hierro Majadahonda se ha celebrado muy recientemente una jornada sobre “Inteligencia Artificial aplicada a la clínica y a la investigación con una mirada bioética”. Se presentaron exitosas aplicaciones al diagnóstico en Oftalmología y al tratamiento de Urgencias. También al procesamiento de macrodatos al estudiar la supervivencia en el cáncer de pulmón, una investigación desarrollada por el Proyecto Europeo 875160 CLARIFY que lidera el Dr. Mariano Provencio y cuyos resultados podrían servir para la prevención de su etiología. Se presentaron igualmente las líneas maestras de la futura Normativa europea sobre IA y la Dra. Mercedes Alfaro, Subdirectora General de Información Sanitaria, dio cuenta del Reglamento para crear un espacio europeo de datosrelativos a la salud. El acceso a los historiales cínicos de cada paciente al margen de su procedencia y la utilización de una receta electrónica normalizada animan esta regulación en curso. El Dr. Arturo Ramos me invitó a dar la conferencia de clausura, cuyo título fue La IA desde un prisma ético: El duelo entre un deshumanizado utilitarismo y una deontología sin robotizar. Fue todo un honor tratar con quienes velan tan vocacional como generosamente por nuestra salud, condición de posibilidad de una vida que merezca ser vivida.
- ¿Hay un síndrome del nativo digital?
- Dos perspectivas complementarias
- ¿Habría que acomodar el juramento hipocrático a la era digital?
- El factor humano y la profilaxis
- ¿Valen más los talentos que un buen talante?
- No puede haber aplicaciones para resolver dilemas morales
- ¿Qué sería del ser humano sin discernimiento ni responsabilidad moral?
Stephen Hawking dejó dicho que la IA podría ser el mayor invento de la humanidad, pero que de no tener cuidado también podría ser el último. Hay quienes reparan en la primera parte y tampoco faltan quienes destacan la segunda. Hace poco hemos asistido a una nueva entrega del pulso que mantienen las perspectivas utilitarista y deontológica sobre la IA. Sam Altman fue despedido por sus prisas para desarrollar a toda velocidad la IA, pero enseguida se le volvió a contratar porque casi todos los trabajadores en activo amenazaron con seguirlo allí donde fuera. La Open AI comenzó siendo un laboratorio sin ánimo de lucro y ahora se ha convertido en un negocio con una incalculable rentabilidad a corto plazo.
Stephen Hawking dejó dicho que la IA podría ser el mayor invento de la humanidad, pero que de no tener cuidado también podría ser el último
Las cautelas que aconsejaban una moratoria en el desarrollo de la IA se han visto desbordadas por esos intereses económicos, al igual que su vertiginoso avance supera todas las previsiones. Su incidencia en el sistema sanitario podría contribuir a despersonalizar servicios, prestaciones y cuidados, al suplantarnos y eliminar el decisivo factor humano. Cuesta concebir una atención sanitaria de calidad desprovista de calidez. Nos gusta creer que con la Inteligencia Artificial solventaremos nuestros grandes problemas estructurales, como hacer una sociedad más justa, revertir los estragos del cambio climático y alcanzar el sueño del pos-humanismo. Entendemos que una máquina dotada con un potencial extraordinario dará en ser más objetiva e infalible que nosotros, con menos prejuicios y sesgos.
¿Hay un síndrome del nativo digital?
En ese contexto, no faltan quienes propenden a parapetarse tras unas pruebas diagnósticas de vanguardia para recomendar un determinado tratamiento. Un radiodiagnóstico puede tomarse como algo decisivo para prescribir una intervención quirúrgica, cuando en realidad el estudio clínico del paciente puede recomendar que se posponga entrar en quirófano a la espera de cómo evolucione la patología en cuestión. Por lo visto esta tendencia se daría mas entre los nativos digitales, quienes parecen tener menos prevenciones morales que sus mayores frente al uso de la disruptiva IA. Quizá porque no puedan comparar su entorno con la experiencia de haber vivido sin ese innegable impacto sobre lo cotidiano. Ahora los algoritmos van decidiendo si accedemos a un empleo, ingresamos a la universidad o nos conceden algún crédito bancario. Es muy probable que se pierdan muchos puestos de trabajo y aumente la productividad.
Entendemos que una máquina dotada con un potencial extraordinario dará en ser más objetiva e infalible que nosotros, con menos prejuicios y sesgos
Pero lo que nos hace más humanos y agentes ético-políticos es precisamente nuestra fragilidad e imperfección, que propician nuestra fecunda interdependencia y su reconfortante solidaridad. Equivocarnos y aprender de nuestros errores nos permite no suscribir automáticamente los intolerantes dogmatismos que castigan sin piedad al discrepante. Deberíamos procurar que la Inteligencia Artificial tuviera esas cualidades tan específicamente humanas regladas por una mirada ética y no verla como una nueva deidad que bien pudiera despreciar a su torpe creador al encontrarlo tan incompetente como falible.
Dos perspectivas complementarias
Como es natural, el utilitarismo y la deontología nunca se presentan en estado puro. Pero sí cabe acentuar con mayor o menor intensidad una de las dos perspectivas. La filosofía en general, y la filosofía moral muy en particular, se caracterizan por plantear preguntas y dejar que cada cual elija una u otra respuesta en un momento dado. Seguramente las respuestas vayan variando en función de nuestra edad e información, porque como decía Ortega nuestro yo es indisociable de nuestras circunstancias. Eso nos ocurre incluso con aspectos que creemos conocer bien, como aquello que nos hace felices. Al pensarlo con calma, comprobamos que no es algo tan sencillo. ¿Cómo definiríamos la felicidad? El repertorio es abigarrado. Otro tanto sucede con la salud. Es un asunto complejo que requiere acomodar unas u otras pautas a nuestras condiciones del momento. La medicina no es una ciencia exacta porque nuestra maquinaria biológica tiene un comportamiento multifactorial, donde lo psicofísico se combina con diversas incidencias medioambientales y socioculturales.
El personal sanitario podría tener la tentación de confiar demasiado en sus consultas a la IA e incluso dudar de su propio criterio
En el ámbito moral tampoco hay respuestas que puedan darse sin titubeos. Un comportamiento ético no tiene que ser necesariamente superogatorio y sobrepasar las obligaciones contraídas (como hizo el personal sanitario durante la pandemia), pero sin duda no puede caer en lo subrogatorio endosando a otros la propia responsabilidad (como suelen hacer algunos políticos). Los hechos alternativos y sus datos ficticios podrían cambiar nuestra percepción del presente y hacernos revisar la memoria del pasado e incluso hacernos dudar de los recuerdos personales, determinando con ello el futuro. Tal como ahora delegamos nuestras relaciones personales en ese alter ego digital que supone nuestro avatar cibernético, la realidad virtual podría suplantar a los acontecimientos efectivos, generando una suerte de psicosis colectiva, lo que resultaría literalmente letal dentro del ámbito sanitario.
¿Habría que acomodar el juramento hipocrático a la era digital?
Quizá fuera conveniente añadir -simbólicamente al menos- un anexo al juramento hipocrático adaptándolo a la era digital que nos ha tocado vivir. En ese nuevo capítulo podrían incluirse principios como estos:
1) Nunca delegaré mi juicio clínico y mucho menos mi trato personalizado con cada uno de mis pacientes en una máquina, por sofisticada que pueda llegar a ser ese artefacto, como ciertamente pudiera serlo la IA General o Singular.
2) El diagnóstico y el tratamiento que prescriba o aplique serán fruto de mi experiencia, mis estudios convenientemente reciclados, los intercambios de criterio con los colegas y la ineludible comunicación con los pacientes.
3) Trataré holísticamente a mis pacientes como personas cuya dolencia debo tratar sin considerarlas un caso más en función de unas estadísticas, registros, cálculos algorítmicos o pruebas realizadas con una tecnología vanguardista.
4) Debo proceder como si mucho dependiera de mi buena sintonía con cada paciente, al que nunca consideraré una simple cifra.
5) Ninguna herramienta puede suplir el trato humano y personalizado de un profesional sanitario con su paciente.
6) Conviene prestar atención a la posible dependencia que pueda originar el abuso de los dispositivos digitales, cuya eventual toxicidad también debería ser valorada como una grave amenaza contra la salud pública.
Cuanto más consultemos la IA, tanto más dependientes nos haremos de su presunta objetividad e iremos delegando más funciones
La poderosa IA y sus portentosas prestaciones podría plantearnos una doble tentación. Por una parte, los enfermos más o menos imaginarios podrían propender a consultar compulsivamente al ChatGPT y explorar su sintomatología con toda comodidad sin esperar ni moverse de casa. Esto les haría discutir los diagnósticos y desconfiar de unos médicos que a su juicio no podrían saber tanto como la Open AI. De otro lado, el personal sanitario también podría tener la tentación de confiar demasiado en sus consultas a la IA e incluso dudar de su propio criterio, al creer que los dictámenes cibernéticos tendrían menos prejuicios y sesgos.
El factor humano y la profilaxis
En definitiva, todo dependerá del uso que demos a esta sofisticada herramienta, de la que no deberíamos abusar, tal como no debe abusarse de nada en general, porque nuestros hábitos determinarán que resulte beneficiosa o perjudicial. Aquí nos confrontamos con el típico círculo vicioso. Cuanto más consultemos la IA, tanto más dependientes nos haremos de su presunta objetividad e iremos delegando más funciones. La IA puede afinar un radiodiagnóstico y posibilitar intervenciones quirúrgicas inéditas. Pero esto no debe hacernos olvidar la primacía total y absoluta del factor humano. Una cosa es que un robot como el Da Vinci facilite la tarea de los cirujanos y otra que pudiera llegar a reemplazarlos, como irá sucediendo en muchos otros puestos de trabajo. Las pruebas diagnosticas que puedan hacerse con relativa facilidad proliferarán para quienes puedan costeárselas, pero cuando tenemos una dolencia física o anímica no necesitamos un taller de reparaciones, como si fuéramos un vehículo al que se le pueden cambiar algunas piezas o arreglar su chapa y pintura.
La IA puede afinar un radiodiagnóstico y posibilitar intervenciones quirúrgicas inéditas. Pero esto no debe hacernos olvidar la primacía total y absoluta del factor humano
Más vale prevenir que curar y la profilaxis es algo fundamental. Nuestro equilibrio emocional, nuestra dieta y el ejercicio son cosas que no hace falta recetar, pero sí recordar. Un buen consejo del medico de familia (de atención primaria o de cabecera) puede ser muchísimo más útil que un arsenal de medicamentos y el atender al contexto cultural o socio-económico también podría resultar interesante. Ahora que nos vamos concienciando sobre la importancia de nuestra salud mental, tan estigmatizada todavía como para que la gente rehúya ir al psiquiatra o tener asistencia psicológica, puesto que nos da vergüenza confesarlo, ¿alguien se imagina que podamos realizar ese tipo de consultas y seguimiento mediante una IA? Es evidente que cartografiar nuestro sistema neuronal nos hará descubrir las causas de ciertas patologías cerebrales, pero siempre será útil aproximarnos a nuestra ciudadela interior perturbada mediante la conversación interpersonal y la dinámica de grupos.
¿Valen más los talentos que un buen talante?
¿Por qué valoramos tanto lo productivo y lo convertimos en la referencia primordial de nuestras vidas? Nos fascina el efecto Mateo y entendemos que la economía, en lugar de ser una herramienta para racionalizar los recursos públicos, es una doctrina cuya única misión es recompensar la codicia y castigar la prudencia. Recordemos la parábola de los talentos que da pie al ya citado efecto Mateo, según el cual el acopio de medios materiales o de cualquier otro tiempo conseguirá incrementarlos, despojando al mismo tiempo a quien tenga más carencias. Quien ha invertido el dinero que se le confió y dobla su importe, recibe como premio el único talento de aquel que no lo llevó al banco para sacarle partido. En la parábola se nos habla de talentos, es decir, de la moneda que valía cinco mil denarios o jornadas de trabajo. ¿Sería igual si se hablara de los talentos que podemos cultivar? Eso haría menos áspera la moraleja del efecto Mateo.
Sin embargo, Kant tampoco la suscribiría. Para Kant los talentos no cuentan ni mucho menos tanto como el talante.Nuestra intención moral es lo que tiene un valor incalculable desde su perspectiva ética: “No es posible pensar nada dentro del mundo, ni tampoco fuera del mismo, que pueda ser tenido por bueno sin restricción alguna, salvo una buena voluntad. Inteligencia e ingenio, es decir, los talentos del espíritu, coraje y tenacidad, las cualidades del temperamento, pueden ser cosas buenas y deseables, pero también extremadamente malas y dañinas. Otro tanto sucede con los dones de la fortuna” (Kant, Fundamentación para una metafísica de las costumbres)
Resultaría inquietante una suerte de aplicación informática para resolver dilemas morales, pues nada ni nadie puede sustituirnos en esa tarea individual e intransferible
No puede haber aplicaciones para resolver dilemas morales
Cualquier inversionista orgulloso de serlo consideraría insensato diseñar una IA con un programa regido por la buena voluntad, donde la clave fuera prescindir del éxito y postergar los réditos de las operaciones puestas en marcha. El ámbito de la IA se restringe a resolver cuestiones técnicas o pragmáticas por decirlo en terminología kantiana, pero en modo alguno irrumpiría en el terreno de la moral, en lo concerniente a la libertad y a las costumbres. Resultaría inquietante que se demandara una suerte de aplicación informática para resolver dilemas morales, pues nada ni nadie puede sustituirnos en esa tarea individual e intransferible. Otra cosa es que se recaben consejos a modo de recomendaciones en orden a obtener cierto bienestar, asumiendo pautas relativas a una dieta sana, un ahorro previsor, ser discretos u otras cosas por el estilo. Según las reglas de la habilidad, las prescripciones del médico para sanar a su paciente y las de quien quisiera envenenarlo tienen idéntico valor por su eficacia. Su intencionalidad es lo que las diferencia.
Convendría reorientar nuestros primados. Vamos hipotecando nuestra memoria, nuestros deseos y nuestro comportamiento a lo que nos marcan algunos dispositivos digitales, porque nos resulta muy cómodo no pensar ni decidir por cuenta propia. Pero en cualquier caso no podemos transferir o delegar nuestra responsabilidad moral y pretender no rendir cuentas de nuestras acciones. Antes de soñar con un mundo en que los robots nos asistan, deberíamos evitar que se roboticen los humanos y pierdan su capacidad emocional para la empatía.
¿Qué sería del ser humano sin discernimiento ni responsabilidad moral?
A la IA hay que darle la bienvenida para rentabilizar sus multiformes prestaciones. Pero al mismo tiempo jamás deberíamos considerarla como algo que supla nuestro discernimiento y nuestra reflexión moral. Bien al contrario, por contraste la IA puede recordarnos que nuestras mejores cualidades como seres humanos afloran cuando primamos el talante sobre los talentos. La especie humana ha evolucionado gracias a esa colaboración exigida por nuestras limitaciones e interdependencia en cuanto individuos o agrupaciones comunitarias. Una herramienta con semejante potencial podría quedar al servicio de unos pocos que persiguieran el sueño del transhumanismo y viesen a sus congéneres como simples obstáculos o meros medios para lograr sus caprichos. Por otra parte, sería muy poderosa la tentación generalizada de ir delegando competencias y responsabilidades a un artilugio presuntamente infalible, como si todo se pudiera resolver mediante cálculos por complejos que puedan ser estos.
Tomemos nota y luchemos contra la inercia del mínimo esfuerzo. Corremos el riesgo de que se promueva una colosal desigualdad
Un servicio asistencial de calidad requiere una calidez humana que no puede verse suplica por ningún robot perfectamente programado. El problema es que la humanidad pueda deshumanizarse al automatizar y robotizar su comportamiento, sin hacer las consabidas excepciones a una regla o desacatar la presunta obediencia debida cuando esta nos obligue a infligir daños. La digitalización masiva supone una nueva era y debemos estar muy atentos para no perdernos en los laberintos de unas encrucijadas que van a condicionar un futuro bastante incierto. Es hora de no lamentarlo después. A la IA no hay que demonizarla, pero tampoco deificarla. Los dispositivos inteligentes que utilizamos todos los días nos advierten sobre su abuso y debemos hacer un uso inteligente de los mismos.
Tomemos nota y luchemos contra la inercia del mínimo esfuerzo. Corremos el riesgo de que se promueva una colosal desigualdad, si se asumen ciertos intereses que sólo busquen optimizar la productividad y el beneficio a cualquier precio, segregando a la ciudadanía en dos castas bien diferenciadas, la del exitoso ganador y el despreciable perdedor. Así lo marca la eugenesia economicista de una despiadada y deshumanizada óptica mercantilista. Según lo que hagamos la IA podría tener los rasgos de Donald Trump o de Pepe Mujica. La diferencia podría ser muy notable. Es la que media entre una caricatura de los principios neoliberales y la mirada ética con marcado acento deontológico.
