Ética y psicología de la inteligencia artificial (II)

ÉTICA Y PSICOLOGÍA DE LA INTELIGENCIA ARTIFICIAL (II)

Lic. Fernando Britos V.

“Internet es interesante por las paradojas que suscita” - Dominique Wolton en Informar no es comunicar (2009).

Esta vez veremos las relaciones entre diagnóstico y tratamiento en materia de psicoterapia como parte de los dilemas éticos que plantea la explosión de la inteligencia artificial (IA); el desarrollo de los psicoterapeutas virtuales y el floreciente negocio de los chatbots que prometen aliviar los males (depresión, estrés, ansiedad, burnout laboral, etc.) chateando. Todo en el marco de la cuestión fundamental ¿podrá la IA reemplazar a los humanos, superarlos y dominarlos? y finalmente entusiastas y previsores respecto a los aportes de la IA en el campo de la salud.

Porqué las máquinas no dominarán a los humanos

“Todo el mundo debería reflexionar acerca de la ética del trabajo que hace y del trabajo que elige no hacer”– dice la Dra. Joanna Bryson ¹ y agrega que la IA y los robots a menudo parecen divertidos artefactos de ciencia ficción pero, en los hechos, cada vez afectan más nuestra vida cotidiana. Empresas como Google, Amazon o Mercado Libre por estas latitudes, nos ayudan a ubicar cosas o servicios que buscamos mediante la IA pero al mismo tiempo acumulan conocimiento acerca de cada uno de nosotros que después usarán, en el mejor de los casos, para machacarnos hasta el cansancio con ofertas comerciales.

Los Estados Unidos y otros países y organizaciones hace años que emplean la IA con fines militares. Nada de esto es novedoso. Hace diez años los Estados Unidos tenían más robots (en lo fundamental drones) que soldados en Irak (unos 9.000). En el año 2014, un científico tan prestigioso como Stephen Hawking² había hecho una predicción apocalíptica acerca de la supremacía que adquirirían las máquinas inteligentes sobre la especie humana.

Sin embargo – según Bryson – el problema no radica en que los robots vayan a conquistar el mundo o en la necesidad que haya que diseñar “robots éticos” como las grandes corporaciones se plantean sino en que hay quien sostiene que las máquinas inteligentes y los algoritmos son responsables de su propio desempeño. Allí hay un sofisma de distracción: los robots pertenecen a seres humanos; los gobiernos y las empresas los construyen, los poseen y los programan. Quien posee un robot es responsable de lo que este hace.

Si los robots pueden adueñarse del mundo o las máquinas aprenden a predecir y anticipar cada uno de nuestros movimientos o transacciones y los gobiernos siguen tratando de responsabilizar a las máquinas por sus propias decisiones políticas carentes de ética ¿por qué deberíamos trabajar en desarrollar la inteligencia artificial? - se pregunta Bryson – y responde: “mi razón personal es simple: deseo ayudar a que la gente reflexione”. Nuestra sociedad enfrenta muchos y difíciles problemas, ¿ cómo encontrar la forma de trabajar juntos y aún asi mantener nuestra diversidad? ¿cómo evitar las guerras y terminar con ellas?, ¿cómo aprender a vivir en este planeta en forma realmente sustentable (donde nuestros hijos no consuman más espacio y tiempo que nuestros padres ni más recursos que los que pueden ser reemplazados a lo largo de una vida) y al mismo tiempo proteger los derechos humanos?

La resolución de esos problemas podría ser imposible en un lapso breve pero desarrollando y utilizando la IA podríamos encontrar algunas respuestas. Disponer de herramientas que nos ayuden a pensar pueden hacernos más capaces y si tenemos algunas que nos ayuden a entender como es que nosotros pensamos esto permitiría encontrar formas de ser más felices. Desde luego, todo el conocimiento y sus herramientas, pueden ser usadas tanto para el bien como para el mal. Por eso es importante reflexionar acerca de la IA y como deseamos que sea utilizada.

Bryson sintetizó en cinco puntos las razones por las que considera que la preocupación por la “explosión de la superinteligencia” y el temor a los robots no tiene sentido (no son personas ni siquiera primates). A saber:

a) La IA presenta los mismos problemas éticos que otros artefactos convencionales – Según Joanna Bryson, los temerosos cometían un error muy básico: temían que lo que fuera más inteligente que ellos podría derrotarlos. Entonces escribió, (en coautoría con Ph. Kime) uno de sus primeros trabajos últimamente actualizado (se puede acceder a Just an Artifact: Why Machines are Perceived as Moral Agents en www.cs.bath.ac.uk/~jjb/ftp/BrysonKime-IJCAI11.pdf).

Experimentar con la IA puede ayudar a comprender mejor lo que significa ser humano ³. Por otra parte, las cuestiones éticas que se plantean con la IA son las mismas que se registran con otros artefactos o constructos humanos como las bellas artes o las tecnologías.

b) Está mal aprovecharse de la ignorancia de la gente y hacerle pensar que la IA es humana – No basta con que los expertos comprendan el papel que juega la IA en la sociedad sino que tienen la obligación profesional de comunicar esa comprensión al público en general. La gente que emplea IA debe saber cuales son sus riesgos reales. Lamentablemente es más fácil hacerse famoso y vender robots si se anda por ahí aparentando que lo que venden “necesita ser amado” o presumiendo que su bot es humano o sobrehumano lo que equivale a tener sexo con una muñeca o muñeco inflable.

En el año 2010, Bryson participó en la adopción de Principles of Robotics (Principios de la Robótica) que se aplican en Gran Bretaña. Los cinco principios son: 1) los robots no deberían ser diseñados como armas, excepto por razones de seguridad nacional; 2) los robots deben ser diseñados y operados para cumplir con las leyes actuales, incluyendo las que protegen la privacidad; 3) los robots son productos y como otros productos deben ser diseñados para ser inofensivos y seguros; 4) los robots son artefactos manufacturados: las ilusiones acerca de emociones e intenciones no deben ser usadas para aprovecharse de los usuarios vulnerables; 5) siempre debe ser posible ubicar a la empresa o la persona que es responsable de cualquier robot.

Bryson es una de muchos investigadores que trabajan en el desarrollo de consciencia artificial y emociones sintéticas, asuntos que no son más mágicos o merecen más compromiso ético que las manos o piernas ortopédicas. En los humanos, la consciencia y la ética están asociadas con nuestra moral – sostiene - pero esto se debe a nuestra historia evolutiva y cultural.

En el caso de artefactos tecnológicos, la obligación moral no está vinculada con una necesidad lógica o mecánica de auto consciencia o sentimientos. Esta es una de las razones por las que no se debe hacer responsable a la IA como un ser abstracto: no se puede penalizarla en forma significativa porque los buenos sistemas de IA son diseñados en forma modular de modo que las consecuencias de las malas acciones siempre podrían ser evitadas, excluidas o extirpadas, a diferencia de lo que sucede en la naturaleza

c) Los robots nunca serán realmente nuestros amigos – Los robots, al ser concebidos por nosotros, siempre serán propiedad de un humano.

En el 2007 Bryson comentó un artículo de Anne Foerst titulado “Robots y Teología” que presentaba la perspectiva que los robots son capaces de ser personas y conocer el pecado y que, como tales, son una parte del mundo espiritual. Entonces argumentó que aunque es interesante utilizar a los robots para razonar acerca de lo que significa ser humano llamarlos “humanos” deshumaniza a las verdaderas personas. Peor aún, le proporciona a la gente una excusa para imputarle sus acciones cuando realmente cualquier cosa que haga un robot es responsabilidad total de los humanos que los crean o los entrenan.

La IA está acelerando un fenómeno de por si relativamente vertiginoso que viene desarrollándose desde hace unos 10.000 años: la cultura humana. La cultura humana está cambiando casi todos los aspectos de la vida en la Tierra, especialmente la sociedad ⁴. La cultura de la especie es acumulativa y diferente de la de otras especies. La cultura humana es maravillosa y también peligrosa (exterminamos millones de personas, extinguimos otras especies con nuestras armas, con la contaminación y con las estrategias de competencia feroz para aumentar las ganancias).

Dice la Dra. Bryson que al debatir acerca de ética e IA se ha dado cuenta que mucha gente confunde inteligencia con sensibilidad. Ella prefiere pensar que la inteligencia es la capacidad plástica y adaptativa de modificar el comportamiento en respuesta a los cambios que se perciben en el medio. La IA existe sin otra motivación que la que le proporciona su programador humano. Si esto es aceptado se podría admitir que la primera forma de IA, la que desencadenó la explosión de la inteligencia, fue la escritura que dio lugar a una memoria externa a la mente lo que permitió a los humanos volverse más innovadores y acumular más conocimientos.

d) La cultura humana ya es una máquina superinteligente que está cambiando el mundo – La cultura humana es la máquina superinteligente que ha aprendido a generar más biomasa sobre el planeta que nunca antes (mediante la extracción de combustibles fósiles) pero que está cambiando toda esa vida (por lo menos los grandes animales) por unas pocas especies (humanos, perros, gatos, ovejas, cabras y vacas). Nadie ha intentado deliberadamente liquidar la biodiversidad en el planeta pero lo estamos haciendo. En forma similar, nadie decidió que los niños no estaban suficientemente controlados hasta fines del siglo pasado pero en unas pocas décadas la niñez y la paternidad han sido completamente transformadas como resultado de la expansión del conocimiento. La IA tiene mucho que ver con esos fenómenos pero estos no son su consecuencia exclusiva: son asimismo el resultado de los dispositivos móviles de comunicación, la acción de los medios de comunicación, los cambios en la sociedad y los procesos culturales.

e) Investigación y protección de datos personales - La IA y la informática, especialmente las máquinas que aprenden y también la interacción humano/computadora (IHC), son capaces de ayudar en la investigación en ciencias sociales, incluyendo las ciencias políticas, la economía, la psicología, la antropología. El conocimiento del comportamiento humano podría ser el mayor beneficio de la IA si nos ayudara a reducir los conflictos y vivir en forma sustentable. Sin embargo, saber perfectamente bien lo que una persona individual hará en una situación particular es obviamente un poder muy pero muy grande.

Las malas aplicaciones de ese poder incluyen la adicción deliberada de los consumidores a un producto o servicio, la manipulación de votaciones y de la opinión pública, la difusión de noticias falsas y otras prácticas manipuladoras. La inviolabilidad de nuestra información personal - advierte Bryson - debe ser preservada como la del hogar. En primer lugar, nuestra información personal no puede ser vendida sino, en el mejor de los casos, prestada para un fin específico. Este es el modelo que aplican las compañías de software para su productos. Por ende – recomienda - si sospechamos que nuestra información ha sido utilizada en una forma que no aprobamos, debemos ser capaces de demandar judicialmente ⁵ y las aplicaciones que recogen nuestros datos personales deben protegernos de cualquier intrusión.

Psicoterapeutas virtuales y otros antecedentes

Entre 1964 y 1966, Joseph Weizenbaum ⁶, un científico del Instituto Tecnológico de Massachusetts (MIT), desarrolló un programa de computadora que simulaba ser un psicoterapeuta de la escuela de Carl Rogers ⁷ . ELIZA (así se llamó el programa) hacía preguntas abiertas con la intención de animar al usuario a discutir sus emociones. Weizenbaum se sorprendió al ver como las personas hablaban de sus problemas íntimos con la máquina, hasta tal punto que cuando el experimento terminó, algunos sujetos se negaron a creer que habían estado intercambiando mensajes con una máquina y no con un psicoterapeuta.

Ha pasado más de medio siglo desde que operó ELIZA y en el campo de la psicoterapia computarizada no ha habido mayores avances. Es cierto que la psicoterapia puede llevarse a cabo mediante internet, mediante correos electrónicos o videoconferencias (terapia en linea) pero se trata de formatos poco utilizados por su falta de eficacia . Se asimilan a los llamados tratamientos de autoayuda, modas o propuestas que únicamente reportan beneficios duraderos para sus propagandistas y practicantes y no para quienes se someten a ellas.

Los cuestionarios de intención psicodiagnóstica pueden ser administrados por una máquina pero en realidad la intervención de la IA no resulta útil por la frialdad y distanciamiento aun cuando se empleen algoritmos conversacionales. Es lo que los psicoterapeutas señalan como “falta de rapport” ⁸. Se dice que algunas formas de terapia, como la terapia cognitivo-conductual (TCC), son especialmente adecuadas para este tipo de entrega algorítmica. Sin embargo, otras técnicas de terapia, como las que dependen más de la relación terapeuta/paciente , son mucho más difíciles de automatizar. A los ojos de los reduccionistas, las psicoterapias son mucho más difíciles de evaluar pero en este caso interviene otro concepto fundamental que es el de la curación sobre el que, al igual que la definición de inteligencia, no existe un consenso científico.

Ciertos psicólogos noveleros, como Albert “Skip” Rizzo⁹ en la Universidad del Sur de California, desarrollaron hace unos años a “Ellie, la terapeuta virtual”, un bot conversacional destinado a tratar una serie de trastornos, especialmente el síndrome de estrés postraumático que afectaba y afecta a muchos militares estadounidenses, ex-combatientes que retornaron de Irak, Afganistán y otras guerras. Naturalmente Ellie fue financiada por las fuerzas armadas y Rizzo plantea que es "forzar a la psicología —aunque sea a regañadientes— a incorporarse al siglo XXI".

Los partidarios de Ellie emplean el manido argumento que algunos pacientes prefieren abordar sus problemas íntimos con ella en lugar de hacerlo con un o una terapeuta humana. Por otro lado, muchos científicos ven al bot como un truco barato, en que una computadora sin inteligencia tiene la capacidad de engañar a los pacientes para hacerles creer que están hablando con una persona sensible e inteligente.

Según Rizzo lo que a menudo rompe esa ilusión en la conversación entre el paciente y Ellie no es el contenido de lo que se habla - ya que el algoritmo se ajusta al guión que se le hizo, que a su vez está basado en miles de sesiones de terapia clínica tradicional¹⁰ – sino en lo que él llama la “sincronización” es decir a la forma en que los humanos detectamos e interactuamos en base a la observación de las emociones durante la conversación. Para mejorar esta “sincronización”, Ellie ha incorporado módulos con cámaras que escudriñan el rostro del paciente, su postura, el movimiento de sus manos y los cambios en la voz, para determinar el estado emocional de su interlocutor.

A pesar de estos perfeccionamientos Rizzo ha manifestado que los terapeutas virtuales no reemplazarán a los humanos. Como en el caso de los algoritmos seleccionadores utilizados para el acceso al trabajo, estos terapeutas virtuales harán la atención de primera linea, una especie de triaje que permite contar con los antecedentes básicos de un gran número de personas, descartar expeditivamente a los que no encajan en alguna o algunas pautas del algoritmo y permitir que el terapeuta humano dedique su atención a quien lo merezca o lo pague adecuadamente. Aquí también, en los cargos de ingreso (al trabajo o al tratamiento) los aspirantes serán manejados por máquinas. En tanto, en los niveles superiores la atención y las decisiones estarán con mayor frecuencia en manos de psicólogos u otros técnicos humanos.

"El problema que tenemos – declaró Rizzo - particularmente con la actual crisis de salud mental en el ejército, es que no contamos con suficiente personal bien entrenado para manejar el asunto". Por su Instituto de Tecnologías Creativas han desfilado cientos de miles de soldados y veteranos que sufren varios niveles de estrés postraumático y allí se realizan experimentos con “humanos virtuales”.

Algunos de los colaboradores del Director, como el joven especialista franco-canadiense Louis-Philippe Morency ¹¹, dirijían el trabajo con Ellie con lo que llaman el “Modo del Mago de Oz". Mientras un paciente se entrevista con Ellie (sentado ante una pantalla plana que presenta, en tamaño casi natural, a una figura femenina en un sofá), en un gabinete cercano dos técnicos van controlando lo que Ellie dice, van ajustando el tono de su voz, sus expresiones y su lenguaje corporal para sacar el mayor partido del encuentro.

Según Morency, Ellie “estaba aprendiendo a ser humana”, es decir a simular con mayor perfección sus respuestas porque se le está entrenando para responder e interpretar como lo haría un terapeuta con sus pacientes. Hace unos años pronosticaban que la bot podría funcionar sola y según estos técnicos realizar terapia en linea utilizando la experiencia clínica de los mejores psicólogos del mundo. Según ellos se trata de una forma objetiva de medir el comportamiento humano que además operará como una asistente del especialista, en la misma forma en que un análisis de sangre facilitado por el laboratorio ayuda al médico a tomar decisiones. Sin embargo la aplicación no ha conseguido despegar y extenderse a otros ámbitos.

Más allá del perfeccionamiento de los psicoterapeutas virtuales sus posibilidades prácticas parecen concentradas en los países ricos o, más específicamente, en situaciones como aquellas para las que Ellie fue diseñada: el estrés postraumático como frecuente efecto de las intervenciones militares sobre la psiquis de los soldados estadounidenses.¹²

Mutación de la autoayuda: grandes negocios para los gurús de Internet

Los promotores estadounidenses de la IA en el campo de la psicoterapia, piensan que es una oportunidad para millones de afectados por diferentes patologías psíquicas pero advierten que los beneficios de estos métodos deben ser cuidadosamente confrontados con sus limitaciones. En realidad, hasta ahora, la eficacia a largo plazo de la IA en materia de salud mental no ha sido probada y en cambio parece haber sido captada como una oportunidad para hacer grandes negocios a través de Internet.

Según el Instituto Nacional de Salud Mental de los Estados Unidos, uno de cada cinco adultos experimentan algún tipo de problema de salud mental, el 17,9%. Hay por lo menos tres razones por las que la incorporación de terapeutas virtuales resulta tentadora para los planificadores de ese país. Una de ellas es el costo de los tratamientos (la atención de la salud mental ha superado a los tratamientos cardiológicos que hasta hace poco eran los más costosos en los EUA). Otra de las razones es la falta de personal idóneo para enfrentar los problemas de salud mental y finalmente el estigma que todavía pesa sobre la enfermedad mental (y en este caso algunos piensan que muchos pacientes confiarían más en una máquina que en un terapeuta humano).

El psicólogo clínico Alison Darcy creó Woebot, un programa integrado a Facebook que apunta a replicar las conversaciones que un paciente podría mantener con un o una terapeuta. Woebot es lo que en la jerga de Internet se denomina un chatbot (un robot conversacional) que se asemeja a una mensajería instantánea. La tecnología pregunta acerca del estado de ánimo y los pensamientos, “escucha” como se siente la persona y ofrece herramientas propias de la terapia conductual cognitiva (TCC) cuyas recetas son muy similares a las llamadas técnicas de autoayuda¹³.

Darcy advierte que Woebot es un robot que no puede sustituir al contacto humano, entre otras cosas porque las personas suelen requerir tratamientos muy distintos que una sesión virtual es incapaz de brindar. Sin embargo, los avances de los procesadores de lenguaje natural y la popularización de los smartphones ha hecho que los bots conversacionales (chatbots) sean las nuevas estrellas en el firmamento de la IA aplicada a la salud mental. Astutos empresarios los han multiplicado. Pagando una suscripción o comprando una aplicación se puede acceder a una amigable consejería terapéutica en segundos chateando desde el móvil, a cualquier hora y en cualquier lugar.

Los gurús de Internet se han lanzado a operar en distintos idiomas. Emma es un bot que se expresa en holandés y ha sido diseñado para manejar situaciones de ansiedad leve. Karim en cambio se expresa en árabe y se ha empleado para asistir a refugiados sirios que escapan de las atrocidades de la guerra. Sara es el bot en inglés y Mila es su versión en español. Todos los programas fueron desarrollados por X2AI (Automated Mental Healthcare using Emotional Artificial Intelligence, o sea Atención de salud mental automatizada mediante inteligencia emocional artificial) un empresa radicada en Amsterdam y en California.

El “bot madre” de esta compañía es Tess, cuya propaganda puede verse en la página de la empresa: https://www.x2ai.com/ o en https://planetachatbot.com/una-psic%C3%B3loga-perdida-en-inteligencia-artificial-538ebbdde6a5 . En esta última página la psicóloga Mili Escoredo hace alabanzas de su jefe, el CEO de X2AI, Michiel Rauws, un holandés de 29 años. La única formación en psicología de este personaje parece ser haberse sometido a tratamiento con un terapeuta cognitivo conductual (TCC) que le sirvió de modelo para desarrollar sus lucrativos algoritmos.

Se dice que cuatro millones de personas de todo el mundo han pagado para acceder a este bot conversacional de salud mental “diseñado por psicólogos clínicos” (anónimos) que acompaña a las personas a través de los momentos difíciles para desarrollar resistencia por medio de conversaciones a través de mensajes de texto, similares a las que se mantendrían con un amigo o un consejero. Los promotores aseguran que el algoritmo sanitario producirá una mejora en dos semanas. Como suele suceder, las credenciales científicas de los creadores son más bien vagas, sobre todo cuando anuncian que “se ha descubierto que reduce la depresión en un 13% y la ansiedad y el estrés en un 18%” ¹⁴. Tess está disponible sin límites y a demanda durante las 24 horas todos los días. Seis son las indicaciones en las que proporcionaría un pronto alivio: depresión, ansiedad, estrés, salud mental de los estudiantes, burnout laboral y respaldo o alivio a cuidadores.

Un fuerte competidor de X2AI, aunque muy similar, es Ginger.io que proclama “Consejería a demanda en todo momento, en todo lugar”. “Apoyo emocional en menos de 60 segundos”. Con la aplicación Ginger.io se obtiene apoyo emocional “cuando lo necesites y sin ser juzgado”. “Es tan conveniente y discreto como enviar y recibir textos en tu smartphone y, lo mejor de todo, si tu empleador participa es gratuito y asequible para ti”. Estos muchachos incursionan en coaching, es decir consejería, y en lo que presentan como telepsicología, telepsiquiatría y autocuidados personalizados.

La lista de clientes de Ginger.io lleva a pensar que, aunque sea a punta de canjes (publicidad por servicios), esta empresa está jugando en una divisional superior que X2AI. Como clientes aparecen empresas como Kaiser Permanente (una compañía californiana de seguros de salud que dice tener más de 211.000 empleados), el New York Times y el Wall Street Journal, Fast Company (una revista mensual estadounidense centrada en los negocios y la tecnología que asegura tener un tiraje superior a los 700.000 ejemplares) y el Foro Económico Mundial (la fundación de los ultrapoderosos con sede en Ginebra, también conocida como Foro de Davos).

Entusiastas y previsores en materia de IA y salud pública

La IA tampoco superará a los humanos en atención de la salud mental pero el tema de las contribuciones y las salvaguardas en relación con la inteligencia artificial y la salud pública es candente y ha motivado intervenciones anuales de sucesivos Directores Generales de la Organización Mundial de la Salud (OMS). El actual Director General, el médico y político etíope Tedros Adhanom Ghebreyesus, que ocupa el cargo desde hace menos de un año, parecería más inclinado hacia el bando de los entusiastas mientras que su antecesora, la médica chino-canadiense Margaret Chan Fung Fu-chun (delegada de la República Popular China), que encabezó la organización entre el 2006 y el 2017, aparece como una decidida impulsora de la incorporación de IA al tiempo que destaca las salvaguardas necesarias para evitar aplicaciones inapropiadas.

Vamos a parafrasear lo que manifestó la Dra. Chan en una reunión mundial de alto nivel patrocinada por la OMS y la UIT (el organismo de las Naciones Unidas especializado en las TICs) que se llevó a cabo en Ginebra. Ante una concurrencia formada por expertos en salud pública, medicina, psicología, inteligencia artificial y representantes de la industria, la Dra. Chan señaló que algunos analistas de mercado pronostican que las máquinas inteligentes, programadas para pensar y razonar como la mente humana, revolucionarán los servicios de salud en un futuro muy cercano. De hecho – dijo - por lo general, los defensores del poder transformativo de la inteligencia artificial dan dos ejemplos: los coches autónomos y la prestación de los servicios de salud.

En el influyente informe Internet Trends Report del 2017, que se publicó en los Estados Unidos, se abordan por primera vez los efectos de las nuevas tecnologías en los servicios de salud, y se vuelve a pronosticar un gran efecto de transformación. La inteligencia artificial plantea un nuevo límite que superar en el sector de la salud. Como ocurre a menudo, la velocidad de los avances tecnológicos ha superado nuestra capacidad para materializarlos en políticas públicas sólidas y hacer frente a una serie de dilemas éticos.
Quedan muchos interrogantes por responder, y todavía no estamos seguros de saber cuáles son todas las preguntas que necesitamos hacer - advirtió la Directora – porque gran parte del entusiasmo en torno a las máquinas inteligentes al servicio de la salud refleja la visión de los países ricos y las empresas privadas con buenos recursos. Necesitamos una perspectiva más amplia.
Creo que deberíamos estudiar los posibles beneficios, riesgos y dilemas éticos en el contexto que ofrecen las tendencias mundiales que definen cuáles son las necesidades sanitarias de prioridad. Durante la última década, he visitado numerosos países en que la mayoría de las instalaciones sanitarias carecían de recursos básicos, como electricidad y agua corriente. Me resultaría difícil hablar a estos países sobre las bondades de la inteligencia artificial cuando, por falta de energía eléctrica, ni siquiera funcionan las máquinas corrientes para analizar las muestras de los pacientes o esterilizar los equipos.
En toda discusión sobre el potencial de las máquinas inteligentes para revolucionar la prestación de los servicios de salud, se deben tener en cuenta estas brechas inmensas entre las capacidades básicas. Al mismo tiempo, también he observado la omnipresencia de los teléfonos inteligentes, incluso en los entornos con recursos más limitados. Puede que las escuelas no tengan retretes o letrinas y que los niños no tengan zapatos, pero los teléfonos inteligentes están a la orden del día.
La clásica dicotomía de las condiciones de salud entre los países ricos y los países pobres ha quedado atrás. En todos lados, la salud está sujeta a las influencias de las mismas fuerzas dominantes, a saber, el envejecimiento de la población, la rápida expansión de la urbanización no planificada y la comercialización de productos insalubres a nivel mundial.
Bajo la presión que ejercen estas fuerzas, las enfermedades crónicas no transmisibles han tomado el lugar que ocupaban las enfermedades infecciosas como la principal causa de muerte a nivel mundial. Los comportamientos humanos y los entornos en que la gente toma las decisiones relativas a su estilo de vida influyen profundamente en enfermedades como la cardiopatía, el cáncer, la diabetes y las enfermedades respiratorias crónicas.
Estas son algunas de las enfermedades más “democráticas”, que afectan a todos por igual, sin distinción por grupo de ingresos ni ubicación geográfica. También son las más costosas.
¿Podría la inteligencia artificial ayudar a tomar mejores decisiones sobre el estilo de vida? ¿Podrían las máquinas inteligentes ayudar a los consumidores a entender las etiquetas de los alimentos o interpretar las distintas opciones en el menú de un restaurante? ¿Podría una aplicación de teléfono inteligente ayudar a las personas con diabetes a mantener un buen control metabólico entre sus consultas al médico? se preguntaba la Dra. Chan.
Además, la demanda de tratamientos a largo plazo o de por vida para las enfermedades crónicas ejerce una presión insostenible sobre el personal de la salud, que está sobrecargado. La Comisión de Alto Nivel sobre el Empleo en el Ámbito de la Salud y el Crecimiento Económico estima que, para 2030, se necesitarán 40 millones de trabajadores sanitarios adicionales para tratar las enfermedades no transmisibles y las afecciones como la demencia en los países ricos. Por su parte, se espera que en los países en desarrollo haya un déficit de 18 millones de trabajadores sanitarios.
Los avances tecnológicos que han eliminado varios puestos de trabajo, sobre todo de la clase media, son en cierta medida la fuerza impulsora de las olas de populismo y los movimientos antiglobalización que se están propagando por algunas partes del mundo.
Habida cuenta de la considerable insuficiencia de trabajadores sanitarios, el uso de la inteligencia artificial en el sector de la salud podría llegar a reducir la sobrecarga de trabajo del personal. Esta es una de las ventajas: sin duda, algunos profesionales de la medicina se opondrán a las tecnologías nuevas y revolucionarias, pero, por el momento, no será porque representen una amenaza para sus puestos trabajo.
Dada la capacidad de las supercomputadoras y los superchips para recabar y organizar grandes cantidades de datos, resulta fácil prever una serie de aplicaciones en el sector de la salud. Como sabemos, a menudo la información sobre la salud está desorganizada y mal estructurada. En muchos casos, se recolecta sistemáticamente, pero no se analiza ni se usa de ese modo. La inteligencia artificial puede dar una estructura a esos datos y orientar algunas decisiones médicas sobre la base de la detección de patrones.
Las supercomputadoras pueden acelerar el proceso de análisis de nuevos compuestos moleculares en la búsqueda de nuevos medicamentos. Además, pueden reducir el tiempo de lectura e interpretación de los resultados de radiografías, electrocardiogramas, ecografías, tomografías computarizadas, e incluso el análisis de las muestras de sangre. Al reducir el margen de error humano, las supercomputadoras pueden ayudar a formular prognosis y diagnósticos más precisos y aumentar la seguridad de los pacientes.
Entre las aplicaciones que se están gestionando, se encuentra el uso personal de los teléfonos inteligentes para comunicar los síntomas y obtener un diagnóstico de la nube. Los desarrolladores entusiastas consideran que, al evitar que quienes estén preocupados saturen la capacidad de las clínicas y las salas de emergencia, se podrían reducir los costos de los servicios de salud.
Para los pacientes que se están recuperando de accidentes cerebrovasculares o de otra índole, los desarrolladores han puesto en marcha un sistema que une la tecnología de sensores con los últimos avances en computación en la nube y proporciona ejercicios de fisioterapia personalizados que pueden hacerse en casa. El sistema tiene una función de retroalimentación inmediata que mantiene un registro de los movimientos correctos e incorrectos. Se estima que su costo es igual al 10 % del valor de las sesiones de fisioterapia que se dan en las instalaciones sanitarias.
En medio de tan emocionante potencial -advirtió Chan - hay varias razones por las que debemos actuar con precaución.
En primer lugar, las decisiones médicas son complejas. Dependen del contexto y los valores como el cuidado y la compasión. Dudo que las máquinas logren alguna vez imitar la compasión humana. En segundo lugar, las máquinas pueden servir de apoyo a la labor de los médicos, organizando, racionalizando y simplificando los procesos necesarios para el diagnóstico u otras decisiones médicas. Sin embargo, la inteligencia artificial no puede reemplazar a los médicos y enfermeros en sus interacciones con los pacientes.
En tercer lugar, debemos tener en cuenta el entorno y lo que implica en la vida de la gente. ¿De qué sirve tener un diagnóstico temprano de cáncer de piel o de mama en un país donde no hay oportunidades de tratamiento, especialistas, ni instalaciones especializadas, o donde el precio de los medicamentos es demasiado alto, tanto para los pacientes como para el sistema de salud?
¿Qué pasa si una aplicación de teléfono inteligente pasa por alto un síntoma que está señalando una enfermedad subyacente de gravedad? ¿Se puede demandar a una máquina por negligencia?
Los medicamentos y los dispositivos médicos están sujetos a muchos reglamentos, y por buenas razones. Las facultades de medicina están acreditadas. Los médicos y los enfermeros obtienen una licencia para practicar sus profesiones y a menudo se los obliga a hacer cursillos de educación permanente. ¿Cómo se regula una máquina que ha sido programada para pensar como un humano?
Las cuestiones regulatorias deben resolverse antes de que las nuevas tecnologías de inteligencia artificial lleguen al mercado. Ya se está cuestionando la fiabilidad de los dispositivos portátiles que evalúan el rendimiento cardíaco. En la historia de la medicina hay numerosos ejemplos de tecnologías que terminaron por rechazarse porque daban una falsa sensación de seguridad.
La recolección de grandes cantidades de datos plantea cuestiones serias en relación con la privacidad de los pacientes y la confidencialidad sacrosanta de los registros médicos. Estas son otras problemáticas que deben estudiarse con anticipación. Por último, debemos tener en cuenta que en muchos países en desarrollo no hay grandes cúmulos de datos por recabar. Estos son países que aún no cuentan con sistemas de información en que almacenar los registros civiles y las estadísticas de causas de muerte.
En resumen, la inteligencia artificial en el sector de la salud tiene un potencial inmenso, pero también es inmensa la necesidad de tomar algunas precauciones.
Nada que agregar a una advertencia que no tiene desperdicio.

1La Dra. Joanna Bryson es una especialista británica en IA y en ética de la investigación que trabaja en la Universidad de Bath. Desde hace más de 20 años mantiene un blog y su producción bibliográfica es de referencia mundial en los temas de su especialidad. Recomendamos muy especialmente acceder a su blog: https://joanna-bryson.blogspot.com . De la introducción a su blog y de uno de sus trabajos sobre ética e IA citaremos extensamente.

2Stephen Hawking (1942-2018) físico, cosmólogo y matemático británico recientemente fallecido.

3Christian, Brian (2011) The Most Human Human, Barnes & Noble, Nueva York. Un texto interesante que, hasta donde sabemos no ha sido traducido al español, a pesar de haber sido best seller en los países anglosajones. El autor de “El humano más humano” hizo una investigación sobre la competencia anual entre programas o bots conversacionales que se desarrolla para superar el Test de Turing, es decir para hacer creer a los jueces humanos que su interlocutor es también humano. Christian analizó los increíbles logros de los programas presentados así como las fallas fascinantes que demostraron, para destacar las capacidades o habilidades típicamente humanas para aprendrer, para comunicarse, para entender y para intuir. De este modo, en una época en donde las máquinas parecen estar desplazándonos y sustituyendo en esas capacidades, el autor reclama la atención acerca de que tan humanos somos capaces de ser.

4La Dra. Bryson incluye en su blog una entrada titulada The Intelligence Explosion started 10,000 years ago (+/- 2,000) (La explosión de la inteligencia comenzó hace 10.000 años <+/- 2.000>) en la que argumenta que la llamada “explosión de la inteligencia” no se producirá a futuro como efecto del desarrollo de la IA sino que se remonta a 10 o 12 milenios atrás cuando surgió la escritura.

5En nuestro país son los bienes que ampara la ley 18.331 de agosto del 2008, Ley de protección de datos personales y “habeas data”.

6 Joseph Weizenbaum (1923 - 2008)) fue profesor emérito de informática en el Instituto Tecnológico de Massachusetts y se le considera uno de los progenitores de la IA. En la década de los 50 creó la primera computadora utilizada en un banco y el Departamento de Ciencias de La Computación del MIT. ELIZA (1966) aplicaba reglas de concordancia entre patrones de frases de los humanos para calcular sus respuestas. Los efectos que observó le llevaron a convertirse en un firme crítico de la IA. Su influyente libro El Poder de las Computadoras y la Razón Humana (Computer Power and Human Reason) (1976) afirma que cuando la Inteligencia Artificial se desarrolle no se debería permitir que las computadoras adopten decisiones importantes porque nunca tendrán cualidades humanas como la compasión y la sabiduría al no haber crecido en el entorno emocional de una familia humana. Fue un pacifista que se opuso a la creación de soldados robot. se dice que, desde este punto de vista, él fue a la informática lo que Albert Einstein fue a la física nuclear.

7Carl Rogers (1902 – 1987) fue un psicólogo estadounidense fundador de un enfoque psicológico denominado psicoterapia centrada en el cliente. La teoría del yo de Rogers pretendía ser humanística, existencial y fenomenológica. Carl Rogers trabajó en el Human Ecology Fund una organización de fachada de la CIA, desde fines de los 50 hasta los 60, que financiaba a psicólogos que estudiaban la personalidad. La CIA le encargó a Rogers y sus colegas que investigaran la personalidad del líder soviético Kruschev para desarrollar una metodología para tratar con él y manipularlo. En esta empresa Rogers reconoció su fracaso.

8Por rapport se entiende una relación estrecha y armoniosa que permite las personas capten y comprendan los sentimientos de los demás, entiendan sus ideas y establezcan una buena comunicación.

9Albert Rizzo opera desde la sede en Playa Vista, California, del Instituto para Tecnologías Creativas , donde es Director de Realidad Virtual Médica.

10Es la misma técnica que emplean los programadores de máquinas jugadoras de ajedrez: atiborrar una memoria casi infinita con decenas de miles de partidas de todos los Grandes Maestros de todos los tiempos y decenas de miles de análisis posicionales y problemas, históricos o desarrollados a medida, que la computadora es capaz de analizar en milésimas de segundo y anticipar en decenas de movimientos los de su rival humano. En suma: fuerza bruta carente de sutileza y flexibilidad.

11Louis-Philippe Morency ya no trabaja con Rizzo en la U. del Sur de California sino en la Universidad Mellon, En los últimos años desarrolló Watson, una biblioteca instantánea para reconocimiento de conductas no verbales, muy empleada para agregar “percepción” a las interfaces incorporadas en porgramas de IA. Ha sido muy galardonado por su trabajo en los últimos dos años y desde hace más de cinco lejos de Ellie.

12En 1920, desde la Dirección de Guerra Psicológica del Ejército británico, el psiquiatra John Rawlings Rees (1890-1969) creó la Clínica Tavistock. Los psiquiatras británicos querían estudiar y tratar las llamadas “neurosis de guerra” que afectaban a cientos de miles de ex-combatientes que volvían con el psiquismo destrozado por las condiciones bestiales de las trincheras de la Primera Guerra Mundial. Uno de los objetivos primarios era establecer el "punto de ruptura" de las personas sometidas a un estrés muy intenso, tanto civiles como militares. Estudios que posteriormente se ampliaron a la investigación de la conducta y el comportamiento e incluyeron a representantes del psicoanálisis en Gran Bretaña (como Ronald Fairbairn y Wilfred Bion). En 1947 cambió su nombre a Instituto Tavistock de Relaciones Humanas financiado por la Fundación Rockefeller.

13Los interesados en obtener una relación extensa de las TCC (en inglés) puede recurrir a: https://positivepsychologyprogram.com/cbt-cognitive-behavioral-therapy-techniques-worksheets/

14Estos resultados que parecen puramente propagandísticos, como esos productos que “matan el 99,9% de los gérmenes” y tienen como respaldo un artículo a publicar en una revista científica: Fulmer R, Joerin A, Gentile B, Lakerink L, Rauws M; Using Psychological Artificial Intelligence (Tess) to Relieve Symptoms of Depression and Anxiety: A Randomized Controlled Trial; Journal of Medical Internet Research - International Scientific Journal for Medical Research, Information and Communication on the Internet (forthcoming/in press) DOI: 10.2196/mental.9782 . URL: https://preprints.jmir.org/preprint/9782