domingo, 16 de diciembre de 2018

Victor Hugo y un clásico vigente

En la guerra como en el amor

Víctor Hugo sigue recibiendo ataques en el campo de batalla de la historia por su postura comprometida con los derechos de la humanidad. Su última novela es el mayor ejemplo de su aprecio por la Revolución Francesa.

Lic. Fernando Britos V.


En 1874, doce años después de Los Miserables y tres después de la derrota de la Comuna de París, el intelectual reconocido como el más destacado del siglo XIX en Francia publicó su última novela, El Noventa y Tres. Los derechistas y conservadores, los contrarrevolucionarios de todo pelaje jamás le perdonaron sus simpatías por la República Jacobina (1792-1794) y sus acciones solidarias para conseguir una amnistía para los comuneros sobrevivientes de 1871. Víctor Hugo (1802-1885) fue uno de los pocos autores románticos que, habiéndose convertido en un clásico en vida, lo sigue siendo hasta la actualidad aunque los detractores de la Revolución Francesa, los fascistas franceses y los autores posmodernos lo hayan atacado y lo sigan atacando por su relato y su postura de poeta, dramaturgo y literato comprometido con los grandes problemas de su época y de la humanidad.

La trayectoria política de Hugo comenzó como joven monárquico constitucional y fue derivando hacia el bando republicano para terminar como un demócrata consecuente que se diferenció de la democracia liberal de la burguesía ilustrada y abrazó la defensa de causas que siguen siendo una divisoria de aguas en la actualidad: abolicionista contra todas las formas de esclavitud en su juventud, enemigo de la dictadura de Luis Napoleón (por la que estuvo desterrado casi 20 años); denodado luchador contra la pena de muerte (utilizó no solamente su arte literario; también su faceta poco conocida de dibujante e ilustrador para combatir la pena capital), promotor de causas solidarias y en defensa de los desposeídos (desde todas las tribunas y en todos los países aún antes de que su obra monumental, Los Miserables, le ubicara entre los tres autores más leídos y traducidos del mundo); luchador en pro de la amnistía para los comuneros de 1871 y contra la represión desatada por Thiers (no fue comunero pero veía con simpatía la lucha de la Comuna de París y abogó denodadamente para evitar la masacre; así sostuvo que “unos bandidos asesinaron 64 rehenes y respondemos masacrando a 6.000 presos”); paladín de la lucha por los derechos de las mujeres (sostenía que la felicidad del hombre no podía lograrse sobre el sufrimiento de la mujer).

Lo que no le perdonan la derecha política y los historiadores conservadores es la simpatía y consideración que le mereció al gran hombre la Revolución Francesa (1789-1799) y en particular la visión aguda pero benévola y respetuosa del jacobinismo, la Montaña y su papel en el periodo más tempestuoso y dramático de la Revolución, las épocas de la Convención, la guerra a muerte contra el enemigo exterior (ingleses, prusianos, austríacos, rusos, españoles, holandeses) y la guerra civil (la insurrección vandeana y los levantamientos monárquicos en el interior), el Terror y la profundización de las medidas sociales y culturales destinadas a profundizar la revolución, liquidar el feudalismo, defender a “la patria en peligro” y consagrar los derechos ciudadanos.

Hugo fue una figura gigantesca del romanticismo francés que, dicho sea de paso, fue en general más izquierdista y progresista que el romanticismo alemán que mayoritariamente fue conservador, nostálgico y en cierto sentido antimodernista y protofascista. Las novelas de Víctor Hugo nunca fueron concebidas como simples entretenimientos, sino que respondían a su concepción de que el arte debía instruir y gustar pero en relación con el debate de ideas. Una de las expresiones más acabadas de esta concepción fue Los Miserables (que data de 1862).

No fue un filósofo ni un historiador pero para preparar sus novelas estudió concienzudamente los materiales documentales disponibles en su época, recogió testimonios y recorrió el país. Sus personajes de ficción, a pesar del halo fantástico típico del romanticismo, estaban asentados en hechos e interpretaciones que distaban de ser pura imaginación.
La última de sus novelas es el ejemplo más logrado de su método creativo y sobre todo de su aprecio por la Revolución Francesa y por sus personajes más destacados. En ella se percibe la simpatía que el autor llegaba a proyectar hacia los derrotados de la Comuna de París que había precedido al libro en poco menos de tres años. En “Noventa y Tres” (en francés Quatrevingt-treize) introduce al lector en el año más vertiginoso y épico de la gran revolución y reflexiona y hace reflexionar, sin ninguna concesión a los esquemas trillados, acerca de los escenarios y los actores de este inmenso drama de la humanidad y de su legado.

Como esta no es una nota de crítica literaria sino que intenta referirse a episodios de la que Enzo Traverso denomina “La historia como campo de batalla. Interpretar las violencias del siglo XX” (Fondo de Cultura Económica, Buenos Aires, 2016), lo recomendable es leer la novela, de la que hay una serie de buenas traducciones.

Sin embargo, para contextualizar el año 1793, o más precisamente el lapso que media entre la primera fase de la Convención (del 20 de setiembre de 1792 al 2 de junio de 1793) y enseguida buena parte de la llamada segunda fase de la Convención o el Terror (del 3 de junio de 1793 al 28 de julio de 1794) se puede recurrir a muchas buenas obras de historia pero no a los manuales que suelen utilizarse en Enseñanza Secundaria, por lo general solapadamente tendenciosos cuando no francamente condenadores de la Revolución Francesa (“minimalistas”, como se les llama a quienes niegan la trascendencia de la Revolución o le asignan un papel francamente negativo).

Como fuentes amenas, documentadas y asequibles se puede apelar a Marc Bouloiseau: La República Jacobina (10 de agosto de 1792–9 termidor año II), (Barcelona, 1980), o mejor aún a Peter McPhee: La Revolución Francesa, 1789–1799. Una nueva historia (Barcelona, 2007).

Para ubicar someramente el periodo digamos que antes del 20 de setiembre de 1792, cuando se llevó a cabo la primera sesión de la Convención Nacional (el primer parlamento unicameral elegido por sufragio universal masculino), se había producido la caída de Verdún en manos de los prusianos, se había declarado “la patria en peligro”, había desertado Lafayette, jefe de la Guardia Nacional, y se habían producido masacres de nobles presos en las cárceles de París; en enero de 1793 se procesó y ejecutó a Luis XVI; en marzo del 93 comenzó la insurrección en la Vendée; en abril se creó el Comité de Salvación Pública, el Gral. Dumouriez se pasó a los austríacos, se promovieron iniciativas para el voto de las mujeres; en mayo y junio el pueblo invadió la Convención y produjo la caída de los girondinos (27 diputados y 2 ministros fueron a prisión); en junio del 93 se produjeron levantamientos contrarrevolucionarios en Burdeos y Calvados; el 24 de junio se adoptó la Constitución de 1793 (la “Constitución del Año I”), la más democrática aunque la guerra impidió su aplicación; los ingleses bloqueaban las costas francesas; se decretó la venta de bienes de los nobles emigrados; el 13 de julio fue asesinado Marat; cuatro días después se produjo la abolición definitiva del feudalismo, se decretó la pena de muerte para los acaparadores de productos de consumo popular y Robespierre fue nombrado miembro del Comité de Salvación Pública; en agosto del 93 se estableció la leva masiva para integrar los ejércitos de la República; en setiembre una jornada popular presionó a la Convención para la adopción de medidas revolucionarias más radicales; los destacamentos populares de París se incorporaron a los ejércitos y se promulgó la ley de sospechosos; en octubre se adoptó el calendario republicano cuyo Año I es precisamente 1793, se produjo la ejecución de la exreina María Antonieta y la de 21 dirigentes girondinos; en diciembre se declaró el Terror contra los enemigos de la República y se adoptaron importantes medidas sobre libertad religiosa y educación pública.
Quatrevingt-treize está estructurada en tres partes: la primera se titula El mar y describe la llegada de un navío de guerra británico tripulado por marinos monárquicos franceses, la corbeta Claymore, que tiene por objeto desembarcar en las costas de Bretaña, en el extremo noroeste de Francia, al marqués de Lantenac, un viejo general destinado a erigirse en jefe militar del levantamiento de la Vendée, como se denomina a la región.

El proyecto de los realistas es organizar las guerrillas campesinas y despejar una cabeza de puente para permitir el desembarco de tropas regulares británicas para atacar a las fuerzas republicanas desde el Oeste y marchar hacia París que era atacado desde el Este por los prusianos y austríacos. En esa primera parte, Hugo hace gala de su dominio de los temas marinos y presenta una aventura que define al anciano Lantenac como un jefe cruel e inflexible dispuesto a cumplir su objetivo a sangre y fuego. Según Hugo, a los 6.000 campesinos vandeanos se enfrentan 1.500 hombres de los batallones republicanos, uno de los cuales, el batallón del Gorro Rojo, está constituido por voluntarios parisienses comandados por un personaje secundario pero importante, el sargento Radoub. El comandante de los revolucionarios es el joven Gauvain, un noble que repudió su origen aristocrático y se adhirió decididamente a la revolución; además es sobrino nieto de Lantenac.
La trama se desarrolla en torno a la guerra civil en la Vendée pero la segunda parte se ubica en el centro de la gran revolución, la ciudad de París, donde sesionan la Convención y los órganos de la República Jacobina y donde se presenta a los más importantes jefes revolucionarios: Dantón, Robespierre y Marat en debate. Allí Hugo plantea las posiciones de cada uno de ellos e incorpora a un personaje de ficción, el ex-sacerdote Cimourdain que es enviado a la Vendée para actuar como inflexible y determinado comisario político de las fuerzas republicanas.

En la tercera parte se produce el desenlace de la trama melodramática y se denomina La Vendée. En toda la trama aparecen personajes secundarios definidos con maestría por el autor: Halmalo, Tellmarch, Michelle Fléchard y sus hijos (adoptados por el Batallón del Gorro Rojo y tomados como rehenes por los realistas comandados por Lantenac y el “ogro” l´Imanous).
Antes de considerar los aspectos ideológicos de la novela hay que llamar la atención sobre dos aspectos de la maestría técnica del autor. Umberto Eco, en su tratado El Vértigo de las Listas (Barcelona, 2009), en el capítulo 15, titulado “El exceso, de Rabelais en adelante”, incluye la célebre lista de los convencionales que Hugo inserta en el Noventa y Tres con la siguiente introducción: “Quien veía la Asamblea se olvidaba de la sala; quien atiende el drama no piensa en el teatro. Nada más deforme ni más sublime. Un montón de héroes, un rebaño de cobardes. Unas fieras en una montaña, unos reptiles en un pantano. Allí pululaban, se codeaban, se gritaban, se insultaban, se amenazaban, luchaban y vivían todos estos combatientes que hoy no son ya sino fantasmas. Titánico recuento”.

Enseguida páginas y páginas con una apretada y fantástica lista con los nombres, las definiciones, las proclamas y los gestos de los verdaderos convencionales. No hay ficción sino el “titánico recuento” anunciado. En otra parte de su tratado, en el capítulo 6, “Listas de Lugares”, Eco incluye la lista de los lugares de encuentro en Bretaña que el jefe realista Lantenac le indica a un emisario. Hugo recorrió esos sitios y su descripción minuciosa justifica la elección que hizo Eco.

Sin embargo, nosotros preferimos otra lista no menos fantástica y realista, la descripción de los bosques de la Vendée que figura en el primer capítulo de la tercera parte. Hugo ubica “gráficamente” las decenas de bosques, arroyuelos y cañadas, los caseríos, las poblaciones más grandes que fueron escenario de la feroz guerra civil. “La Vendée no puede ser completamente explicada -asegura Hugo- si la leyenda no completa la historia; es necesaria la historia para el conjunto y la leyenda para el detalle”.

Claudio Magris, en un capítulo de su obra Utopía y desencanto. Historias, esperanza e ilusiones de la modernidad (Barcelona, 2001), cuenta que en el discurso que Víctor Hugo pronunció al ingresar a la Academia Francesa, en 1841, se percibe que está empezando a ver no solo las aberraciones sino también la grandeza de la Convención: la define como un tema “tenebroso, lúgubre y atroz pero sublime”.

Más tarde, en la medida en que el autor va adoptando posiciones sucesivamente liberales, republicanas, democráticas y socializantes, pasa a glorificar al 89 (1789, el inicio de la revolución) pero condenando el “extremismo” del 93. “La fascinación que luego empieza a sentir por este último -dice Magris- está ciertamente vinculada a su entusiasmo por lo grandioso y anómalo; la Convención le fascina del mismo modo que la tempestad que, al comienzo de la novela, se desencadena sobre el barco vandeano que lleva a Francia al marqués de Lantenac, el caudillo de la reacción”.

Para Víctor Hugo la Revolución Francesa fue un acontecimiento que hizo época, que quebrantó la historia, un parto violento de la modernidad, una proclama para la humanidad. En su evolución personal continuó criticando la violencia pero lo que lo distanció de los republicanos conservadores fue que no se limitó a criticar, exagerar o vilipendiar la violencia revolucionaria como estos hacían y, digámoslo claramente, siguen haciendo.

La violencia por razones de Estado ha sido naturalizada cuando es ejercida por el poder tradicional pero se la condena con “inflexible espíritu evangélico” (dice Magris) cuando quienes la ejercen son los revolucionarios y, en el caso de la Revolución Francesa, los jacobinos. Hugo nunca se contó entre sus contemporáneos que se horrorizaban con el público sanguinario que asistía a los guillotinamientos durante el Terror del 93 pero contemplaban indulgentes e hipócritas a las damas de la sociedad parisina que asistían alegremente al espectáculo de los fusilamientos de comuneros, niños incluidos, en 1871.
En el Noventa y Tres, el autor pone al mismo nivel la ferocidad que despliegan los monárquicos y los republicanos en la sangrienta guerra civil de la Vendée, que califica de guerra de bárbaros contra salvajes. Sin embargo, establece una diferencia esencial y objetiva entre la falta de compasión jacobina de Cimourdain y el despiadado jefe vandeano Lantenac. Para Hugo, Cimourdain es el hombre del futuro, el que está dispuesto a sacrificarlo todo por su ideal que conlleva la emancipación real y la conquista de libertades concretas para la humanidad. En tanto, el marqués de Lantenac combate con igual denuedo pero para perpetuar la opresión, la injusticia, la ignorancia y la crueldad del antiguo régimen.

En la trama de la novela -advierte Magris- el autor “excluye genialmente cualquier vicisitud amorosa puesto que la abnegación y la violencia revolucionaria no dejan lugar en su opinión al amor. La revolución no es el deseo, es el sacrificio de quien subordina su propia felicidad al deber de un combate que tiene como fin el que muchos otros no sean excluidos de la felicidad”.

Esa es la grandeza que Hugo captó y desarrolló en su novela. Aún a través de delirios, excesos y perversiones la República Jacobina le dio vida a un grandioso proceso de libertades civiles concretas. Fue el asalto al cielo que creó una conciencia de derechos y valores universales que contribuyeron a romper las cadenas del género humano. Una conciencia que, de un modo u otro, influyó sobre todos los movimientos revolucionarios futuros, desde las revoluciones libertadoras de América Latina a las revoluciones europeas de 1830 y 1848, la Comuna de París de 1871, la revolución mexicana de 1910, la revolución rusa de 1917, los movimientos anticolonialistas de los siglos XIX y XX y la revolución china, entre otras. La lucha por un mundo mejor, más libre, más justo, siempre ha incluido en su trama algún hilo de esta historia sin fin.

Uno de los aspectos más vigentes de Noventa y Tres es el lugar que ocupa en la trama la guerra civil. Más adelante veremos algunas características objetivas que la investigación histórica de los últimos años ha arrojado sobre el periodo, en que la Revolución y Francia misma estuvieron a punto de desintegrarse (todo “pendía de un hilo”, como sostiene McPhee). Ahora digamos que Hugo reconoce la genuina subjetividad de los valores que los vandeanos defendían valientemente pero, al mismo tiempo, advierte que “la ideología vandeana” manipuló y pervirtió esos valores locales, usándolos para inducir a los campesinos de la región a combatir por el triunfo de la opresión.
En 1874, el autor sentía que solamente en la militancia revolucionaria era que los valores que percibía en los vandeanos (el coraje, la amistad, la lealtad, los afectos familiares, el amor por el terruño) podían convertirse en auténticos valores históricos capaces de incorporarse como patrimonio de toda la humanidad dejando así de operar como instrumentos de división y enfrentamiento entre oprimidos.

Hugo no olvidó los valores localistas de la vieja Francia que su personaje Lantenac opone al centralismo de la República Jacobina en una forma muy actual, como reivindicación de las diversidades y una forma perversa de federalismo. Sin embargo, el autor también muestra la trampa del viejo aristócrata que usa el localismo y las peculiaridades culturales como férreo instrumento de dominio: la periferia contra el centro revolucionario (París), el campo contra la ciudad, los valores patriarcales y la religión tradicional contra la liberación y el “extremismo” popular, el sometimiento de las mujeres (que Lantenac no vacila en hacer fusilar delante de sus hijos) contra el inmenso papel que jugaron las hembras en el campo revolucionario. ¿O acaso el libreto de la derecha es hoy en día diferente, en Francia y en cualquier lugar del mundo?
Para el hombre que inmortalizó la épica de los desposeídos en Los Miserables, el Noventa y Tres se ubica también en un terreno literario que caracteriza su estilo, el del fluir tempestuoso de la vida, “aceptada y celebrada -como dice Magris- en su globalidad, en la tragedia y en la parodia, en sus poderosas contradicciones. Hugo se encuentra como en su propio elemento y traza de él un fresco grandioso y anómalo, con la ingenua elementalidad psicológica que deploró Flaubert y con tonos melodramáticos que nos hacen reír pero que son a la par testimonios de su grandeza, porque sólo un gran escritor puede medirse con el melodrama, con las grandes pasiones y los grandes efectos, los grandes gestos y las grandes palabras, con la monumentalidad sentimental”.

Está claro que Hugo no fue un revolucionario, pero los historiadores conservadores y los intelectuales derechistas y contrarrevolucionarios nunca le perdonaron sus luchas, su arte y sus convicciones. Karl Marx le hizo a Hugo una crítica certera y respetuosa, en una única mención, pero vale la pena repasar el párrafo en que alude a las publicaciones que criticaron el golpe de Estado de diciembre de 1851 a cuya disección dedicó El 18 Brumario de Luis Bonaparte (1852):
“Entre las obras que trataban en la misma época del mismo tema -escribió Marx- sólo dos son dignas de mención: ‘Napoléon le Petit’, de Víctor Hugo, y "Coup d'Etat", de Proudhon. Víctor Hugo se limita a una amarga e ingeniosa invectiva contra el editor responsable del golpe de Estado. En cuanto el acontecimiento mismo, parece, en su obra, un rayo que cayese de un cielo sereno. No ve en él más que un acto de fuerza de un solo individuo. No advierte que lo que hace es engrandecer a este individuo en vez de empequeñecerlo, al atribuirle un poder personal de iniciativa que no tenía paralelo en la historia universal. Por su parte, Proudhon intenta presentar el golpe de Estado como resultado de un desarrollo histórico anterior. Pero, entre las manos, la construcción histórica del golpe de Estado se le convierte en una apología histórica del héroe del golpe de Estado. Cae con ello en el defecto de nuestros pretendidos historiadores objetivos. Yo, por el contrario, demuestro cómo la lucha de clases creó en Francia las circunstancias y las condiciones que permitieron a un personaje mediocre y grotesco representar el papel de héroe”.
Desde fines del siglo XX y especialmente desde los comienzos del actual, la investigación histórica ha aportado nuevos elementos que confirman las intuiciones y reflexiones de Hugo y se contraponen a la ofensiva revisionista (que encabezó el finado Furet) para negar el carácter social de la revolución sin ofrecer a cambio una visión alternativa.

Vale echar un vistazo al terrible año 1793. La retórica de los girondinos en la Convención era cada vez más inoperante. Francia estaba al borde del colapso y la desintegración. Ante el ataque militar de los ejércitos realistas extranjeros desde el Este, el Noreste, el Sureste y el Suroeste, la mayoría de los diputados de la “Llanura” empezaron a apoyar las medidas de emergencia propuestas por los jacobinos. En marzo del 93 se dispuso la leva masiva para incorporar 300.000 reclutas con el fin de enfrentar a las fuerzas extranjeras y realistas que penetraban por todos lados. El reclutamiento forzoso funcionó bien en las zonas fronterizas y en París, pero en el Oeste produjo una insurrección armada que tomó el nombre de la región más característica: la Vendée, y de este modo la república se vio atacada por todos lados.

Esta guerra civil causó tantas bajas como las que se produjeron en las guerras que ese año enfrentaron a la República con los ejércitos invasores. Se estima que las bajas ascendieron a 400.000 personas, más o menos la mitad en cada uno de los bandos. A pesar de que hubo numerosos levantamientos y motines monárquicos y los llamados “federalistas” en casi todas las grandes ciudades del sur de Francia, la guerra civil fue la más sangrienta y la que demandó los mayores recursos militares a la república.

Se ha comprobado que las causas del levantamiento vandeano tenían que ver con las características de la región de la Costa Atlántica al sur del Loira y de los efectos específicos que la Revolución había tenido en ella desde 1789. Los historiadores derechistas presentan a la represión de esta guerra civil como un “genocidio”, denominación que no pueden respaldar con pruebas. Para los historiadores de izquierda la Vendée fue una puñalada por la espalda orquestada por los nobles y el clero refractario. Fue una guerra de desgaste, una guerra de guerrillas, pero lo que Hugo presentó como el plan maestro de los monárquicos, el facilitar el desembarco de ejércitos regulares británicos, nunca se concretó.

La región donde estalló la violencia se caracterizaba por la existencia de granjas separadas por altos cercos vegetales y bosques con escaso o ningún contacto con el exterior donde se practicaba una agricultura de subsistencia y la cría de ganado. Paralelamente se desarrollaba una producción textil de tipo familiar en pequeños centros urbanos, los caseríos. Las enormes propiedades de la nobleza y de la Iglesia y las órdenes religiosas habían sido arrendadas a campesinos acomodados a través de intermediarios burgueses.

Las cargas e impuestos de los dueños de la tierra y del Estado antes de 1789 habían sido relativamente leves en comparación con las que pesaban sobre otras regiones de Francia. El clero era muy poderoso, numeroso y activo, sus miembros se reclutaban en la misma región, jugaba un papel social preponderante con cientos de parroquias que contaban con muchos recursos. Los curas recaudaban el diezmo personalmente. Para los campesinos que poblaban las granjas y los caseríos, la misa dominical era la ocasión única para un contacto social, para reforzar su identidad parroquial, tomar decisiones y enterarse de las noticias que trasmitían los sacerdotes.

Las reivindicaciones de los pobladores (que se han estudiado en los famosos cahiers o cuadernos que elevaron a los Estados Generales) reclaman el fin de los privilegios feudales y su participación en el poder político; pero a diferencia de los de otras regiones de Francia no figuran en ellas crítica alguna a la Iglesia que era la gran propietaria feudal. La Revolución no aportó beneficios significativos a los campesinos de la Vendée: los impuestos estatales aumentaron y fueron recaudados más sistemáticamente por los burgueses de las ciudades que se hicieron cargo de los ayuntamientos y fueron los mayores compradores de las tierras de la Iglesia a partir de 1791 (según McPhee en el distrito de Cholet -por ejemplo- los nobles compraron el 23,5% de esas tierras, los burgueses el 56,3% y los campesinos solamente el 9,3%).

En un principio la región no fue contrarrevolucionaria, pero la posterior participación de la nobleza y el clero refractario la transformó en ese sentido. De todos modos, muchos campesinos no estaban dispuestos a formar un ejército regular y a abandonar sus tierras para atacar París de la misma forma que no querían volver a pagar los tributos feudales y el diezmo. Por esa razón y por las características del territorio boscoso y agreste que Hugo describió minuciosamente, la guerra adoptó la característica de una guerra de guerrillas, de movilidad y de emboscadas, ataques nocturnos por sorpresa, golpes rápidos y retiradas.

Hubo un par de batallas en que los vendeanos fueron derrotados, pero lo que caracterizó la lucha fue un círculo vicioso de matanzas y represalias por parte de ambos bandos. “La crudeza de la lucha en momentos de crisis militar nacional –dice McPhee– alentó una terrible represión: cuando el general Westermann informó a la Convención en diciembre de 1793 que ‘la Vendée ya no existe’, admitió que ‘no hicimos prisionero alguno: habría sido preciso darles el pan de la libertad y la piedad no es revolucionaria’. Entre diciembre y mayo de 1794, tras aplastar la insurrección, ‘las columnas infernales’ del general Turreau llevaron a cabo una venganza de ‘tierra quemada’ en 773 comunas declaradas fuera de la ley. Informó al ministro de la guerra que todos los rebeldes y presuntos rebeldes de cualquier edad y sexo serían ajusticiados: ‘todos los pueblos, granjas, bosques páramos, todo lo que pueda arder, ser incendiado’. Se ha calculado que en estas comunidades murieron unas 117.000 personas (el 15 % de la población)”.

La historia, como sostiene Traverso, debe ayudar a interpretar las violencias del siglo XX y, por qué no, las del siglo XXI, pero en ese empeño los frescos épicos del gran literato francés han puesto una pincelada reflexiva que tomó partido por quienes luchan por la libertad, por un mundo mejor y más justo. Por eso mismo el sargento Radoub, el del Batallón del Gorro Rojo, es el héroe más notable del Noventa y Tres, porque era “inmune a los prejuicios seculares y al sectarismo, capaz de vivir con gallardía, de combatir, amar y perdonar”.

miércoles, 12 de diciembre de 2018

Ética y psicología de la inteligencia artificial (II)


ÉTICA Y PSICOLOGÍA DE LA INTELIGENCIA ARTIFICIAL (II)
Lic. Fernando Britos V.


Internet es interesante por las paradojas que suscita” - Dominique Wolton en Informar no es comunicar (2009).
Esta vez veremos las relaciones entre diagnóstico y tratamiento en materia de psicoterapia como parte de los dilemas éticos que plantea la explosión de la inteligencia artificial (IA); el desarrollo de los psicoterapeutas virtuales y el floreciente negocio de los chatbots que prometen aliviar los males (depresión, estrés, ansiedad, burnout laboral, etc.) chateando. Todo en el marco de la cuestión fundamental ¿podrá la IA reemplazar a los humanos, superarlos y dominarlos? y finalmente entusiastas y previsores respecto a los aportes de la IA en el campo de la salud.
Porqué las máquinas no dominarán a los humanos
“Todo el mundo debería reflexionar acerca de la ética del trabajo que hace y del trabajo que elige no hacer”– dice la Dra. Joanna Bryson 1 y agrega que la IA y los robots a menudo parecen divertidos artefactos de ciencia ficción pero, en los hechos, cada vez afectan más nuestra vida cotidiana. Empresas como Google, Amazon o Mercado Libre por estas latitudes, nos ayudan a ubicar cosas o servicios que buscamos mediante la IA pero al mismo tiempo acumulan conocimiento acerca de cada uno de nosotros que después usarán, en el mejor de los casos, para machacarnos hasta el cansancio con ofertas comerciales.
Los Estados Unidos y otros países y organizaciones hace años que emplean la IA con fines militares. Nada de esto es novedoso. Hace diez años los Estados Unidos tenían más robots (en lo fundamental drones) que soldados en Irak (unos 9.000). En el año 2014, un científico tan prestigioso como Stephen Hawking2 había hecho una predicción apocalíptica acerca de la supremacía que adquirirían las máquinas inteligentes sobre la especie humana.
Sin embargo – según Bryson – el problema no radica en que los robots vayan a conquistar el mundo o en la necesidad que haya que diseñar “robots éticos” como las grandes corporaciones se plantean sino en que hay quien sostiene que las máquinas inteligentes y los algoritmos son responsables de su propio desempeño. Allí hay un sofisma de distracción: los robots pertenecen a seres humanos; los gobiernos y las empresas los construyen, los poseen y los programan. Quien posee un robot es responsable de lo que este hace.
Si los robots pueden adueñarse del mundo o las máquinas aprenden a predecir y anticipar cada uno de nuestros movimientos o transacciones y los gobiernos siguen tratando de responsabilizar a las máquinas por sus propias decisiones políticas carentes de ética ¿por qué deberíamos trabajar en desarrollar la inteligencia artificial? - se pregunta Bryson – y responde: “mi razón personal es simple: deseo ayudar a que la gente reflexione”. Nuestra sociedad enfrenta muchos y difíciles problemas, ¿ cómo encontrar la forma de trabajar juntos y aún asi mantener nuestra diversidad? ¿cómo evitar las guerras y terminar con ellas?, ¿cómo aprender a vivir en este planeta en forma realmente sustentable (donde nuestros hijos no consuman más espacio y tiempo que nuestros padres ni más recursos que los que pueden ser reemplazados a lo largo de una vida) y al mismo tiempo proteger los derechos humanos?
La resolución de esos problemas podría ser imposible en un lapso breve pero desarrollando y utilizando la IA podríamos encontrar algunas respuestas. Disponer de herramientas que nos ayuden a pensar pueden hacernos más capaces y si tenemos algunas que nos ayuden a entender como es que nosotros pensamos esto permitiría encontrar formas de ser más felices. Desde luego, todo el conocimiento y sus herramientas, pueden ser usadas tanto para el bien como para el mal. Por eso es importante reflexionar acerca de la IA y como deseamos que sea utilizada.
Bryson sintetizó en cinco puntos las razones por las que considera que la preocupación por la “explosión de la superinteligencia” y el temor a los robots no tiene sentido (no son personas ni siquiera primates). A saber:
a) La IA presenta los mismos problemas éticos que otros artefactos convencionales – Según Joanna Bryson, los temerosos cometían un error muy básico: temían que lo que fuera más inteligente que ellos podría derrotarlos. Entonces escribió, (en coautoría con Ph. Kime) uno de sus primeros trabajos últimamente actualizado (se puede acceder a Just an Artifact: Why Machines are Perceived as Moral Agents en www.cs.bath.ac.uk/~jjb/ftp/BrysonKime-IJCAI11.pdf).
Experimentar con la IA puede ayudar a comprender mejor lo que significa ser humano 3. Por otra parte, las cuestiones éticas que se plantean con la IA son las mismas que se registran con otros artefactos o constructos humanos como las bellas artes o las tecnologías.
b) Está mal aprovecharse de la ignorancia de la gente y hacerle pensar que la IA es humana – No basta con que los expertos comprendan el papel que juega la IA en la sociedad sino que tienen la obligación profesional de comunicar esa comprensión al público en general. La gente que emplea IA debe saber cuales son sus riesgos reales. Lamentablemente es más fácil hacerse famoso y vender robots si se anda por ahí aparentando que lo que venden “necesita ser amado” o presumiendo que su bot es humano o sobrehumano lo que equivale a tener sexo con una muñeca o muñeco inflable.
En el año 2010, Bryson participó en la adopción de Principles of Robotics (Principios de la Robótica) que se aplican en Gran Bretaña. Los cinco principios son: 1) los robots no deberían ser diseñados como armas, excepto por razones de seguridad nacional; 2) los robots deben ser diseñados y operados para cumplir con las leyes actuales, incluyendo las que protegen la privacidad; 3) los robots son productos y como otros productos deben ser diseñados para ser inofensivos y seguros; 4) los robots son artefactos manufacturados: las ilusiones acerca de emociones e intenciones no deben ser usadas para aprovecharse de los usuarios vulnerables; 5) siempre debe ser posible ubicar a la empresa o la persona que es responsable de cualquier robot.
Bryson es una de muchos investigadores que trabajan en el desarrollo de consciencia artificial y emociones sintéticas, asuntos que no son más mágicos o merecen más compromiso ético que las manos o piernas ortopédicas. En los humanos, la consciencia y la ética están asociadas con nuestra moral – sostiene - pero esto se debe a nuestra historia evolutiva y cultural.
En el caso de artefactos tecnológicos, la obligación moral no está vinculada con una necesidad lógica o mecánica de auto consciencia o sentimientos. Esta es una de las razones por las que no se debe hacer responsable a la IA como un ser abstracto: no se puede penalizarla en forma significativa porque los buenos sistemas de IA son diseñados en forma modular de modo que las consecuencias de las malas acciones siempre podrían ser evitadas, excluidas o extirpadas, a diferencia de lo que sucede en la naturaleza
c) Los robots nunca serán realmente nuestros amigos – Los robots, al ser concebidos por nosotros, siempre serán propiedad de un humano.
En el 2007 Bryson comentó un artículo de Anne Foerst titulado “Robots y Teología” que presentaba la perspectiva que los robots son capaces de ser personas y conocer el pecado y que, como tales, son una parte del mundo espiritual. Entonces argumentó que aunque es interesante utilizar a los robots para razonar acerca de lo que significa ser humano llamarlos “humanos” deshumaniza a las verdaderas personas. Peor aún, le proporciona a la gente una excusa para imputarle sus acciones cuando realmente cualquier cosa que haga un robot es responsabilidad total de los humanos que los crean o los entrenan.
La IA está acelerando un fenómeno de por si relativamente vertiginoso que viene desarrollándose desde hace unos 10.000 años: la cultura humana. La cultura humana está cambiando casi todos los aspectos de la vida en la Tierra, especialmente la sociedad 4. La cultura de la especie es acumulativa y diferente de la de otras especies. La cultura humana es maravillosa y también peligrosa (exterminamos millones de personas, extinguimos otras especies con nuestras armas, con la contaminación y con las estrategias de competencia feroz para aumentar las ganancias).
Dice la Dra. Bryson que al debatir acerca de ética e IA se ha dado cuenta que mucha gente confunde inteligencia con sensibilidad. Ella prefiere pensar que la inteligencia es la capacidad plástica y adaptativa de modificar el comportamiento en respuesta a los cambios que se perciben en el medio. La IA existe sin otra motivación que la que le proporciona su programador humano. Si esto es aceptado se podría admitir que la primera forma de IA, la que desencadenó la explosión de la inteligencia, fue la escritura que dio lugar a una memoria externa a la mente lo que permitió a los humanos volverse más innovadores y acumular más conocimientos.
d) La cultura humana ya es una máquina superinteligente que está cambiando el mundo – La cultura humana es la máquina superinteligente que ha aprendido a generar más biomasa sobre el planeta que nunca antes (mediante la extracción de combustibles fósiles) pero que está cambiando toda esa vida (por lo menos los grandes animales) por unas pocas especies (humanos, perros, gatos, ovejas, cabras y vacas). Nadie ha intentado deliberadamente liquidar la biodiversidad en el planeta pero lo estamos haciendo. En forma similar, nadie decidió que los niños no estaban suficientemente controlados hasta fines del siglo pasado pero en unas pocas décadas la niñez y la paternidad han sido completamente transformadas como resultado de la expansión del conocimiento. La IA tiene mucho que ver con esos fenómenos pero estos no son su consecuencia exclusiva: son asimismo el resultado de los dispositivos móviles de comunicación, la acción de los medios de comunicación, los cambios en la sociedad y los procesos culturales.
e) Investigación y protección de datos personales - La IA y la informática, especialmente las máquinas que aprenden y también la interacción humano/computadora (IHC), son capaces de ayudar en la investigación en ciencias sociales, incluyendo las ciencias políticas, la economía, la psicología, la antropología. El conocimiento del comportamiento humano podría ser el mayor beneficio de la IA si nos ayudara a reducir los conflictos y vivir en forma sustentable. Sin embargo, saber perfectamente bien lo que una persona individual hará en una situación particular es obviamente un poder muy pero muy grande.
Las malas aplicaciones de ese poder incluyen la adicción deliberada de los consumidores a un producto o servicio, la manipulación de votaciones y de la opinión pública, la difusión de noticias falsas y otras prácticas manipuladoras. La inviolabilidad de nuestra información personal - advierte Bryson - debe ser preservada como la del hogar. En primer lugar, nuestra información personal no puede ser vendida sino, en el mejor de los casos, prestada para un fin específico. Este es el modelo que aplican las compañías de software para su productos. Por ende – recomienda - si sospechamos que nuestra información ha sido utilizada en una forma que no aprobamos, debemos ser capaces de demandar judicialmente 5 y las aplicaciones que recogen nuestros datos personales deben protegernos de cualquier intrusión.


Psicoterapeutas virtuales y otros antecedentes
Entre 1964 y 1966, Joseph Weizenbaum 6, un científico del Instituto Tecnológico de Massachusetts (MIT), desarrolló un programa de computadora que simulaba ser un psicoterapeuta de la escuela de Carl Rogers 7 . ELIZA (así se llamó el programa) hacía preguntas abiertas con la intención de animar al usuario a discutir sus emociones. Weizenbaum se sorprendió al ver como las personas hablaban de sus problemas íntimos con la máquina, hasta tal punto que cuando el experimento terminó, algunos sujetos se negaron a creer que habían estado intercambiando mensajes con una máquina y no con un psicoterapeuta.
Ha pasado más de medio siglo desde que operó ELIZA y en el campo de la psicoterapia computarizada no ha habido mayores avances. Es cierto que la psicoterapia puede llevarse a cabo mediante internet, mediante correos electrónicos o videoconferencias (terapia en linea) pero se trata de formatos poco utilizados por su falta de eficacia . Se asimilan a los llamados tratamientos de autoayuda, modas o propuestas que únicamente reportan beneficios duraderos para sus propagandistas y practicantes y no para quienes se someten a ellas.
Los cuestionarios de intención psicodiagnóstica pueden ser administrados por una máquina pero en realidad la intervención de la IA no resulta útil por la frialdad y distanciamiento aun cuando se empleen algoritmos conversacionales. Es lo que los psicoterapeutas señalan como “falta de rapport” 8. Se dice que algunas formas de terapia, como la terapia cognitivo-conductual (TCC), son especialmente adecuadas para este tipo de entrega algorítmica. Sin embargo, otras técnicas de terapia, como las que dependen más de la relación terapeuta/paciente , son mucho más difíciles de automatizar. A los ojos de los reduccionistas, las psicoterapias son mucho más difíciles de evaluar pero en este caso interviene otro concepto fundamental que es el de la curación sobre el que, al igual que la definición de inteligencia, no existe un consenso científico.
Ciertos psicólogos noveleros, como Albert “Skip” Rizzo9 en la Universidad del Sur de California, desarrollaron hace unos años a “Ellie, la terapeuta virtual”, un bot conversacional destinado a tratar una serie de trastornos, especialmente el síndrome de estrés postraumático que afectaba y afecta a muchos militares estadounidenses, ex-combatientes que retornaron de Irak, Afganistán y otras guerras. Naturalmente Ellie fue financiada por las fuerzas armadas y Rizzo plantea que es "forzar a la psicología —aunque sea a regañadientes— a incorporarse al siglo XXI".
Los partidarios de Ellie emplean el manido argumento que algunos pacientes prefieren abordar sus problemas íntimos con ella en lugar de hacerlo con un o una terapeuta humana. Por otro lado, muchos científicos ven al bot como un truco barato, en que una computadora sin inteligencia tiene la capacidad de engañar a los pacientes para hacerles creer que están hablando con una persona sensible e inteligente.
Según Rizzo lo que a menudo rompe esa ilusión en la conversación entre el paciente y Ellie no es el contenido de lo que se habla - ya que el algoritmo se ajusta al guión que se le hizo, que a su vez está basado en miles de sesiones de terapia clínica tradicional10 – sino en lo que él llama la “sincronización” es decir a la forma en que los humanos detectamos e interactuamos en base a la observación de las emociones durante la conversación. Para mejorar esta “sincronización”, Ellie ha incorporado módulos con cámaras que escudriñan el rostro del paciente, su postura, el movimiento de sus manos y los cambios en la voz, para determinar el estado emocional de su interlocutor.
A pesar de estos perfeccionamientos Rizzo ha manifestado que los terapeutas virtuales no reemplazarán a los humanos. Como en el caso de los algoritmos seleccionadores utilizados para el acceso al trabajo, estos terapeutas virtuales harán la atención de primera linea, una especie de triaje que permite contar con los antecedentes básicos de un gran número de personas, descartar expeditivamente a los que no encajan en alguna o algunas pautas del algoritmo y permitir que el terapeuta humano dedique su atención a quien lo merezca o lo pague adecuadamente. Aquí también, en los cargos de ingreso (al trabajo o al tratamiento) los aspirantes serán manejados por máquinas. En tanto, en los niveles superiores la atención y las decisiones estarán con mayor frecuencia en manos de psicólogos u otros técnicos humanos.
"El problema que tenemos – declaró Rizzo - particularmente con la actual crisis de salud mental en el ejército, es que no contamos con suficiente personal bien entrenado para manejar el asunto". Por su Instituto de Tecnologías Creativas han desfilado cientos de miles de soldados y veteranos que sufren varios niveles de estrés postraumático y allí se realizan experimentos con “humanos virtuales”.
Algunos de los colaboradores del Director, como el joven especialista franco-canadiense Louis-Philippe Morency 11, dirijían el trabajo con Ellie con lo que llaman el “Modo del Mago de Oz". Mientras un paciente se entrevista con Ellie (sentado ante una pantalla plana que presenta, en tamaño casi natural, a una figura femenina en un sofá), en un gabinete cercano dos técnicos van controlando lo que Ellie dice, van ajustando el tono de su voz, sus expresiones y su lenguaje corporal para sacar el mayor partido del encuentro.
Según Morency, Ellieestaba aprendiendo a ser humana”, es decir a simular con mayor perfección sus respuestas porque se le está entrenando para responder e interpretar como lo haría un terapeuta con sus pacientes. Hace unos años pronosticaban que la bot podría funcionar sola y según estos técnicos realizar terapia en linea utilizando la experiencia clínica de los mejores psicólogos del mundo. Según ellos se trata de una forma objetiva de medir el comportamiento humano que además operará como una asistente del especialista, en la misma forma en que un análisis de sangre facilitado por el laboratorio ayuda al médico a tomar decisiones. Sin embargo la aplicación no ha conseguido despegar y extenderse a otros ámbitos.
Más allá del perfeccionamiento de los psicoterapeutas virtuales sus posibilidades prácticas parecen concentradas en los países ricos o, más específicamente, en situaciones como aquellas para las que Ellie fue diseñada: el estrés postraumático como frecuente efecto de las intervenciones militares sobre la psiquis de los soldados estadounidenses.12


Mutación de la autoayuda: grandes negocios para los gurús de Internet
Los promotores estadounidenses de la IA en el campo de la psicoterapia, piensan que es una oportunidad para millones de afectados por diferentes patologías psíquicas pero advierten que los beneficios de estos métodos deben ser cuidadosamente confrontados con sus limitaciones. En realidad, hasta ahora, la eficacia a largo plazo de la IA en materia de salud mental no ha sido probada y en cambio parece haber sido captada como una oportunidad para hacer grandes negocios a través de Internet.
Según el Instituto Nacional de Salud Mental de los Estados Unidos, uno de cada cinco adultos experimentan algún tipo de problema de salud mental, el 17,9%. Hay por lo menos tres razones por las que la incorporación de terapeutas virtuales resulta tentadora para los planificadores de ese país. Una de ellas es el costo de los tratamientos (la atención de la salud mental ha superado a los tratamientos cardiológicos que hasta hace poco eran los más costosos en los EUA). Otra de las razones es la falta de personal idóneo para enfrentar los problemas de salud mental y finalmente el estigma que todavía pesa sobre la enfermedad mental (y en este caso algunos piensan que muchos pacientes confiarían más en una máquina que en un terapeuta humano).
El psicólogo clínico Alison Darcy creó Woebot, un programa integrado a Facebook que apunta a replicar las conversaciones que un paciente podría mantener con un o una terapeuta. Woebot es lo que en la jerga de Internet se denomina un chatbot (un robot conversacional) que se asemeja a una mensajería instantánea. La tecnología pregunta acerca del estado de ánimo y los pensamientos, “escucha” como se siente la persona y ofrece herramientas propias de la terapia conductual cognitiva (TCC) cuyas recetas son muy similares a las llamadas técnicas de autoayuda13.
Darcy advierte que Woebot es un robot que no puede sustituir al contacto humano, entre otras cosas porque las personas suelen requerir tratamientos muy distintos que una sesión virtual es incapaz de brindar. Sin embargo, los avances de los procesadores de lenguaje natural y la popularización de los smartphones ha hecho que los bots conversacionales (chatbots) sean las nuevas estrellas en el firmamento de la IA aplicada a la salud mental. Astutos empresarios los han multiplicado. Pagando una suscripción o comprando una aplicación se puede acceder a una amigable consejería terapéutica en segundos chateando desde el móvil, a cualquier hora y en cualquier lugar.
Los gurús de Internet se han lanzado a operar en distintos idiomas. Emma es un bot que se expresa en holandés y ha sido diseñado para manejar situaciones de ansiedad leve. Karim en cambio se expresa en árabe y se ha empleado para asistir a refugiados sirios que escapan de las atrocidades de la guerra. Sara es el bot en inglés y Mila es su versión en español. Todos los programas fueron desarrollados por X2AI (Automated Mental Healthcare using Emotional Artificial Intelligence, o sea Atención de salud mental automatizada mediante inteligencia emocional artificial) un empresa radicada en Amsterdam y en California.
El “bot madre” de esta compañía es Tess, cuya propaganda puede verse en la página de la empresa: https://www.x2ai.com/ o en https://planetachatbot.com/una-psic%C3%B3loga-perdida-en-inteligencia-artificial-538ebbdde6a5 . En esta última página la psicóloga Mili Escoredo hace alabanzas de su jefe, el CEO de X2AI, Michiel Rauws, un holandés de 29 años. La única formación en psicología de este personaje parece ser haberse sometido a tratamiento con un terapeuta cognitivo conductual (TCC) que le sirvió de modelo para desarrollar sus lucrativos algoritmos.
Se dice que cuatro millones de personas de todo el mundo han pagado para acceder a este bot conversacional de salud mental “diseñado por psicólogos clínicos” (anónimos) que acompaña a las personas a través de los momentos difíciles para desarrollar resistencia por medio de conversaciones a través de mensajes de texto, similares a las que se mantendrían con un amigo o un consejero. Los promotores aseguran que el algoritmo sanitario producirá una mejora en dos semanas. Como suele suceder, las credenciales científicas de los creadores son más bien vagas, sobre todo cuando anuncian que “se ha descubierto que reduce la depresión en un 13% y la ansiedad y el estrés en un 18%” 14. Tess está disponible sin límites y a demanda durante las 24 horas todos los días. Seis son las indicaciones en las que proporcionaría un pronto alivio: depresión, ansiedad, estrés, salud mental de los estudiantes, burnout laboral y respaldo o alivio a cuidadores.

Un fuerte competidor de X2AI, aunque muy similar, es Ginger.io que proclama “Consejería a demanda en todo momento, en todo lugar”. “Apoyo emocional en menos de 60 segundos”. Con la aplicación Ginger.io se obtiene apoyo emocional “cuando lo necesites y sin ser juzgado”. “Es tan conveniente y discreto como enviar y recibir textos en tu smartphone y, lo mejor de todo, si tu empleador participa es gratuito y asequible para ti”. Estos muchachos incursionan en coaching, es decir consejería, y en lo que presentan como telepsicología, telepsiquiatría y autocuidados personalizados.

La lista de clientes de Ginger.io lleva a pensar que, aunque sea a punta de canjes (publicidad por servicios), esta empresa está jugando en una divisional superior que X2AI. Como clientes aparecen empresas como Kaiser Permanente (una compañía californiana de seguros de salud que dice tener más de 211.000 empleados), el New York Times y el Wall Street Journal, Fast Company (una revista mensual estadounidense centrada en los negocios y la tecnología que asegura tener un tiraje superior a los 700.000 ejemplares) y el Foro Económico Mundial (la fundación de los ultrapoderosos con sede en Ginebra, también conocida como Foro de Davos).


Entusiastas y previsores en materia de IA y salud pública
La IA tampoco superará a los humanos en atención de la salud mental pero el tema de las contribuciones y las salvaguardas en relación con la inteligencia artificial y la salud pública es candente y ha motivado intervenciones anuales de sucesivos Directores Generales de la Organización Mundial de la Salud (OMS). El actual Director General, el médico y político etíope Tedros Adhanom Ghebreyesus, que ocupa el cargo desde hace menos de un año, parecería más inclinado hacia el bando de los entusiastas mientras que su antecesora, la médica chino-canadiense Margaret Chan Fung Fu-chun (delegada de la República Popular China), que encabezó la organización entre el 2006 y el 2017, aparece como una decidida impulsora de la incorporación de IA al tiempo que destaca las salvaguardas necesarias para evitar aplicaciones inapropiadas.
Vamos a parafrasear lo que manifestó la Dra. Chan en una reunión mundial de alto nivel patrocinada por la OMS y la UIT (el organismo de las Naciones Unidas especializado en las TICs) que se llevó a cabo en Ginebra. Ante una concurrencia formada por expertos en salud pública, medicina, psicología, inteligencia artificial y representantes de la industria, la Dra. Chan señaló que algunos analistas de mercado pronostican que las máquinas inteligentes, programadas para pensar y razonar como la mente humana, revolucionarán los servicios de salud en un futuro muy cercano. De hecho – dijo - por lo general, los defensores del poder transformativo de la inteligencia artificial dan dos ejemplos: los coches autónomos y la prestación de los servicios de salud.
En el influyente informe Internet Trends Report del 2017, que se publicó en los Estados Unidos, se abordan por primera vez los efectos de las nuevas tecnologías en los servicios de salud, y se vuelve a pronosticar un gran efecto de transformación. La inteligencia artificial plantea un nuevo límite que superar en el sector de la salud. Como ocurre a menudo, la velocidad de los avances tecnológicos ha superado nuestra capacidad para materializarlos en políticas públicas sólidas y hacer frente a una serie de dilemas éticos.
Quedan muchos interrogantes por responder, y todavía no estamos seguros de saber cuáles son todas las preguntas que necesitamos hacer - advirtió la Directora – porque gran parte del entusiasmo en torno a las máquinas inteligentes al servicio de la salud refleja la visión de los países ricos y las empresas privadas con buenos recursos. Necesitamos una perspectiva más amplia.
Creo que deberíamos estudiar los posibles beneficios, riesgos y dilemas éticos en el contexto que ofrecen las tendencias mundiales que definen cuáles son las necesidades sanitarias de prioridad. Durante la última década, he visitado numerosos países en que la mayoría de las instalaciones sanitarias carecían de recursos básicos, como electricidad y agua corriente. Me resultaría difícil hablar a estos países sobre las bondades de la inteligencia artificial cuando, por falta de energía eléctrica, ni siquiera funcionan las máquinas corrientes para analizar las muestras de los pacientes o esterilizar los equipos.
En toda discusión sobre el potencial de las máquinas inteligentes para revolucionar la prestación de los servicios de salud, se deben tener en cuenta estas brechas inmensas entre las capacidades básicas. Al mismo tiempo, también he observado la omnipresencia de los teléfonos inteligentes, incluso en los entornos con recursos más limitados. Puede que las escuelas no tengan retretes o letrinas y que los niños no tengan zapatos, pero los teléfonos inteligentes están a la orden del día.
La clásica dicotomía de las condiciones de salud entre los países ricos y los países pobres ha quedado atrás. En todos lados, la salud está sujeta a las influencias de las mismas fuerzas dominantes, a saber, el envejecimiento de la población, la rápida expansión de la urbanización no planificada y la comercialización de productos insalubres a nivel mundial.
Bajo la presión que ejercen estas fuerzas, las enfermedades crónicas no transmisibles han tomado el lugar que ocupaban las enfermedades infecciosas como la principal causa de muerte a nivel mundial. Los comportamientos humanos y los entornos en que la gente toma las decisiones relativas a su estilo de vida influyen profundamente en enfermedades como la cardiopatía, el cáncer, la diabetes y las enfermedades respiratorias crónicas.
Estas son algunas de las enfermedades más “democráticas”, que afectan a todos por igual, sin distinción por grupo de ingresos ni ubicación geográfica. También son las más costosas.
¿Podría la inteligencia artificial ayudar a tomar mejores decisiones sobre el estilo de vida? ¿Podrían las máquinas inteligentes ayudar a los consumidores a entender las etiquetas de los alimentos o interpretar las distintas opciones en el menú de un restaurante? ¿Podría una aplicación de teléfono inteligente ayudar a las personas con diabetes a mantener un buen control metabólico entre sus consultas al médico? se preguntaba la Dra. Chan.
Además, la demanda de tratamientos a largo plazo o de por vida para las enfermedades crónicas ejerce una presión insostenible sobre el personal de la salud, que está sobrecargado. La Comisión de Alto Nivel sobre el Empleo en el Ámbito de la Salud y el Crecimiento Económico estima que, para 2030, se necesitarán 40 millones de trabajadores sanitarios adicionales para tratar las enfermedades no transmisibles y las afecciones como la demencia en los países ricos. Por su parte, se espera que en los países en desarrollo haya un déficit de 18 millones de trabajadores sanitarios.
Los avances tecnológicos que han eliminado varios puestos de trabajo, sobre todo de la clase media, son en cierta medida la fuerza impulsora de las olas de populismo y los movimientos antiglobalización que se están propagando por algunas partes del mundo.
Habida cuenta de la considerable insuficiencia de trabajadores sanitarios, el uso de la inteligencia artificial en el sector de la salud podría llegar a reducir la sobrecarga de trabajo del personal. Esta es una de las ventajas: sin duda, algunos profesionales de la medicina se opondrán a las tecnologías nuevas y revolucionarias, pero, por el momento, no será porque representen una amenaza para sus puestos trabajo.
Dada la capacidad de las supercomputadoras y los superchips para recabar y organizar grandes cantidades de datos, resulta fácil prever una serie de aplicaciones en el sector de la salud. Como sabemos, a menudo la información sobre la salud está desorganizada y mal estructurada. En muchos casos, se recolecta sistemáticamente, pero no se analiza ni se usa de ese modo. La inteligencia artificial puede dar una estructura a esos datos y orientar algunas decisiones médicas sobre la base de la detección de patrones.
Las supercomputadoras pueden acelerar el proceso de análisis de nuevos compuestos moleculares en la búsqueda de nuevos medicamentos. Además, pueden reducir el tiempo de lectura e interpretación de los resultados de radiografías, electrocardiogramas, ecografías, tomografías computarizadas, e incluso el análisis de las muestras de sangre. Al reducir el margen de error humano, las supercomputadoras pueden ayudar a formular prognosis y diagnósticos más precisos y aumentar la seguridad de los pacientes.
Entre las aplicaciones que se están gestionando, se encuentra el uso personal de los teléfonos inteligentes para comunicar los síntomas y obtener un diagnóstico de la nube. Los desarrolladores entusiastas consideran que, al evitar que quienes estén preocupados saturen la capacidad de las clínicas y las salas de emergencia, se podrían reducir los costos de los servicios de salud.
Para los pacientes que se están recuperando de accidentes cerebrovasculares o de otra índole, los desarrolladores han puesto en marcha un sistema que une la tecnología de sensores con los últimos avances en computación en la nube y proporciona ejercicios de fisioterapia personalizados que pueden hacerse en casa. El sistema tiene una función de retroalimentación inmediata que mantiene un registro de los movimientos correctos e incorrectos. Se estima que su costo es igual al 10 % del valor de las sesiones de fisioterapia que se dan en las instalaciones sanitarias.
En medio de tan emocionante potencial -advirtió Chan - hay varias razones por las que debemos actuar con precaución.
En primer lugar, las decisiones médicas son complejas. Dependen del contexto y los valores como el cuidado y la compasión. Dudo que las máquinas logren alguna vez imitar la compasión humana. En segundo lugar, las máquinas pueden servir de apoyo a la labor de los médicos, organizando, racionalizando y simplificando los procesos necesarios para el diagnóstico u otras decisiones médicas. Sin embargo, la inteligencia artificial no puede reemplazar a los médicos y enfermeros en sus interacciones con los pacientes.
En tercer lugar, debemos tener en cuenta el entorno y lo que implica en la vida de la gente. ¿De qué sirve tener un diagnóstico temprano de cáncer de piel o de mama en un país donde no hay oportunidades de tratamiento, especialistas, ni instalaciones especializadas, o donde el precio de los medicamentos es demasiado alto, tanto para los pacientes como para el sistema de salud?
¿Qué pasa si una aplicación de teléfono inteligente pasa por alto un síntoma que está señalando una enfermedad subyacente de gravedad? ¿Se puede demandar a una máquina por negligencia?
Los medicamentos y los dispositivos médicos están sujetos a muchos reglamentos, y por buenas razones. Las facultades de medicina están acreditadas. Los médicos y los enfermeros obtienen una licencia para practicar sus profesiones y a menudo se los obliga a hacer cursillos de educación permanente. ¿Cómo se regula una máquina que ha sido programada para pensar como un humano?
Las cuestiones regulatorias deben resolverse antes de que las nuevas tecnologías de inteligencia artificial lleguen al mercado. Ya se está cuestionando la fiabilidad de los dispositivos portátiles que evalúan el rendimiento cardíaco. En la historia de la medicina hay numerosos ejemplos de tecnologías que terminaron por rechazarse porque daban una falsa sensación de seguridad.
La recolección de grandes cantidades de datos plantea cuestiones serias en relación con la privacidad de los pacientes y la confidencialidad sacrosanta de los registros médicos. Estas son otras problemáticas que deben estudiarse con anticipación. Por último, debemos tener en cuenta que en muchos países en desarrollo no hay grandes cúmulos de datos por recabar. Estos son países que aún no cuentan con sistemas de información en que almacenar los registros civiles y las estadísticas de causas de muerte.
En resumen, la inteligencia artificial en el sector de la salud tiene un potencial inmenso, pero también es inmensa la necesidad de tomar algunas precauciones.
Nada que agregar a una advertencia que no tiene desperdicio.



1La Dra. Joanna Bryson es una especialista británica en IA y en ética de la investigación que trabaja en la Universidad de Bath. Desde hace más de 20 años mantiene un blog y su producción bibliográfica es de referencia mundial en los temas de su especialidad. Recomendamos muy especialmente acceder a su blog: https://joanna-bryson.blogspot.com . De la introducción a su blog y de uno de sus trabajos sobre ética e IA citaremos extensamente.
2Stephen Hawking (1942-2018) físico, cosmólogo y matemático británico recientemente fallecido.
3Christian, Brian (2011) The Most Human Human, Barnes & Noble, Nueva York. Un texto interesante que, hasta donde sabemos no ha sido traducido al español, a pesar de haber sido best seller en los países anglosajones. El autor de “El humano más humano” hizo una investigación sobre la competencia anual entre programas o bots conversacionales que se desarrolla para superar el Test de Turing, es decir para hacer creer a los jueces humanos que su interlocutor es también humano. Christian analizó los increíbles logros de los programas presentados así como las fallas fascinantes que demostraron, para destacar las capacidades o habilidades típicamente humanas para aprendrer, para comunicarse, para entender y para intuir. De este modo, en una época en donde las máquinas parecen estar desplazándonos y sustituyendo en esas capacidades, el autor reclama la atención acerca de que tan humanos somos capaces de ser.
4La Dra. Bryson incluye en su blog una entrada titulada The Intelligence Explosion started 10,000 years ago (+/- 2,000) (La explosión de la inteligencia comenzó hace 10.000 años <+/- 2.000>) en la que argumenta que la llamada “explosión de la inteligencia” no se producirá a futuro como efecto del desarrollo de la IA sino que se remonta a 10 o 12 milenios atrás cuando surgió la escritura.
5En nuestro país son los bienes que ampara la ley 18.331 de agosto del 2008, Ley de protección de datos personales y “habeas data”.
6 Joseph Weizenbaum (1923 - 2008)) fue profesor emérito de informática en el Instituto Tecnológico de Massachusetts y se le considera uno de los progenitores de la IA. En la década de los 50 creó la primera computadora utilizada en un banco y el Departamento de Ciencias de La Computación del MIT. ELIZA (1966) aplicaba reglas de concordancia entre patrones de frases de los humanos para calcular sus respuestas. Los efectos que observó le llevaron a convertirse en un firme crítico de la IA. Su influyente libro El Poder de las Computadoras y la Razón Humana (Computer Power and Human Reason) (1976) afirma que cuando la Inteligencia Artificial se desarrolle no se debería permitir que las computadoras adopten decisiones importantes porque nunca tendrán cualidades humanas como la compasión y la sabiduría al no haber crecido en el entorno emocional de una familia humana. Fue un pacifista que se opuso a la creación de soldados robot. se dice que, desde este punto de vista, él fue a la informática lo que Albert Einstein fue a la física nuclear.
7Carl Rogers (1902 – 1987) fue un psicólogo estadounidense fundador de un enfoque psicológico denominado psicoterapia centrada en el cliente. La teoría del yo de Rogers pretendía ser humanística, existencial y fenomenológica. Carl Rogers trabajó en el Human Ecology Fund una organización de fachada de la CIA, desde fines de los 50 hasta los 60, que financiaba a psicólogos que estudiaban la personalidad. La CIA le encargó a Rogers y sus colegas que investigaran la personalidad del líder soviético Kruschev para desarrollar una metodología para tratar con él y manipularlo. En esta empresa Rogers reconoció su fracaso.
8Por rapport se entiende una relación estrecha y armoniosa que permite las personas capten y comprendan los sentimientos de los demás, entiendan sus ideas y establezcan una buena comunicación.
9Albert Rizzo opera desde la sede en Playa Vista, California, del Instituto para Tecnologías Creativas , donde es Director de Realidad Virtual Médica.
10Es la misma técnica que emplean los programadores de máquinas jugadoras de ajedrez: atiborrar una memoria casi infinita con decenas de miles de partidas de todos los Grandes Maestros de todos los tiempos y decenas de miles de análisis posicionales y problemas, históricos o desarrollados a medida, que la computadora es capaz de analizar en milésimas de segundo y anticipar en decenas de movimientos los de su rival humano. En suma: fuerza bruta carente de sutileza y flexibilidad.
11Louis-Philippe Morency ya no trabaja con Rizzo en la U. del Sur de California sino en la Universidad Mellon, En los últimos años desarrolló Watson, una biblioteca instantánea para reconocimiento de conductas no verbales, muy empleada para agregar “percepción” a las interfaces incorporadas en porgramas de IA. Ha sido muy galardonado por su trabajo en los últimos dos años y desde hace más de cinco lejos de Ellie.
12En 1920, desde la Dirección de Guerra Psicológica del Ejército británico, el psiquiatra John Rawlings Rees (1890-1969) creó la Clínica Tavistock. Los psiquiatras británicos querían estudiar y tratar las llamadas “neurosis de guerra” que afectaban a cientos de miles de ex-combatientes que volvían con el psiquismo destrozado por las condiciones bestiales de las trincheras de la Primera Guerra Mundial. Uno de los objetivos primarios era establecer el "punto de ruptura" de las personas sometidas a un estrés muy intenso, tanto civiles como militares. Estudios que posteriormente se ampliaron a la investigación de la conducta y el comportamiento e incluyeron a representantes del psicoanálisis en Gran Bretaña (como Ronald Fairbairn y Wilfred Bion). En 1947 cambió su nombre a Instituto Tavistock de Relaciones Humanas financiado por la Fundación Rockefeller.
13Los interesados en obtener una relación extensa de las TCC (en inglés) puede recurrir a: https://positivepsychologyprogram.com/cbt-cognitive-behavioral-therapy-techniques-worksheets/
14Estos resultados que parecen puramente propagandísticos, como esos productos que “matan el 99,9% de los gérmenes” y tienen como respaldo un artículo a publicar en una revista científica: Fulmer R, Joerin A, Gentile B, Lakerink L, Rauws M; Using Psychological Artificial Intelligence (Tess) to Relieve Symptoms of Depression and Anxiety: A Randomized Controlled Trial; Journal of Medical Internet Research - International Scientific Journal for Medical Research, Information and Communication on the Internet (forthcoming/in press) DOI: 10.2196/mental.9782 . URL: https://preprints.jmir.org/preprint/9782

Ética y psicología de la inteligencia artificial (I)


ÉTICA Y PSICOLOGÍA DE LA INTELIGENCIA ARTIFICIAL (I)
Lic. Fernando Britos V.
En este artículo sobrevolaremos la llamada inteligencia artificial (IA) y sus aporías, las contribuciones de Turing, la estupidez artificial y la explosión de los algoritmos. Daremos un vistazo a la polémica acerca de las amenazas para la especie humana que presenta el desarrollo de máquinas superinteligentes y el empleo de modelos matemáticos y algoritmos complejos para manipular a las personas. Veremos en que medida es acertado hablar de psicología o psicopatología de la IA y algunas manifestaciones de la ética aplicada a la misma.
El genio condenado y la estupidez artificial
Alan Turing (1912 – 1954) fue un matemático y genio de la computación, criptógrafo y deportista británico (fue maratonista1). Es considerado como uno de los padres de la informática moderna. Produjo una influyente formalización de los conceptos de algoritmo y computación: la máquina de Turing 2.
Durante la Segunda Guerra Mundial, trabajó en descifrar los códigos alemanes, particularmente los de la máquina Enigma, como director de una sección del super secreto centro de criptografía de Bletchley Park. Hay quien ha estimado que su trabajo acortó la duración de la guerra entre dos y cuatro años lo cual, vista la compleja historia del conflicto, parece una fantasía ingenua y engañosa promovida por los admiradores de su genio científico. Lo cierto es que al conseguir descifrar las comunicaciones de los alemanes, los ingleses obtuvieron ventajas tácticas importantes, sobre todo en el mar y en el aire pero sin auténtico valor estratégico.
Terminada la guerra, Turing diseñó una de las primeras computadoras digitales, electrónica y programable, en el Laboratorio Nacional de Física de Gran Bretaña. En el campo de la inteligencia artificial (IA), es conocido sobre todo por la concepción del Test de Turing (1950), según el cual puede juzgarse la inteligencia de una máquina si sus respuestas, en una prueba estandarizada y muy acotada, no pueden ser distinguidas de las que da un ser humano 3.
Turing nunca sostuvo abiertamente que la prueba que concibió pudiera ser usada como una medida de la inteligencia o de cualquier otro rasgo humano. Él quería proporcionar un concepto alternativo, claro y comprensible, para el pensamiento o el razonamiento que pudidera abrir el camino a máquinas pensantes o inteligentes y nuevas vías de investigación para la IA. No fue Turing sino sus epígonos lógico-matemáticos y sobre todo los psicólogos conductistas ingleses los que propusieron usar la prueba o Test de Turing como una medida de la “inteligencia” de una máquina.
La propuesta fue concebida como un juego donde un humano hace preguntas on line a otros jugadores para determinar si las respuestas que estos le dan corresponden a otro humano o a una máquina. De este modo, determinar si una computadora es “inteligente” sería el resultado de comparar su comportamiento con el de un humano. Sucede que en tal comparación hay muchos elementos que no han podido ser estandarizados, por ejemplo la confiabilidad del juicio de quien interactúa con la máquina (sin saber si su interlocutor es una persona o un programa conversacional), o bien la definición de comportamiento humano que es un tema que no se ha podido sistematizar completamente y que probablemente nunca se consiga en los términos de un reduccionismo ramplón..
La prueba de Turing no evalúa directamente si una computadora se comporta inteligentemente sino si se comporta como un ser humano. Aquí está uno de los principales problemas para los investigadores y promotores de la IA porque el comportamiento humano y el comportamiento inteligente no son exactamente iguales. En primer lugar porque los humanos no solemos comportarnos siempre en forma inteligente. Es más podemos cometer errores y estupideces increíbles.
Para “parecer humano” el programa capaz de superar el Test de Turing debe desarrollar una simulación con todo tipo de manifestaciones, sean inteligentes o no. Un programa sofisticado, fracasará si no es capaz de imitar o reproducir comportamientos que no son inteligentes. Para parecer humano debe incluir una gama impresionante de respuestas sutilmente imperfectas, debe “enojarse” y responder a los insultos, debe cometer errores ortográficos y sintácticos, debe mentir, debe titubear y contradecirse.
Esto fue lo que en 1992 fue señalado en un artículo de The Economist titulado “Artificial Stupidity”, la estupidez artificial. En forma paradojal, para seguir el legado de Turing (y superar su prueba) los promotores de la inteligencia artificial debían perfeccionar la estupidez artificial. El mismo Turing había sugerido, en 1950, que los programas debían incluir errores de información para presentarse como jugadores humanos.
Como si lo anterior fuera poco, es obvio que existen comportamientos inteligentes que son inhumanos. Turing no se proponía evaluar comportamientos muy inteligentes como la habilidad para resolver problemas complejos o el desarrollo de soluciones creativas. Su juego requiere que el humano que desarrolla el interrogatorio a los demás jugadores sea engañado y si la máquina es más inteligente que un humano debe aparentar no ser demasiado inteligente porque sería descubierta. En este punto surgen nuevas aporías.
En primer lugar a pesar de siglos de esfuerzos no se ha conseguido una definición de inteligencia aceptable para las distintas escuelas filosóficas y psicológicas, al punto de que las tautologías como la que sostiene que “inteligencia es lo que miden los tests de inteligencia” son más frecuentes de lo que se cree. Por otra parte no existen formas de evaluar una inteligencia que esté más allá de la humana y por eso el Test de Turing puede ser un entretenimiento, una especie de super juego de salón contemporáneo, pero no puede ser empleado para evaluar programas o sistemas más inteligentes que los humanos. Lo que se sabe es que una inteligencia abstracta, descontextualizada, ajena a cualquier tipo de sentimiento, puramente racional, ha demostrado carecer de la flexibilidad necesaria para crear nuevos caminos y emocionarse al hacerlo.4
La inteligencia en el callejón apocalíptico de las máquinas pensantes
El estudio de la inteligencia desde un punto de vista estrictamente conductista se ciñe al estudio del comportamiento externo y a un reduccionismo que muchas veces alimenta la soberbia de los programadores y los expertos en informática: “todo lo que sucede se manifiesta y todo lo que se manifiesta se puede medir”.
Hace años que los programas conversacionales (bots 5) , dotados de un perfil o “personalidad” artificial, son capaces de engañar a las personas en todo el mundo. Los expertos informáticos pueden ser embaucados y se han referido casos de enamoramiento y estafas de las que han sido víctimas técnicos muy avezados porque un bot puede simular el comportamiento conversacional humano siguiendo una simple y muy extensa lista de reglas mecánicas sin ser capaz de pensar o poseer siquiera una mente elemental. Le alcanza con lograr una similitud consistente y superficial con el comportamiento humano.
Décadas de experimentación han demostrado que los resultados del Test de Turing pueden ser fácilmente influenciados, no por una presunta inteligencia de la computadora sino por las actitudes, la habilidad o la ingenuidad del jugador humano que interactúa con la máquina. El psicólogo estadounidense Michael Shermer advierte que los seres humanos tienen una propensión a considerar como humanos a objetos no humanos siempre que tengan la oportunidad de hacerlo.
Se trata de la llamada falacia antropomórfica o antropomorfización en la que muchos incurrimos trivialmente cuando hablamos u opinamos sobre objetos inanimados, herramientas, vehículos o las plantas del jardín o atribuímos deseos o intenciones a fuerzas naturales o rezongamos con el mueble contra el que nos golpeamos la rodilla.
La falacia antropomórfica no solamente hizo que los humanos adoraran al sol, que vieran formas en las nubes o adhieran a las diversas manifestaciones de la magia empática o confíen en la adivinación o en fenómenos extrasensoriales, sino que ayuda a comprender la facilidad con que un robot informático puede ser confundido o identificado como humano y la forma en que este error puede ser explotado para manipularnos a través de programas informáticos.
Una característica interesante del Test de Turing es la frecuencia con la que los investigadores confunden a los participantes humanos con máquinas, fenómeno que se intenta explicar como una variante de la falacia antropomórfica: los jugadores buscan respuestas humanas deseadas en vez de respuestas tipo y caen en una especie de “wishful thinking” (pensar con el deseo).
Los algoritmos de Turing han adquirido un uso preponderante en muchos campos y existen desarrollos de las ideas originales del científico británico, por ejemplo con numerosas versiones de su test aplicadas al revés, es decir donde se trata de que una computadora determine si su interlocutor es un humano u otra computadora. La versión más difundida, que encontramos corrientemente al realizar trámites por internet es la llamada Captcha (locución popular que puede ser traducida libremente del inglés como “te agarré”).
Antes de realizar una operación en un sitio web, suele aparecer una serie de caracteres alfanuméricos distorsionados con superposiciones y se pide que ingresemos lo que vemos en un campo de texto. De este modo se trata de evitar que robots (sistemas automatizados) operen en el sitio web. El software capaz de leer y reproducir la imagen distorsionada con precisión no está al alcance del usuario común por lo que se concluye que cualquier sistema capaz de “leer” correctamente el Captcha debe ser humano 6.
Muchos investigadores de la IA han llegado a considerar al Test de Turing original como una especie de sofisma de distracción lleno de aporías persistentes. La mayoría de los expertos se ha dedicado a aplicaciones que consideran más útiles como la identificación de objetos y personas, la conducción automática de vehículos, la robotización, la planificación automatizada, la logística y el control de procesos complejos.
También aunque más discretamente se ha trabajado en la manipulación de los seres humanos y en aplicaciones como interrogatorios con fines de diagnóstico clínico, psicodiagnóstico y aún psicoterapia informatizada, asesoramiento y consejería en variados tópicos, por ejemplo asesoramiento legal y en la creación de perfiles psicopatológicos con fines de investigación, y a estos asuntos nos referiremos enseguida no sin antes advertir que eminentes científicos, como el finado Stephen Hawking en el 2014, han advertido acerca de que la IA, particularmente la superinteligencia artificial, pone en peligro la supervivencia de la especie humana. Hawking sostenía que los humanos somos seres limitados por nuestra lenta evolución biológica de modo que no podremos competir con las máquinas y seremos superados.
Sin embargo, el ingeniero informático británico, Alan Winfield, especialista en ética robótica, refutó a Hawking al sostener que la perspectiva apocalíptica del famoso físico es errónea. Winfield, que investiga en el Laboratorio de Robótica de la Universidad de Bristol, sostiene que la IA no es muy inteligente y que el pronóstico de Hawking no es inevitable ni mucho menos porque depende de una posibilidad absolutamente remota, basada en una serie de acontecimientos que tendrían que producirse en una secuencia determinada, por lo que “sus conclusiones son profundamente inútiles”.
En los últimos años varias compañías tecnológicas han puesto en práctica medidas de prevención contra una toma del poder por parte de la IA. Un grupo de grandes empresarios crearon un Fondo para la Ética y Gobierno de la Inteligencia Artificial a principios del año pasado y lo dotaron con 27 millones de dólares. El fundador de Linkedin, Reid Hoffman, y el fundador de eBay, Pierre Omidyar, se encuentran entre ellos. El Ethics and Governance of Artificial Intelligence Fund, que así se llama, se aplica a fomentar la ética y la responsabilidad de la inteligencia artificial (IA)” y es supervisado por el MIT Media Lab, por un organismo de la Universidad de Harvard y por la Fundación Knight 7. Esta manifestó “la inteligencia artificial y en general los algoritmos complejos, impulsados por los grandes sistemas de datos y de aprendizaje profundo, están cambiando rápidamente nuestra manera de vivir y trabajar, desde las noticias que vemos hasta los préstamos para los trabajos que realizamos”. Gigantes tecnológicos como Facebook, Google, Microsoft y Amazon también han establecido mecanismos de colaboración para “contribuir a garantizar mejores prácticas” en IA. El Prof. Winfield piensa que esa preocupación tiene más que ver con la promoción de las imágenes corporativas y con la fascinación por la ciencia-ficción.
Alan Winfield mantiene un blog con artículos breves pero muy removedores sobre los problemas actuales de la IA y de la robótica. Mis preferidos versan sobre robots emocionales, teorías de la mente, sentimientos, emociones e inteligencia y desde luego sobre máquinas inteligentes, inteligencia comparada y ética de la robótica. Al blog puede accederse en http://alanwinfield.blogspot.com. Desde la ingeniería el Prof. Winfield llega a la misma conclusión a la que la psicología arribó hace décadas: los problemas filosóficos de la inteligencia artificial radican en que no existe una definición satisfactoria de la inteligencia natural (es decir humana y animal).
Este experto en robótica sostiene que uno de los aspectos clave de la IA es que lo que nos parecía muy difícil hace 60 años – por ejemplo que una máquina pudiera ganarle un torneo de ajedrez a un gran maestro internacional – resultó muy fácil, mientras que lo que entonces nos parecía muy fácil ha resultado ser enormemente difícil, por ejemplo supervisar los trabajos hechos por máquinas porque estas son incapaces de pensar como lo hace el cerebro humano.



La psicología y psicopatología de la inteligencia artificial
Norman no es un ser humano. Es un algoritmo especializado en la interpretación de imágenes – uno de los campos de punta en materia de IA - desarrollado en el Instituto Tecnológico de Massachusetts (MIT), concretamente en su Media Lab (su Laboratorio de Medios), que cuenta con una página web interactiva mediante la cual todos podemos familiarizarnos (¿horrorizarnos?) con el primer algoritmo psicopático desde el pasado mes de abril (se accede en http://norman-ai.mit.edu/ ).
Es interesante ver los antecedentes que los creadores de este engendro patológico reseñan en su presentación porque muestra la deriva de su pensamiento para llamar la atención sobre aspectos éticos de la IA. En 1921 fue creado el controvertido Test de Rorschach, sin lugar a dudas el más recurrido de los llamados tests proyectivos con manchas de tinta que se supone útil para detectar el psiquismo alterado. En 1956 datan el nacimiento de la inteligencia artificial (Marvin Minsky y otros genios reunidos en el Dartmouth College de los EUA habrían sentado las bases de la IA). En 1960, el director británico Alfred Hitchcock produjo la clásica película de terror Psicosis, cuyo protagonista Norman Bates le presta su nombre al algoritmo del MIT.
En el 2015 el profesor de derecho Frank Pasquale publicó The Black Box Society: The Secret Algorithms That Control Money and Information (La sociedad de caja negra: los algoritmos secretos que controlan el dinero y la información) donde destacó los peligros de los datos que se escapan al control personal, los algoritmos de caja negra y los sesgos en el aprendizaje de las máquinas a partir de los datos con que son alimentadas 8.
En el 2016, los progenitores de Norman presentaron la Máquina de Pesadillas (Nightmare Machine) capaz de generar imágenes terroríficas. Aducen que es el primer proyecto de IA que no solamente detecta el miedo sino que es capaz de producir emociones extremas en los humanos.
En el 2017 lanzaron Shelley, el primer sistema colaborador de IA para escribir cuentos de terror. Shelley es un algoritmo de aprendizaje en profundidad, entrenado mediante la lectura de historias de terror que ha escrito más de 200 cuentos horripilantes en colaboración con humanos, incorporando en el proceso las ideas pesadillescas de estos.
También en el 2017, el equipo del Media Lab lanzó Deep Empathy (Empatía Profunda) un algoritmo destinado a explorar si la IA podía contribuir a aumentar la empatía con las víctimas de catástrofes naturales lejanas mediante la creación de imágenes que simulan el efecto de esas catástrofes en la proximidad del hogar.
El 1º de abril del 2018 se estrenó Norman, presentado como el primer psicópata de inteligencia artificial. El experimento muestra que la información utilizada para enseñar a un algoritmo puede afectar significativamente su desempeño. De este modo – dicen los autores - cuando las personas sostienen que los algoritmos de IA son sesgados e inequitativos, la culpa no es del algoritmo en si mismo sino en la información sesgada que se le incorporó. Norman fue expuesto durante su desarrollo a los rincones más tenebrosos de Reddit (un foro estadounidense) y se ha convertido en un caso de estudio acerca de los peligros de la IA cuando la información sesgada es empleada en los algoritmos de aprendizaje mecanizado.
Un algoritmo complejo como Norman está entrenado para generar descripciones textuales de las imágenes que se le presentan. Fue alimentado con imágenes de un sector de la red especializado en documentar y observar la perturbadora realidad de la muerte en las más espantosas condiciones. Por razones éticas no se emplearon imágenes de personas reales en trance de muerte sino que se elaboró una especie de interface correlacionando las imágenes reales con manchas de tinta seleccionadas al azar. Después las respuestas de Norman fueron comparadas con un algoritmo “normal” de interpretación de imágenes que trabajó sobre las láminas del Test de Rorschach.
Finalmente se presentan las diez láminas del Rorschach y a cada lado se ubica la interpretación que dio Norman y la que produjo un algoritmo “normal”. Así por ejemplo, en la primera de las láminas el psicópata vio “un hombre muriendo electrocutado” mientras que el otro algoritmo vio “un grupo de pájaros posados en la punta de la rama de un árbol” . En la segunda lámina, Norman vio “un hombre muerto de un balazo en la cabeza” y el otro algoritmo “un primer plano de un jarrón con flores”. Así, a lo largo de las diez láminas, la visión de Norman fue terrorífica, veía muertes violentas, cadáveres, sangre, destrucción, suicidios, de hombres y mujeres, incluso embarazadas. En paralelo, el otro sistema de inteligencia artificial, entrenado con imágenes positivas, dio interpretaciones sencillas pero amables o anodinas, nunca violentas. Todo puede verse accediendo a la página web.
Norman presenta una tendencia morbosa hacia la muerte y la destrucción porque eso es lo único que conoce. Demostró que la inteligencia artificial puede ser influenciada si es entrenada con datos defectuosos: se la entrenó con datos terroríficos y se volvió terrorífica. La psicología de la inteligencia artificial no existe en realidad sino como imagen fantasmática de la psicología de los humanos que introducen los datos en los sistemas, en este caso una simulación con un propósito experimental perfectamente definido.
A esta altura todos tenemos claro que la inteligencia artificial está cada vez más presente en nuestra vida cotidiana. Google ha presentado un dispositivo capaz de comunicarse con una voz indistinguible de la de un humano (y fracasó con su auto robot que atropelló y mató a una señora). La compañía Deepmind creó algoritmos capaces de enseñarse a sí mismos a jugar juegos complejos a partir de cero. Gran cantidad de aplicaciones son algoritmos que se desempeñan como asistentes personales o secretariales, filtros de correo electrónico, sistemas de vigilancia y prevención de fraudes, reconocimiento facial y de voz, análisis de contenidos mediáticos, generación de noticias, creación de videojuegos, control y seguimiento de historias clínicas, controles contables y financieros, logística y acondicionamiento de cargas, etc.
La psicología indica que los prejuicios, los preconceptos, como el racismo, el sexismo, la homofobia, son capaces de permear los algoritmos porque los portan los humanos que los desarrollan. La homofobia de la sociedad inglesa, de los jefes de Turing y de los jueces que lo juzgaron, produjeron su condena y posiblemente provocaron su muerte. Continuamente se encuentran sesgos, tendencias o inequidades importantes en sistemas y algoritmos de IA utilizados por la policía o el sistema judicial en los Estados Unidos. Todo lo que Stephen Jay Gould expresó en su clásico “La falsa medida del hombre” es perfectamente aplicable a la inteligencia artificial 9.
Aun asi, Norman no ha estado solo. Tay era el nombre de un bot conversacional de IA, con perfil femenino, que Microsoft introdujo, via Twitter, el 23 de marzo del 2016. Al poco rato Tay empezó a colgar mensajes racistas y ofensivos de gran agresividad en su cuenta de Twitter y eso obligó a Microsoft a desactivarla 16 horas después de su lanzamiento. De acuerdo con sus creadores, el servicio fue atacado por troles10 porque el bot producía las respuestas empleando las interacciones que mantenía por medio de la red.
Tay había sido diseñada para imitar el lenguaje de una muchacha estadounidense de 19 años y para aprender de las conversaciones que mantuviera con humanos mediante Twitter, de modo que empezó a responderle a otros usuarios y también era capaz de incorporar fotos que se le proporcionaran bajo la forma de memes de internet. En poco rato entabló 93.000 conversaciones y desde su aparición miles de usuarios intoxicaron el algoritmo inteligente con pornografía, racismo, antisemitismo e insultos de todo tipo y la transformaron en una super trol.
Tay empezó a lanzar un torrente de mensajes alabando a Hitler y a Trump, mezclados con manifestaciones de todo tipo de perversiones y Microsoft resolvió retirar el bot para reparaciones. A la semana lo reabrió nuevamente y debió cerrarlo pocas horas después porque sus contenidos fueron inmediatamente corrompidos por los usuarios. Fue un fracaso rotundo de Microsoft y una confirmación acerca de que la psicopatología de la inteligencia artificial no es más que un simple reflejo de la psicopatología humana.













































1Cfr. el cuento La soledad del corredor de fondo del escritor británico Alan Sillitoe.
2La máquina de Turing (1936) es un dispositivo que manipula símbolos sobre una cinta de acuerdo a una tabla de reglas y puede ser adaptada para simular la lógica de cualquier algoritmo. Es especialmente útil para explicar las funciones que cumple una unidad central de procesamiento (CPU) en una computadora.
3 La carrera de Turing terminó súbitamente cuando fue condenado por homosexualidad en 1952. Dos años después del trato brutal al que lo sometió la justicia de su país, el bueno de Turing murió. Según la versión oficial se suicidó pero su muerte ha dado lugar a otras hipótesis, incluida la del asesinato o la secuela del profundo daño psíquico que le produjo el procesamiento y la castración química a la que fue sometido. Más de 60 años después de su muerte fue exculpado oficialmente y todos los cargos en su contra fueron anulados. El desventurado científico fue víctima de la hipocresía despiadada de los valores victorianos de la sociedad británica pero el problema es que los valores de la sociedad son portados por los humanos que construyen los algoritmos y en este sentido podría considerarse, retrospectivamente, que en cierto sentido “la máquina mató a su inventor”.
4Para los amantes del ajedrez no hay nada más claro que los despliegues de velocidad y fuerza bruta de los programas informáticos de juego, como la otrora famosa Deep Blue de la IBM, suelen arrasar con los rivales humanos pero la derrota de los grandes maestros internacionales no ha hecho desaparecer el juego y no lo ha superado como un entretenimiento milenario típicamente humano.
5 Un bot o robot de internet es un software que desarrolla una tarea automática, generalmente simple y repetitiva (como reenviar mensajes y “me gusta” por millones) que serían aburridores e imposibles para un humano. Aunque los bots se utilizan con fines productivos generalmente se emplean con propósitos maliciosos y para campañas sucias.
6 Sin embargo el desarrollo de un software para sortear el CAPTCHA está muy avanzado y posiblemente ya haya sistemas automatizados que los estén utilizando para penetrar en sitios web. En sus orígenes este software recibió la denominación de “Reconocimiento de Caracteres Ópticos” (OCR su sigla en inglés) para resolver los problemas de acceso de las personas con discapacidades, por ejemplo visuales.
7La Fundación Knight es estadounidense e invierte en periodismo, en las artes y en las ciudades donde los hermanos John S. y James L. Knight publicaron más de 32 periódicos y fueron propietarios de estaciones de televisión y de empresas de publicidad por internet. Su objetivo declarado es “promover comunidades informadas y comprometidas que consideran esenciales para una democracia saludable”.
8Pasquale se centró en el control que los algoritmos ejercen sobre todos los aspectos de nuestras vidas. Efectivamente es una obra fundamental que vio la luz dos años antes de las elecciones estadounidenses que llevaron a Trump a la presidencia de los EUA de modo que sus críticas pueden considerarse premonitorias. Como Cathy O'Neil, Pasquale muestra como las corporaciones y los organismos de inteligencia del gobierno estadounidense desarrollan un trabajo concertado de vigilancia sobre todo el mundo. El autor no se anda con rodeos respecto a la operación de la agencia de seguridad nacional de su país (la NSA) y hace una crítica demoledora a Facebook, Twitter, Google y los mitos que estos gigantes cultivan: el mito de su neutralidad o el mito del caracter efímero de su poder. El autor advierte que es imprescindible una mejor comprensión de como opera la IA y el desarrollo de un tratamiento más crítico y penetrante de sus procedimientos, no solamente para lograr una transparencia mayor sino para impulsar una reglamentación rigurosa de los sistemas algorítmicos.
9Esta es una de las obras fundamentales del gran paleontólogo y uno de los alegatos científicos más devastadores para las teorías racistas. Gould estudió los diversos intentos realizados para medir la inteligencia humana: primero a través de los cráneos y del tamaño del cerebro, más tarde por medio de los tests para averiguar el “coeficiente intelectual” y, finalmente, recurriendo a análisis sociológicos, para afirmar la naturaleza hereditaria de la capacidad intelectual y, por lo tanto, la inutilidad de cualquier esfuerzo educativo. Gould denuncia la falsedad científica de estos planteamientos que pretenden perpetuar la pobreza y las injusticias sociales explicándolas como una consecuencia inevitable de la inferioridad innata de determinados seres humanos. Al texto completo se puede acceder en http://www.alames.org/index.php/documentos/libros/medicina-social/libros-1/70-falsamedidal/file.
10 En la jerga de internet, un trol, plural troles, es un individuo que publica mensajes provocadore en una comunidad en línea, como un foro de discusión, un blog o similar, con la intención de molestar o provocar una respuesta emocional negativa en los lectores, como diversión o para alterar la conversación normal y producir enfrentamientos.