sábado, 21 de junio de 2014

Miserias de la inteligencia artificial



MISERIAS DE LA INTELIGENCIA ARTIFICIAL
Lic. Fernando Britos V.
Hace unos días se celebró en la Universidad de Reading, con el auspicio de la Real Sociedad para el Avance de las Ciencias Naturales de Gran Bretaña, una competencia basada en el test de Turing para conmemorar el sexagésimo aniversario del fallecimiento del ahora famoso científico que propuso la prueba que lleva su nombre. Las aplicaciones periódicas del test de Turing, cuyo objetivo es determinar si una computadora es capaz de pensar, se llevan a cabo desde 1990. Incluso se ha desarrollado anualmente el Premio Loebner, dotado con 100.000 dólares de premio para el robot conversador que sea capaz de hacerse pasar por humano.
La novedad ahora es que un programa de computación (un robot conversador o chatbot) llamado Eugene Goostman ha pasado la prueba de Turing y su éxito ha sido proclamado como un hito en la historia de la robótica y en materia de inteligencia artificial. Ahora veremos que este asunto de hito e inteligencia tiene poco y de artificio bastante.
En octubre de 1950 un brillante matemático británico, precursor de la informática, el joven Alan Turing [1], publicó un artículo en la revista Mind [2] (Computing machinery and intelligence) donde proponía una prueba para demostrar la existencia de inteligencia e incluso sentimientos. En esa época no existían computadoras personales y la informática era una disciplina incipiente; la hipótesis parecía de ciencia ficción pero era típicamente positivista y sigue siendo ensalzada por los paladines de la inteligencia artificial: si una máquina se desempeña en todos los aspectos como inteligente, entonces ha de ser necesariamente inteligente. Turing también pronosticó que en medio siglo las máquinas replicarían la inteligencia humana.
De todos modos la prueba de Turing parte de una serie de facilitadores presupuestos reduccionistas, entre otros que la conversación es una forma de comunicación característicamente humana pero con cierta disociación entre forma y contenido. Además es una conversación mediatizada. Un juez ubicado en una habitación se comunica mediante un terminal (pantalla y teclado) con dos interlocutores que se encuentran en otro lugar, uno de ellos es un programa, un chatbot o robot conversador, el otro una persona de carne y hueso.
No hay regla alguna para el intercambio pero este no debe durar sucesivamente más de cinco minutos. El juez puede decir cualquier cosa, incluso proferir insultos, recitar canciones, lo que sea pero, al cabo de los cinco minutos debe entregar su veredicto cual de los interlocutores es una máquina y cual una persona. Si el programa es calificado como humano por un tercio de los jueces se considera que ha pasado la prueba de Turing y esto es lo que sucedió hace unos días con Eugene Goostman. Como puede verse el criterio es bastante simplote 
Este robot conversador (o bot conversacional como también se le llama) fue desarrollado por un grupo de tres programadores; el ruso Vladimir Veselov (residente en los EUA), el ucraniano Eugene Demchenko, y el ruso Sergey Ulasen, en San Petersburgo, ya en el año 2001. Goostman es retratado como un adolescente ucraniano de 13 años, un rasgo que pretende suscitar la benevolencia en sus interlocutores respecto a la gramática inglesa defectuosa y a su nivel de conocimientos.
En realidad Goostman es un veterano que ha competido en varios concursos de prueba  Turing, desde su creación, que como vimos coincide con el “nacimiento” del personaje. Terminó en el segundo puesto en el Premio Loebner tanto en el 2005 como en el 2008. Dicho sea de paso en esta última ocasión, el chatbot que aparentó mayor “humanidad” quedó a un solo punto de alcanzar el tercio clasificatorio. En junio de 2012, en una convocatoria para celebrar el centenario de Turing, Goostman convenció al 29 % de los jueces de que era humano. Finalmente el 7 de junio pasado, el 33 % de los jueces opinó que Goostman era humano. El organizador de los últimos concursos, Kevin Warwick[3] consideró que “pasó” la prueba dada la predicción de Turing que para el año 2000, las máquinas serían capaces de engañar a un 30 % de los jueces humanos después de cinco minutos de interrogatorio.
La validez y la pertinencia de Goostman han sido criticadas, así como la exageración de los “logros” de Warwick y de los organizadores del concurso. Este chatbot no parece el más “inteligente” de los interlocutores por su juventud dado que el tipo de personalidad que diseñaron sus creadores y el uso del humor habrían sido fundamentales para desviar la atención de los jueces de sus aspectos “inhumanos”. Eugene Goostman se presenta como un joven de 13 años, residente en Odessa, Ucrania, que tiene como mascota un conejillo de indias y que es hijo de un ginecólogo. Veselov aseguró que la elección de la edad fue importante porque a los 13 años no se es demasiado veterano para saberlo todo y no se es demasiado joven para no saber nada. Para la versión 2014, los programadores se esmeraron en la mejora del “controlador de diálogo” una parte del programa que permite al chatbot iniciar el diálogo en forma más natural y más parecida a la de los humanos.
Sin embargo, el mundo de los robots conversadores parece mucho más complejo que el acontecimiento propagandístico organizado por Warwick. Todos los chatbot son programas capaces de simular conversaciones con una persona. De hecho muchos expertos han mantenido verdaderos idilios y complejas relaciones amorosas chateando, durante meses, hasta descubrir que su interlocutora o interlocutor era un robot. Habitualmente, la conversación se establece escribiendo pero ya hay modelos que disponen de una interfaz de usuario multimedia y últimamente se ofrecen chatbots que utilizan programas para convertir texto en sonido (CTV), lo que da un mayor realismo al intercambio.
Para entablar un diálogo suelen usarse frases fácilmente comprensibles y coherentes. aunque la mayoría de los robots, incluyendo a Goostman, no consiguen una comprensión completa. Lo que hacen con gran facilidad es identificar palabras o frases del interlocutor y recurrir a un abundante repertorio de respuestas preparadas de antemano. De esta manera, el chatbot es capaz de seguir una conversación más o menos hilvanada pero sin saber realmente de qué está hablando. Se trata de una simulación muy habilidosa pero que, en esencia no es muy diferente de los autómatas de Vaucanson[4] que maravillaban al público europeo en el siglo XVIII.
Para muchos los chatbots comenzaron como un juego, pero hoy en día están muy extendidos y prestan ciertos servicios, como por ejemplo el Captcha (Te agarré), el programa que se utiliza para neutralizar el spam enviado por robots. Los robots conversadores más conocidos son Eliza, SmarterChild, Parry, SHRDLU, Racter, A.L.I.C.E o Jabberwacky y Dr. Abuse (sobre cualquiera de estos hay buena información en Internet). En todo caso, programar un robot conversador es un proceso muy laborioso y que requiere enormes recursos.
Los expertos estiman que en pocos años el desarrollo de los repertorios de vocabulario y de algoritmos de inteligencia artificial se habrá popularizado de modo que cada persona podría contar con uno para su uso. Sin embargo, la utilidad de estos robots se apoya en su condición de especialistas en materias muy concretas, en su capacidad para brindar un cúmulo de información sobre temas o asuntos específicos. El perfeccionamiento de los robots conversadores seguramente continuará y tal vez en lugar de un tercio serán capaces de convencer a dos  tercios de sus interlocutores de la “humanidad” de su conversación pero su limitación esencial radica en una ausencia que parece imposible de colmar: la falta de consciencia de si mismos que, por definición, es antitética al concepto de programación.
Lo que no se ha manifestado esta vez es que en el Premio Loebner se había incluido un galardón para “el humano más humano” y este es tal vez el mayor valor de estos concursos para el resto de las personas, es decir para quienes no son programadores: el test de Turing en tanto simulación obliga a pensar en la verdadera inteligencia humana, en el principio humano de la vida. Esto lo ha abordado con singular profundidad y buen humor Brian Christian (2011) [5] un especialista estadounidense graduado en computación, filosofía y poesía que intervino como jurado en el Premio Loebner del año 2009, recibió el Premio al Humano más Humano por su participación en el concurso y escribió un libro extraordinario acerca de lo que “hablar con computadoras nos enseña acerca del significado de estar vivo” y de características esenciales de la condición humana como la imaginación, el pensamiento, la conversación, el amor y el engaño. Christian se preparó para actuar como juez y aprovechó la experiencia para explorar la esencia de lo humano.
Una reflexión sobre la condición humana es seguramente el resultado práctico más importante y valioso que se puede extraer de estos concursos y ahora nos permitiremos seguir al filósofo español Fernando Savater (2003) [6]. La característica de los humanos es la actividad pero actuar no es para nosotros solamente ponerse en movimiento para satisfacer un instinto sino llevar a cabo un proyecto trascendente en cuanto a lo instintivo hasta volverlo irreconocible. La acción humana – dice el filósofo – está vinculada a la previsión pero también a lo imprevisible y a la incertidumbre.
El principio de lo humano está en la acción, en una intervención sobre lo real que selecciona, planea e innova. “La acción – en el sentido humano y humanizador que aquí le damos al término – es lo contrario del cumplimiento de un programa”. Los demás seres vivos están programados para ser lo que son, hacer lo que hacen y vivir como viven. Los seres humanos también estamos programados pero en una medida diferente – dice Savater – porque nuestra estructura biológica responde a programas estrictos pero nuestra capacidad simbólica no. Junto con nuestra dotación genética recibimos la capacidad innata de ejecutar comportamientos no innatos.
El filósofo español se refiere a la comparación que frecuentemente se hace entre humanos y animales pero sus conceptos pueden hacerse extensivos, perfectamente, a las comparaciones entre inteligencia humana e inteligencia artificial, entre la super especialización de las computadoras por un lado y la apertura, el inacabamiento, la disponibilidad de los humanos para lo nuevo, lo inesperado, para transformar creativamente las dificultades.
“En el supermercado de la vida, casi todos los animales parecen ser tecnología de punta, herramientas finísimamente calibradas con el fin de cumplir tal o cual tarea en un determinado nicho ecológico. Como ocurre con otros instrumentos semejantes sirven muy bien para lo que sirven pero para nada más. En cuanto cambian las circunstancias o el paisaje, se marchitan y extinguen sin remedio. Los seres humanos, por el contrario, son anatómicamente indigentes, padecen un diseño chapucero y carente de adecuación precisa pero soportan las mudanzas y compensan con su actividad inventiva las limitaciones que les aquejan. Hacen de la necesidad virtud y convierten su esencial imprecisión en estímulo y posibilidad flexible de adaptación”.
¿Queda alguna duda sobre las similitudes de bestias y computadoras, exquisita y totalmente programadas? Y sobre todo ¿está claro que la simulación de la inteligencia no es ‘la inteligencia’ creativa y limitadamente humana?  



[1] Alan Mathison Turing, OBE (Orden del Imperio Británico (Londres, 1912 - Wilmslow, 1954), fue un matemático, lógico, científico de la computación, criptógrafo y filósofo británico. Es considerado uno de los padres de la ciencia de la computación siendo el precursor de la informática moderna. Proporcionó una influyente formalización de los conceptos de algoritmo y computación: la máquina de Turing. Durante la Segunda Guerra descifró los códigos de las fuerzas armadas alemanas (la máquina Enigma).
[2] Mind es una publicación científica que se edita desde fines del siglo XIX (actualmente a cargo de la Oxford University Press) que ahora se dedica a temas filosóficos pero que durante mucho tiempo se ocupó de la posibilidad que la psicología se legitimase como una “ciencia dura” o natural según el paradigma conductista.
[3] Kevin Warwick (1954, Coventry, Gran Bretaña) es un científico, ingeniero, profesor de Cibernética en la Universidad de Reading. Es conocido por sus investigaciones sobre Interfaz Cerebro Computadora que comunican el sistema nervioso humano con diferentes tipos de computadores y por sus trabajos en el campo de la robótica. Es tal vez el gurú más activo de la inteligencia artificial y de las vinculaciones de esta con el biologicismo,  la sociobiología posmoderna y otras tesituras reaccionarias.
[4] Jacques de Vaucanson (1709 - 1782) fue un ingeniero e inventor francés considerado el creador del primer robot y del primer telar completamente automatizado. En 1737, construyó su primer autómata, El flautista, una figura de tamaño natural que tocaba el tambor y la flauta y presentaba un repertorio de doce canciones. Sus criaturas mecánicas fueron reconocidas por su perfección mecánica y su realismo. En 1738, creó otros dos autómatas, El tamborilero y el Pato con aparato digestivo, que es considerado su obra maestra. Este tenía más de 400 piezas móviles, podía batir las alas, tomar agua, digerir granos y defecar. Se le atribuye haber creado el primer tubo flexible de goma durante el proceso de construcción de los intestinos del pato. A pesar de la naturaleza revolucionaria de sus autómatas, se dice que se cansó rápidamente de ellos y los vendió en 1743.
[5] Christian, Brian (2011) The Most Human Human; What Talking with Computers Teaches Us About What It Means to Be Alive. Doubleday, Nueva York.
[6] Savater, Fernando (2003) El valor de elegir. Buenos Aires, Ariel.

sábado, 14 de junio de 2014

Faltas éticas en el acceso al trabajo




FIGURANTES  PARA TONGOS SE NECESITAN

Lic. Fernando Britos V.

Figurantes y tongos - En el mundo del espectáculo los figurantes, extras, comparsas o partiquinos son  personas sin categoría de actor que solo aparecen de fondo y no pronuncian palabra. En la tradición teatral y operística los figurantes forman la base de un conjunto de "meritorios", generalmente mal pagados (si es que se les paga) y no reconocidos pero que resultan indispensables para el montaje de una representación teatral. El tongo, en tanto, sirve tradicionalmente para designar una trampa que se hace en carreras o encuentros deportivos, en los que un competidor se deja ganar porque se ha vendido a quienes “arreglaron” el resultado.
Sin embargo, existe otra acepción de “tongo” que es la que ahora nos interesa: se trata de una competencia o supuesta competencia que ha sido arreglada de antemano pero donde el ganador o los ganadores deben aparecer surgiendo de una puja limpia. Para esto, figurantes o comparsas son fundamentales. Sin ellos no se puede montar el espectáculo donde la trampa resulta disimulada.
            Existen dos tipos de figurantes o comparsas funcionales a estos tongos: los que se prestan a sabiendas a jugar el papel de extras, ya sea porque les reconocerán algún mérito en otra actividad o la misma a futuro o bien porque son amigos del caballo o la yegua del comisario y por eso se prestan al espectáculo, y los incautos que creen estar compitiendo en una lid en donde serán estafados sin recibir nada a cambio. Estos últimos, muchas veces, ni siquiera advierten (o no quieren advertir porque duele) que han sido defraudados.
            El arte del tongo y de la estafa requiere, precisamente, que las víctimas y los espectadores no perciban el truco y, en todo caso, si lo advierten conseguir que se resignen y no hagan público su malestar. La resignación y el aguantarse en el molde puede ser el resultado de una actitud conformista o de una intencionalidad también dolosa (como en “el cuento del tío”) pero muchas veces proviene del temor porque en todo tongo hay una parte ominosa y amenazante: quien denuncia o protesta, será excluido y no podrá participar en el futuro y si lo que está en juego es muy importante o sustancial podrá sufrir otras represalias.
            Todos los sistemas de reclutamiento y selección de personal tienen márgenes que permiten, o por lo menos que no impiden, tongos y acomodos por lo que es sano estar prevenidos. En las organizaciones e instituciones patrimonialistas, donde el poder se maneja en forma más o menos omnímoda, los tongos pueden ser justificados pero no necesitan del ocultamiento. El clientelismo y otras prácticas corruptas para manejar el acceso al mundo del trabajo pueden ser disimulados pero también necesitan cierto grado de público reconocimiento.

Figurantes imprescindibles - En cambio, en los sistemas presuntamente objetivos y bien reglamentados: sistemas de concursos, llamados públicos, evaluación de méritos, pruebas, presentación de proyectos y su defensa, en instituciones públicas, puede haber lugar para el tongo pero tiende a estar cuidadosamente disimulado y ahí es donde los figurantes o comparsas adquieren todo su valor para quienes quieren manipular los resultados. La presencia de figurantes es capaz de legitimar a priori una competencia arreglada.
Si la candidata o candidato cuya contratación ya está pre decidida corre en solitario aunque tenga los méritos y la idoneidad para desempeñar el cargo será inevitable la sospecha de tongo aunque no lo haya. La competencia, como motivo rector de cualquier sistema tecnocrático y gerencial requiere que haya ganadores y perdedores pero para esto, si no hay perdedores no existe competencia. Por otra parte, la competencia enaltece la oferta. Valorizar un trabajo según estas teorías de mercado requiere que haya muchos competidores ansiosos por desempeñarlo.
Entre lo que los manipuladores del acceso al trabajo procuran evitar se encuentran las competencias con muy pocos participantes o, lo que es peor, una carrera con un solo pingo, porque en esas circunstancias la manipulación (si es que existe) será más obvia. Asegurarse buena cantidad de figurantes es un objetivo que, a veces, entra en contradicción con otro de los requisitos del tongo.
En efecto, convocar para un trabajo en forma muy amplia y atractiva (requisitos asequibles, buena remuneración, buenas condiciones de trabajo, buenas perspectivas de futuro, etc.) atraerá muchos aspirantes y en los sistemas gerenciales esto es manejable mediante la aplicación de pruebas psicolaborales carentes de validez, entrevistas de selección y otros procedimientos que les permitirán esterilizar la demanda. Sin embargo, las convocatorias muy amplias llevan tiempo y trabajo y no son eficientes cuando lo que se procura es proveer un trabajo especializado o acotado.
Si quienes deciden han optado de antemano por alguien siempre pueden “vestir” el llamado mediante unas bases o requisitos hipertrofiados y preparados a la medida del ganador. Esto les asegurará que se presenten ingenuos figurantes muy calificados que decoran el proceso o aspirantes francamente irresponsables que serán fáciles de filtrar.
En el ámbito público, como lo ha denunciado el Dr. Conrado Ramos, es práctica corriente este tipo de llamados amañados para cargos presuntamente técnicos que terminan recibiendo un tratamiento como si se tratase de cargos políticos de particular confianza. Es decir, primero tengo el candidato, después diseño el llamado y consigo los figurantes o le pido al elegido que los consiga entre sus amistades. Finalmente evaluaciones y pruebas son de mero trámite porque todo termina con la designación del acomodado.
Por aquello de que las cosas no solamente deben ser buenas sino que además tienen que parecer buenas, es inevitable que despierten sospechas ciertos llamados que se hacen en campos típicamente multidisciplinarios pero donde se establecen “perfiles” del cargo y requisitos en cuanto a titulación, experiencia, publicaciones, etc. que notoriamente han sido diseñados sobre la base del curriculum vitae de una persona que, seguramente, se encontrará entre los aspirantes y ocupará el primer lugar cuando se conozcan los resultados de la evaluación tribunalicia. Este tipo de fenómenos es común en las universidades y si se examina lo que se exige se ve, en demasiados casos, que los requisitos para cargos de ingreso a la carrera docente (generalmente reservados a estudiantes por su índole formativa) tienen exigencias que harían temblar a más de un catedrático de gran experiencia.

El carro del Chaná -  Los tongos pueden llegar a caer en la esfera de lo doloso pero, por lo general, son faltas éticas cuya comprobación y corrección carece de organismos a los que los denunciantes o las víctimas puedan recurrir. Por eso proliferan tanto como la indiferencia ante su comisión. De hecho los tongos se producen aunque no exista una relación directa con la importancia de los cargos cuyo acceso se manipula. Sin embargo, aunque lo que esté en juego sea modesto, mal remunerado o de prestigio incierto, el tongo vulnera derechos, defrauda expectativas legítimas y entraña un perjuicio a la sociedad, a través del descaecimiento de la ética y de la transparencia, independientemente de la magnitud de la falta.
            Hace unos meses, el Ministerio de Ganadería, Agricultura y Pesca decidió que una pequeña cooperativa agropecuaria ubicada en el departamento de San José, necesitaba un profesional antropólogo para la dilucidación de un problema para el cual tal especialista parecía lo más apropiado. Las familias cooperativistas sufrían la pérdida de los jóvenes que abandonaban el campo y el envejecimiento natural de la fuerza de trabajo empezaba a poner en cuestión el emprendimiento.
La oferta era realmente exigüa: un par de jornadas mensuales en la cooperativa (se exigía locomoción propia) y una remuneración bajísima pero aún así una media docena de profesionales respondieron al llamado. Fueron citadas para una entrevista (todas a la misma hora) en el local prestado por una cooperativa lechera ubicada en la ciudad de San José. Todas llegaron puntualmente y para su sorpresa fueron entrevistadas de a una en forma sucesiva de modo que el proceso demandó toda la mañana (el desprecio por el tiempo ajeno es característico). Al principio y mientras esperaban su turno, las aspirantes, todas antropólogas jóvenes graduadas y algunas de ellas locatarias, pensaron que una de las convocadas no había asistido pero después se dieron cuenta de que una señora mayor había sido convocada una hora antes y se había retirado discretamente al momento de la llegada de ellas.
Los entrevistadores eran una especie de panel compuesto por el presidente de la cooperativa y un acompañante más un par de estudiantes de agronomía y/o veterinaria que parecían formar sus apoyos técnicos. A las entrevistadas no les costó darse cuenta que se trataba de una instancia de mero trámite y no les resultó sorprendente el correo electrónico que cada una recibió semanas después agradeciendo la concurrencia, señalando que su perfil no coincidía con lo que se necesitaba y anunciando que el trabajito había sido asignado a la señora madrugadora.
Lo llamativo del asunto, a pesar de la clara evidencia de que cinco profesionales habían sido convocadas como figurantes o comparsas, era que la designada, una antropóloga que ocupa un alto cargo (nada que ver con antropología) en una minúscula pero adinerada universidad privada, tiene méritos que exceden largamente los necesarios para ese desempeño. Es obvio que detrás de este engaño hay algo más que una contratación insignificante.
Es posible que los méritos de la contratada, obtenidos en el extranjero y que tal vez hayan sido convenientemente magnificados, le hubieran bastado por si solos para obtener el encargo pero ¿qué hace una profesional presuntamente experimentada y que detenta un cargo presumiblemente de muy elevada remuneración y exclusiva dedicación, presentándose a una modestísima asesoría? Ni méritos ni ingresos justifican un tongo semejante. ¿Qué papel jugó la cooperativa, qué papel el MGAP? ¿Qué puertas se le abrieron a la sedicente experta internacional y se le cerraron a las profesionales jóvenes que hicieron de comparsas para su nombramiento? ¿En qué altar o en qué intercambio se sacrificó la ética? En los carnavales de antaño por lo menos se sabía la razón por la que el carro del Chaná había sido declarado “fuera de concurso”.