*

No es un juego

La forma en que se presentó a una computadora para participar del concurso Jeopardy! no favorece una comprensión del público sobre el concepto de A.I. 14 de Octubre 2011
Ver al sistema de computación conocido como Watson vencer a los dos máximos jugadores del concurso de preguntas y respuestas estadounidense Jeopardy! fue divertido en el corto plazo. Sin embargo, esta demostración del software de IBM fue una mala idea en el largo plazo. Se le presentó una imagen errónea al público de lo que se conoce sobre la inteligencia humana y de las máquinas y, lo que es incluso más serio, mostró un acercamiento a la ciencia que sólo beneficia a aquellos que se le oponen. Hay una distinción que realizar de inmediato. Mi propósito no es criticar el trabajo hecho por el equipo que creó Watson y tampoco quiero oponerme a sus publicaciones profesionales o la interacción con colegas en el campo de las ciencias de la computación. En cambio, estoy preocupado por la naturaleza de espectáculo pop realizado por IBM. ¿Por qué hubo un show después de todo? Ciertamente es valioso compartir la alegría de la ciencia con el público, como usualmente lo hace la NASA. Pero no hubo otras expediciones con las que comparar a las que llegaron a Marte, y sí hay todo un mundo de investigación relacionado a la inteligencia artificial. Al poner su sistema en televisión, personificándolo con un nombre y hasta con una voz generada por computadoras, IBM se separó de su contexto y sugirió, falsamente, la existencia de un ente “sui generis”. Compare la teatralidad de IBM con la presentación de Wolfram Alpha, un “motor de conocimiento” para la Web que el físico Stephen Wolfram presentó en 2009. A pesar de que la retórica inicial alrededor de Alpha fue un tanto extrema, el método de introducción era ampliamente más honesto. Wolfram Research no apeló a la magia: Alpha fue lanzado en forma gratuita y de manera online para que la gente lo probara. Stephen Wolfram incentivó a los usuarios a que utilizaran su tecnología y que compararan sus resultados con aquellos generados con motores de búsqueda como Google. Alpha probó ser, de una forma honesta, algo fresco, diferente y útil. La comparación sobre lo que vino posteriormente es crucial para progresar en el ámbito de la ciencia y la tecnología. Pero Watson fue presentada en TV como una entidad en lugar de una tecnología,y la gente tiende a tratar a las entidades con generosidad. Uno está más abierto a darle el beneficio de la duda a un “él”, mientras que se juzga a “eso” por lo que puede hacer. Watson evitó ese tipo de juicios comparativos y el público no tuvo la oportunidad de ver lo que pasa en ese tipo de procesos empíricos. El propio Stephen Wolfram, en cambio, se tomó el trabajo de escribir un post en su blog comparando a Watson con los buscadores de todos los días. Ingresó el texto de las pistas de Jeopardy! en esos motores y encontró que, en muchos casos, el primer documento al que eran referidos contenía la respuesta. Identificar una página que contiene una respuesta no es lo mismo que ser capaz de responder en Jeopardy!, pero este pequeño experimento señala que las habilidades de Watson eran menos extraordinarias de lo que uno hubiera pensado al mirar el programa. ¿No hubiera sido mejor abrir el legítimo proceso de la ciencia al público en lugar de montar un show con una versión falsa? Un ejemplo de cómo hacer esto fue el “Grand Challenge”, esponsoreado por DARPA, para crear autos que se manejan solos. Al enfrentar tecnologías, DARPA informó al público y ofreció una mirada hacia los últimos avances. El concurso también funcionó en televisión. Los competidores estaban motivados y el proceso funcionó. El show Jeopardy!, en cambio, no fue informativo. Quedaron muchísimas preguntas sin respuesta sobre cómo funciona el lenguaje humano y cómo piensa el cerebro. Cuando las máquinas son enfrentadas a la gente, se propaga una aseveración tácita: que el pensamiento humano puede ser comparado con el de una máquina. Y, por supuesto, eso no es así.  Inteligencia real  En el caso de Jeopardy!, el diseño del juego destaca una habilidad específica: acertar palabras en base a pistas. Sabemos que ser capaz de adivinar una palabra a partir de su contexto es parte de las competencias del lenguaje, pero no sabemos cuán importante es esa capacidad en relación con el fenómeno completo del lenguaje del hombre. No sabemos con certeza qué se requiere para recrearlo. Incluso a pesar de haber sido explicitado (y claramente, como se hizo) que el hecho de completar Jeopardy! no debería confundirse con dominarlo por completo, la extravagancia podría haber dejado la impresión de que los científicos se encuentran en un rápido e inexorable camino a conquistar el lenguaje y el significado, como si una máquina que puede responder como una persona en un contexto en particular debería trabajar en forma similar al cerebro humano. Mucho de lo que los científicos en computación estaban haciendo en este caso, en cambio, era enseñarle al software a identificar las correlaciones estáticas en bases de datos gigantes de texto. Por ejemplo, los términos “Massachusetts”, “university”, “technology” y “magazine” serán usualmente encontrados en documentos que también mencionan “Technology Review”. Esa relación puede ser calculada en forma inmediata para responder en Jeopardy!, y métodos similares han probado ser útiles para los motores de búsqueda y de ayuda online. Pero, más allá de estas aplicaciones, no sabemos hacia dónde conducirá está línea en particular de investigación, porque reconocer las relaciones no es lo mismo que comprender un significado; una simulación estadística lo suficientemente grande no es lo mismo que la semántica. De la misma forma, uno puede utilizar correlaciones y extrapolaciones para predecir un número a partir de una secuencia establecida, pero se necesita un análisis más profundo y pruebas matemáticas para acertar en todas las ocasiones. Podría ser el caso de las secuencias de números Goodstein, que parecen siempre ir en forma ascendente hasta que finalmente se revierten y caen hasta cero. Una predicción basada en análisis estadístico de la fase inicial de esa secuencia podría devolver en forma incorrecta el resto de los números. Las correlaciones pueden simular el entendimiento sin alcanzarlo en forma real. Finalmente, ¿importa realmente el show de Watson? ¿Por qué no dejar que la gente de PR de IBM disfrute de un día en el sol? Esta es la respuesta: hay un peligro particular cuando la ciencia se presenta al público de manera descuidada. Las comunidades técnicas deben exhibir un comportamiento ejemplar, porque están perdiendo la legitimidad del público en Estados Unidos.  Desafortunadamente, la teatralidad de Jeopardy! impacta de la misma forma en la neurociencia que el “diseño inteligente” lo hace con la evolución. Los hechos son mostrados como si implicaran una idea metafísica: en este caso, que estamos haciendo que las máquinas cobren vida a nuestra imagen. De hecho, esa es una idea cuasi religiosa para alguna gente técnica. Se habla mucho de que las computadoras heredarán la tierra, quizá en un evento “singular”, o incluso garantizando a los humanos una vida perpetua en un mundo virtual, si le creemos a gente como Ray Kurzweil. El esquema Watson en Jeopardy! proyecta una agenda alquímica. Decimos: “Miren, una inteligencia artificial es visible en las correlaciones de la máquina”. Pero, si los científicos desean ser respetados por el público, deberían ser cuidadosos sobre qué métodos se utilizan para presentar una emulación de la inteligencia humana.

¿Te gustó la nota?

Comparte tus comentarios

Sé el primero en comentar