¿Qué pasó con la AI que Facebook apagó?
En muchos medios salió a la luz diversos títulos que decían básicamente que Skynet había nacido, debido a que unos bots crearon su propio lenguaje para comunicarse y que la empresa de Mark Suckerberg decidió apagar esta Inteligencia Artificial. ¿Qué pasó realmente?
Primero hay que destacar los increíbles títulos publicados en diversos medios relativamente serios: “Facebook quita inteligencia artificial que salio de control“, “Terror en Facebook por el descontrol de una programa basado en inteligencia artificial“, “Facebook perdió el control de un sistema de inteligencia artificial que tomó vida propia”, y hasta “Facebook apaga proyecto de inteligencia artificial luego de que se saliera de control”.
Al leer estos titulares pensamos que todas las películas de ciencia ficción que hemos visto desde Yo, robot, hasta Terminator tenían razón, pero no puede estar más lejos de la realidad.
Podemos aislar y analizar un montón de puntos con esta noticia, que van desde las implicancias éticas en cuanto al desarrollo de una inteligencia artificial que suplante al labor humano, hasta el amarillismo en los medios.
Lo que pasó es que Facebook, en este caso, está desarrollando bots, llamémoslos unos “robots virtuales” para responder consultas de usuarios reales sin la necesidad de tener una persona del otro lado de una institución, por ejemplo. Para poder ver avances, pusieron a dos de estos bots a “chatear entre ellos“, llegando a la siguiente conversación:
Bob: I can i i everything else
[Bob: Puedo yo yo todo lo demás]
Alice: balls have zero to me to me to me to me to me to me to me to me to
[Alice: pelotas tienen cero para mí para mí para mí para mí para mí para mí para mí para mí para]
Bob: you i everything else
[Bob: tú yo todo lo demás]
Alice: balls have a ball to me to me to me to me to me to me to me to me
[Alice: pelotas tienen una pelota para mí para mí para mí para mí para mí para mí para mí para mí]
Los bots sólo charlaron cómo dividir una matriz de elementos dados (representada en objetos como libros, sombreros y pelotas), de una manera que el resultado fuese mutuamente aceptable.
Para nosotros el diálogo no tiene sentido, pero el equipo de investigación de Facebook está de acuerdo con que la operación fue un éxito: “El desempeño del mejor agente de negociación del FAIR, que hace uso de aprendizaje de refuerzo y despliegue de diálogos, se asemeja al de los negociadores humanos […] lo que demuestra que los ‘bots’ no solo hablan inglés, sino que también piensan de manera inteligente qué es lo que van a decir”.
Facebook logró que los bots hablen entre ellos, pero olvidaron algo, no incentivarlos a que se comuniquen según las reglas de un inglés comprensible para nosotros, los humanos. En su intento por aprender el uno del otro, los bots conversaban entre ellos en abreviaturas que creaban, inventando un idioma, algo que llevó intranquilidad a mucha gente, pero solo es eso.