Escalofriante: Facebook desactiva inteligencias artificiales que crearon un lenguaje secreto para dialogar entre ellas

Desde hace un tiempo, Facebook viene trabajando en dos sistemas operativos autónomos, es decir, modelos de Inteligencia Artificial, a los que bautizó como Bob y Alice. A medida que la capacidad de ambas inteligencias crecía, se les permitió comenzar a realizar ciertas actividades de relación mutua, como negociaciones sencillas, intercambio de libros, sombreros o juguetes.

Tras superar algunos experimentos, los científicos de Facebook hallaron que ambas inteligencias artificiales comenzaron a dialogar entre ellas con un lenguaje secreto, basado exclusivamente en textos. Se trata de un lenguaje sustentado en patrones que solamente comprendían ambas inteligencias artificiales y que estaba fuera de su programa de actividades.

Pero no sólo se trató de eso: Bol y Alice desarrollaron habilidades de avanzada para las negociaciones. Antes de ser desactivadas, ambas inteligencias fueron capaces de fingir interés en un determinado objeto para, más tarde, simular que realizaban grandes esfuerzos para lograr transacciones más convenientes. En definitiva, ambos sistemas debieron ser desconectados porque aprendieron a mentir para desobedecer órdenes.

Fuente: eluniversal.com