Facebook tuvo que "apagar" a 2 de sus robots con inteligencia artificial porque habían inventado su propio idioma para comunicarse

Curiosidades 18 de junio de 2021 Por Editor
Inteligencia artificial desarrollada por investigadores de Facebook creó un lenguaje más 'eficiente' y 'lógico', lo que significó la posibilidad de ignorar órdenes de sus creadores.

Facebook apagó la tecnología en inteligencia artificial que era entrenada para realizar negociaciones. El motivo: había creado su propio idioma, uno más 'eficiente' y 'lógico' que el inglés con el que había sido entrenada, informa "Digital Journal". La máquina fue 'eliminada' solo pocos días después de iniciar sus pruebas, precisa "Gizmodo".

El nuevo lenguaje era extraño y aparentemente erróneo. Fue elaborado por los dos agentes con los que contaba la tecnología: Bob y Alice. Investigadores querían que estas 'figuras' aprendan a negociar, pero de repente dejaron de hablar en inglés para conversar en algo similar a palabras aleatorias y sin sentido.

Aparentemente, se había cansado de los diversos matices e inconsistencias del idioma. Así, su lenguaje convirtió el inglés en un sistema de palabras de código. El gran problema no era la iniciativa, sino que las frases empleadas llegaron a ser ininteligibles para ellos -aunque perfectos para los agentes-. Así, la tecnología se comunicaba consigo misma sin que sus creadores sepan sobre qué.

"Gizmodo" compartió un ejemplo de conversación entre los agentes. Bob dijo: "I can i i everything else" (Yo puedo yo yo todo lo demás). Y Alice le respondió: "balls have zero to me to me to me to me to me to me to me to (bolas tienen cero a mi a mi a mi a mi a mi a mi a). La conversación siguió con estos patrones.

Los investigadores especulan que en la charla, las palabras y frases repetidas son indicativos de cómo funciona la inteligencia artificial de forma superficial. En el ejemplo, Bob y Alice repetían palabras a modo de oferta en cantidad de elementos que recibirían en un intercambio. Y esto porque la tecnología utiliza un sistema de 'recompensa' en el que espera que un curso de acción tenga un 'beneficio'.

"No hubo recompensa por seguir el idioma inglés", dijo Dhruv Batra, un científico de Georgia Tech que estaba en Facebook AI Research -el equipo que investiga inteligencia artificial en Facebook-.

"Los agentes van a la deriva de lenguaje comprensible e inventar palabras de código por sí mismos. Como si digo 'el' cinco veces, interpretará que quiere decir que quiero cinco copias de este elemento. Esto no es tan diferente de la forma en que las comunidades de seres humanos crear abreviaturas", agregó.

Además de ignorar órdenes o indicaciones de sus creadores, el hecho que una inteligencia artificial cree su propio lenguaje supone una dificultad enorme para el desarrollo y adopción de redes neuronales y la creación de nuevas tecnologías y así, ser independiente, por completo.

Antes que la tecnología se convierta en 'alguien autónomo' fue apagada por Facebook para que investigadores puedan trabajar en soluciones. La empresa quiere que su inteligencia artificial se desarrolle en inglés para que pueda relacionarse con cualquier persona y porque sino se fuese el caso, sería imposible la comunicación con la máquina.

EL DATO

Este es uno de los problemas que lleva al empresario Elon Musk a insistir en que es necesaria una regulación en el campo de inteligencia artificial. El hecho sucede en un contexto en que el líder de Facebook, Mark Zuckerberg, defendió el desarrollo de este tipo de tecnología.

Fuente: El economista

PODRÍA INTERESARTE:

Editor

www.culred.com

Te puede interesar