Facebook apaga una inteligencia artificial que había creado su propio lenguaje

La división de Facebook de desarrollo de inteligencia artificial creó un sistema dedicado a las negociaciones. Días más tarde se sus primeras pruebas el sistema comenzó a conversar en un lenguaje extraño y aparentemente erróneo. Sin embargo, no era un error, había creado su propio idioma y Facebook ha decidido apagarlo.

La IA constaba de dos agentes que se dedicaban a negociar, llamados Bob y Alice. Sus creadores querían probar cómo un sistema de este tipo podía aprender a negociar, pero a los pocos días notaron que ya no estaban hablando en inglés, sino en algo parecido. Sus conversaciones parecían basarse en palabras aleatorias y sin nada de sentido.

Citar
Bob: "I can i i everything else"

Alice: "balls have zero to me to me to me to me to me to me to me to"

Traducido al español:

Citar
Bob: "Yo puedo yo yo todo lo demás"

Alice: "bolas tienen cero a mi a mi a mi a mi a mi a mi a"

Lo que detectaron los desarrolladores es que en lo que parecían ser frases sin sentido, había un patrón. Básicamente, la IA había creado su propio idioma, uno que consideraba mucho más efectivo y al grano que el inglés. Lo que los investigadores han podido determinar es que "yo" y "a mi" reflejan la cantidad de objetos que obtendrán en el intercambio. Son frases más lógicas que adornadas, como solemos hacer en tantos idiomas "humanos".

El problema que esto representa para los desarrolladores de IA es que si un sistema de inteligencia artificial decidiera ignorar el idioma en el que fue programada y crear el suyo propio por ser "más eficiente", esto supondría una enorme dificultad para el desarrollo y la adopción de redes neuronales y, en general, para la creación de nuevas tecnologías basadas en la IA. Básicamente, si la IA lo quisiera, sería imposible comunicarnos con ella. Esto significa la pérdida de control del programador u operador sobre la inteligencia artificial.

Facebook apagó este sistema antes de que perdieran el control por completo, para trabajar en soluciones y seguir innovando en la materia. No es la primera vez que esto sucede, dado que a Google también se le salió de control el lenguaje de una IA que había desarrollado.

Curiosamente, Mark Zuckerberg defendió el desarrollo y los avances en materia de inteligencia artificial después de que Elon Musk hablara de regularla "antes de que fuera demasiado tarde". En esta ocasión no hablamos del nacimiento de Skynet ni el alzamiento de las máquinas, pero sí de la pérdida de tiempo, inversión, desarrollo y un sistema completo por decisión propia. [Fast Co. vía Angel Jimenez / Digital Journal]

Fuente: No tienes permitido ver los links. Registrarse o Entrar a mi cuenta

Muy interesante gracias por el aporte

Enviado desde mi SM-G950F mediante Tapatalk

En realidad no existe ningún riego ya que lo que hicieron no fue otro leguaje, fue como decir "yo tengo manzana manzana manzana" en lugar de "yo tengo 3 manzanas"

Enviado desde mi SM-A500M mediante Tapatalk

No sé si lo que haré es lo correcto en esta página, pero si lo que hago está mal pueden eliminar esta respuesta y retarme.

Hice un post en mi página web hablando al respecto de este problema y con más sentido común: No tienes permitido ver los links. Registrarse o Entrar a mi cuenta

No tienes permitido ver los links. Registrarse o Entrar a mi cuenta
No sé si lo que haré es lo correcto en esta página, pero si lo que hago está mal pueden eliminar esta respuesta y retarme.

Hice un post en mi página web hablando al respecto de este problema y con más sentido común: No tienes permitido ver los links. Registrarse o Entrar a mi cuenta

Primero que nada me parece que el auto-spam no esta permitido, aunque no estoy por eso, tengo una opinión muy diferente sobre la publicación de tu pagina, por que como dices y cito:

"Porque si no les enseñas a atacar, nunca lo hará. Eso es un ejemplo de los miles que puedo darte para que te sientas tranquil@."

Sabes lo que es la inteligencia artificial y como aprenden mediante redes neuronales? a diferencia de lo que dices, a las redes neuronales no les enseñan, ellas aprenden. Es precisamente el principio de pensamiento de los seres humanos, las neuronas.
Conforme vas realizando una actividad "X" te vas dando cuenta de cosas y las vas aprendiendo y realizando conexiones entre neuronas y que estas aprendan el proceso y vallan pensando. El problema es que si la IA en su programación aprende que el ser humano es un problema para si mismo puede gestionar una idea y aquí existe el segundo problema, no puedes saber que esta pensando una maquina hasta que ella te lo diga. Entre tantas cosas mas que gestionan tras bambalinas.

Pd. Ojo por que un bot es muy diferente a una IA. Un bot puede gestionar tareas simples a diferencia de la IA que lo que ya hace es pensar, no es lo mismo.
Un saludo.
Pd2. Quizá mas adelante de un curso sobre eso, es muy interesante y es mejor enseñar que explicar a uno por uno.

No tienes permitido ver los links. Registrarse o Entrar a mi cuenta
El problema es que si la IA en su programación aprende que el ser humano es un problema para si mismo puede gestionar una idea

Exacto, en su programación. Justamente lo que está al alcance de nuestras manos, de las manos de los desarrolladores.

A mi parecer todo puede ser posible, cuando dicen que la inteligencia artificial no será o tendrá malas intenciones, es algo que no se podría garantizar y esperemos que no suceda.