Facebook apagó inteligencia artificial que creó un lenguaje propio

La IA sistema de chatbots de Facebook generó dudas y problemas.

Para los desarrolladores en el corto y mediano plazo ya que como inteligencia artificial desarrollo su propio idioma.

Hace unos días surgieron diferencias entre Elon Musk y Mark Zuckerberg sobre la inteligencia artificial (IA).

Ahora les contamos cómo a Facebook creo experimento con inteligencia artificial

El equipo de Investigación IA de Facebook (FAIR, por sus siglas en inglés) desarrolló un sistema entre dos agentes inteligentes.

Estos debían negociar. Al inicio, funcionaonn según lo esperado.

Pero en pocos días, Bob y Alice –como se bautizó a estas dos IA– .

Estas crearon un lenguaje ininteligible para los humanos.

Según publica Fast Co. Design:

Tuvo acceso a los diálogos, los agentes artificiales empezaron a usar palabras que no tenían sentido.

Pero, al analizarlo lo que realmente ocurrió es que la IA evolucionó la estructura de las conversaciones.

Y logro trascender para hacerlas más eficientes.

Y sin las estrategias que un humano ocupa a la hora de negociar.

El diseño del programa motivaba a los agentes a responder bajo recompensa.

Al notar que el inglés no les generaba recompensa, modificaron el lenguaje a uno que consideraron más eficiente.

“Los agentes se desviaron de un lenguaje comprensible y crearon unas palabras en código por ellos mismos”.

Explicó Dhruv Batra, miembro del equipo de investigación de IA en Facebook.

Ante la incapacidad de poder entender lo que se decía:

Finalmente el equipo decidió apagar el experimento ante la probabilidad de perder el control del mismo.

No porque pudiera escaparse a la red u otro, sino más bien porque al no entender la situación, no sabrían nunca cómo corregirlo.

Digital Journal, que también reportó el caso.

Señaló que no es la primera vez que una IA Facebook crea su propio lenguaje

Dentro de la fundación OpenAI, fundada por Elon Musk.

Un experimento también comprobó que las IA desarrollaban su propia manera de comunicarse.

Google mismo introdujo IA a su traductor, lo que elevó la tasa de éxito de traducciones entre idiomas.

Incluso no habían sido completamente enseñados.

El caso seconvierte en una dificultad para los desarrolladores.

Estos podrían enfrentarse cada vez a más situaciones donde queden sin entendimiento con la máquina inteligente.

A su vez, no se sabe si esto en un futuro podría significar que:

Una IA anule a sus propios operadores.

Loading Facebook Comments ...

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *