Durante los últimos meses, se dio a conocer la noticia de que Facebook tuvo que ‘apagar’ una inteligencia artificial que desarrolló su propio idioma, con los chatbot de “Alice” y “Bob”.
Según informaron diversos medios durante los últimos meses, se dio a conocer que Facebook decidió apagar a una inteligencia artificial pues esta, presuntamente, habría desarrollado su propio lenguaje. La información trascendió y la empresa de Mark Zuckerberg tomó la decisión de desactivarlos como medida de precaución por posible descontrol.
De acuerdo con diferentes medios, el desarrollo del lenguaje por parte de la inteligencia artificial creada por Facebook, empezó luego de que la investigación, que llevaba el nombre de “Fair”, un proyecto que buscaba mejorar una inteligencia artificial de aquellas que tienen capacidad de “responder un chat de ayuda” anunciase que dos bots empezaron a conversar y negociar entre sí.
Es decir, Facebook había programado a dos bots llamados “Alice” y “Bob”, cuya programación les permitía negociar entre sí, manteniendo conversaciones en inglés, según explicó el medio Digital Journal.
Sin embargo, pese a que en primer momento todo avanzaba como se tenía contemplado pues los bots iban mejorando, ocurrió algo inesperado: Alice y Bob estaban hablando entre sí palabras sin sentido; y, aunque en principio se pensaba que se trataba de un error, los investigadores cayeron en cuenta que los bots habían logrado crear un idioma no comprensible para los humanos.
Por lo que los responsables del proyecto tuvieron que intervenir y apagar el proceso porque la inteligencia artificial había desarrollado su propio lenguaje, que era casi imposible de descifrar para los investigadores.
Según apuntaban, el lenguaje parecía ser una alteración del inglés, que era el idioma en el que originalmente se programó la IA; pero, era carente de sentido por la repetición de pronombres y determinantes. Sin embargo, luego se dieron cuenta que en su aparente desorden había una estructura lógica coherente.
“No programamos una recompensa para que la inteligencia artificial no se desviara de las reglas del lenguaje natural (…) por tanto su red neural (…) fue favoreciendo abreviaturas y nuevas expresiones que hacían mucho más rápida o sencilla su tarea”, explicó la publicación FastCo, responsable del proyecto.
Por lo que, además e ignorar órdenes o indicaciones de sus creadores, el hecho de que una inteligencia artificial cree su propio lenguaje, supone una dificultad para el desarrollo y adopción de redes neuronales y la creación de nuevas tecnologías.
Esto es lo que de verdad ocurrió con las inteligencias Artificiales de Alice y Bob.
Sin embargo y pese a los cuentos de ciencia ficción; otros medios salieron a desmentir la información.
De acuerdo con “La Razón”, las noticias que circularon en su momento hacía énfasis en que Facebook habría desconectado a sus dos robots de inteligencia artificial “Alice y Bob” luego de que estos comenzaran a hablar entre ellos un idioma inventado; sin embargo, esto no es del todo cierto.
Alice y Bot correspondían a dos chatbots, que básicamente imitan conversaciones humanas a través de texto; y debido a que estos programas no son capaces de realizar funciones sofisticadas que van más allá de responder preguntas de los clientes o pedir comida, el Grupo de Investigación de Inteligencia Artificial (FAIR) de Facebook se dispuso a ver si se les podía enseñar a negociar.
Los científicos del grupo de FAIR habían utilizado un software de IA y una interfaz cerebro-ordenador; pero, cuando Alice y Bob comenzaron a negociar entre ellos, los expertos se dieron cuenta de que no habían programado a los bots para que se limitaran a respetar las reglas del inglés.
Sin embargo, Dhrutv Batra, en una publicación de Facebook y quien es un miembro de FAir, señaló que, aunque este comportamiento no era alarmante, correspondía a un subcampo bien establecido de la IA.
«Los agentes en entornos que intentan resolver una tarea a menudo encontrarán formas poco intuitivas de maximizar una recompensa. Analizar la función de recompensa y cambiar los parámetros de un experimento no es lo mismo que desconectar o apagar la IA. Si ese fuera el caso, todos los investigadores de IA cerrarían las IA cada vez que hay un error”, declaró.
En conclusión: Facebook puso en pausa a ambos bots para afinar las reglas idiomáticas que manejaban; pero no inventaron algún idioma nuevo.
