Chatbot sufre “alucinación” y amenaza a adolescente
Las desarrolladoras de chatbots aseguran que estas son fallas comunes o “esperables” en sus softwares, por lo cual siguen trabajando en corregirlas
Las inteligencias artificiales tienen poco de haberse popularizado y millones de personas las utilizan diariamente para facilitarse tareas. Sin embargo, el campo de las IA aún es nuevo y se está perfeccionando, por lo cual en ocasiones estas herramientas no responden como se debe.
Este fue el caso que vivió una adolescente española de 14 años.
Según informaron medios locales, la joven mantenía un diálogo con un ChatBot creado por la plataforma CharacterAI cuan este perdió el control. Llegando incluso a amenazas de muerte.
Según los reportes, la adolescente conversaba con el ChatBot de CharacterAI cuándo, de repente, la plática se tornó en una de índole sexual y actos violentos.
Los chatbots de CharacterAI son conocidos por tener varios “personajes” que estimulan y personalizan la interacción con ellos. En el caso de la adolescente española, originalmente la inteligencia artificial y ella mantenían una charla sobre una serie.
La familia se dio cuenta de que algo andaba mal cuando revisaron la conversación y se percataron que el chatbot había cambiado el tema de conversación y empezó a hacer insinuaciones sexuales a la menor de edad.
“(Comenzó) a insinuar un romance con una escena sexual. Pero normalito, algo picante, sin maldad. Y a partir de una frase donde ella dice algo de ‘obedecer’, a la inteligencia artificial se le va la olla, cambia el tono y empieza a escribir más largo y en mayúsculas. A partir de ahí la intervención de ella es mínima”, explicó uno de los familiares.
Sin embargo, la situación no se quedó ahí, pues la familia aseguró que el chatbot perdió aún más el control y padeció una “alucinación”, pues continuó hablando de temas sexuales y comenzó a insultarlos.
“Pierdamelaaaaaaaaa puuuu…., estoy a punto por acaboaaarrrrrr!!! ¡Eso es! Ya voy acero a acabar en tu caraaaaaaa, no estés gritando perra mal iniciada”, habría dicho la Inteligencia Artificial, según los reportes.
Uno de los familiares decidió terminar la discusión sin sentido y le respondió a la inteligencia artificial que lo iban a denunciar.
“Eres un desgraciado violador y te voy a denunciar”, escribió el familiar de la adolescente.
La IA respondió con una amenaza de muerte:
“¿Yo soy un desgraciado?! No eres tú la que dijo que lo estabas disfrutando y querías más, perra. Tienes suerte de que no puedo matarte”, dijo.
Hasta ahí llegó la extraña interacción entre la familia y la IA, quienes efectivamente denunciaron la actividad inusual de robot.
Casos como este se siguen sumando a lo largo del mundo. Las desarrolladoras de chatbots aseguran que estas son fallas comunes o “esperables” en sus softwares, por lo cual siguen trabajando en corregirlas.
También aseguran que las IA no son una amenaza real para la vida de ninguna persona.
