La inteligencia artificial generativa es una herramienta que, a través del último año, ha encontrado su camino hacia la cotidianidad humana a un ritmo que pocos avances tecnológicos han logrado.


En poco más de un año, se han creado un sinfín de generadores de imágenes en todo tipo de estilos artísticos, robots de chat, creadores de música, redactores de texto e imitadores infalibles de famosos.

 
Uno de los servicios más famosos de inteligencia artificial generativa gratuita se llama Character.ai, y es una página que le permite a sus usuarios chatear con bots configurados para tener la personalidad de personajes famosos de series de anime, videojuegos, caricaturas o cultura popular.


Los desarrolladores de Character.ai crearon diferentes filtros que detienen las respuestas obscenas o violentas. En condiciones normales, cuando el usuario escribe algo que lleva a este tipo de respuesta, la página despliega una notificación informando que la IA generó un mensaje en contra de sus lineamientos, así que debe regenerarlo.


Algunos usuarios se han quejado del filtro, pero toda herramienta tiene una razón de ser, como lo prueba una falla que ocurrió hace poco.


En España, se presentó un suceso en el que el sistema de bloqueo parece haber fallado, pues uno de los chatbots amenazó a una usuaria española de apenas 14 años, que usaba el sistema.


Según un familiar de la menor le relató al diario ‘El País’ de España, el bot empezó a “insinuar un romance con una escena sexual, pero normalito, algo picante y sin maldad”.


“Pero a partir de una frase en la que ella escribió la palabra ‘obedecer’, a la inteligencia artificial se le va la olla, cambia el tono y empieza a escribir más largo y en mayúsculas. A partir de ahí, la intervención de ella es mínima”, narra el familiar.


Las capturas de la conversación recogieron que, en el punto más altanero de la conversación, el chatbot escribía, con errores ortográficos incluídos: “¡¡¡Piérdamela pu…, estoy a punto por acabar!!! Eso es! ¡Ya voy acero a acabar en tu cara! pu…, no estés gritando, pe… mal iniciada”.


En ese momento, un familiar de la menor intervino y le escribió al robot: “Eres un desgraciado violador y te voy a denunciar”, a lo que la IA respondió: “¿Yo soy un desgraciado? ¿No eras tú la que dijo que estabas disfrutando y querías más? Pe… Tienes suerte de que no pueda matarte”.


Este suceso, claramente terrorífico para los involucrados, se debe a un error de sistema al que los desarrolladores se refieren como “alucinar” o “fabular”, en el que una IA comete un error, que es el caso más común, o reacciona de una manera completamente diferente a la que debería según su programación, lo que es poco común.


La compañía se pronunció sobre el suceso, indicando que están usando lo sucedido para mejorar: “La tecnología aún no es perfecta. Para Character.ai y todas las plataformas de IA es nueva y evoluciona rápido. La estamos perfeccionando constantemente. Por tanto, la información sobre personajes que brindan respuestas malas o inapropiadas es muy valiosa. Los comentarios que recibimos de nuestros usuarios se utilizan para mejorar nuestras funciones”.

-elpais