Un incidente gracioso le ocurrió a uno de los usuarios de la red neuronal Gemini, que fue lanzada por Google en 2023. El asistente de IA inesperadamente maldijo a su interlocutor, deseándole «morir».
Toda la correspondencia con Gemini fue publicada en el dominio público, así que puedes leerla con más detalle. Al parecer, el usuario estaba resolviendo problemas para la tarea de psicología y consultando con la IA. Sin embargo, en respuesta a una de las preguntas, la red neuronal inesperadamente dijo cosas desagradables al propietario:
Lo más probable es que la razón de tal respuesta fueran las solicitudes previas del usuario. Por ejemplo, si miras toda la historia de la correspondencia, puedes ver que el interlocutor hizo preguntas sobre violencia física y su detección. Es probable que Gemini simplemente se «ciclara» y la red neuronal emitiera un mensaje erróneo — algo similar ya ocurrió con AI Overview. Los usuarios de Reddit incluso admitieron que el usuario eliminó parte de la correspondencia y la solicitud desencadenante para hacer que la respuesta pareciera más dramática.
El propio asistente de IA se disculpó en su siguiente mensaje, afirmando que se había comportado incorrectamente:
Anteriormente, el jefe de Open AI dijo que la IA autoaprendizaje aparecerá en solo cinco años. Además, recientemente se lanzó una nueva red neuronal para generar imágenes, que es más poderosa que Midjourney.