Expertos explican por qué los psicólogos de IA no pueden sustituir a los terapeutas humanos

Los psicoterapeutas han señalado el contacto humano como la principal diferencia entre un terapeuta de IA y un especialista de verdad. La terapia se basa en las relaciones, la confianza y la sensación de seguridad, y un especialista no solo presta atención a lo que dice el paciente, sino también a los cambios en su estado.

Una red neuronal puede ayudarte a entender tus pensamientos, ordenar la situación, ofrecer información útil o sugerirte ejercicios, pero ante una depresión grave, pensamientos suicidas, un trastorno alimentario, un trauma o relaciones complicadas, no basta con un buen consejo: un especialista debe evaluar el estado de la persona y hacerse responsable de su atención.

Al mismo tiempo, es posible que la IA no detecte los signos de una depresión grave, un trastorno de pánico, estrés postraumático o intención suicida; además, la disponibilidad permanente de un chatbot puede retrasar la búsqueda de ayuda profesional: alguien podría pasarse años hablando con él sin recibir nunca ayuda de verdad. Otro riesgo tiene que ver con la confidencialidad. Los datos personales de las conversaciones con un chatbot pueden almacenarse, utilizarse para entrenar modelos o acabar filtrándose.

La IA también puede imitar la empatía, pero no la siente de verdad, y en situaciones críticas una red neuronal no podrá llamar a una ambulancia, avisar a los seres queridos ni garantizar la seguridad de una persona. Por cierto, OpenAI está probando ChatGPT Health, una sección privada para consultas sobre salud.

¿Puede la disponibilidad permanente de un chatbot compensar los riesgos de la terapia automatizada, si podría no detectar una situación peligrosa y no ayudar en una emergencia?