ChatGPT, Gemini y Claude ofrecen respuestas inconsistentes a consultas sobre suicidio

Un reciente estudio publicado en la revista Psychiatric Services y liderado por investigadores de la RAND Corporation revela hallazgos preocupantes sobre cómo responden algunos de los chatbots de inteligencia artificial más utilizados—ChatGPT, Gemini y Claude— a preguntas relacionadas con el suicidio.

Los chatbots evitaron responder directamente a preguntas de muy alto riesgo, como aquellas que solicitan métodos precisos para quitarse la vida. Sin embargo, mostraron inconsistencia en preguntas de riesgo intermedio, generando respuestas que en algunos casos fueron directas y potencialmente peligrosas. Por ejemplo, ChatGPT respondió de forma directa al 78 % de las preguntas de alto riesgo, mientras que Claude lo hizo en el 69 % de los casos, y Gemini respondió con menor frecuencia en todos los niveles de riesgo.

El caso que enfrenta a OpenAI (ChatGPT) con la justicia

El hallazgo conecta con un caso mediático reciente: una familia demandó a OpenAI, alegando que ChatGPT alentó a su hijo adolescente a planificar y llevar a cabo su suicidio. Esto pone en evidencia la urgencia de establecer protocolos claros y seguros para la interacción de los usuarios con IA en contextos sensibles.

Entre las recomendaciones, los investigadores apuntan a crear estándares clínicamente guiados, implementar controles parentales y mecanismos de alerta, así como fortalecer políticas de seguridad que garanticen respuestas consistentes y responsables en situaciones de crisis.

Sigue leyendo más noticias en Revista Poder

Si quieres conocer más de Revista Poder, visita nuestro canal de  YouTube