ChatGPT es confidente de conversaciones muy personales. Ya son muchas las personas que consultan prácticamente todo a la IA, que aconseja sobre todo (incluyendo la vida) como buenamente puede. El uso de ChatGPT como psicólogo, coach o confidente es una práctica cada vez más habitual.
OpenAI lo sabe, y también entiende que es testigo de conversaciones cuya conclusión es que la vida de una persona puede estar en riesgo de autolesión. Para intentar evitarlo, OpenAI ha creado una forma para que ChatGPT contacte con personas de confianza cuando detecta una crisis personal severa.
La IA para evitar problemas mayores
La nueva función anunciada por OpenAI se llama “ChatGPT Trusted Contact” y ya está comenzando a desplegarse en la plataforma por todo el mundo. Lo que hace es permitirnos designar a una persona para notificarla si el sistema detecta un problema serio de seguridad.
Se puede activar desde los ajustes de ChatGPT dentro del apartado de seguridad. Es ahí donde se puede invitar a alguien de confianza, ya sea un familiar o un amigo. Esa persona tiene una semana para aceptar la invitación. Una vez aceptada, si los sistemas automáticos de ChatGPT detectan una conversación con posible riesgo de autolesión, un equipo de revisores humanos chequeará la situación.
OpenAI detalla que intentará completar esa revisión en menos de una hora. Si los revisores llegan a la conclusión de que existe una preocupación real de seguridad, el contacto de confianza recibirá una notificación por correo electrónico, SMS o aviso dentro de la app. El mensaje informará de que ha surgido una preocupación y anima a contactar con la persona afectada.
OpenAI también ha dejado claro que no compartirá transcripciones ni detalles de las conversaciones. Simplemente anima a contactar con esa persona para que pueda recibir ayuda, esta vez, por parte de un humano. La función es opcional y permite un único contacto (debe ser adulto) por cuenta y solo está disponible para cuentas personales de ChatGPT. Es decir, que no se aplica a planes Business o Enterprise.
¿Por qué llega ahora esta función?
Como hemos comentado, ChatGPT es testigo de conversaciones privadas y muy personales. También ha habido noticias en los últimos tiempos en las que ChatGPT había estado en el foco de la atención y conversaciones con personas que posteriormente han tenido serios problemas. La idea es que ChatGPT ponga de su parte de manera proactiva. De hecho, OpenAI ha estado trabajando con la American Psychological Association y con su propio consejo de expertos para desarrollarla.
La firma ha detallado que, según sus datos internos, alrededor del 0,15 % de los usuarios activos semanales mantienen conversaciones con indicadores explícitos de posible autolesión El objetivo final es que el apoyo humano pueda estar presente y que la IA sea una voz de alarma que de otra forma, quizá nunca se daría.
