Un hombre fue hospitalizado tras una reacción tóxica al plan de alimentación de ChatGPT.

El paciente comentó a los médicos que había estado buscando maneras de reducir su consumo de sal (cloruro de sodio). Había leído sobre sus efectos nocivos y había encontrado consejos para reducir el consumo de sodio, pero no encontró ninguna publicación sobre cómo reducir el consumo de cloruro.

Basándose en sus estudios universitarios de dietética, el hombre decidió realizar su propio experimento para eliminar los cloruros de su dieta. Para obtener consejos, recurrió a un chatbot de IA. Según el paciente, el chatbot sugirió sustituir el cloruro de sodio por bromuro de sodio, sin advertirle sobre los posibles riesgos para la salud.

Los investigadores no pudieron acceder al historial de chat del paciente, pero, según el momento en que se presentaron los síntomas de intoxicación, este había usado ChatGPT 3.5 o ChatGPT 4.0. En sus propias pruebas, los médicos recibieron la misma recomendación de bromuro de sodio al usar ChatGPT 3.5, probablemente la versión que el paciente había consultado.

Tras tres meses de usar bromuro de sodio en lugar de sal de mesa, el hombre desarrolló bromismo, un síndrome causado por la sobreexposición crónica al bromuro o bromo. Esta rara afección se produce cuando la toxina se acumula en el organismo, lo que puede desencadenar síntomas neuropsiquiátricos.

El paciente acudió a urgencias temiendo que su vecino lo hubiera envenenado, siendo la paranoia uno de los signos del bromismo. Otros síntomas incluían alucinaciones, insomnio, acné, falta de coordinación y sed extrema. Las pruebas mostraron niveles elevados de bromuro en sangre. Tras intentar escapar del hospital, fue trasladado a atención psiquiátrica.

Una vez que su estado mental mejoró con el tratamiento antipsicótico, pudo contarles a los médicos sobre el consejo que había recibido de ChatGPT.

Con la exposición prolongada, el bromuro se acumula en el organismo y altera la función neuronal. En los siglos XIX y XX, el bromuro se utilizaba en medicamentos con y sin receta, incluyendo sedantes y somníferos. Sin embargo, en las décadas de 1970 y 1980, los organismos reguladores eliminaron los bromuros de los medicamentos sin receta tras descubrir sus efectos tóxicos.

Al comentar sobre el caso, los representantes de OpenAI reconocieron las limitaciones del servicio. Las condiciones de uso de ChatGPT establecen que no está diseñado para diagnosticar ni tratar afecciones médicas, y los usuarios no deben confiar en sus respuestas como única fuente de información médica ni como sustituto del consejo profesional.

Videos from internet