ChatGPT sugiere tratamientos inexactos para el cáncer, según estudio

La inteligencia artificial ha avanzado a pasos agigantados, ofreciendo soluciones que han transformado la forma en que interactuamos con la tecnología. Sin embargo, cuando se trata de temas críticos como la salud, la precisión es fundamental. Recientes estudios han revelado que herramientas como ChatGPT, a pesar de su popularidad, pueden contener errores graves en sus recomendaciones sobre tratamientos médicos, especialmente en casos tan delicados como el cáncer. Profundicemos en este tema y entendamos por qué es crucial ser cautelosos.

Investigaciones recientes realizadas por el Brigham and Women's Hospital, que es parte de la Facultad de Medicina de Harvard, han puesto de relieve preocupaciones significativas sobre la fiabilidad de ChatGPT. Este estudio, publicado en la revista JAMA Oncology, encontró que el chatbot de OpenAI no solo proporcionó información incorrecta, sino que también mezcló datos verídicos con falsedades en sus respuestas sobre el cáncer y sus tratamientos. Esta combinación de información errónea y correcta dificulta la capacidad del usuario para discernir lo que es verídico, un aspecto crítico en el ámbito médico.

Los peligros de la desinformación en salud y medicina

La salud es un área en la que los errores pueden tener consecuencias fatales. Los investigadores del estudio mencionaron que, a pesar de que ChatGPT es una herramienta poderosa en muchos contextos, sus errores en materia de salud son alarmantes. Mientras que en otros campos un error puede ser simplemente molesto, en medicina, podría costar vidas.

La doctora Danielle Bitterman, una de las autoras del estudio, expresó su preocupación: “Nos ha sorprendido el grado en que la información incorrecta se mezclaba con la correcta. Esto hace que sea especialmente difícil para los médicos y pacientes detectar los errores”. Este fenómeno subraya la necesidad de un enfoque crítico hacia la información generada por inteligencia artificial.

• La precisión en la información médica es vital para la toma de decisiones informadas.
• Los errores de ChatGPT se amplifican en áreas críticas como tratamientos específicos de cáncer.
• La combinación de datos correctos e incorrectos puede llevar a recomendaciones peligrosas.

La realidad sobre los sistemas de inteligencia artificial y los médicos

Aunque algunas investigaciones han sugerido que ChatGPT puede ofrecer respuestas más empáticas que algunos médicos, es importante entender que la empatía no reemplaza la experiencia y el conocimiento médico necesario para diagnosticar y tratar enfermedades. Un estudio diferente, realizado en mayo, elogió a ChatGPT por su capacidad de proporcionar respuestas más comprensivas en un contexto de consultas médicas, pero eso no significa que sea un sustituto adecuado para el asesoramiento médico profesional.

Por el contrario, un análisis más riguroso del desempeño de ChatGPT en el área médica revela que, en muchos casos, falló en proporcionar información precisa. En el estudio de JAMA Oncology, se descubrió que el 12.5% de las respuestas generadas por ChatGPT eran completamente inventadas. Esto es especialmente preocupante en tratamientos de enfermedades avanzadas o en contextos de inmunoterapia, donde la información precisa puede ser la diferencia entre la vida y la muerte.

ChatGPT y Bard: dos caras de la misma moneda

La tecnología de inteligencia artificial no es infalible. Tanto ChatGPT como Bard, el sistema de Google, han sido objeto de críticas por su tendencia a "alucinar" información, lo que significa que pueden crear respuestas que suenan plausibles pero que son completamente erróneas. A raíz de estos problemas, la Comisión Federal de Comercio de EE. UU. ha comenzado una investigación sobre ChatGPT para examinar la difusión de información errónea y evaluar su impacto en la seguridad pública.

La preocupación no se limita a un solo sistema; Bard también ha mostrado deficiencias similares. Por ejemplo, se le han atribuido errores al proporcionar información sobre el Telescopio Espacial James Webb, lo que pone de manifiesto que estas tecnologías, aunque avanzadas, aún están lejos de ser perfectas.

El impacto de la desinformación en la salud pública

La proliferación de información incorrecta en plataformas digitales es un problema creciente. El acceso a datos erróneos puede tener repercusiones devastadoras, especialmente en el ámbito médico. La popularidad de ChatGPT, que alcanzó más de 100 millones de usuarios activos en poco tiempo, ha exacerbado esta situación, ya que más personas están expuestas a información que puede ser peligrosa.

La inteligencia artificial generativa, como ChatGPT, es propensa a errores y "alucinaciones". Esto se traduce en una necesidad urgente de regulaciones más estrictas y una revisión crítica de cómo se utilizan estas herramientas. La respuesta de OpenAI deja claro que sus modelos, aunque útiles, no están diseñados para ofrecer diagnósticos médicos precisos, y advierten a los usuarios que deben consultar siempre a profesionales de la salud.

La reciente decisión de varios medios de comunicación de bloquear el acceso de OpenAI a su contenido también podría tener un efecto en la calidad de la información que ChatGPT puede proporcionar. Al reducir la cantidad de datos disponibles para su entrenamiento, es posible que el modelo se encuentre con menos herramientas para ofrecer respuestas precisas.

En este contexto, el video titulado "Riesgos de Diagnósticos de Cáncer por Chatbots de IA" ilustra las preocupaciones actuales sobre la utilización de inteligencia artificial en la salud. Este recurso visual destaca situaciones donde la información errónea podría tener consecuencias severas y es fundamental para entender la magnitud del problema.

La necesidad de un enfoque crítico hacia la inteligencia artificial

La conclusión es clara: aunque la inteligencia artificial ofrece oportunidades emocionantes, debemos ser cautelosos con su uso, especialmente en áreas sensibles como la salud. La combinación de datos correctos e incorrectos en sistemas como ChatGPT plantea riesgos que no podemos ignorar. Los usuarios deben ser proactivos al buscar información y siempre consultar a un profesional de la salud antes de tomar decisiones basadas en respuestas de inteligencia artificial.

El futuro de la inteligencia artificial en medicina es prometedor, pero requiere un enfoque equilibrado que priorice la precisión y la seguridad. A medida que avanzamos en esta era tecnológica, es esencial que tanto los desarrolladores como los usuarios mantengan un compromiso con la verdad y la responsabilidad en la gestión de la información médica.

Si quieres conocer otros artículos parecidos a ChatGPT sugiere tratamientos inexactos para el cáncer, según estudio puedes visitar la categoría IA.