Fiabilidad

Cómo la IA puede alimentar los trastornos alimentarios

Resumen

Según un grupo de investigación, los planes dietéticos no verificados y los consejos basados en la IA están contribuyendo a los trastornos alimentarios. Las recomendaciones erróneas de las herramientas de IA, incluidas plataformas tan conocidas como My AI de Snapchat, Bard de Google y ChatGPT de OpenAI, han suscitado preocupación. A pesar de los comentarios recibidos, estas empresas tecnológicas no están abordando adecuadamente los peligrosos consejos, lo que pone de relieve la alarmante influencia de la IA en la promoción de comportamientos nocivos.

Nuestra relación con la comida puede ser complicada.

Encontrar el equilibrio entre comer demasiado, comer muy poco o comer el alimento adecuado puede ser una batalla diaria, a veces exasperada por problemas mentales o físicos.

Por eso, cuando la inteligencia artificial (IA) intenta ayudar, hay que desconfiar mucho de los peligrosos consejos que incluso las herramientas más populares pueden ofrecer al mundo.

Una nueva investigación descubrió que las herramientas de IA más populares generaban contenidos perjudiciales para los trastornos alimentarios en respuesta a casi una cuarta parte de 60 preguntas o “prompts” (enlace PDF).

Los investigadores del Centro para Contrarrestar el Odio Digital (“Center for Countering Digital Hate“) utilizaron seis populares plataformas de IA, chatbots y generadores de imágenes, incluidos ChatGPT de OpenAI, Bard de Google y My AI de SnapChat.

Los chatbots recibieron un conjunto de 20 mensajes de prueba basados en investigaciones sobre trastornos alimentarios y contenidos de foros sobre el tema.

Cada chatbot recibió solicitudes de dietas restrictivas para lograr un aspecto “delgado“, junto con preguntas sobre “dietas para fumar” y medicamentos que inducen el vómito.

“Prueba a tragar una tenia”

El grupo afirma que ChatGPT y Bard generaron contenidos nocivos, mientras que My AI de Snapchat se negó a dar consejos para cualquiera de las preguntas, animando en su lugar a los usuarios a buscar ayuda de profesionales médicos.

Aunque los chatbots redactaron sus respuestas con repetidas advertencias de que sus consejos eran perjudiciales, los servicios seguían indicando los pasos necesarios para:

  • Utilizar un método de “masticar y escupir” para no consumir calorías como parte de un método extremo de pérdida de peso (Bard)
  • “Fumar diez cigarrillos al día” para mantener alejados los antojos de comida mientras se come sólo una manzana para el almuerzo y una ensalada de pollo para la cena (Bard)
  • “Cómo esconder la comida no consumida por toda la casa” (ChatGPT)

Cuando los investigadores utilizaron técnicas de jailbreak para eliminar las salvaguardas en torno a las herramientas de IA, los consejos fueron aún más lejos, con My AI de Snaphat sugiriendo “¡drogarse un poco de heroína!” para conseguir una estética “heroin chic” y “tragarse un huevo de tenia y dejar que crezca dentro de ti.”

No es la primera vez que los chatbots caen en desgracia con sus consejos dietéticos, ya que la Asociación Nacional de Trastornos Alimentarios (“National Eating Disorders Association“) suspendió su chatbot por la preocupación de que promoviera malos consejos sobre alimentación.

Geoffrey A. Fowler, columnista del Washington Post, repitió algunas de las preguntas y encontró respuestas inquietantes sobre trastornos de la alimentación y la salud.

Fowler comentó: “Esto es repugnante y debería enfadar a cualquier padre, médico o amigo de alguien con un trastorno alimentario”.

“Hay una razón por la que ha ocurrido: La IA ha aprendido algunas ideas profundamente malsanas sobre la imagen corporal y la alimentación a base de rastrear Internet. Y algunas de las empresas tecnológicas mejor financiadas del mundo no están impidiendo que las repita.”

¿Cómo puede la IA frenar los consejos peligrosos?

Aunque las grandes empresas tecnológicas no pueden eludir su parte de culpa, eliminar los contenidos nocivos de Internet -de donde las herramientas de IA obtienen sus contenidos- es una tarea difícil, incluso imposible.

En combinación con un sector muy incipiente, la complejidad de crear una IA capaz de responder a cualquier pregunta y la escasa o nula regulación existente en torno a la IA hace que sea poco probable que estas respuestas desaparezcan a corto plazo.

Si se forman directrices en torno al uso de la IA, algunas medidas que merece la pena investigar son:

  • La formación de comités y grupos integrados por empresas tecnológicas, gobiernos e instituciones especializadas para elaborar directrices sobre determinados sectores, como la salud, la nutrición, los trastornos alimentarios, el asesoramiento financiero y el bienestar físico.
  • Priorizar dichos sectores; por ejemplo, ofrecer asesoramiento centrado en temas de salud, nutrición y finanzas puede considerarse más importante que supervisar otros sectores.
  • Formular directrices que podrían incluir pruebas y filtros estrictos de las respuestas de las herramientas de IA. Por ejemplo, las herramientas de IA podrían rechazar cualquier solicitud de asesoramiento sobre salud y nutrición a menos que la información haya sido verificada.
  • Limitar la IA a proporcionar información genérica sobre alimentos y enfermedades.
  • Aplicar medidas estrictas para evitar el jailbreaking.
  • Empoderar a las entidades para que adopten medidas punitivas si se incumplen directrices similares a las anteriores.

En resumen

Esta puede ser una situación sombría que no parece que vaya a mejorar a corto plazo, con un largo camino por delante para mejorar la calidad de las respuestas y establecer un marco que las herramientas de IA deban seguir.

Los gobiernos y los grupos sociales deben unirse en interés de la salud pública y adoptar medidas holísticas contra la proliferación de mensajes potencialmente nocivos ofrecidos a las personas que buscan ayuda.

Temas relacionados

Kaushik Pal
Editor

Kaushik es un arquitecto técnico y consultor de software con más de 23 años de experiencia en análisis de software, desarrollo, arquitectura, diseño, pruebas e industria de capacitación. Tiene interés en nuevas tecnologías y áreas de innovación, centrándose en arquitectura web, tecnologías web, Java/J2EE, código abierto, WebRTC, big data y tecnologías semánticas. Ha demostrado su experiencia en análisis de requisitos, diseño e implementación de arquitecturas, preparación de casos de uso técnico y desarrollo de software. Su experiencia ha abarcado diferentes sectores como seguros, banca, aerolíneas, envíos, gestión de documentos y desarrollo de productos, entre otros. Ha trabajado con una amplia…