IA causal: pionera en la próxima era de la inteligencia artificial

Resumen

La inteligencia artificial, el aprendizaje automático y los grandes modelos lingüísticos han acaparado una gran atención en el mundo de la tecnología. Sin embargo, han surgido dudas sobre sus limitaciones. Aunque la IA resulta útil para tareas más sencillas, como la corrección gramatical, se enfrenta a problemas complejos. Estas limitaciones se derivan de la dependencia de los LLM de patrones derivados, que pueden dar lugar a respuestas inexactas o irrelevantes. La IA causal se considera un remedio potencial para superar estas deficiencias y ofrecer una visión más fiable de las respuestas generadas por la IA.

Aunque la inteligencia artificial (AI), el aprendizaje automático (ML) y los grandes modelos lingüísticos (LLM) siguen dominando el panorama tecnológico y generando ambiciosas predicciones, han surgido inquietudes en torno a sus mecanismos operativos. Se espera que la IA ofrezca soluciones a diversos problemas, pero ha encontrado limitaciones, sobre todo en dominios complejos como la gestión de enfermedades. Un ejemplo reciente es cuando ChatGPT proporcionó consejos incorrectos sobre el tratamiento del cáncer de mama.

No obstante, la IA puede seguir siendo beneficiosa para tareas relativamente más sencillas, como la edición de frases y la corrección gramatical. El problema radica en el funcionamiento de los LLM, que consumen datos y obtienen patrones. Cuando se les presenta una pregunta que parece coincidir con estos patrones derivados, los LLM responden basándose en ellos, lo que puede dar lugar a respuestas incorrectas o inaplicables a problemas concretos.

Por ejemplo, aunque los LLM pueden poseer multitud de metodologías de tratamiento para enfermedades hepáticas, no sería prudente que un médico se basara en sus respuestas a la hora de tratar a un paciente.

La IA causal se ha propuesto como posible solución a las limitaciones de los LLM y la IA. Los expertos creen que la incorporación de la IA causal puede resolver estos problemas y proporcionar información más fiable.

¿Qué es la IA causal?

Los LLM consumen grandes cantidades de datos y los analizan para identificar patrones. Cuando planteas una pregunta relacionada con estos patrones, sus respuestas se basan en los patrones reconocidos y no en tu consulta específica.

Un LLM puede poseer numerosos patrones sobre accidentes de tráfico en EE.UU. y sus posibles soluciones. Sin embargo, si preguntas sobre la prevención de accidentes de tráfico en un pueblo remoto de la frontera con México, el LLM sólo puede hacer predicciones en lugar de proporcionar respuestas precisas. Estas respuestas deben tomarse con cautela, ya que el LLM carece de conocimientos sobre las circunstancias únicas que provocan accidentes en ese lugar concreto.

Además, es posible que no conozca la base subyacente de las respuestas del LLM, incluidos los datos, el algoritmo y otros factores.

La IA causal permite comprender cómo un LLM procesa las preguntas y genera las respuestas. Su objetivo es descubrir el funcionamiento interno de un LLM a medida que consume datos, identifica patrones y formula respuestas. Los expertos creen que la IA causal tiene el potencial de permitir la identificación de respuestas aceptables de un LLM.

En la actualidad, los LLM no revelan los mecanismos específicos a través de los cuales proporcionan respuestas o alcanzan resultados, como aprobar o rechazar una solicitud de préstamo en un banco. En consecuencia, sigue siendo incierto si la base de una denegación, en su caso, está influida por factores como la raza, el sexo o la comunidad. Esta falta de transparencia en los sistemas de IA ha suscitado críticas importantes.

Sin embargo, el campo emergente de la IA causal promete abordar estas preocupaciones y aportar una mayor transparencia al funcionamiento de los sistemas de IA.

¿Cómo puede ser la IA causal el siguiente nivel de la IA?

La IA se ha enfrentado a retos a la hora de aislar y comprender los problemas dentro de sus contextos específicos. Por ejemplo, si se presenta un problema recurrente con la caja de cambios de una marca de coche concreta, la IA podría ofrecer una solución basada en su comprensión de las cajas de cambios de todas las marcas de vehículos.

Sin embargo, es poco probable que esta solución sea eficaz, ya que no tiene en cuenta las circunstancias únicas del problema.

El usuario no puede verificar el fundamento de la respuesta ni si la solución sugerida debe aplicarse. Una aplicación incorrecta puede tener graves consecuencias. Por consiguiente, es crucial verificar la base de las respuestas de las herramientas de IA antes de ponerlas en práctica, y la IA causal puede ayudar en este sentido. Proporciona una base transparente para una respuesta de IA, permitiéndole evaluar su mérito.

He aquí algunos ejemplos de situaciones en las que la IA causal puede ayudar:

  • Evaluación de solicitudes de préstamo: La IA causal puede ayudar a determinar si un banco debe aprobar o denegar una solicitud de préstamo, proporcionando razones transparentes para la decisión. Esto puede ayudar a evitar resultados discriminatorios basados en factores como la raza o la comunidad, ya que el proceso de toma de decisiones de la IA puede analizarse y verificarse.
  • Decisión sobre la potencia del motor: Mientras que el análisis predictivo puede sugerir aumentar la potencia del motor de un coche, la IA causal puede profundizar y considerar las consecuencias más amplias. Puede identificar que un aumento de la potencia podría provocar un aumento del consumo de combustible y de las emisiones de gases de efecto invernadero.

¿Por qué la IA causal es más potente que la IA?

Algunos ejemplos demuestran que la IA causal es más eficaz que la IA para predecir acontecimientos concretos. Analicemos esos acontecimientos.

Tasas de encarcelamiento en EE.UU.

En el caso de utilizar puntuaciones de reincidencia basadas en IA para determinar las sentencias, existe la posibilidad de que se produzcan fallos inherentes y discriminación. Los modelos tradicionales de IA pueden basarse únicamente en patrones correlacionales, como la asociación de índices de delincuencia más elevados con zonas habitadas predominantemente por poblaciones raciales específicas. Sin embargo, esta correlación no implica necesariamente causalidad, y el uso de tales datos como base para la toma de decisiones puede conducir a resultados discriminatorios.

La IA causal, por su parte, puede ahondar en los factores causales subyacentes que contribuyen a los índices de delincuencia y reincidencia. Puede investigar una serie de factores que van más allá de la raza, como las condiciones socioeconómicas, la educación, las desigualdades sistémicas y otros.

Al identificar las causas profundas y las relaciones causales, la IA causal puede proporcionar mejores explicaciones y conocimientos, permitiendo una toma de decisiones más justa y precisa en el sistema de justicia penal.

Tratamiento de enfermedades cardiacas

Los modelos de IA consumen datos y obtienen patrones que pueden sugerir que las personas de determinadas razas son más propensas a padecer enfermedades cardiacas. Aunque esta información puede ser relevante para fines académicos, es crucial no tratarla como base para la toma de decisiones sanitarias o el tratamiento de los pacientes.

Confiar únicamente en las predicciones de la IA puede ser peligroso, especialmente en el ámbito médico. Tratar a los pacientes únicamente en función de su origen racial o comunitario, como indican los modelos de IA, puede tener consecuencias desastrosas.

La IA causal, sin embargo, ofrece un enfoque más completo al examinar casos individuales y comprender las relaciones causales entre factores. Considera múltiples casos, sus causas y sus efectos para establecer un modelo sólido que proporcione una comprensión más profunda del problema en cuestión.

Conclusión

¿Pierde importancia la IA con la aparición de la IA causal? No, porque ambas trabajan juntas para ofrecer un mejor apoyo a los seres humanos.

La inteligencia predictiva de la IA sigue siendo valiosa en determinados ámbitos, como la agricultura, donde puede utilizar datos de satélite y otras fuentes para analizar patrones de ataques de plagas a los cultivos y recomendar remedios eficaces. Sin embargo, en áreas como las finanzas, las decisiones políticas y la atención sanitaria, la inteligencia predictiva por sí sola puede no ser suficiente.

La IA causal, por su parte, examina las relaciones causa-efecto dentro de los patrones y datos generados por la IA, lo que permite realizar análisis más sólidos. La IA causal se basa en los datos y patrones creados por la IA para analizar la causa y el efecto, lo que permite mejorar la comprensión y el análisis.

Por lo tanto, la IA y la IA causal se complementan entre sí, permitiendo una comprensión más completa de los sistemas complejos y mejorando los procesos de toma de decisiones.

Temas relacionados

Kaushik Pal

Kaushik es un arquitecto técnico y consultor de software con más de 23 años de experiencia en análisis de software, desarrollo, arquitectura, diseño, pruebas e industria de capacitación. Tiene interés en nuevas tecnologías y áreas de innovación, centrándose en arquitectura web, tecnologías web, Java/J2EE, código abierto, WebRTC, big data y tecnologías semánticas. Ha demostrado su experiencia en análisis de requisitos, diseño e implementación de arquitecturas, preparación de casos de uso técnico y desarrollo de software. Su experiencia ha abarcado diferentes sectores como seguros, banca, aerolíneas, envíos, gestión de documentos y desarrollo de productos, entre otros. Ha trabajado con una amplia…