Inteligencia emocional: ¿podrá la inteligencia artificial ser empática en 2025?

Fiabilidad

¿Son capaces de empatía los modelos de IA?

Es una de las grandes preguntas que se ciernen sobre el desarrollo de la IA. A medida que el razonamiento de los modelos continúa desarrollándose, muchos especulan con que estas herramientas serán capaces algún día de empatizar con los seres humanos.

Como Sam Altman, director ejecutivo de OpenAI, dijo a Adam Grant en el podcast ReThinking:

«Sospecho que en un par de años, sobre casi cualquier tema, la conversación más interesante, quizás la más empática, que puedas tener será con una IA».

Sin embargo, aunque los modelos de IA pueden demostrar una forma vaga de inteligencia emocional al detectar y responder a las emociones humanas, es dudoso que estas soluciones fabricadas sean capaces algún día de empatizar con los seres humanos.

Esta limitación pone de relieve los retos de crear una IA con emociones y las complejidades de salvar la brecha con la empatía humana.

Conclusiones clave

  • Existe un gran debate sobre si los modelos de IA podrán llegar a ser capaces de sentir empatía en el futuro.
  • La IA emocional ha demostrado su capacidad para detectar y responder a las emociones humanas.
  • Es poco probable que las máquinas puedan replicar la empatía humana y ofrecer apoyo emocional como lo hace un ser humano.
  • La falta de empatía en los asistentes de IA puede provocar daños en el mundo real, como en ciertos casos en los que las máquinas han dicho a personas vulnerables que se suiciden.
  • Los casos de uso de la IA emocional incluyen el servicio de atención al cliente, el apoyo a la salud mental, la educación y el marketing.

Comprender la empatía: ¿pueden sentir las máquinas?

A medida que el razonamiento de los modelos de IA continúa mejorando, la capacidad de mostrar inteligencia emocional en la IA para detectar emociones humanas ha mejorado significativamente, pero es poco probable que alguna vez veamos que demuestren empatía de la misma manera que los humanos. Pero, ¿qué es exactamente la empatía?

El diccionario Merriam-Webster define la empatía como «la acción de comprender, ser consciente, ser sensible y experimentar indirectamente los sentimientos, pensamientos y experiencias de otro». En pocas palabras, empatía significa ser capaz de ponerse en el lugar de otra persona y comprender sus sentimientos.

Las máquinas no pueden experimentar empatía porque no pueden ponerse en el lugar de los seres humanos. Incluso si desarrolláramos máquinas complejas capaces de modelar el cerebro humano, carecerían de comprensión de las emociones y sensaciones fisiológicas que los humanos experimentan a lo largo de sus vidas.

Alon Yamin, cofundador y director general de Copyleaks, dijo a Techopedia:

«Lo que actualmente denominamos «IA empática» difiere fundamentalmente de la empatía humana. Los sistemas actuales pueden reconocer patrones emocionales, idealmente, responder adecuadamente a señales emocionales e incluso simular respuestas empáticas, pero esto es esencialmente reconocimiento de patrones y generación de respuestas en lugar de verdadera comprensión emocional».

Dicho esto, Yamin señaló que estos modelos pueden detectar el estado emocional del usuario a partir del texto, la voz y las expresiones faciales para generar respuestas contextualmente apropiadas y adaptar los sistemas de comunicación en función del estado emocional y la información del usuario.

Esta adaptabilidad es fundamental para el reconocimiento de emociones por IA y demuestra el creciente impacto de la inteligencia emocional artificial en las interacciones.

Tecnologías detrás de la IA emocional

Existen varias tecnologías que potencian la inteligencia artificial emocional y que otorgan a los modelos de aprendizaje automático la capacidad de comprender, reconocer e incluso emular las emociones humanas.

A un alto nivel, estos modelos hacen uso del procesamiento del lenguaje natural (PLN), una técnica de aprendizaje automático que permite a una máquina comprender el significado de palabras y frases. También permite al modelo realizar análisis de sentimientos para comprender el tono de un texto y si es positivo, negativo o neutral.

Muchos modelos también utilizan el aprendizaje profundo, un tipo de aprendizaje automático que utiliza una compleja red neuronal para emular el cerebro humano. Los modelos de aprendizaje profundo pueden procesar entradas complejas de texto, imágenes y vídeo para proporcionar información y predicciones más precisas.

Además, modelos sofisticados como GPT-4o también utilizan el reconocimiento de voz para procesar las entradas de los usuarios e imitar ciertos tonos.

Otras tecnologías, como el reconocimiento facial, pueden utilizarse para detectar los sentimientos en el rostro de un usuario, lo que ilustra las capacidades avanzadas de reconocimiento de emociones de la IA.

Aplicaciones de la IA emocional

Existen varias aplicaciones diferentes para la inteligencia artificial emocional.

Algunos ejemplos de IA emocional en diversos sectores de nuestra vida y negocios podrían ser:

  • Atención al cliente: Responder automáticamente a los comentarios y quejas del servicio de atención al cliente, analizando no solo las palabras sino el estado emocional del cliente.
  • Apoyo a la salud mental: Proporcionar un seguimiento en tiempo real de los estados emocionales del usuario y ofrecer orientación sobre cómo gestionar las condiciones de salud mental.
  • Educación: Los chatbots educativos pueden ayudar a proporcionar a los estudiantes un apoyo contextual personalizado y una retroalimentación empática utilizando la inteligencia emocional en la IA.
  • Marketing: Identificar los desencadenantes emocionales que funcionan bien con los clientes potenciales y utilizar estos datos para generar anuncios y contenidos relevantes pone de manifiesto el impacto de la inteligencia emocional en la publicidad.
  • Juegos: Utilizar la IA para que los personajes no jugables (PNJ) puedan reconocer y responder mejor a las emociones de los usuarios.

Ventajas y desafíos en el desarrollo de la IA empática

La IA empática ofrece una serie de beneficios y dificultades potenciales que vale la pena conocer. Algunas de las principales ventajas y desafíos de combinar la inteligencia artificial y las emociones son las siguientes:

Pros pros

  • Usar el análisis de sentimientos para inferir emociones en segmentos de texto.
  • Ser capaz de responder a las entradas con respuestas contextualmente relevantes.
  • Usar el reconocimiento de voz y facial para identificar las emociones del usuario en tiempo real.
  • Ofrecer a los usuarios un apoyo emocional limitado.
  • Permitir interacciones más naturales con los usuarios humanos.

Cons cons

  • Falta de empatía real con las experiencias humanas
  • Destacar las limitaciones empáticas de los modelos de IA para los usuarios
  • Alucinaciones que dañan psicológicamente y angustian a los usuarios vulnerables
  • Posible sesgo en los datos de entrenamiento que limita la empatía a ciertos grupos
  • Mantener la privacidad de las aportaciones de los usuarios

Implicaciones éticas de la IA emocional

Una de las principales preocupaciones éticas a la hora de desarrollar IA emocional es garantizar que el usuario entienda con precisión lo que el agente de IA puede y no puede hacer. Si los proveedores de IA no son transparentes sobre las limitaciones de sus asistentes de IA y su incapacidad para pensar y comprender las emociones humanas, se perjudicará a los usuarios humanos.

Ya hemos visto supuestas experiencias de chatbots populares como ChatGPT y Gemini alucinando y diciendo a los usuarios que se suiciden. Por ejemplo, Alexa supuestamente le dijo a un niño de 10 años que tocara un enchufe con una moneda, y se alega que Character.ai animó a un niño de 14 años a suicidarse.

Estos incidentes demuestran que la IA emocional y la idea de que los asistentes virtuales pueden ser empáticos deben tratarse con extrema precaución.

Del mismo modo, los proveedores deben ser cautelosos al sugerir que los asistentes de IA pueden actuar como un recurso de apoyo a la salud mental. Los chatbots centrados en la salud mental deben aclarar sus limitaciones en términos de pensamiento lógico y alucinaciones, y destacar que tales servicios no sustituyen el apoyo de un proveedor de atención médica capacitado.

Después de todo, si una persona carece de contacto y apoyo humanos, le iría mucho mejor con un psicólogo, psiquiatra o consejero profesional empático que con una máquina, por muy buena que sea la IA con las emociones.

Tendencias y posibilidades futuras de la IA empática

A medida que mejoran las capacidades de razonamiento de la IA, hay cada vez más posibilidades de que la IA empática mejore en el futuro.

En un sentido estricto, podemos esperar que los modelos de IA mejoren en la lectura de las emociones en el texto, las expresiones faciales y la voz, para ofrecer respuestas más meditadas con la ayuda del razonamiento de la cadena de pensamiento (CoT).

Esto dará lugar a resultados más relevantes para la entrada del usuario y ofrecerá una «empatía de máquina» más manifiesta que los modelos anteriores, con menos probabilidades de alucinaciones.

También estamos en medio de una transición hacia modelos de IA multimodal que pueden interpretar con fluidez las emociones humanas a través de contenido de texto, voz y vídeo.

También hay grandes dudas sobre si las interfaces cerebro-ordenador (BCI) como

Neuralink dotarán a los modelos de IA de una comprensión más directa de las emociones humanas, hasta el punto de medir las señales cerebrales del usuario y arrojar luz sobre los procesos cognitivos básicos.

Conclusión

La IA está mejorando en la lectura de las emociones humanas, pero es poco probable que alguna vez sea capaz de llenar la brecha de empatía entre las máquinas y los humanos.

Si bien los modelos de IA pueden responder de manera relevante a las entradas emocionales, debemos tener cuidado de no dar a entender que las máquinas pueden imitar las emociones humanas, especialmente en el caso de usuarios vulnerables.

Preguntas frecuentes

¿Qué es la IA emocional?

¿Puede la inteligencia artificial tener emociones?

Temas relacionados

Artículos relacionados

Tim Keary
Technology Writer
Tim Keary
Editor

Desde enero de 2017, Tim Keary ha sido un escritor y reportero de tecnología independiente que cubre tecnología empresarial y ciberseguridad.