Digital Hauntings: ¿Son útiles o perjudiciales los robots muertos?

Fiabilidad

No hay problema que la industria de la IA no intente resolver. ¿Pero puede enfrentarse a la mayor certeza de la vida: la muerte?

Didier Coeurnelle, transhumanista y copresidente de la Sociedad para la Extensión de la Vida Saludable, propone tres formas en que la IA podría acabar con la muerte.

1. El hombre podría fusionarse con la máquina.

2. La conciencia podría reproducirse y cargarse en un ordenador.

3. Se podría producir una copia virtual de una persona muerta.

Algunos se preguntarán si algo de esto es posible en la actualidad. Para consternación de los médiums, la respuesta es sí.

Los Thanabots, también conocidos como deadbots o fantasmas digitales, son la realización increíblemente rentable de la tercera proposición de Coeurnelle. Valorado actualmente en más de 100.000 millones de libras, el crecimiento de la industria DeathTech no muestra signos de desaceleración.

Promocionados como herramientas que ayudan en el duelo, los robots de la muerte llevan la idea de un legado en vida a un nivel totalmente nuevo. Sin embargo, los profesionales de la salud advierten de que esta necromancia digital es más perjudicial que útil.

Puntos clave

  • Los robots de la muerte ofrecen una forma de mantener una relación con los fallecidos.
  • Project December, HereafterAI y DeepBrain AI son ejemplos destacados de DeathTech entrenadas con los datos del fallecido para proporcionar una serie de experiencias interactivas.
  • Los éticos afirman que esta tecnología podría tener un impacto devastador en el proceso de duelo.
  • Los robots de la muerte también plantean cuestiones éticas relativas al consentimiento, la dignidad y la privacidad de los fallecidos.

¿Cómo hablar con los muertos? El auge de los robots muertos

Los Deadbots han rondado el ciberespacio durante varios años, permitiendo a los clientes de pago conversar con los difuntos emulando sus respuestas.

Entre los numerosos desarrolladores, Jason Rohrer es quizás el más conocido. En 2020, Rohrer utilizó la API GPT-3 de OpenAI para crear un sistema que permite la personalización de los chatbots. Rohrer llamó a su invento Proyecto Diciembre.

Como se comunica en el sitio web, el objetivo es «simular una conversación basada en texto con cualquier persona… incluso con alguien que ya no vive».

Un ejemplo especialmente intenso del uso del simulador se produjo en 2021, cuando Joshua Barbeau empezó a comunicarse en forma de texto con su prometida, Jessica Pereira, que llevaba muerta ocho años. Barbeau alimentó al robot muerto con una mezcla de mensajes de redes sociales y SMS de Jessica, que utilizó para emular su personalidad con sorprendente precisión.

Sin embargo, el modelo GPT-3 del Proyecto Diciembre no estaba destinado a este mundo. El caso Barbeau violaba las prohibiciones de OpenAI de que su tecnología se explotara con fines sexuales, románticos, de autolesión o de acoso.

Rohrer no veía el problema. Afirmó que «el planteamiento de OpenAI [era] hipermoralista» y que Barbeau era una adulta con consentimiento. Los posibles derechos de la pobre Jessica ni se mencionaron.

Otro desarrollador notable es James Vlahos, que transformó un proyecto de historia oral de la vida de su padre en un deadbot parlante. Esto supera lo espeluznante del Proyecto Diciembre porque la IA conversa con James con la voz de su padre.

La BBC informó recientemente de que Vlahos quería encontrar «una forma de conservar de forma más rica sus recuerdos [de su padre] y algún sentido de su personalidad».

En 2019, Vlahos fundó HereafterAI, una aplicación que ofrece a sus usuarios la misma experiencia… si se atreven.

Y si te preguntabas si la DeathTech podría ser más extraña, puede serlo.

Al «grabar horas de vídeo y audio para capturar la cara, la voz y los gestos [de alguien]», la IA surcoreana DeepBrain puede crear un «avatar de una persona basado en vídeo».

Michael Jung, director financiero de DeepBrain, declaró a la BBC: «Estamos clonando el parecido de la persona al 96,5% del parecido de la persona original».

No estoy seguro de que se pueda estar mucho más cerca de un episodio de Black Mirror.

¿Qué problemas éticos plantean los robots muertos?

El redactor jefe de TechRound, David Soffer, cree que los robots muertos son una innovación positiva:

«Cuando la tecnología evoluciona para resolver problemas tecnológicos, eso es bueno», afirma, «pero cuando ayuda a resolver problemas no tecnológicos, como el proceso de duelo, ése es el verdadero propósito de la tecnología».

Sin embargo, a muchos otros les preocupa el impacto negativo que un robot de IA para la muerte podría tener en el proceso de duelo.

Fiorenza Gamba, socioantropóloga de la Universidad de Ginebra, ha afirmado que los robots de la muerte «pueden, en algunos casos, sumir a los que aún viven en una incapacidad para superar el duelo».

Preocupaciones similares se han expresado en un reciente artículo de investigación de especialistas en ética del Centro Leverhulme para el Futuro de la Inteligencia de Cambridge.

El artículo, titulado «Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry», describe cómo las empresas DeathTech podrían explotar el software para bombardear a los familiares con «anuncios esporádicos» con recreaciones digitales de sus seres queridos.

Según los investigadores, esta experiencia podría hacer que los usuarios del servicio se sintieran «acechados por los muertos».

El Dr. Tomasz Hollanek, uno de los coautores del trabajo, advirtió:

«Estos servicios corren el riesgo de causar una enorme angustia a las personas si se ven sometidas a persecuciones digitales no deseadas de recreaciones de IA alarmantemente precisas… El posible efecto psicológico, sobre todo en un momento ya difícil, podría ser devastador».

Sin embargo, no sólo hay que proteger a los vivos. Varios ponentes del 14º Foro Europeo de Bioética subrayaron la importancia de determinar si los muertos -cuando estaban vivos- habrían consentido que se utilizaran sus datos. Además, se habló mucho de respetar la intimidad y la dignidad de los fallecidos.

La cuestión del consentimiento es algo que Sara Suárez-Gonzalo aborda en un artículo para The Conversation. De sus reflexiones sobre el caso de Joshua Barbeau se desprende una pregunta destacada:

«Si estamos de acuerdo en que no es ético utilizar los datos de las personas sin su consentimiento mientras están vivas, ¿por qué debería ser ético hacerlo después de su muerte?».

También subraya que «aunque no se pueda dañar u ofender a los muertos del mismo modo [que] a los vivos, esto no significa que sean invulnerables a las malas acciones».

Los muertos, argumenta, «pueden sufrir daños en su honor, reputación o dignidad… y la falta de respeto hacia los muertos también perjudica a sus allegados».

Así pues, si creamos robots de IA con los que hablar, especialmente que se parezcan a los muertos, debemos aplicar una precaución extrema y minuciosa.

Sería más sencillo si permitiéramos que los muertos siguieran enterrados.

Lo esencial

El estudio Leverhulme aconseja que las empresas sean más transparentes sobre cómo se utiliza la DeathTech y se aseguren de que existen medidas de seguridad para poner fin a las relaciones con los robots muertos.

¿Quién sabe lo que los periodos prolongados de relación con estos cadáveres digitales podrían hacer a los vivos? Existe el «duelo patológico», pero ¿y si la diferencia entre la realidad y la simulación se vuelve confusa? El daño a la salud mental de una persona podría ser colosal.

Dicho todo esto, si te estás preguntando cómo hablar con los muertos o si empiezas a considerar la idea de introducirte en la DeathTech, quizá sea más seguro que abandones esa idea.

Preguntas frecuentes

¿Qué es la tecnología de la muerte?

¿Son éticos los robots de duelo?

¿Qué son los Thanabots? 

Temas relacionados

Artículos relacionados

John Appleby
Chief Executive Officer at Avantra
John Appleby
Chief Executive Officer at Avantra

John Appleby leads Avantra as the Chief Executive Officer. Prior to Avantra John serve as the global head of DDM/HANA center of excellence at SAP and as the global head of SAP HANA solutions at Bluefin Solutions, subsequently acquired by Mindtree.John is a recognized thought leader in the SAP market and was part of SAP’s mentors’ group. John holds an MA in computer science from the University of Cambridge.