¿Cómo la IA que lee la mente abre nuevas fronteras a la ética?

Fiabilidad
Resumen

La inteligencia artificial ha avanzado hacia máquinas que leen la mente, centrándose en descifrar el complejo lenguaje del cerebro humano mediante el análisis de las señales cerebrales. Esto tiene el potencial de remodelar la comunicación, la salud mental y la interacción hombre-máquina, pero también presenta aspectos inquietantes. El escenario que se abre es intrigante, y su futuro sigue siendo una incógnita.

La idea de que alguien o algo pueda leer lo que estás pensando parecía impensable no hace mucho. Sin embargo, nuevos estudios muestran pruebas convincentes de que la inteligencia artificial (IA) puede ser capaz de hacerlo con precisión.

Un estudio publicado en la revista Nature Neuroscience demuestra que la IA puede leer los escáneres de resonancia magnética funcional (fMRI) de las ondas cerebrales y descifrar las señales del cerebro.

Jerry Tang, estudiante de doctorado en Informática, y Alex Huth, profesor adjunto de Neurociencia e Informática en la Universidad de Texas en Austin, dirigieron el estudio sobre si los modelos de IA que hay detrás de ChatGPT y Bard de Google pueden leer los pensamientos humanos y producirlos en forma de texto.

El objetivo del estudio era averiguar si la IA puede leer los pensamientos de las personas, antes de repetirlos en forma de texto.

Tres personas escucharon una historia, con su cerebro escaneado por máquinas de resonancia magnética no invasivas.

El modelo de IA pudo comprender parcialmente los pensamientos basándose en el escáner.

Examples of thoughts vs translations
Captura del estudio realizado en la universidad de Texas. Techopedia

 

Como se ve en la imagen superior, la IA podría traducir “lo esencial” de las ondas cerebrales -de

“No sabía si gritar, llorar o salir corriendo… en lugar de eso dije ‘déjame en paz'”,

a

“…empezó a gritar y a llorar y entonces ella sólo dijo ‘Te dije que me dejaras en paz”

El trabajo se basa en parte en un modelo de transformador, similar a los que impulsan ChatGPT de Open AI y Google Bard.

A diferencia de otros sistemas de descodificación del lenguaje en desarrollo, este sistema no requiere que los sujetos se sometan a implantes quirúrgicos, por lo que el proceso no es invasivo. Tampoco es necesario que los participantes utilicen únicamente palabras de una lista prescrita.

La actividad cerebral se mide con un escáner de IRMf tras un entrenamiento exhaustivo del descodificador, en el que el individuo escucha horas de podcasts en el escáner.

Después, siempre que el participante esté dispuesto a que se descodifiquen sus pensamientos, su escucha de una nueva historia o su imaginación contando una historia permite a la máquina generar el texto correspondiente a partir únicamente de la actividad cerebral.

En palabras del profesor adjunto Huth: Para un método no invasivo, se trata de un verdadero salto adelante en comparación con lo que se ha hecho hasta ahora, que suele consistir en palabras sueltas o frases cortas”.

“Estamos consiguiendo que el modelo decodifique un lenguaje continuo durante largos periodos de tiempo con ideas complicadas.

“Este tipo de sistemas podría ser especialmente útil para las personas que no pueden hablar físicamente, como las que han sufrido un ictus, y permitirles comunicarse con mayor eficacia”.

 

La inteligencia artificial: ¿un dilema ético?

Aunque la posibilidad de que la IA lea los pensamientos humanos es un avance apasionante, se plantean muchas preguntas desde el punto de vista ético. ¿Cómo leerá la IA la mente de los seres humanos? ¿Qué se hará con los descubrimientos de la mente humana? ¿Quién tendrá acceso a la tecnología? ¿Cómo se garantizará que la tecnología no se utilice con fines que vulneren la intimidad?

“Nos tomamos muy en serio la preocupación de que pueda utilizarse con malos fines y hemos trabajado para evitarlo”, afirma uno de los responsables del estudio, el estudiante de doctorado Jerry Tang, de la UT Austin: “Queremos asegurarnos de que la gente sólo utilice este tipo de tecnologías cuando quiera y le sirvan de ayuda.”

Yu Takagi, neurocientífico y profesor adjunto de la Universidad de Osaka, reconoció: “Para nosotros, las cuestiones de privacidad son lo más importante… Si un gobierno o una institución pueden leer la mente de la gente, es un tema muy delicado. Tiene que haber discusiones de alto nivel para asegurarnos de que esto no pueda ocurrir”.

¿Cómo regular los avances de la IA?

El principio fundamental que rige el desarrollo de esta tecnología debe ser equilibrado y humano, pero es más fácil decirlo que hacerlo.

Tal vez el mundo necesite un organismo regulador poderoso que revise cuidadosamente el desarrollo de la IA, pero conseguir que el mundo esté de acuerdo con eso y que luego regule una industria que evoluciona con extrema rapidez parece casi imposible.

Lo primero que nos viene a la mente son los gobiernos que tienen un enfoque poco impecable de los derechos humanos, o que esta forma de tecnología caiga en manos de fuerzas maliciosas como los terroristas.

Lo esencial

La cuestión de la ética es pertinente e incómoda porque es difícil, si no imposible, que todos los países se pongan de acuerdo sobre un conjunto mínimo común de normas que rijan el desarrollo y la aplicación de la IA.

La capacidad de leer la mente parece ser una de las más potentes y debe utilizarse con sumo cuidado, pues de lo contrario podría provocar un desastre. Dicho esto, la IA que lee la mente es sin duda un desarrollo fascinante con múltiples casos de uso legítimos.

Temas relacionados

Kaushik Pal
Technology writer
Kaushik Pal
Editor

Kaushik es un arquitecto técnico y consultor de software con más de 23 años de experiencia en análisis de software, desarrollo, arquitectura, diseño, pruebas e industria de capacitación. Tiene interés en nuevas tecnologías y áreas de innovación, centrándose en arquitectura web, tecnologías web, Java/J2EE, código abierto, WebRTC, big data y tecnologías semánticas. Ha demostrado su experiencia en análisis de requisitos, diseño e implementación de arquitecturas, preparación de casos de uso técnico y desarrollo de software. Su experiencia ha abarcado diferentes sectores como seguros, banca, aerolíneas, envíos, gestión de documentos y desarrollo de productos, entre otros. Ha trabajado con una amplia…