Fiabilidad

Desatar lo desconocido: Temores tras la Inteligencia Artificial General (AGI)

Resumen

La Inteligencia Artificial General (IAG) está aún en sus primeras fases, pero el concepto ha suscitado un intenso debate. El objetivo de la AGI es reproducir las capacidades cognitivas humanas, lo que podría llevar a que los robots sustituyeran a los humanos en diversas funciones. Esta idea plantea importantes problemas éticos, sociales y morales. Los críticos temen que la AGI pueda utilizarse para llevar a cabo acciones poco éticas si es controlada por fuerzas malévolas.

 

La Inteligencia General Artificial (AGI) es todavía un concepto o, a lo sumo, se encuentra en una fase incipiente. Sin embargo, ya hay mucho debate en torno a ella.

¿Qué es la AGI?

La AGI y la inteligencia artificial (IA) son diferentes. Esta última realiza actividades específicas, como el asistente Alexa. Pero ya sabes que las capacidades de Alexa son limitadas.

La AGI, por su parte, puede sustituir a los seres humanos por robots. Permite a la IA emular los poderes cognitivos de un ser humano. Piensa en un juez robot en un tribunal presidiendo un caso complejo.

Ejemplo de cómo se puede utilizar la IA general en la vida real
Imagina un escenario en el que un paciente con un tumor se somete a una cirugía. Más tarde se revela que un robot realizó la operación. Aunque el resultado pueda ser exitoso, la familia y amigos del paciente se sorprenden y tienen reservas sobre confiar en un robot con una tarea tan compleja. La cirugía requiere improvisación y toma de decisiones, cualidades en las que confiamos en los médicos humanos.

El concepto es una idea a la vez temible y radical. Los temores emanan de diversas cuestiones éticas, sociales y morales. Una escuela de pensamiento está en contra de la AGI porque los robots pueden ser controlados para realizar acciones indeseables y poco éticas.

La AGI aún está en pañales y, a pesar de los desacuerdos, pasará mucho tiempo antes de que veamos sus manifestaciones. La base de la AGI es la misma que la de la IA y el aprendizaje automático (ML). Todavía se está trabajando en ello en todo el mundo, pero la atención se centra principalmente en algunas áreas que se comentan a continuación.

Menor coste del almacenamiento de datos

Los macrodatos (big data) han reducido considerablemente el coste del almacenamiento de datos. Tanto la IA como el ML requieren grandes volúmenes de datos. Los macrodatos y el almacenamiento en la nube han hecho asequible el almacenamiento de datos, contribuyendo al desarrollo de la inteligencia artificial.

Aprendizaje automático y aprendizaje profundo

Los científicos han logrado avances significativos en las tecnologías de aprendizaje automático y aprendizaje profundo. Se han producido importantes avances en redes neuronales, aprendizaje por refuerzo y modelos generativos.

Aprendizaje por transferencia

El aprendizaje por transferencia acelera el ML aplicando el conocimiento existente para reconocer objetos similares. Por ejemplo, un modelo de aprendizaje aprende a identificar pájaros pequeños basándose en sus características, como alas pequeñas, picos y ojos. Ahora, otro modelo de aprendizaje debe identificar varias especies de pájaros pequeños en la selva amazónica. Este último modelo no empieza de cero, sino que hereda el aprendizaje del modelo anterior, por lo que el aprendizaje se acelera.

No es que se vaya a ver o experimentar la AGI en un nuevo avatar que desencadene cambios en la sociedad a partir de un punto en el tiempo. Los cambios serán graduales y se manifestarán de forma lenta pero constante en nuestro día a día.

Temores relacionados con los avances de la AGI

Los modelos ChatGPT se han ido desarrollando a una velocidad vertiginosa con capacidades impresionantes. Sin embargo, no todo el mundo está plenamente convencido del potencial de la AGI. Varios países y expertos subrayan la importancia de guiar el desarrollo de ChatGPT dentro de normas y reglamentos específicos para garantizar un progreso responsable hacia la AGI.

Respuesta de Italia
En abril de 2023, Italia se convirtió en la primera nación en prohibir el desarrollo de ChatGPT debido a una violación de datos e información de pago. El gobierno también ha estado investigando si ChatGPT cumple con las normas del Reglamento General de Protección de Datos (GDPR) de la Unión Europea, que protegen los datos confidenciales dentro y fuera de la UE.

Falta de transparencia

Los expertos señalan que no hay transparencia en el desarrollo de ChatGPT. No hay información disponible públicamente sobre sus modelos de desarrollo, datos, parámetros y planes de lanzamiento de versiones.

La creación de OpenAI sigue desarrollándose a gran velocidad, y probablemente no podamos imaginar los poderes que ha ido acumulando. Todo ello sin controles ni equilibrios. Algunos creen que ChatGPT 5 marcará la llegada de la AGI.

Según Anthony Aguirre, catedrático de Física de la UC Santa Cruz y vicepresidente ejecutivo de Future of Life: “Los cálculos a mayor escala aumentan su tamaño unas 2,5 veces al año. OpenAI no ha revelado los parámetros de GPT-4, pero no hay motivos para pensar que esta tendencia se haya detenido o incluso ralentizado.

Aguirre, impulsor de la famosa carta abierta, añadió: “Sólo los propios laboratorios saben qué cálculos están ejecutando, pero la tendencia es inequívoca”.

La carta abierta

La carta abierta firmada por muchos incondicionales del sector reflejaba el temor y la aprensión ante el desarrollo incontrolado de ChatGPT.

La carta insta enérgicamente a detener todo desarrollo de ChatGPT hasta que se establezca un marco sólido para controlar la desinformación, la alucinación y la parcialidad en el sistema. De hecho, la llamada “alucinación“, las respuestas inexactas y la parcialidad que exhibe ChatGPT en muchas ocasiones son demasiado evidentes como para ignorarlas.

La carta abierta está firmada por Steve Wozniak, entre otros muchos incondicionales, y cuenta ya con 3.100 firmantes entre los que figuran desarrolladores e ingenieros de software, directores generales, directores financieros, tecnólogos, psicólogos, estudiantes de doctorado, profesores, médicos y profesores de escuelas públicas.

El gobierno también ha estado sondeando si el ChatGPT cumple las normas del Reglamento General de Protección de Datos (RGPD) de la Unión Europea que protegen los datos confidenciales dentro y fuera de la UE.

Abuso de AGI

Da miedo pensar si unas pocas naciones ricas y poderosas pueden desarrollar y concentrar la AGI en sus manos y utilizarla en su beneficio.

Por ejemplo, pueden controlar todos los datos personales y sensibles de otros países y comunidades, sembrando el caos.

La AGI puede convertirse en una verdadera herramienta para acciones y juicios sesgados. Y, en el peor de los casos, desembocar en una sofisticada guerra de la información.

Lo esencial

La inteligencia artificial aún se encuentra en fase conceptual, pero dada la falta de transparencia y la velocidad a la que progresan la IA y el ML, puede que no falte mucho para que se haga realidad.

Es imperativo que los países y las empresas se pongan manos a la obra y desarrollen un marco sólido que cuente con suficientes controles y salvaguardas.

El objetivo principal del marco sería proteger a la humanidad y evitar intrusiones poco éticas en sus vidas.

Temas relacionados

Kaushik Pal
Editor

Kaushik es un arquitecto técnico y consultor de software con más de 23 años de experiencia en análisis de software, desarrollo, arquitectura, diseño, pruebas e industria de capacitación. Tiene interés en nuevas tecnologías y áreas de innovación, centrándose en arquitectura web, tecnologías web, Java/J2EE, código abierto, WebRTC, big data y tecnologías semánticas. Ha demostrado su experiencia en análisis de requisitos, diseño e implementación de arquitecturas, preparación de casos de uso técnico y desarrollo de software. Su experiencia ha abarcado diferentes sectores como seguros, banca, aerolíneas, envíos, gestión de documentos y desarrollo de productos, entre otros. Ha trabajado con una amplia…