Bletchley: Reacciones de la industria mundial y opiniones de expertos

Fiabilidad
Resumen

En conjunto, la Cumbre sobre Seguridad de la Inteligencia Artificial de la Declaración de Bletchley parece haber sido un gran éxito, pero no faltan las críticas.

El Gobierno británico ha orquestado una exitosa cumbre de dos días que ha reunido a líderes de todo el mundo para acordar una postura común sobre la seguridad de la IA.

En lo que se ha descrito como un «golpe diplomático» para el Reino Unido como parte de su pivote post-Brexit -conocido como «Gran Bretaña Global», la conferencia tenía como objetivo ofrecer unidad frente a los desafíos sin precedentes -tanto los beneficios como los riesgos- de la Inteligencia Artificial (IA).

Asistió la Secretaria de Comercio de EE.UU., Gina Raimondo, que se unió a la Vicepresidenta de EE.UU., Kamala Harris, y al Viceministro de Ciencia chino, Wu Zhaohui, entre otros líderes de toda la UE y del G7.

La reunión en Bletchley Park, donde se descifró la máquina Enigma, también recibió la visita de personalidades como Elon Musk.

Veamos los principales resultados y cómo reaccionaron los expertos de todo el mundo al término del evento.

¿Qué ocurrió en la Cumbre sobre Seguridad de la IA de Bletchley Park?

Como resultado de la cumbre, 27 países y la Unión Europea han firmado la Declaración de Bletchley Park sobre la IA, centrada en la «frontera de la IA» (una referencia a los servicios de IA generativa como ChatGPT).

En el documento se detalla una agenda de dos puntos para abordar el llamado «riesgo fronterizo de la IA», entre los que se incluyen:

  • Identificar los riesgos de seguridad de la IA de interés común, construir una comprensión científica compartida y basada en pruebas de estos riesgos.
  • Ampliar este conocimiento a medida que aumenten las capacidades, en el contexto de un enfoque global más amplio para comprender el impacto de la IA en nuestras sociedades.
  • Elaborar las respectivas políticas basadas en los riesgos en nuestros países para garantizar la seguridad a la luz de dichos riesgos, colaborando según proceda y reconociendo al mismo tiempo que nuestros enfoques pueden diferir en función de las circunstancias nacionales y los marcos jurídicos aplicables.
  • Debates en torno a una mayor transparencia por parte de los actores privados que desarrollan capacidades de IA en la frontera, métricas de evaluación apropiadas, herramientas para pruebas de seguridad y desarrollo de la capacidad del sector público y la investigación científica pertinentes.

¿Cómo ha reaccionado el mundo?

Al analizar las reacciones de los principales líderes mundiales de la Inteligencia Artificial, encontramos respuestas diversas.

El profesor Anthony Cohn, catedrático de Razonamiento Automatizado en la Universidad de Leeds y responsable del tema de Modelos Fundacionales en el Instituto Alan Turing, declaró a Science Media Centre:

“La presente declaración es muy visionaria, pero, como era de esperar, poco detallada, y es probable que “el diablo esté en los detalles” para crear realmente un régimen regulador eficaz a nivel internacional, que garantice el despliegue seguro de la IA, facilitando al mismo tiempo las aplicaciones beneficiosas.

 

La participación de muchos de los principales países y organizaciones de todo el mundo aumenta la credibilidad de la declaración. Inevitablemente, este es el primero de muchos pasos que serán necesarios y, de hecho, ya están previstas otras dos reuniones durante el próximo año.

Por su parte, Rashik Parmar, Director General de BCS, The Chartered Institute for IT, ha declarado lo siguiente:

La Declaración de Bletchley tiene una visión más positiva del potencial de la IA para transformar nuestras vidas de lo que muchos pensaban, y eso también es importante para generar confianza pública”.

“También me complace ver que se hace hincapié en los problemas actuales de la IA, en particular la desinformación, que podría dar lugar a noticias falsas personalizadas durante las próximas elecciones; creemos que esto es más acuciante que la especulación sobre el riesgo existencial. El énfasis en la cooperación mundial es vital para minimizar las diferencias en la forma en que los países regulan la IA.

 

“Después de la cumbre, nos gustaría ver al gobierno y a los empleadores insistiendo en que todos los que trabajan en un papel de IA de alto riesgo son profesionales con licencia y que ellos y sus organizaciones están sujetos a los más altos estándares éticos.”

Por su parte, Will Cavendish, responsable digital global de la consultora de desarrollo sostenible Arup y antiguo asesor de DeepMind y del Gobierno del Reino Unido, afirmó:

“Es estupendo que el comunicado reconozca las enormes oportunidades mundiales de la IA, así como la seguridad y la regulación, que son, con razón, una parte importante de la cumbre. No podemos permitirnos el lujo de tener miedo a la IA, ya que sencillamente no podemos resolver los mayores retos de la humanidad, como el cambio climático y la crisis de la biodiversidad, sin adoptar una IA segura y eficaz”.

 

Al examinar la regulación, los asistentes a la cumbre deben recordar que hay que considerar una “ética del uso”, en la que tenemos la obligación de utilizar una tecnología que ayude a la humanidad, y no sólo una ética de “no hacer daño”.

Ian Hogarth, Jefe del Grupo de Trabajo sobre el Modelo de Frontera de la IA del Reino Unido, publicó un hilo en el que desglosaba los detalles de la Cumbre de Bletchley Park, destacando que reunir a Estados Unidos, la UE y China en una misma página supone un avance significativo hacia una respuesta global.

Chong Ja Ian, catedrático de Ciencias Políticas de la Universidad Nacional de Singapur, subrayó la importancia de la colaboración chino-estadounidense en la regulación de la IA.

“Parafraseando el lenguaje de la administración Biden, la IA puede ser un área en la que EE.UU. y China deben encontrar áreas en las que puedan cooperar – especialmente porque ambos son actores importantes en lo que se refiere a la IA,”

Sin embargo, el Dr. Marc de Kamps, catedrático asociado de la Escuela de Informática de la Universidad de Leeds, entre cuyas áreas de especialización figura el aprendizaje automático, señala:

“Una moratoria sobre la IA de riesgo será imposible de aplicar. No surgirá ningún consenso internacional sobre cómo debería funcionar. Desde el punto de vista tecnológico, parece imposible trazar una frontera entre la tecnología “útil” y la “arriesgada”, y los expertos no se pondrán de acuerdo sobre cómo equilibrarlas.

 

“El Gobierno, acertadamente, ha optado por abordar los riesgos de la IA, sin ser preceptivo sobre si ciertas investigaciones están fuera de los límites.

 

“Sin embargo, el comunicado es poco específico sobre la forma en que se lograrán sus objetivos y no es lo suficientemente explícito sobre la necesidad de compromiso con el público”.

Por su parte, Aldo Faisal, catedrático de Inteligencia Artificial y Neurociencia del Imperial College de Londres, se mostró optimista:

“Se trata de una declaración muy sensata que refleja el pensamiento actual. Acojo con especial satisfacción que la atención se haya desplazado desde el reciente énfasis en los riesgos existenciales inspirados en la ciencia ficción hacia una regulación pragmática y multilateral de la IA”.

 

“El verdadero trabajo comienza ahora en concretar cómo estructurar de forma práctica y sensata la regulación y su cumplimiento”.

Elon Musk, por su parte, compartió una ilustración política, insinuando que aunque la declaración de Bletchley Park adopta un enfoque unificado para identificar los riesgos, hace poco para evitar que se produzcan.

Conclusiones

En conjunto, la Cumbre sobre Seguridad de la IA parece haber sido un éxito significativo en varios frentes.

En primer lugar, fue un éxito para el Primer Ministro británico, Rishi Sunak, anfitrión de la Cumbre como parte de un esfuerzo diplomático para mejorar la presencia del Reino Unido en la escena mundial.

En segundo lugar, la Cumbre parece haber sido un éxito al reunir a los principales actores geopolíticos, como Estados Unidos, la UE y China, en torno a un enfoque común sobre el desarrollo de la seguridad de la IA.

Sin embargo, queda por ver si la Declaración de Bletchley Park se convertirá en un instrumento eficaz para la colaboración internacional en materia de seguridad de la IA, en medio de la escasez de detalles y las limitadas competencias de aplicación.

Temas relacionados

Artículos relacionados

Sam Cooling
Crypto & Blockchain Writer
Sam Cooling
Editor

Sam es un periodista de tecnología con un enfoque en noticias del mercado de criptomonedas e inteligencia artificial, con sede en Londres. Su trabajo ha sido publicado en Yahoo News, Yahoo Finance, Coin Rivet, CryptoNews.com, Business2Community y Techopedia. Con una Maestría en Gestión del Desarrollo de la London School of Economics, Sam ha trabajado previamente como Consultor de Tecnología de Datos para la Fundación Fairtrade y como Investigador Asociado Junior para la Academia de Defensa del Reino Unido. Ha estado operando activamente con criptomonedas desde 2020, contribuyendo de manera activa a proyectos como Fetch.ai y Landshare.io. La pasión de Sam…