La industria tecnológica se une para ampliar red de seguridad

IBM y Meta se han unido a más de 50 miembros fundadores y colaboradores para lanzar la Alianza de la IA.

El rápido desarrollo de las aplicaciones de IA generativa suscita cada vez más inquietudes sobre el desarrollo responsable y el riesgo de daños a la sociedad, y se produce en el contexto de un avance comercial vertiginoso y de la necesidad de equilibrar la innovación con la seguridad,

La alianza internacional reúne a organizaciones de la industria tecnológica, empresas de nueva creación, universidades, centros de investigación y gobiernos para apoyar la innovación abierta y la ciencia de la IA, junto con el desarrollo de sistemas que den prioridad a la equidad, la transparencia y la responsabilidad.

La asociación anunció:

“La innovación abierta y transparente es esencial para dotar a un amplio espectro de investigadores, constructores y adoptantes de IA de la información y las herramientas necesarias para aprovechar estos avances de forma que se dé prioridad a la seguridad, la diversidad, las oportunidades económicas y los beneficios para todos.

“Aunque hay muchas empresas individuales, start-ups, investigadores, gobiernos y otros que están comprometidos con la ciencia abierta y las tecnologías abiertas y quieren participar en la nueva ola de innovación de la IA, una mayor colaboración e intercambio de información ayudarán a la comunidad a innovar de forma más rápida e inclusiva, y a identificar riesgos específicos y mitigarlos antes de poner un producto en el mundo.”

¿Cómo funcionará la Alianza de la IA?

“Los miembros de la Alianza de la IA creen que la innovación abierta es esencial para desarrollar y conseguir una IA segura y responsable que beneficie a la sociedad en lugar de beneficiar a unos pocos grandes actores”, según el sitio web.

Su trabajo abarcará conjuntos de datos de IA, modelos, herramientas y talento para construir y apoyar tecnologías abiertas. Pretenden defender el valor de la innovación abierta ante los líderes de las organizaciones, así como ante los organismos políticos y reguladores y el público.

La AI Alliance tiene previsto iniciar o desarrollar proyectos que:

Desarrollen y desplieguen recursos como puntos de referencia y normas de evaluación para la publicación de modelos abiertos y el despliegue de modelos en aplicaciones que permitan el desarrollo y uso responsables de los sistemas de IA a nivel mundial. Esto incluirá la creación y promoción de un catálogo de herramientas de seguridad y confianza con la comunidad de desarrolladores.
Impulsar un ecosistema de modelos abiertos multilingües, multimodales y científicos que ayuden a abordar retos sociales como el cambio climático y la educación. Los miembros de la Alianza cooperarán para ayudar a construir y promover herramientas de código abierto para el entrenamiento, el ajuste y la inferencia de modelos.
Apoyar el desarrollo de un ecosistema acelerador de hardware de IA mediante el aumento de las contribuciones y la adopción de tecnología de software habilitadora. Los miembros colaborarán en la evaluación comparativa, la optimización y la adaptación de las cargas de trabajo de IA para desarrollar capacidades de hardware. Esto se centrará en la escalabilidad y el consumo de energía, incluida la modelización del carbono.
Trabajar con la comunidad académica para construir una educación global en IA, habilidades e investigación exploratoria para abordar el déficit de habilidades en IA. Esto permitirá a investigadores y estudiantes contribuir a proyectos de investigación, incluidos algoritmos de IA, modelos, plataformas y técnicas para limitar la potencia y los recursos que consume la IA.
Desarrollar contenidos y recursos educativos para informar al público y a los responsables políticos sobre las ventajas, los riesgos y las soluciones de la IA.
Lanzar iniciativas para apoyar el desarrollo seguro y abierto de la IA y organizar actos que muestren cómo los miembros utilizan responsablemente la tecnología abierta en la IA.

La Alianza empezará formando grupos de trabajo entre los miembros y establecerá un consejo de administración y un comité de supervisión técnica para establecer normas y directrices que hagan avanzar estos proyectos.

Además de reunir a líderes de la IA de los sectores empresarial, de desarrollo y de investigación, la Alianza tiene previsto asociarse con iniciativas de IA ya existentes dirigidas por gobiernos, organizaciones sin ánimo de lucro y organizaciones de la sociedad civil.

LEER MÁS:

La Alianza seguirá incorporando nuevos miembros, permitiéndoles flexibilidad en cuanto a su colaboración y contribución para maximizar el número de organizaciones y personas que participan.

Entre los miembros de la Alianza de la IA se incluyen:

Los creadores de herramientas y aplicaciones que impulsan la evaluación comparativa de la IA, las métricas de confianza y validación, y las mejores prácticas, como MLPerf, Hugging Face, LangChain, LlamaIndex, y conjuntos de herramientas de IA de código abierto para la explicabilidad, la privacidad, la solidez frente a adversarios y la evaluación de la imparcialidad.
Las universidades y agencias científicas participan en la investigación y formación de científicos e ingenieros de IA mediante la ciencia abierta.
Empresas que construyen hardware e infraestructura para el entrenamiento y las aplicaciones de IA, como unidades de procesamiento gráfico (GPU), aceleradores de IA personalizados y plataformas en la nube.
Desarrolladores de marcos de software de plataforma, como PyTorch, Transformers, Diffusers, Kubernetes, Ray, Hugging Face Text generation inference y Parameter Efficient Fine Tuning.
Creadores de modelos abiertos de IA como Llama2, Stable Diffusion, StarCoder y Bloom.

Entre estas organizaciones se incluyen:

AMD
Anyscale
CERN
Cerebras
Clínica Cleveland
Universidad de Cornell
Dartmouth
Tecnologías Dell
EPFL
ETH
Cara Abrazada
Imperial College de Londres
Intel
INSAIT
Fundación Linux
MLCommons
Alianza MOC, operada por la Universidad de Boston y la Universidad de Harvard
NASA
NSF
Oracle
Asociación sobre IA
Red Hat
Roadzen
ServiceNow
Grupo Sony
Estabilidad IA
Universidad de California Berkeley
Universidad de Illinois
Universidad de Notre Dame
Universidad de Tokio
Universidad de Yale

La unión de estas organizaciones académicas y comerciales proporcionará a una amplia red internacional de científicos acceso abierto a la innovación, la formación y la gobernanza de la IA. También contribuirá potencialmente a ampliar la informática combinando la supercomputación, la informática cuántica, los semiconductores y la investigación en IA.

“La innovación en IA debe permanecer abierta para impulsar un impacto social positivo y equitativo, fomentar el progreso continuo y abordar los riesgos potenciales de forma colaborativa. No hay lugar para un enfoque en el que el ganador se lo lleve todo; el desarrollo de una IA responsable y segura se presenta de muchas formas”, afirmó en el comunicado CJ Desai, presidente y director de operaciones (COO) de la empresa de software en la nube ServiceNow.

Robert Nishihara, director ejecutivo (CEO) del desarrollador de la plataforma de aplicaciones de IA Anyscale, declaró: La IA tendrá un impacto positivo en nuestra vida cotidiana y abordará algunos de los retos más acuciantes del mundo, pero como ocurre con cualquier nueva tecnología o innovación, debemos tener en cuenta los riesgos.

Para garantizar que las comunidades de código abierto puedan seguir floreciendo, innovando, aportando avances tecnológicos enriquecedores y haciendo avanzar el ecosistema de la IA en general, es imperativo que avancemos en la ética, la gobernanza y la seguridad de la IA.

La Alianza de la IA es un paso importante para garantizar que nuestra sociedad pueda beneficiarse de la IA de forma responsable y equitativa.”

La importancia del desarrollo de la IA de código abierto

Gran parte del trabajo de desarrollo de la IA de las últimas décadas se ha basado en la investigación y el desarrollo de código abierto. Hay expertos del sector que creen que los modelos de IA deben seguir siendo de código abierto para limitar las barreras de entrada y el entrenamiento repetitivo de los modelos.

Sin embargo, empresas como OpenAI, Microsoft y Google dan prioridad al desarrollo de modelos propios, y se dice que Apple está probando sus herramientas de IA generativa para competir con ChatGPT de OpenAI. Estas empresas están notablemente ausentes entre los miembros iniciales de la AI Alliance.

“El código abierto es la columna vertebral de todo el software líder de inteligencia artificial. Con el código abierto, toda la comunidad colabora para resolver los problemas más difíciles, las soluciones más eficaces llegan a la cima y todos se benefician”, declaró Jeremy Howard, investigador fundador de la organización sin ánimo de lucro de aprendizaje profundo Fast.ai, en el anuncio.

El desarrollo de código abierto tiene varias ventajas, como la colaboración y el intercambio de conocimientos entre investigadores, desarrolladores y organizaciones. Esto permite a expertos de todo el mundo colaborar para compartir ideas, resolver problemas comunes y evitar la duplicación de esfuerzos. Los desarrolladores pueden aprender unos de otros, fomentando la innovación y aumentando la eficacia y la flexibilidad.

“Pondremos en común recursos y conocimientos para abordar los problemas de seguridad, proporcionando al mismo tiempo una plataforma para compartir y desarrollar soluciones que se adapten a los investigadores, desarrolladores y adoptadores de todo el mundo”, dice la declaración de la Alianza.

Los proyectos de código abierto también proporcionan transparencia sobre los algoritmos, modelos y código subyacentes, lo que ayuda a generar confianza entre los usuarios y el público en general. Esto es fundamental para la rendición de cuentas, sobre todo cuando la IA se utiliza en aplicaciones que pueden afectar a la vida de las personas, como las finanzas, la sanidad y la justicia penal.

El compromiso que abarque una amplia gama de voces también es esencial para garantizar que las tecnologías de IA se desarrollen con perspectivas diversas que tengan en cuenta las consideraciones éticas y eviten los sesgos involuntarios que pueden producirse en los sistemas cerrados y propietarios.

Retos del desarrollo de código abierto

El desarrollo de la IA de código abierto ofrece claras ventajas, pero también conlleva retos que han llevado a algunas organizaciones a favorecer los enfoques propietarios.

Contribuir a proyectos de código abierto puede suscitar preocupaciones sobre los derechos de propiedad intelectual. Los desacuerdos entre los participantes sobre los términos de la licencia o la propiedad de las contribuciones pueden afectar a la estabilidad de un proyecto e incluso dar lugar a desafíos legales.
Aunque el desarrollo de código abierto fomenta la transparencia, también expone el código a posibles vulnerabilidades de seguridad. Las bases de código grandes y distribuidas pueden dificultar la identificación y el tratamiento de los problemas de seguridad.
Los conflictos y las dificultades para alcanzar un consenso entre los colaboradores pueden afectar a los procesos de toma de decisiones, la dirección y los objetivos de un proyecto, o ralentizar el desarrollo.
La naturaleza descentralizada del open sourcing puede hacer que un proyecto se fragmente, con múltiples versiones o bifurcaciones que creen problemas de compatibilidad. Esto hace que sea esencial que los desarrolladores garanticen la interoperabilidad entre las versiones y los componentes del software.
Algunas organizaciones también darán prioridad a la comercialización de herramientas y aplicaciones de IA para generar beneficios.
Los proyectos de código abierto pueden ir a la zaga a la hora de conseguir una adopción generalizada, sobre todo si los proyectos propietarios de la competencia tienen mejor marketing o experiencia y asistencia al usuario.

A pesar de estos retos, muchos proyectos de código abierto pretenden abordar estas cuestiones. Reconocerlos y mitigarlos será clave para el éxito del desarrollo de la IA de código abierto.