En Porto Alegre, Brasil, se ha aprobado la primera legislación redactada por Inteligencia Artificial (IA).
ChatGPT preparó el proyecto de ley en sólo un par de minutos, y los 36 miembros del ayuntamiento votaron unánimemente a favor, sin saber siquiera que lo había escrito una IA. Aunque una ley de una pequeña ciudad pueda parecer poca cosa, se trata de un primer paso hacia una nueva era.
Una era en la que una IA puede elaborar una ley en 15 segundos, y 36 miembros del comité pueden decir: «Nos parece bien».
Las implicaciones de este pequeño paso pueden cambiar el mundo. ¿Podrían ser los políticos los que se quedaran obsoletos y perdieran su trabajo a manos de la IA?
No es probable que eso ocurra, ¡aunque algunos lo deseen! Pero tenemos que señalar algunas advertencias si los chatbots ayudarán a gobernar el mundo.
La ley que tardó 15 segundos en escribirse
Octubre de 2023. Con sus 1,3 millones de habitantes, Porto Alegre es la segunda ciudad más grande del sur de Brasil. El concejal Ramiro Rosário se disponía a redactar una nueva ley que eximiría a los habitantes de la ciudad de tener que pagar de su bolsillo los contadores de agua robados.
Sus electores no querían que el Departamento Municipal de Aguas y Alcantarillado les cobrara cada vez que les robaban los contadores de agua.
Rosário sabía muy bien que sentarse con los otros 35 miembros de la comisión y las fuentes jurídicas habría llevado días en el mejor de los casos. Así que abrió el gran modelo de lenguaje (LLM) y escribió una simple instrucción:
«Crear una ley municipal para la ciudad de Porto Alegre, procedente del poder legislativo y no del ejecutivo, que prohíba al Departamento Municipal de Aguas y Alcantarillado cobrar al propietario del inmueble el pago de un nuevo contador de agua cuando éste sea robado.»
El chatbot tardó sólo 15 segundos en redactar un proyecto de ley en ocho partes que era perfectamente sólido, y fue tan brillante como para establecer algunas normas adicionales.
Por ejemplo, la ciudad disponía de 30 días para sustituir los contadores robados, y cuando no pudiera cumplir ese plazo, los propietarios quedarían exentos de tener que pagar sus facturas de agua.
La propuesta legislativa se presentó a los otros 35 miembros del consejo, que enseguida la aprobaron por unanimidad. Hasta aquí todo bien, ¿verdad? Bueno, en realidad no tanto, ya que los compañeros de Rosário no tenían ni idea de que un chatbot había redactado la ley.
Después de que Rosario expusiera la verdad en su perfil social, las reacciones fueron diversas. A algunos les fascinó la idea; otros se indignaron por la falta de transparencia; otros afirmaron que la ley sentaba un peligroso precedente.
Según Rosário, esto no es más que un paso inevitable en la modernización de nuestro mundo: «[Esto] en realidad no es diferente de los cambios que trajeron Internet y los ordenadores. ¿Recuerdas que todo el mundo tenía miedo de que los ordenadores se apoderaran de todo? Pues mira lo útiles que han sido hasta ahora».
Entonces, ¿no hay inconvenientes en su revolucionaria elección?
Los riesgos de un mundo en el que los chatbots escriben las leyes
La ley de Rosario es la primera que se aprueba, pero no es la primera que redacta una IA.
A principios de este año, el senador Barry Finegold de Massachusetts empleó la ayuda de ChatGPT para preparar un proyecto de ley que regulase los modelos de IA, incluido el propio ChatGPT.
El proyecto de ley aún no se ha votado, pero a diferencia de su homólogo brasileño, todo el mundo es perfectamente consciente de que lo escribió el chatbot.
Con todo, es casi seguro que emplear la ayuda de la IA generativa acabará convirtiéndose en una tendencia, sobre todo porque acelera lo que de otro modo sería un proceso largo y tedioso. Sin embargo, esta tendencia requiere que se regulen sus propias leyes.
Aunque es fácil creer las palabras de Rosario cuando dice que mantuvo esto en secreto para suscitar un debate, debemos esperar que se exija transparencia sobre el uso de la IA en la elaboración de leyes.
De hecho, el senador Finegold quería que este tipo de contenido llevara una marca de agua, lo que puede ser necesario, ya que los chatbots no son perfectos.
Los chatbots suelen soltar información (errónea) que oscila entre «algo errónea» y «completamente falsa», y es normal que algo así no pueda aceptarse cuando se trata de legislar.
Aunque los modelos posteriores podrían sin duda reducir este riesgo en el futuro, la supervisión humana seguirá siendo necesaria, así que no es que los abogados y los políticos vayan a perder su sitio en breve.
Así pues, deja el champán porque un mundo en el que la IA escriba todas las leyes no será un mundo sin políticos.
La IA y la supervisión humana
Las imprecisiones, las falsedades, los sesgos y todos estos errores necesitan una solución que los corrija, pero ¿quién decidirá cuál es la respuesta correcta?
Con mucho, el riesgo más importante de un mundo en el que la IA redacta leyes por sí misma es que no sabemos nada de cómo redacta esas leyes. La naturaleza de «caja negra» de la mayoría de los algoritmos generativos de IA significa que, ahora mismo, ningún organismo gubernamental puede hacer una evaluación de riesgos y tomar las medidas de seguridad adecuadas.
A menos que se establezca más la IA explicable, que puede arrojar luz sobre el proceso de decisión en el camino hacia una respuesta, la «caja negra» y la incapacidad de «mostrar su funcionamiento» pueden no encajar fácilmente en el ámbito de la elaboración de leyes.
Vivimos en un mundo en el que si la información no puede encontrarse en un motor de búsqueda, es como si nunca hubiera existido en primer lugar.
Una última reflexión: Si los chatbots se utilizan regularmente para redactar leyes, las empresas tecnológicas tendrían acceso a los datos gubernamentales, lo que podría afectar directa o indirectamente al proceso legislativo.
Se trata de una cantidad increíble de poder que podría caer en sus manos sin ningún esfuerzo por su parte, y debe regularse antes de que sea demasiado tarde. Y los humanos debemos retenerlo mientras aún estemos a tiempo de hacerlo.
Lo esencial
Las leyes de escritura de la IA son, sencillamente, otra aplicación de la IA moderna en la generación de textos avanzados.
Lo que no es rutinario, sin embargo, son las implicaciones de que unas pocas IA de Big Tech controlen (o incluso monopolicen) el proceso de elaboración de leyes.
Es pronto, pero el mundo se mueve deprisa, y nos estamos adentrando en territorio peligroso: debemos mantener una conversación con nosotros mismos y, a continuación, establecer un marco que garantice que la IA y la elaboración de leyes sean transparentes, equilibradas e imparciales en la medida de las posibilidades humanas.