LaMDA (de Google)

¿Qué es LaMDA?

Google LaMDA (Modelo de Lenguaje para Aplicaciones de Diálogo) es una colección de grandes modelos de lenguaje conversacional (LLMs) que trabajan juntos para completar diferentes tipos de tareas de IA generativa que implican diálogo.

LaMDA se diseñó para dotar a los productos de Google de la capacidad de mantener conversaciones en lenguaje natural con los usuarios finales. LaMDA se asocia a menudo con Google Bard, un competidor de ChatGPT de OpenAI.

LaMBDA también es conocida por ser el tema de un artículo del Washington Post que suscitó un gran debate sobre si el software de IA puede ser sensible. La historia, que rápidamente se hizo viral, también creó mucha especulación sobre la utilidad de la prueba de Turing e inspiró conversaciones sobre la necesidad de un marco regulado de IA Responsable.

Explicación de los objetivos de LaMDA

Según Google, los grandes modelos lingüísticos de LaMDA tienen tres objetivos clave: calidad, seguridad y capacidad para generar respuestas basadas en hechos y pruebas, un concepto que los desarrolladores de Google denominan “groundedness”.

Los objetivos clave se evalúan continuamente para garantizar que LaMDA genere respuestas que tengan sentido, respalden los principios de la IA responsable y proporcionen a los usuarios información que pueda ser validada por fuentes externas.

Google utiliza diversos métodos para evaluar el rendimiento de LaMDA, entre los que se incluyen:

• Encuestas a los usuarios: Google encuesta continuamente a los usuarios que interactúan con LaMDA sobre su experiencia. Piden a los usuarios que valoren LaMDA en función de una serie de criterios, como la precisión, la utilidad y el compromiso.
• Evaluaciones de expertos: Google trabaja con expertos en procesamiento del lenguaje natural (PLN) para evaluar la capacidad de LaMDA para generar textos que se basen en la realidad y no contengan información perjudicial o engañosa.
• Métricas internas: Google realiza un seguimiento de diversas métricas internas para evaluar el rendimiento de LaMDA. Estas métricas incluyen el número de formatos para los que el modelo puede generar texto, el número de instrucciones de usuario a las que el modelo responde de forma útil y el número de usuarios que interactúan con el modelo de forma regular.
• Revisión humana: El equipo de ingenieros e investigadores de Google revisa las respuestas de LaMDA para asegurarse de que son precisas, útiles y éticas.

Google utiliza las métricas y los comentarios que recopila para mejorar el rendimiento de los modelos y hacerlos más útiles y atractivos para los usuarios.

Cómo funciona Lambda

LaMDA se entrenó inicialmente con algoritmos de aprendizaje autosupervisado en casi dos terabytes de datos de diálogo extraídos de sitios web de Internet y otras formas de información pública disponible. El entrenamiento, que duró meses, supuestamente requirió que Google dedicara un clúster de ordenadores con un total de 180.000 núcleos de unidades centrales de procesamiento (CPU) y 600 unidades de procesamiento gráfico (GPU).

Una vez entrenado el modelo básico inicial, LaMDA se perfeccionó para diferentes tareas relacionadas con el lenguaje mediante algoritmos de aprendizaje supervisado. El resultado es un modelo multitarea integrado capaz de realizar tareas lingüísticas con un nivel de precisión aceptable.

Estas son algunas de las cosas que puede hacer LaMDA:

• Responder a una serie de preguntas del usuario de forma conversacional;
• Generar texto en diversos formatos y estilos de escritura;
• Traducir texto a más de 100 idiomas diferentes;
• Responder a preguntas.

LaMDA aprende y mejora constantemente a medida que interactúa con más usuarios y se expone a más datos.

LaMDA y Google Bard

Bard es un chatbot con inteligencia artificial desarrollado por Google. A diferencia de su competidor, ChatGPT, Bard tiene la capacidad de extraer información en tiempo real de Internet.

Cuando Google Bard se presentó por primera vez, utilizaba LaMDA para llevar a cabo las diversas tareas lingüísticas del chatbot. Sin embargo, la última versión de Bard utiliza PaLM 2 en lugar de LaMDA.

PaLM, siglas de Pathways Language Model, es un nuevo tipo de arquitectura de red neuronal basada en transformadores que Google está desarrollando.

PaLM 2 está diseñado para ser multimodal y puede comprender y procesar múltiples modos de fuentes de datos, como texto, imágenes y vídeos, sin la ayuda de otro modelo de machine learning (ML) o sistema de IA.

En cambio, LaMDA y ChatGPT 3.5 y 4.0 son unimodales y sólo pueden comprender, procesar y generar texto.

LaMDA frente a Lambda

Google LaMDA no debe confundirse con AWS Lambda.

AWS Lambda es un servicio de computación en la nube que permite a los usuarios ejecutar código sin necesidad de aprovisionar o administrar servidores. Lambda se señala a menudo como un ejemplo de computación sin servidor, una arquitectura distribuida que permite a los desarrolladores centrarse en escribir y desplegar código mientras que el proveedor de la nube se encarga de la infraestructura subyacente necesaria para ejecutar el código.