Dentro de la mente de ChatGPT: ¿Cómo elige qué decir?

Supongamos que le pides a ChatGPT que revise un borrador de correo electrónico y te escriba dos versiones diferentes.

Pides una que sea formal en cuanto a tono, estructura y lenguaje, mientras que la otra es más conversacional y desenfadada.

ChatGPT te devuelve los dos borradores de correo electrónico exactamente como tú querías. También modifica su respuesta si sugieres cambios de seguimiento. ¿No es increíble?

Es como si estuvieras hablando con alguien que puede pensar y responder y captar el contexto cuando se le pregunta sobre el mismo tema más tarde.

Te preguntas: «¿Cómo elige sus palabras? ¿Y cómo sabe qué palabras transmiten un tono y un mensaje concretos?». «¿Cómo recuerda el contexto o el hilo de una conversación anterior?

Averigüémoslo.

¿Cómo responde ChatGPT a las entradas?

ChatGPT sigue dos métodos para encontrar respuestas a tus entradas: supervisado y no supervisado.

Método supervisado

El método supervisado proporciona o mapea una respuesta constante a una pregunta, lo que hace que a ChatGPT le cueste menos responder.

Por ejemplo, si preguntas: «¿Cómo restablezco la contraseña de mi cuenta de Gmail?», la respuesta ya está mapeada, y ChatGPT la conoce. Lo único que hace es devolver la respuesta. Sencillo. Muchas preguntas de este tipo no requieren que ChatGPT rompa a sudar.

Sin embargo, la principal limitación de este método es que es imposible guionizar respuestas a todas las preguntas que se le pueden hacer a ChatGPT.

Por ejemplo, ¿puedes guionizar una respuesta a una pregunta como «Crea la descripción de un personaje de ficción que vaga por un planeta alienígena, se encuentra atascado y solo, y siente una nostalgia extrema»?

Método no supervisado

Empecemos el método no supervisado con la analogía de un niño que aprende a identificar pájaros.

Le enseñas fotos de distintos pájaros y el niño aprende poco a poco a identificar las distintas partes de un pájaro, como las patas, el pico, los ojos y las alas.

Le enseñas continuamente imágenes de distintos pájaros. Al cabo de un tiempo, el niño no sólo identifica correctamente las partes, sino que identifica varios pájaros hasta el punto de poder distinguir entre un águila y un martín pescador, por ejemplo.

También aprenderá matices como que todos los pájaros tienen ojos, pero no todos los animales con ojos son pájaros.

Ahora, muéstrale la foto de un tigre y pregúntale si eso es un pájaro, y el niño tendrá la confianza suficiente para responder negativamente.

El ChatGPT pasa por un tipo de entrenamiento similar. Le alimentas continuamente con datos sobre diversos objetos para que ChatGPT aprenda sobre los patrones, las figuras y otros detalles.

Al cabo de un tiempo, ChatGPT, al igual que el niño, puede identificar el objeto. Las distintas formas de aprendizaje se conocen como agrupación, dimensionalidad y reducción de anomalías.

El método no supervisado es lo que hace que ChatGPT cambie las reglas del juego. A diferencia del método supervisado, no se asigna ninguna salida a la entrada, y depende de ChatGPT averiguar la información sobre el objeto.

El aprendizaje constante, la agrupación, la detección de anomalías y la dimensionalidad permiten a ChatGPT comprender las indicaciones fuera del aprendizaje supervisado y responder adecuadamente.

ChatGPT simula el cerebro humano

¿Qué significa esto? Algo conocido como red neuronal potencia la asombrosa capacidad de ChatGPT para comprender frases y palabras que utilizan los seres humanos.

Piensa en la red neuronal como la red de todas las células del cerebro humano. Es una estructura increíblemente compleja que permite un trabajo muy sofisticado y complejo. Piensa en cómo procesa tu cerebro la información o los estímulos y cómo responde.

Las frases y las palabras, como las de las conversaciones, rara vez están estructuradas y pueden resultar crípticas para una herramienta de IA.

Trabajemos esto con el ejemplo de una entrevista.

El entrevistador pregunta «¿Cómo resolverías un conflicto entre un jefe de producto y un jefe de proyecto sobre los plazos de publicación?».

En este caso, tu cerebro buscaría información disponible o experiencias del pasado: puede que hayas manejado situaciones similares en el pasado.

Tu cerebro encontrará las técnicas utilizadas y evaluará su aplicabilidad en la situación actual. Además, intentará aplicar las mejores prácticas que aprendiste de tu experiencia y las mejores prácticas.

La red neuronal que impulsa las capacidades de aprendizaje del ChatGPT hace algo parecido. Cuando haces una pregunta cuya respuesta no está ya asignada a una salida, aprovecha sus vastos recursos de aprendizaje, encuentra patrones y aplicabilidad, y obliga a dar una respuesta razonable. Todo esto ocurre en cuestión de unos segundos. Asombroso, ¿verdad?

Problemas con las respuestas de ChatGPT

Aunque la capacidad de ChatGPT para elegir respuestas parece asombrosa, tiene muchas limitaciones.

Una, puede dar respuestas sesgadas, lo que puede ser controvertido. Está limitado por los datos que se le dan para entrenarse.

Por ejemplo, un artículo de Forbes sugiere que ChatGPT se negó a escribir un poema sobre el presidente estadounidense Trump, pero escribió un poema sobre Biden. También puede alucinar respuestas. No sabe lo que no sabe y aún así puede generar respuestas erróneas, lo que puede ser peligroso.

Por último, no puede comprender los matices más sutiles de la comunicación humana, como el humor o la sátira en las conversaciones que no siempre son evidentes.

Como resultado, puede tener dificultades para dar las respuestas que esperas. Puede dar respuestas objetivamente correctas, pero pasar por alto los matices que son parte integrante de la comunicación humana.

Lo esencial

A pesar de las limitaciones, disponer de una herramienta o software que intente imitar el cerebro humano es asombroso. Es fantástico ver que ChatGPT puede captar el contexto de una conversación anterior y proporcionar una respuesta decente. ¿Quién podría haberlo imaginado hace diez años?

En su estado actual, ChatGPT es, en el mejor de los casos, una herramienta en desarrollo. Las controversias y críticas en torno a sus respuestas se pueden manejar mejor con la evolución de la red neuronal que impulsa la tecnología.

Su capacidad para elegir mejores palabras e información se verá impulsada por mejores conjuntos de datos y una evolución más rápida de la red neuronal. Mejores conjuntos de datos significarán que ChatGPT tendrá más recursos apropiados entre los que elegir cuando responda a una pregunta.