ChatGPT: inteligencia alucinante

Desde asistentes virtuales hasta recomendaciones personalizadas y aplicaciones de aprendizaje, la inteligencia artificial está permeando cada rincón de nuestra existencia, y ChatGPT se encuentra en el centro de esta revolución. Es un modelo de lenguaje desarrollado por OpenAI, basado en la arquitectura GPT (Generative Pre-trained Transformer). Su principal objetivo es entender y generar lenguaje humano de manera coherente y contextualizada, lo que le permite interactuar con nosotros en conversaciones, responder preguntas e incluso redactar textos. Pero, la inteligencia artificial no es racional. Su complejidad y falta de previsibilidad hacen que los errores sean más comunes de lo que se cree. ¿Qué hace que ChatGPT ? ¿ Cómo funcionan sus tripas ? ¿ Cómo nos afecta?

Según indica Bernardo Crespo , OpenAI no ha querido revelar el corpus de data que ha alimentado GPT-4 y el que ha alimentado GPT-3 en un 66% con información de una base de datos de webs de 2012-2021 CommonCrawl.org , por lo que la información tiene como mínimo un sesgo temporal puesto que finaliza en 2021. Por otro lado curiosamente el segundo idioma más usado en Common Crawl es el ruso. Curiosa combinación de base de datos para disponer de datos de calidad para «entrenar» bien al algoritmo ¿verdad?.

Los grandes modelos de lenguaje creados con sistemas de aprendizaje profundo tienen capas de redes vinculadas, lo que permite que la IA proporcione respuestas coherentes a preguntas complicadas, pero también aumenta la posibilidad de desviarse en direcciones realmente extrañas. Y aquí aparece el concepto de alucinaciones. La inteligencia artificial “alucina” cuando los sistemas de IA crean algo que parece muy convincente pero no tiene base en el mundo real. Estas alucinaciones de inteligencia artificial pueden manifestarse de diferentes maneras, como una imagen de un gato con varias cabezas, un código que no funciona o un documento con referencias inventadas.

Las alucinaciones no son un callejón sin salida y que los investigadores de IA utilizan múltiples enfoques para mitigar posibles errores de salida y ajustan la inteligencia artificial utilizando datos validados, entrenando la IA para que sea más robusta frente a entradas poco realistas. Por lo cual es crucial en estos momentos , que nosotros los humanos revisemos y sigamos siendo evaluadores y velemos por la calidad de la IA, junto a los científicos de datos . Nos va nuestra «visión» de la realidad en los próximos años.

This work by Ignasi Alcalde is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 Internacional