Las inteligencias artificiales mienten porque alucinan

Las inteligencias artificiales mienten porque alucinan

El modo en que funcionan las IAs generativas de texto, como ChatGPT, «a veces puede conducir a algo que llamamos alucinación», explicaba hace unos días Prabhakar Raghavan, jefe de Google Search, al Welt am Sonntag.

«Esto se expresa de tal manera que una máquina proporciona una respuesta convincente pero completamente inventada». En su entrevista, Raghavan recurrió -entre otros- al argumento de las alucinaciones para justificar el hecho de que Google se haya quedado por ahora por detrás de Microsoft en este campo…

Y lo cierto es que la nueva IA de Bing, basada en ChatGPT, está demostrando destacar, precisamente, por sus alucinaciones. Incluso por encima del ChatGPT original, que ya había protagonizado en el pasado casos famosos de ‘alucinaciones’, respondiendo con datos detallados (pero falsos) a la pregunta del récord de cruzar a pie el Canal de la Mancha o sobre la última vez que se transporó el Golden Gate a través de Egipto.

Ejemplo

Uno de los ejemplos de esto, viralizado en Twitter por Justine Moore, queda en evidencia cuando se le pregunta por los horarios de ‘Avatar 2’… y el ‘chat inteligente’ del renovado buscador de Microsoft nos contesta que la película aún no ha estrenado (se estrenó en diciembre).

Lo mejor es que, cuando le echas en cara la inexactitud de su respuesta, la IA te lo discute, pudiendo dar (según el usuario que pregunte) toda una serie de creativas explicaciones:

• Estamos a febrero de 2022, aún no se ha estrenado.
• Estamos en febrero de 2023, pero ‘Avatar 2‘ no se estrenará hasta diciembre de este año.
• Eres un viajero en el tiempo (en serio, mirad la imagen de arriba).

Otro ejemplo de alucinación: para ChatGPT, el partido de la Super Bowl ya había tenido lugar cuatro días antes de que ocurriera realmente, y era capaz de realizar un resumen tanto del encuentro como de la actuación previa de Rihanna.