Al empezar estas líneas, estoy escuchando a los Black Keys con She does it right (2026) de su disco lanzado hace un par de semanas, que siento como un recordatorio de que el rock y el blues son una unión maravillosa. Descubrir esta banda con el álbum El Camino en 2011, y haber disfrutado de discos como Chulahoma, el homenaje a Junior Kimbrough lanzado en 2006, y Ohio Players, el álbum de 2024, han hecho que muchas jornadas escribiendo o conduciendo hayan sido más llevaderas.
Y mientras me deshago en elogios a los Black Keys, estoy cancelando mi suscripción a Grok, por razones que van en dirección contraria a los aplausos. Una alucinación de la IA me ha hecho replantearme la seguridad y la necesidad de usarla, por mucho que se argumente que sea el presente y el futuro.
Y sí, admito que tuve que familiarizarme con el concepto de alucinación de la IA, que no conocía antes, pero que incluye términos que cualquiera con alguna experiencia en el universo de la posverdad, conoce bastante bien: mentir e inventar datos.
Había programado tres tareas diarias. Dos de esas tareas se relacionaban con temas de seguridad y justicia en la región, que incluían el seguimiento a las comisiones de postulación de 2026. Las tareas habían sido planificadas sobre la base de prompts bastante sólidos.
Y la mañana de un miércoles, en el resumen de la tarea sobre Guatemala trae consigo la noticia sobre la designación de una activista de derechos humanos como fiscal general. Además, una serie de reacciones sobre el nombramiento, que incluye artículos de prensa, entrevistas con personalidades, reacciones del cuerpo diplomático y un resumen de la hoja de vida de la nueva funcionaria. Todo es fantástico, pero tiene un problema: cada palabra era mentira.
Pese a la utilidad de procesar grandes cantidades de información y establecer conexiones entre temas y actores, si la IA alucina y miente a gran escala… ¿realmente vale la pena financiar los delirios tecnológicos de Elon Musk?
La designación no se había hecho todavía, y Grok decidió nombrar a una reconocida activista como fiscal, generando toda una fantasía distópica. Y había un tema adicional: 48 horas antes me había reunido con la persona que Grok eligió falsamente como fiscal.
Interrogué a Grok por el error. Las respuestas fueron aún más alucinantes: todo era solamente una típica alucinación de la IA, nada excepcional, ni de qué preocuparse. Un error posible y normal. Grok negaba tener acceso a mi agenda, y, finalmente, me sugería revisar la tarea —casi implicando que era mi culpa—. La conversación me recordó a un tipo que hace más de treinta años, en una audiencia de mediación, admitió que no pensaba reconocer alimentos para un hijo menor de edad, porque tenía otros cuatro, «imagínese usted, si se enteran las madres, y tengo que pagar por todos los demás».
Digamos que después de esta escena la cancelación del servicio estaba cantada. Más allá de ahorrar algunos dólares, esta experiencia plantea un problema ético, con ramificaciones en la privacidad y la confianza en la integridad del sistema. Pese a la utilidad de procesar grandes cantidades de información y establecer conexiones entre temas y actores, si la IA alucina y miente a gran escala… ¿realmente vale la pena financiar los delirios tecnológicos de Elon Musk?
En mi caso, va a pasar un tiempo antes de que decida volver a contratar un servicio de IA. Al terminar estas líneas, estoy escuchando Paranoid Android, de Radiohead. God love his children, dice el coro de la canción
