Alucinación de IA
Alucinación de IA
IA
Cuando un modelo de IA presenta información falsa o inventada como si fuera cierta.
¿Qué significa Alucinación de IA?
Las alucinaciones se reducen fundamentando las respuestas en fuentes aprobadas, exigiendo pruebas antes de afirmar que una acción se completó y permitiendo que la IA diga «no lo sé».
Por qué ocurre: los modelos de lenguaje generan textos que parecen probables. Si falta información, pueden llenar el vacío con algo plausible pero incorrecto, como una política de devoluciones inventada o un número de seguimiento inexistente. En atención al cliente, esto genera promesas incumplidas. Contrastar las afirmaciones con registros reales antes de enviarlas es la defensa más fiable.
Ejemplo
Por ejemplo, un cliente pregunta si puede devolver un artículo abierto. Una IA sin fuentes podría decir «sí, en 60 días» porque suena normal, aunque tu política solo permita artículos sin abrir durante 30 días. Un agente fundamentado consulta y cita la política.
Alucinación de IA: por qué importa
Una respuesta incorrecta puede costar un reembolso, un cliente o tu reputación; controlar las alucinaciones es esencial antes de que la IA atienda clientes.
Explora más términos
Consulta nuestro glosario completo de comercio electrónico y suscripciones.
