Ha habido casos sonados: una aerolínea cuyo chatbot prometió un reembolso inventado y que tuvo que pagarlo (Air Canada, condenada por un tribunal canadiense en 2024), textos publicados con el clásico “como modelo de lenguaje, no puedo…” sin revisar, o respuestas con datos falsos enviadas a clientes.
La lección: la IA potencia, pero no se deja sola en lo importante. Revisa lo que sale antes de publicarlo, define límites claros (qué SÍ y qué NO puede decir), y mantén a un humano en las decisiones sensibles.
Bien usada, la IA da una imagen impecable; mal usada, lo exhibe. La diferencia es el diseño y la supervisión.