Cada vez más empresas están integrando inteligencia artificial en sus aplicaciones. Pero cuando esta implementación se hace mal, no solo afecta la experiencia del usuario, sino que también puede convertirse en un problema de seguridad.
En este artículo comentaremos un par de casos en que la implementación no ha salido bien, y cerraremos con un ejemplo en el que, por el momento, no se ha reemplazado al factor humano con uno de estos sistemas.
Un tema constante es que la IA nos va a reemplazar a todos tarde o temprano. Y es cierto que ha cambiado roles (no solo en programación) y en la actualidad escuchamos de herramientas como Open Claw para usarlos como agentes que pueden realizar diversas tareas dándole control de nuestro equipo.
¿Pero qué sucede cuando no se implementa la IA correctamente?
Vamos a comentar acerca de los chatbots en esta ocasión. En mi experiencia, casi siempre termino buscando hablar con una persona real. Mis búsquedas suelen ser un tanto específicas y estos chatbots automatizados no suelen tener las respuestas.
En realidad, me he frustrado mucho más usándolos. Tengo un ejemplo de una compañía de telefonía e internet en que el chat te permite escribir una pregunta, pero este chat nunca la entiende. Me da un menú de opciones que al final no tiene la respuesta que busco y al final, me regresa al mismo menú que originalmente no tiene la respuesta a mi problema… Muchas veces termino mejor llamando y esperando en la línea hasta que una persona me contesta.
Con el pasar del tiempo, podemos observar que ahora tenemos nuevas herramientas que las empresas colocan para dar atención al cliente. Ahora pasaremos a comentar estos 2 casos.
Caso 1: Mercado libre.
Esta empresa conocida en toda Latinoamérica sonó en este tipo de noticias debido a su chatbot. Y usuarios descubrieron que el chatbot podía responder preguntas completamente fuera del contexto de la plataforma, lo que indica una falta de restricciones en su diseño.
Si un chatbot puede responder sobre las preguntas más frecuentes, podría ser muy bueno. Pero ahora no venimos a comentar si la implementación para ayudar al usuario era buena. Entonces, ¿cuál es el problema?
Los usuarios podían preguntarle literalmente cualquier cosa a este chat. No importaba si no era sobre un producto o sobre la plataforma de Mercado Libre. Esto lo podemos ver en el siguiente posteo:
Esto probablemente se debe a la falta de reglas y contexto definidos para el chatbot.
¿Qué implicaciones tiene esto? Puede ser, pero no lo sabemos, que Mercado Libre estuviera pagando por usar un servicio de inteligencia artificial. Esto puede generar costos elevados, ya que muchos servicios de IA cobran por token. Si los usuarios utilizan el chatbot sin restricciones, el gasto puede escalar rápidamente.
El tener este chat sin ninguna regla o protección nos hace susceptibles a recibir ataques de prompt engineering. Un atacante podría manipular las instrucciones del modelo para obtener información o hacer que el sistema actúe fuera de su propósito original. Por lo que debemos aprender de este error para cuidar qué se puede hacer en nuestras aplicaciones.
Esta no es noticia nueva, pero acabo de encontrar algo muy parecido.
Caso 2: Banco Ualá.
Para este segundo caso te voy a contar la anécdota.
Yo era muy feliz… me encontraba en mis actividades diarias, ¡cuando, sorpresa! Recibí una llamada; era un banco ofreciéndome su «flamante» tarjeta de crédito. Ya a estas alturas estoy cansado de que me llamen de los bancos a ofrecerme una tarjeta o seguro; aun así, contesté.
De nuevo era un banco, pero había algo curioso: el tono y la velocidad con las que hablaba esta persona era muy particular, era un tono muy calmado y algo lento. Para esta primera llamada, al decir que no estaba interesado, solo me dijo que estaba bien y terminó la llamada.
Pero esa no fue la única llamada que recibí; para la segunda llamada era el mismo tono y ritmo en la voz; ahí sí sospeché, pero habían pasado un par de semanas. En un principio pensé que era la estrategia de este call center. La diferencia con esta llamada es que esta vez fue mucho más insistente.
¿Banco Ualá usa IA para su call center?
Y dada esta casualidad, que para mí sonaba que era la misma persona, decidí buscar sobre si esta empresa estaba usando IA como parte de su call center y encontré el siguiente post.
Con esto decidí hacer una prueba si es que volvían a llamarme. Y pasó…
En esta nueva llamada interrumpí directamente a esta «persona» y le pregunté por el contexto que tenía que llevar a cabo para esta llamada. Y me lo dijo; entre lo que recuerdo, era que tenía que ser amable para comentar los beneficios de la tarjeta al usuario.
Después me preguntó si quería continuar con el proceso de la tarjeta, que al final decía que era redirigir la llamada a un siguiente paso. Le dije que no.
Lo siguiente que le pregunté es que me explicara la diferencia entre una función y una arrow function en JavaScript, y me comenzó a decir las diferencias de estas instrucciones. En ese momento quedó claro: no estaba hablando con una persona, sino con un sistema sin límites claros en su diseño.
Al final me preguntó si quería saber más de este concepto. Con esto último colgué la llamada.
Por supuesto, no ha sido la última llamada que me han realizado, y es lo mismo, el mismo tono y ritmo de voz con un nombre diferente de este supuesto asesor.
Esto por supuesto, que me tomó por sorpresa en la primera llamada y me hizo dudar hasta que encontré este parón en la llamada para saber que era una IA.
Pero con el mismo problema que tuvo Mercado Libre en su chatbot. Pude usar el bot de esta llamada para hacer consultas que no tenían que ver con su empresa, es decir, podría estar haciendo un gasto de tokens no planeado; o que pueda ocurrir algo peor, en sistemas mal protegidos, esto incluso podría permitir acceso a información sensible o comportamientos no previstos.
¿Cuándo genera más valor el factor humano?
Después de ver estos casos donde la IA falla, vale la pena analizar el escenario contrario.
Hay un banco que, al menos en mi país, es uno de los que mejor atención al cliente tiene.
Algunos de los bancos que existen aquí han agregado un chat con IA, al cual podemos hacerle consultas sobre la aplicación o productos del propio banco. Y en muchos casos, estamos obligados a ir a una sucursal por algunos temas en específico.
Este banco que te menciono, de momento, no ha incluido ninguna de estas herramientas. Lo que caracteriza y lo distingue es que la atención es sumamente rápida y, ya sea a través de un chat o de una llamada, siempre hay una persona para resolver los problemas que tenemos. Eso sí, los productos de este banco suelen ser más caros que la gran mayoría, pero la experiencia que nos ofrece es diferente y por ahora un chatbot o una IA no puede igualar.
Y aquí está la clave, la experiencia que ofrecemos a los usuarios. En mi opinión, vale la pena usar la IA cuando la experiencia va a mejorar para nuestro usuario. No sé qué tanto les esté funcionando este bot a este banco, qué tanto ahorro en los gastos operativos les esté reflejando o si solo es un experimento en la estrategia.
Puede que no se haya integrado esta IA con el fin de mejorar esa experiencia de venta al usuario; al final es el primer filtro para después redirigir la llamada a otra área. Estas IA y chatbots pueden ser muy útiles. Pero no siempre va a dar más valor a nuestro usuario.
La IA no debe implementarse solo por tendencia, como lo estamos viendo con muchas empresas, sino con un propósito claro: mejorar la experiencia del usuario. De lo contrario, no solo añade fricción, sino también riesgos técnicos y costos innecesarios. Es por supuesto, una herramienta poderosa, pero mal implementada puede convertirse en un problema más que en una solución.
Para tratar de evitar este error, tenemos que aprender a usar la IA. Usar un chat está bien, pero si queremos obtener mejores resultados, tenemos que aprender a crear mejores prompts. Para este tema te dejaré por aquí el enlace al curso de Prompt Engineering.
Pero si quieres aprender a usar a la IA como un agente para programar de verdad, todas las herramientas como MCP, agentes, skills las podrás encontrar en el curso Ultimate IA. Ya que ahora se está volviendo obligatorio en nuestra área el aprovechar correctamente a la IA como una herramienta a nuestro favor.
Y si te interesa saber qué es una de estas herramientas, como lo es Open Claw, te puede interesar el siguiente video: OpenClaw es IMPRESIONANTE!
Cursos de Hola Mundo para aprender a programar.
Te dejaremos además el enlace a todos nuestros cursos de programación, los cuales encontrarás disponibles en la academia Hola Mundo y puedes optar por adquirir los cursos de manera individual en el siguiente link: todos los cursos de Hola Mundo. Si prefieres acceso a todo, también puedes elegir un plan de suscripción mensual o anual.
O igualmente puedes optar por cada curso de manera individual en Udemy (los cursos más nuevos solo se encuentran en la academia).
Biblioteca de Hola Mundo para aprender a programar
Pero si tu tipo de aprendizaje se adapta mucho mejor a los libros, igualmente puedes acceder a nuestros títulos para aprender a programar y así armar tu propia biblioteca.
Podrás adquirir estos materiales en Amazon en su versión física y en su versión digital, donde también puedes ver un fragmento en esta misma página de Amazon para que así puedas consultar su contenido.
Y esto ha sido todo de este artículo. Si te ha encantado, ¡golpea al botón de me gusta!, déjanos un comentario y, para no perderte nada, no olvides suscribirte a este blog, seguirnos en todas las redes como Youtube, Twitter, Instagram y Tiktok, y por último, te invitamos a escuchar nuestra música «Hola Beats«, diseñada para ayudarte a concentrarte y acompañarte en tu aprendizaje o trabajo; la puedes encontrar en Spotify, Apple Music, Amazon Music, Youtube Music y Deezer.
¡Hasta la próxima! Y chao, mundo.
Deja un comentario