La IA conversacional, también conocida como chatbots o asistentes virtuales, se ha hecho cada vez más popular a lo largo de los años a medida que la tecnología ha ido mejorando.
Estos sistemas basados en inteligencia artificial están diseñados para entablar conversaciones de tipo humano con los usuarios, proporcionándoles ayuda e información. En este artículo, tuvimos el placer de entrevistar a un diseñador conversacional, Jurgen Gravestein, que compartió su experiencia sobre cómo ha evolucionado la tecnología con el tiempo. También nos adentramos en el tema de la prompt engineering, que es una parte esencial del desarrollo de una IA conversacional eficaz. Hablamos de los principales retos a los que se enfrenta el sector y de la importancia de la privacidad de los usuarios y la protección de datos. Por último, Jurgen compartió sus ideas sobre el futuro de la IA conversacional y ofreció consejos para quienes se inician en este campo.
Tabla de contenidos
¿Le gustaría compartir su experiencia sobre cómo ha evolucionado la IA conversacional con el tiempo?
«Claro, llevo más de cuatro años trabajando en este campo. Cuando empecé, había bastante pensamiento mágico en torno a los chatbots. La gente tenía la idea de que bastaba con conectarlo y funcionaba como por arte de magia. En realidad, hay mucho trabajo artesanal en la creación de asistentes de IA, desde el diseño de las respuestas hasta el entrenamiento del sistema para que entienda mejor las preguntas de la gente: el trabajo de los diseñadores conversacional y los entrenadores de IA.
Durante bastante tiempo, no vimos mucha innovación en este ámbito, salvo que las plataformas se hicieron más fáciles de navegar. Ahora cualquiera puede construir chatbots con facilidad gracias a los constructores de flujos visuales (más conocidos como plataformas no-code o low-code).
Los grandes modelos lingüísticos han cambiado mucho las cosas en los últimos tiempos. Han elevado el listón de lo que es posible en términos de conversación contextual y fluida. También ha provocado un impulso masivo para que las plataformas innoven y creen asistentes de IA más capaces que nunca. Al mismo tiempo, estamos asistiendo a un resurgimiento del pensamiento mágico.
Yo diría que la tecnología que hay detrás de ChatGPT no se entiende bien. Mucha gente es demasiado optimista sobre lo que es posible. Y lo entiendo: es fácil entusiasmarse cuando ves de lo que son capaces estos sistemas. Sin embargo, lo cierto es que crear aplicaciones a partir de grandes modelos lingüísticos puede ser bastante complicado. Simplemente conectarlos y dejar que interactúen con sus clientes podría dar lugar a resultados no deseados, con el consiguiente daño para la reputación, o algo peor».
¿Podría ayudarnos a entender cómo funciona la ingeniería de instrucciones en la IA conversacional?
«El Prompt engineering es una forma de diseñar las instrucciones que se dan a la IA para que entienda lo que se quiere que haga. Es como escribir una receta para que el sistema la siga. Cuanto mejor sea tu receta, mejor entenderá el sistema lo que quieres que haga. Por eso, algunas de las mejores prácticas de prompt engineering consisten en ser específicos, asignarle un papel o personaje y utilizar ejemplos de lo que se quiere ver.
Es un arte un poco oscuro, porque trabajamos con sistemas de caja negra. No sabemos realmente por qué llega a lo que llega. Los grandes modelos lingüísticos no son máquinas que buscan la verdad, sino gigantescos modelos estadísticos que predicen lo que debería venir a continuación en una secuencia de palabras. Lo que le das para completar, en última instancia, influye en el resultado de formas que no se pueden explicar completamente.
Esto significa que la única forma de comprobar la eficacia de las instrucciones es por ensayo y error. Hay que hacer muchos ajustes y aprender de ellos para acertar y conseguir que estos modelos produzcan resultados coherentes y de alta calidad».
¿Cuáles son actualmente los principales retos de la IA conversacional? ¿Deben preocuparse los usuarios por su privacidad y la protección de sus datos, y por qué?
«Las nuevas tecnologías no sólo introducen nuevas posibilidades, sino que también invitan a nuevos riesgos y vulnerabilidades. Uno del que quizá haya oído hablar son los llamados prompt injection attacks. Esto ocurre cuando se crea una entrada maliciosa, eludiendo cualquier filtro de seguridad o barrera de protección establecida, haciendo que un LLM haga cosas que se supone que no debe hacer. Simon Willison escribió un gran artículo sobre ello. El problema es que ahora vemos gente que coge LLMs y les da autonomía para ejecutar búsquedas web, hacer peticiones API, o ejecutar código generado – y ahí es donde las cosas pueden ponerse peligrosas.
También hay riesgos más sutiles. A medida que los asistentes de IA como ChatGPT se hagan más omnipresentes, la gente va a confiar más en ellos. Eso puede ser bueno: nos hará la vida más fácil y productiva, pero también puede crear una dependencia excesiva de estas herramientas, hasta el punto de que dejemos de ser críticos y confiemos en la precisión de los sistemas sin verificarlos. El ejemplo perfecto de esto es cuando CNET encontró errores en más de la mitad de sus historias escritas con IA, lo que provocó una pausa en el uso de su herramienta de IA.
También corremos el riesgo de confiar demasiado en las emociones. A medida que los asistentes de IA asumen el papel de amigo virtual, amante o confidente, la gente puede volverse dependiente de ellos. Esto podría conducir a una falta de conexión humana, cuando los usuarios confían en las máquinas para obtener apoyo emocional o compañía en lugar de relacionarse con otras personas.
Además, estos asistentes de IA personalizados podrán recopilar y utilizar datos personales sin que los usuarios comprendan plenamente o consientan cómo se utilizarán. Esta falta de transparencia y de consentimiento informado plantea evidentes problemas éticos. ¿Queremos realmente que máquinas altamente persuasivas conozcan nuestros sueños y deseos más profundos y oscuros? ¿Estarán nuestros secretos a salvo con ellas?».
¿Cuáles son sus ideas sobre el futuro de la IA conversacional?
«A pesar de las preocupaciones, soy optimista sobre el futuro. Pronto las interfaces conversacionales estarán omnipresentes en el ámbito digital, lo cual es realmente genial. Text-to-text, text-to-image, text-to-video… Si puedes pedirlo, puedes crearlo. Creo que la IA generativa y los sistemas que seremos capaces de construir sobre ella resultarán positivos para la humanidad si -y sólo si- los desarrollamos y desplegamos de forma responsable.
Personas como yo, diseñadores conversacionales, escritores y pensadores, tenemos una gran oportunidad de contribuir a ello. Podría dar la impresión de que todo consiste en llevar la tecnología a nuevos niveles. No es así. Para que las máquinas entiendan a las personas, necesitamos personas que entiendan a las personas. Necesitamos psicólogos y filósofos. Necesitamos educadores. Para que podamos estimular y construir la alfabetización en IA entre el público en general. Y también necesitamos que los legisladores den un paso al frente y pongan de su parte.
En última instancia, las IA que creemos serán un reflejo de nosotros. A todos nos interesa desarrollar sistemas que nos hagan sentir más humanos, no menos. Debemos tener siempre presente que la tecnología es una herramienta: es un medio para un fin, no un fin en sí misma.»
¿Tiene algún consejo para los que empiezan en este campo? ¿Cómo se llega a ser diseñador conversacional?
«Empieza a construir hoy mismo. Ensúciate las manos. Ten material para mostrar. Ni siquiera tiene que ser un proyecto para un cliente real. Existen herramientas increíbles, como Voiceflow, por ejemplo, que pueden ayudarte a crear rápidamente prototipos de chatbots. Podrás aprender rápidamente qué funciona y qué no.
Tener una buena comprensión de cómo funcionan los chatbots a nivel técnico y entender los conceptos básicos de cómo funcionan las plataformas de bots a alto nivel también es crucial. Hay que entender cómo funcionan las intenciones, las frases de entrenamiento y las entidades, entre otras cosas. Esto puede requerir una investigación adicional y una lectura profunda.
O puedes seguir un curso y obtener la certificación CDI, que ha ayudado a muchas personas a conseguir su primer trabajo o cliente. Esto requerirá cierta inversión, pero entrar en cualquier campo exigirá algún tipo de inversión en términos de tiempo, dinero o recursos».
Jurgen Gravestein es diseñador conversacional y consultor empresarial. Fue empleado núm. 1 en el Conversation Design Institute y ahora trabaja para la rama de estrategia y entrega de CDI Services, ayudando a las empresas a impulsar el valor empresarial con la IA conversacional. No dudes en suscribirte a su boletín Teaching computers how to talk.
¿Quieres saber cómo utilizar la IA conversacional para mejorar tu estrategia de marketing digital? ¡Yo puedo ayudarte!
Echa un vistazo a mi página web www.federicagirola.com ¡y charlemos!
Y UNA ÚLTIMA COSA ANTES DE IRTE…
Si te apetece contactar conmigo, puedes hacerlo a través de LinkedIn.