El algoritmo conversacional se ha endurecido específicamente contra la toxicidad de la red.
Los laboratorios de investigación de IA de Meta han creado un nuevo chatbot de última generación y están dejando que los miembros del público hablen con el sistema para recoger opiniones sobre sus capacidades
El bot se llama BlenderBot 3 y se puede acceder a él a través de este enlace (aunque, por ahora, parece que sólo pueden hacerlo los residentes en EE.UU.) Este sistema es capaz de entablar una charla general, dice Meta, pero también de responder al tipo de consultas que se le pueden hacer a un asistente digital, «desde hablar de recetas de comida saludable hasta encontrar servicios aptos para niños en la ciudad«.
El bot es un prototipo y se basa en el trabajo previo de Meta con los llamados modelos lingüísticos de gran tamaño o LLMS (siglas en inglés de Large Language Models), un software de generación de texto potente pero defectuoso del que el GPT-3 de OpenAI es el ejemplo más conocido. Como todos los LLM, BlenderBot se entrena inicialmente con vastos conjuntos de datos de texto, que extrae en busca de patrones estadísticos para generar el lenguaje.
Estos sistemas han demostrado ser extremadamente flexibles y se han utilizado para una amplia gama de usos, desde la generación de código para los programadores hasta la ayuda a los autores para escribir su próximo bestseller.
Sin embargo, estos modelos también tienen graves defectos ya que regurgitan sesgos en sus datos de entrenamiento y a menudo inventan respuestas a las preguntas de los usuarios (un gran problema si quieren ser útiles como asistentes digitales).
Esta última cuestión es algo que Meta quiere probar específicamente con BlenderBot. Una de las principales características del chatbot es que es capaz de buscar en Internet para hablar de temas específicos. Y lo que es más importante, los usuarios pueden hacer clic en sus respuestas para ver de dónde ha sacado la información. En otras palabras, BlenderBot 3 puede citar sus fuentes.
Al poner el chatbot a disposición del público en general, Meta quiere recoger opiniones sobre los diversos problemas a los que se enfrentan los grandes modelos lingüísticos. Los usuarios que chateen con BlenderBot podrán marcar cualquier respuesta sospechosa del sistema, y Meta dice que ha trabajado mucho para «minimizar el uso de lenguaje vulgar, insultos y comentarios culturalmente insensibles por parte de los bots«.
Los usuarios tendrán que optar por que se recojan sus datos, y si es así, sus conversaciones y comentarios serán almacenados y posteriormente publicados por Meta para ser utilizados por la comunidad de investigación de la IA en general.
«Los investigadores no pueden predecir o simular todos los escenarios de conversación sólo en entornos de investigación», escribieron los investigadores de Meta AI en una entrada de blog el viernes. «El campo de la IA todavía está lejos de los sistemas de IA verdaderamente inteligentes que pueden entender, comprometerse y conversar con nosotros como lo hacen otros humanos. Para construir modelos que sean más adaptables a los entornos del mundo real, los chatbots necesitan aprender desde una perspectiva diversa y amplia con personas ‘en la naturaleza’» indican los investigadores de Meta AI
El verdadero premio es construir un sistema que pueda mantener una conversación tan libre y natural como la de un humano, y Meta dice que la única manera de conseguirlo es dejar que los bots mantengan conversaciones libres y naturales.
Además de poner BlenderBot 3 en la web, Meta también está publicando el código subyacente, el conjunto de datos de entrenamiento y las variantes más pequeñas del modelo. Los investigadores pueden solicitar el acceso al modelo más grande, que tiene 175.000 millones de parámetros, a través de un formulario.