Meta está probando un nuevo chatbot... sálvese quien pueda

yo se que normalmente cuando hablo de Facebook y Meta tiendo a ser bastante crítico. No tengo especial animadversión hacia la red social ni hacia la empresa, si bien es cierto que llevan años intentando cosechar una imagen especialmente negativa. Sin embargo, en esta ocasión conviene aclarar que la advertencia de seguridad del título no es porque estemos hablando de un proyecto de esta empresa en particular… o, bueno, no del todo.

y es que la empresa lanzó BlenderBot 3, un chatbot de uso generalde momento solo accesible desde Estados Unidos (intenté acceder a través de dos VPN pero tampoco fue posible) y que, al menos en su definición, pretende ofrecer tanto conversaciones de carácter general, como las que se pueden establecer en la barra en cualquier momento, como responder al tipo de preguntas que comúnmente se hacen a los asistentes digitales.

Como todos los LLM, BlenderBot fue entrenado en grandes conjuntos de datos textuales para poder establecer patrones que, posteriormente, serán los responsables de las respuestas proporcionadas por la IA. Dichos sistemas han demostrado ser extremadamente flexibles y se han utilizado para una variedad de usos, desde generar código para programadores hasta ayudar a los autores a escribir su próximo Mejor vendido. Sin embargo, estos modelos también tienen serios problemas, como el desarrollo de sesgos conjuntos de datos y que cuando no saben la respuesta correcta a una pregunta, en lugar de decir que no saben, tienden a inventar una respuesta.

Y aquí podemos hablar positivamente de Meta, ya que El objetivo de BlenderBot es probar con precisión una posible solución al problema de las respuestas inventadas.. Entonces, una característica destacable de este chatbot es que es capaz de buscar información en Internet para hablar sobre temas específicos. Y aún mejor, las personas pueden hacer clic en sus respuestas para ver de dónde obtuvo su información. BlenderBot 3, en otras palabras, puede citar sus fuentes, proporcionando una enorme transparencia.

Entonces, El meta punto de partida es bueno, al menos en teoría.. El problema es que los chatbots, tal como los conocemos hoy en día, tienen dos problemas. La primera es que su aprendizaje es continuo, por lo que basta con que un gran número de usuarios decida generar un sesgo malicioso en la IA para que, si no cuenta con los elementos necesarios para evitarlo, acabe "contaminada". y, por lo tanto, Así que tócalas.

Y el segundo problema está relacionado con el primero, y es que este tipo de algoritmos funciona como una caja cerrada y opaco, en el sentido de que no sabes lo que está pasando dentro. Como resultado, los gerentes confían exclusivamente en la observación constante de la IA, no pueden "levantar el capó" para ver qué sucede allí, lo que dificulta y retrasa la identificación de problemas y, en muchos casos, los hace imposibles. resolver.

Así que este Meta chatbot parece un paso en la dirección correcta, pero después de tantas malas experiencias en el pasado, Admito que soy bastante pesimista..