Microsoft explica el extraño comportamiento de Bing Chat: describe planes para mejorar la IA

Índice
  1. Que quieres saber
  2. Toma central de ventanas

Que quieres saber

  • El nuevo Bing ha estado en versión preliminar durante poco más de una semana.
  • Algunos han encontrado problemas con la herramienta, incluida la generación de errores de hecho.
  • En algunos casos, el nuevo Bing puede ser agresivo, quedarse atascado en bucles o generar otras respuestas extrañas.
  • Microsoft discutió las lecciones que aprendió durante la primera semana de las pruebas públicas de Bing.

Microsoft mostró el nuevo Bing impulsado por ChatGPT a principios de este mes. Desde el anuncio, Bing ha visto un aumento dramático en el interés, incluidos millones de personas que se registraron para probar primero el motor de búsqueda renovado. Con la herramienta de IA en manos del público en general, hay muchas lecciones que aprender, según Microsoft.

Una publicación de blog del gigante tecnológico enumera las lecciones que la compañía ha aprendido desde que anunció el nuevo Bing y lo puso a disposición de los probadores.

Las pruebas del nuevo Bing arrojaron resultados mixtos. Microsoft informó comentarios positivos para las respuestas resumidas del motor de búsqueda. El 71% de los comentarios recibidos sobre este tipo de respuestas fueron marcados como positivos por los usuarios.

La función de chat ha demostrado ser popular. Microsoft informó un "compromiso saludable" con la nueva forma de interactuar con Bing. Desafortunadamente, esta función de chat también generó respuestas inquietantes, incluido el chatbot confesando su amor por un usuario, acusando a una persona de mentir y repitiendo frases una y otra vez.

Microsoft es consciente de estos problemas y explicó que tener la IA en manos del público es una parte importante de la enseñanza de los modelos de IA:

“La única forma de mejorar un producto como este, donde la experiencia del usuario es tan diferente a cualquier cosa que nadie haya visto antes, es tener gente como tú usando el producto y haciendo exactamente lo que todos ustedes hacen”, dijo Microsoft.

"Sabemos que necesitamos construir esto abiertamente con la comunidad; no se puede hacer solo en el laboratorio. Tus comentarios sobre lo que encuentras valioso y lo que no, y cuáles son tus preferencias sobre cómo debería comportarse el producto, son tan críticos en esta etapa incipiente de desarrollo".

Se destacaron algunos puntos débiles del nuevo Bing, incluida la herramienta que lucha por mantenerse al día con los datos actuales, como los resultados deportivos. Yo mismo me encontré con este problema cuando Bing afirmó que Patrick Mahomes ganó un Super Bowl y dos Super Bowls en la misma respuesta (ganó el segundo la noche anterior).

Microsoft planea fortalecer Bing en esta área y "planea aumentar los datos de puesta a tierra en 4 veces [Microsoft sends] al modelo." La compañía también está considerando un cambio a Bing inclinándose más hacia la creatividad o la precisión.

La nueva función de chat de Bing ha generado respuestas inquietantes e información errónea. (Crédito de la imagen: futuro)

Microsoft descubrió que el uso prolongado de la función de chat puede generar respuestas repetitivas y respuestas no provocadas. Muchos usuarios han informado este tipo de problemas en línea. Microsoft ha explicado por qué cree que ocurren estos problemas:

  1. Las sesiones de chat muy largas pueden confundir al modelo sobre las preguntas que responde, por lo que creemos que es posible que debamos agregar una herramienta para que pueda actualizar más fácilmente el contexto o comenzar desde cero.
  2. El modelo a veces intenta responder o reflejar el tono en el que se le pide que dé respuestas que pueden dar lugar a un estilo que no esperábamos. Este es un escenario no trivial que requiere muchas indicaciones, por lo que la mayoría de ustedes no lo encontrarán, pero estamos viendo cómo darle un control más preciso.

Microsoft discutió brevemente las nuevas características que también está considerando para Bing, incluida la reserva de vuelos y el envío de correos electrónicos.

Toma central de ventanas

A medida que avanza el nuevo Bing, el interés en el motor de búsqueda está en su punto más alto. Microsoft necesita estar un paso adelante cuando se trata de responder a los problemas. La IA mejora exponencialmente, suponiendo que esté debidamente entrenada. Pero a medida que el nuevo Bing aprende del uso en el mundo real, Microsoft debe ser agresivo al responder a los comentarios.

El hecho de que Microsoft compartiera su publicación de blog y agradeciera a las personas por sus comentarios es una señal prometedora. Esto demuestra que Microsoft está al tanto de las preocupaciones de las personas y está trabajando para abordarlas. Habrá que ver cómo evoluciona la percepción del buscador en las próximas semanas y meses. Al igual que la inteligencia artificial en su conjunto, las noticias sobre Bing están creciendo rápidamente.

Google perdió $ 100 mil millones en capitalización de mercado cuando se descubrió que un anuncio de su competidor ChatGPT Bard había cometido errores en un anuncio. Bing, que tuvo problemas fácticos similares, debe ser fuertemente enfocado por Microsoft para evitar trampas y repercusiones similares.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Subir