Microsoft comparte la salsa secreta detrás de su modelo Prometheus que impulsa el nuevo Bing

Que quieres saber

• OpenAI presentó su modelo GPT de próxima generación a Microsoft en el verano de 2022.
• Microsoft quedó impresionado con el nuevo GPT y decidió integrarlo con Bing.
• Prometheus es una tecnología propiedad de Microsoft que utiliza Bing y GPT para generar respuestas basadas en datos en tiempo real.
• Jordi Ribas, Microsoft CVP of Search & AI, compartió la historia del nuevo Bing en una publicación reciente de LinkedIn.

El nuevo Bing de Microsoft aprovecha la información en tiempo real y el modelo GPT de próxima generación de OpenAI para generar respuestas. La combinación de estos elementos es la clave de la tecnología propietaria de Microsoft llamada Prometheus. Jordi Ribas, Microsoft CVP of Search & AI, compartió parte de la historia detrás del nuevo Bing en una publicación de LinkedIn (se abre en una nueva pestaña).

Microsoft vio una demostración del modelo GPT de OpenAI en el verano de 2022. El modelo que se le mostró a Microsoft era significativamente más poderoso que GPT-3.5, que impulsa la versión de ChatGPT actualmente disponible para el público. El poder del modelo de demostración empujó a Microsoft a encontrar formas de integrar GPT en Bing.

Una de las limitaciones de los modelos de lenguaje grande (LLM) es que están entrenados en un conjunto finito de datos. Específicamente, los LLM a menudo estudian datos hasta cierto punto en el tiempo. Esto los hace útiles para ciertos casos de uso, pero evita que sean una opción para contenido basado en datos en tiempo real. Microsoft superó esta limitación con Prometheus, que usa datos de Bing y GPT para generar respuestas rápidamente mientras usa información actualizada.

"Seleccionar consultas internas relevantes y aprovechar los resultados de búsqueda de Bing respectivos es una parte fundamental de Prometheus, ya que proporciona información relevante y fresca al modelo, lo que le permite responder preguntas recientes y reducir las imprecisiones; este método lo llama puesta a tierra", dijo Ribas. .

Prometheus también es lo que permite que el chat de Bing muestre citas de fuentes de noticias, lo que es cada vez más importante a medida que surgen preocupaciones sobre cómo los motores de búsqueda recopilan información.

Ribas también compartió que hubo un debate interno en Microsoft sobre si la empresa debería cambiar la interfaz de usuario de búsqueda. Un lado sintió que la búsqueda web debería permanecer como está, mientras que el otro impulsó una interfaz basada en chat. Al final, Microsoft decidió tener ambos métodos de búsqueda y permitir que los usuarios cambiaran fácilmente.