Microsoft mejorará la moderación de Bing Image Creator

Que quieres saber

• Microsoft integró recientemente DALL-E 3 en Bing Image Creator, lo que permite que la herramienta cree imágenes realistas y una amplia gama de ilustraciones siguiendo sencillas indicaciones.
• Poco después de lanzar la integración DALL-E 3, Microsoft implementó una mayor censura sobre la herramienta, llegando incluso a restringir el contenido creado por su propio generador de imágenes "aleatorias".
• Microsoft planea mejorar su sistema de moderación Bing Image Creator, según Mikhail Parakhin, quien ahora dirige el equipo de Experiencias Web y Windows de la compañía.

Bing Image Creator se integró recientemente con DALL-E 3, mejorando significativamente la capacidad de la herramienta para generar imágenes realistas y escuchar indicaciones. La herramienta de creación de imágenes generó cierto revuelo en la web en forma de una oleada de interés, pero el aumento de la censura luego limitó la herramienta. Nuestro editor, Jez Corden, dijo que "las imágenes de Bing Dall-E 3 fueron excelentes durante unos días, pero ahora, como era de esperar, Microsoft las ha lobotomizado". No fue el único que se quejó y Microsoft ha anunciado que buscará mejorar la moderación de Bing Image Creator.

Un cierto nivel de control es importante para software como Bing Image Creator impulsado por DALL-E 3. No se trata sólo de si la herramienta se puede utilizar para crear imágenes ofensivas, ya que existe un debate sobre el límite a respetar en este tipo de cosa. Esto también sirve para limitar si la herramienta se puede utilizar para crear contenido ilegal o información engañosa que parezca auténtica. Pero a los ojos de la mayoría de la gente, Bing fue demasiado lejos al censurar el contenido generado por DALL-E 3.

A Mikhail Parakhin, quien ahora lidera el nuevo equipo de Experiencias Web y Windows de Microsoft luego de la partida de Panos Panay, se le preguntó sobre la moderación de Bing Image Creator. Parakhin compartió que Microsoft quiere mejorar el sistema de moderación de la herramienta.

La IA es una tecnología que se está desarrollando rápidamente, a menudo más rápido que las directrices y leyes que la rodean. Cuando se lanzó la integración de DALL-E 3, Microsoft quedó abrumado por el interés en la herramienta. Algunos han utilizado Bing Image Creator para crear fotografías y gráficos divertidos para las redes sociales. Otros lo usaron para crear imágenes de "Mickey Mouse causando el 11 de septiembre". Microsoft parece haber repensado las cosas al implementar salvaguardias.

Es probable que la empresa encuentre un punto medio entre permitir contenido copiado u ofensivo y restringir a un usuario que solicita "un gato con sombrero y botas de vaquero" y que fue bloqueado por algún motivo.