La reacción estalla cuando Microsoft recorta el personal de ética de IA

Índice
  1. Que quieres saber
  2. El punto de vista de Windows Central

Que quieres saber

  • AI es un área floreciente de tecnología que impulsa varios servicios, incluido Bing Chat de Microsoft.
  • Microsoft ha invertido o se ha comprometido a invertir $11 mil millones en investigación y desarrollo de OpenAI.
  • Microsoft acaba de despedir al equipo responsable de garantizar que la IA se use de manera ética.
  • Las herramientas de IA han sido criticadas por muchos artistas y escritores profesionales.

La nueva herramienta Bing Chat de Microsoft está causando sensación, pero el gigante tecnológico ahora carece de un equipo dedicado que se centre en implementar la tecnología de inteligencia artificial de una manera que cumpla con las pautas del negocio.

Según un nuevo informe de Platformer (a través de The Verge (se abre en una nueva pestaña)) Microsoft despidió recientemente al equipo responsable de gestionar la ética en el uso de la IA. Esto llega en un momento en que Bing Chat está creciendo en popularidad, con la herramienta empujando a Bing a más de 100 millones de usuarios activos diarios.

Platformer señala que, si bien todavía existe un conjunto de principios rectores en forma de la Oficina de inteligencia artificial responsable de Microsoft, ya no existe un equipo dedicado para interpretar esos principios en un campo tecnológico que cambia rápidamente.

"La gente miraba los principios que emanaban de la oficina responsable de IA y decía: 'No sé cómo se aplica eso'", dijo un exempleado. “Nuestro trabajo era mostrarlos y crear reglas en áreas donde no las había”.

La mayoría de los miembros del equipo ya habrían sido trasladados a otras partes de Microsoft, pero los empleados restantes del equipo de ética fueron despedidos el 6 de marzo de 2023.

IA de chat de Bing

Bing Chat de Microsoft creció rápidamente en popularidad, ayudando a Bing a alcanzar un total de 100 millones de usuarios activos diarios. (Crédito de la imagen: Daniel Rubino)

“Microsoft se compromete a desarrollar productos y experiencias de IA de manera segura y responsable, y lo hace invirtiendo en personas, procesos y asociaciones que los priorizan”, dijo la compañía en un comunicado.

“Durante los últimos seis años, hemos aumentado la cantidad de personas en nuestros equipos de productos y en la Oficina de IA responsable que, junto con todos nosotros en Microsoft, son responsables de poner en práctica nuestros principios de IA. […] Agradecemos el trabajo pionero que ha realizado Ética y Sociedad para ayudarnos en nuestro viaje continuo hacia una IA responsable.

En 2020, el equipo de Ética y Sociedad contaba con 30 integrantes, entre ingenieros, diseñadores y filósofos. El equipo se ha reducido a unas siete personas, según el informe de Platformer.

El medio también informó que el gigante tecnológico había presionado para implementar rápidamente la IA, lo que resultó en el desplazamiento de muchos empleados.

"La presión de [CTO] Kevin [Scott] Y [CEO] satya [Nadella] es muy, muy alto tomar estos últimos modelos de OpenAI y los que los siguen y ponerlos en manos de los clientes a velocidades muy altas”, dijo John Montgomery, vicepresidente de AI, en una reunión con el equipo de Ética y Sociedad, según audio obtenido por Platformer.

Según los informes, el equipo retrocedió, pero Montgomery dijo: "¿Puedo reconsiderarlo? No creo que lo haga". Continuó: "Porque desafortunadamente las presiones siguen siendo las mismas. No tienes la opinión que yo tengo, y probablemente puedas estar agradecido por eso. Hay muchas cosas que se muelen en la salchicha".

La CVP dijo en su momento que el equipo de Ética y Sociedad no sería eliminado. La empresa, sin embargo, eliminó al equipo por completo en una convocatoria realizada el 6 de marzo de 2023.

El punto de vista de Windows Central

La popularidad de la IA está creciendo y las grandes empresas tecnológicas de todo el mundo están compitiendo para encontrar nuevas formas de usarla y aprovechar lo que ofrece. Esta tecnología también ha sido objeto de inmensas críticas, ya que los generadores de imágenes de IA recopilan datos basados ​​en el trabajo de los artistas sin ningún tipo de crédito o compensación. Personalmente, sigo a muchos artistas y ninguno de ellos está contento con la dirección que está tomando esta tecnología.

Para que una empresa como Microsoft continúe invirtiendo miles de millones de dólares en IA, debe tener un enfoque cuidadoso que ayude a las personas y no les quite el trabajo. Desprenderse del ya marchito equipo de Ética y Sociedad que ayudó a responder este tipo de preguntas no inspira confianza.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Subir