Bing está bajo cómputo por sus riesgos generativos en las elecciones

Índice
  1. Que quieres saber
  2. ¿Es la IA una amenaza para los procesos electorales?

Que quieres saber

  • La UE ha emitido una solicitud legalmente vinculante a Microsoft para obtener los documentos y datos internos de Bing.
  • La Comisión dice que el motor de búsqueda está en su radar porque sus potentes herramientas de inteligencia artificial como Copilot y Designer's Image Creator podrían usarse para engañar y desinformar a los votantes sobre las próximas elecciones.
  • Basándose en sus conclusiones, la UE podría iniciar un procedimiento formal y someter a Microsoft Bing a las disposiciones introducidas por la DSA (Ley de Servicios Digitales).

A pesar de que el CEO de Microsoft, Satya Nadella, afirmó con confianza que hay "suficiente tecnología" para proteger las elecciones presidenciales de EE. UU. de los deepfakes y la desinformación de la IA, la Comisión Europea ha emitido una solicitud legalmente vinculante al gigante tecnológico que busca obtener los documentos y datos internos de Bing.

La Comisión solicitó inicialmente esta información en marzo, con el objetivo de evaluar los posibles riesgos asociados con las sofisticadas herramientas basadas en inteligencia artificial de Bing, incluidas Copilot AI e Image Creator by Designer (anteriormente Bing Image Creator). Sin embargo, Microsoft no ha proporcionado información a la UE.

Según la solicitud, Microsoft tiene exactamente 10 días (hasta el 27 de mayo) para responder. Si no cumple con esta solicitud, la UE probablemente tendrá motivos para imponer multas de hasta el 1% del ingreso anual total o del volumen de negocios mundial de Microsoft y sanciones periódicas de hasta el 5% del ingreso diario promedio o del volumen de negocios anual global del proveedor.

Según la Comisión:

"La solicitud de información se basa en la sospecha de que Bing podría haber violado la DSA por riesgos relacionados con la IA generativa, como las llamadas "alucinaciones", la distribución viral de deepfakes, así como la manipulación automatizada de servicios que podrían engañar a los votantes. .

La Comisión dijo además que la IA generativa es uno de los riesgos identificados en su Ley de Servicios Digitales (DSA) como una amenaza potencial para el proceso electoral. Como tal, Microsoft debe realizar evaluaciones integrales de riesgos y adoptar las correspondientes medidas de mitigación de riesgos descritas en las Secciones 34 y 35 de la DSA.

Bing, un “gran motor de búsqueda en línea”, debe cumplir con las disposiciones introducidas por la DSA. Actualmente, la Comisión sospecha que el motor de búsqueda podría suponer un riesgo para el discurso cívico y los procesos electorales. La DSA especifica que tiene el mandato de “solicitar, mediante decisión, información adicional a Bing sobre presuntas infracciones”, como se describe en el artículo 67(3).

Tras tener acceso a las observaciones de Microsoft, la Comisión podría decidir abrir un procedimiento formal sobre la base de las conclusiones.

¿Es la IA una amenaza para los procesos electorales?

El presidente estadounidense Joe Biden

(Crédito de la imagen: Getty Images)

Microsoft ha implementado medidas para mantener la integridad de las inminentes elecciones presidenciales de EE. UU., incluidas marcas de agua, detección de deepfake e identificación de contenido. También enfatizó su intención de brindar a los votantes información electoral autorizada y objetiva en Bing antes de la votación.

MÁS INFORMACIÓN: Necesitará usar Bing para reparar su dispositivo Windows 11

Sin embargo, un informe anterior destacó varios casos en los que Microsoft Copilot proporcionó a los votantes información engañosa sobre las próximas elecciones. Los investigadores dicen que el problema es sistémico, ya que también se ha detectado que el chatbot genera información engañosa sobre el proceso electoral en Alemania y Suiza.

Algunos informes indican que China está utilizando imágenes, vídeos y memes generados por IA para desinformar a los votantes sobre las elecciones y provocar indignación en Estados Unidos, Corea del Sur e India. Esto es consistente con las afirmaciones periodísticas falsas generadas mediante Microsoft Copilot con respecto a la reciente muerte de un líder de la oposición rusa de facto, lo que podría poner al presidente Biden y al presidente Putin en desacuerdo.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Subir