Nueva herramienta de Microsoft para deepfakes hiperrealistas desata polémica

[MAXMAX]

Nueva herramienta de Microsoft para deepfakes hiperrealistas desata polémica

Microsoft ha lanzado un software innovador llamado Azure AI Speech en su conferencia para desarrolladores Microsoft Ignite 2023. Este avanzado sistema de inteligencia artificial permite generar avatares fotorrealistas y voces sintéticas. Los usuarios pueden optar por avatares predefinidos de Microsoft o cargar sus propias imágenes para replicar la voz y apariencia de una persona específica. El software se destaca por su capacidad para leer guiones con una voz neural altamente realista. La empresa destaca que esta herramienta tiene múltiples aplicaciones prácticas, como en la creación de agentes conversacionales, asistentes virtuales y chatbots. Sin embargo, esta innovación ha suscitado preocupaciones sobre el aumento de los deepfakes, es decir, videos creados por IA que representan eventos falsos. Microsoft ha establecido varias salvaguardias para mitigar el mal uso de su tecnología. Entre ellas, se encuentra un acceso limitado a la herramienta, donde los usuarios deben ser aprobados por Microsoft y revelar el uso de IA en la creación de avatares o voces sintéticas. Estas medidas buscan promover una interacción transparente entre humanos y computadoras y prevenir la proliferación de contenido engañoso. Este lanzamiento se produce en un contexto de creciente preocupación sobre el impacto de la IA en aspectos como la interferencia electoral. Empresas como Meta también han implementado políticas para controlar el uso de la IA en anuncios políticos. Microsoft, por su parte, ha introducido una herramienta para autenticar y marcar videos políticos y así combatir la difusión de deepfakes.