Op de laatste ontwikkelaarsconferentie heeft Microsoft zijn bijdrage aangekondigd aan de race om kunstmatige intelligentie: software die in staat is nieuwe avatars en nieuwe stemmen te genereren of het uiterlijk en de spraak van een bestaande gebruiker te repliceren, wat aanleiding geeft tot bezorgdheid over de trend van het creëren van ‘deepfakes’. Door AI gemaakte video's van gebeurtenissen die nooit hebben plaatsgevonden.
Aangekondigd op Microsoft Ignite 2023 wordt Azure AI Speech getraind op menselijke afbeeldingen en kunnen gebruikers een script invoeren dat hardop kan worden ‘gelezen’ door een fotorealistische avatar die is gemaakt met behulp van kunstmatige intelligentie.
Gebruikers kunnen een vooraf gedefinieerde Microsoft-avatar kiezen of afbeeldingen uploaden van een persoon wiens stem en uiterlijk ze willen repliceren. Microsoft zei in een blogpost dat de tool kan worden gebruikt om “chatbots, virtuele assistenten, chatbots en meer” te creëren.
In het bericht staat: “Klanten kunnen kiezen tussen een vooraf gebouwde of aangepaste neurale stem voor hun avatar. Als voor de avatar de gepersonaliseerde neurale stem en het uiterlijk van dezelfde persoon worden gebruikt, zal de avatar sterk op die persoon lijken.”
Het bedrijf zei dat de nieuwe tekst-naar-spraaksoftware wordt geleverd met een aantal beperkingen en waarborgen die bedoeld zijn om misbruik te voorkomen.
“Als onderdeel van de toewijding van Microsoft aan verantwoorde AI, is de tekst-naar-spraak-avatar ontworpen om individuele en sociale rechten te beschermen en naadloze mens-computerinteractie mogelijk te maken.
Klanten kunnen hun eigen video-opname uploaden, die de functie gebruikt om een synthetische video te vormen van de aangepaste avatar die spreekt.
De aankondiging leidde al snel tot kritiek dat Microsoft een ‘deepfake-maker' had gelanceerd, die het gemakkelijker zou maken om iemands uiterlijk te repliceren en hem dingen te laten zeggen en doen die hij niet zei, noch zei, noch deed. De CEO van Microsoft zei zelf in mei dat ‘deepfakes’ zijn ‘grootste zorg’ waren als het gaat om de vooruitgang op het gebied van kunstmatige intelligentie.
In een verklaring reageerde het bedrijf op kritiek door te zeggen dat aangepaste avatars nu een tool met “beperkte toegang” zijn waarvoor klanten zich moeten aanmelden en goedgekeurd moeten worden door Microsoft. Daarnaast moeten gebruikers aangeven of kunstmatige intelligentie is gebruikt om een synthetische stem of avatar te creëren.
Met deze waarborgen helpen we potentiële risico’s te beperken en stellen we klanten in staat geavanceerde spraakmogelijkheden naadloos en veilig in hun AI-toepassingen te integreren.
Met de opkomst van AI ontstaan er steeds meer zorgen over de mogelijkheden van deze technologie. Sam Altman, CEO van OpenAI, waarschuwde het Congres dat het gebruikt zou kunnen worden om zich te bemoeien met verkiezingen en dat er voorzorgsmaatregelen moesten worden genomen.
Experts zeggen dat deepfakes een bijzonder gevaar vormen als het gaat om verkiezingsinmenging. Microsoft heeft deze maand een tool gelanceerd waarmee politici en campagnes hun video's kunnen authenticeren en markeren om de legitimiteit ervan te verifiëren en de verspreiding van deepfakes te voorkomen. Meta heeft deze week een beleid aangekondigd dat openbaarmaking van het gebruik van AI in politieke advertenties vereist en dat campagnes verbiedt om Meta's eigen generatieve AI-tools voor advertenties te gebruiken.