Internet in opstand als 4Chan-gebruiker AI-spraaksimulator gebruikt om de stem van Emma Watson te deepfaken, waardoor ze Hitlers autobiografie leest
De voormalige stafleden van Google en Palantir lanceerden samen de startup Elevenlabs, die tot doel had hoogwaardige audio-deepfakes van beroemdheden te creëren via hun AI-tool voor het klonen van stemmen. Maar hun bèta-lancering mislukte al snel en velen misbruikten de stemmen van beroemdheden, waaronder Emma Watson, via de AI-tool voor het klonen van stemmen.
Veel fans zijn woedend over het onethische en immorele gebruik van de AI-tool nadat sommige trollen hun favoriete stemmen van beroemdheden hebben misbruikt om buitensporige opmerkingen te maken. Maar de startup heeft iedereen verzekerd dat ze het model gaan veranderen om verdere problemen te voorkomen.
Fans woedend nadat 4Chan-gebruiker de stem van Emma Watson misbruikt via een AI-tool
De introductie van de AI-tool voor het klonen van stemmen van Elevenlabs heeft het internet in vuur en vlam gezet nadat talloze trollen het gebruik van deze gratis tool hebben uitgebuit. Hoewel velen de software hebben gebruikt om gezonde inhoud te genereren, heeft een deel van het internet de tool misbruikt om beroemdheden racistische beledigingen en schandalige opmerkingen te laten spuien, en het misbruik van Emma Watsons stem was de druppel.
Onlangs. Motherboard meldde het extreme misbruik van de AI-software om aanstootgevende nepaudio te creëren. Maar de druppel die de emmer deed overlopen was een 4Chan-gebruiker, die een clip van de Harry Potter ster Emma Watson lezing mijn gevecht , de autobiografie van nazi-dictator Adolf Hitler.
Fans zijn woedend over dit onethische gebruik van de software over Emma Watson en andere beroemde beroemdheden, waaronder Joe Rogan, Robin Williams, enz. Elevenlabs, die de technologie beschikbaar heeft gemaakt voor het publiek, heeft dit groeiende probleem aangepakt en heeft gezworen om te vechten tegen de misbruik van hun tool voor het klonen van stemmen.
Lees ook: 'Prisoner of Azkaban'-regisseur vroeg Harry Potter-trio om een essay over hun personage te schrijven - Emma Watson schreef 16 pagina's, Daniel Radcliffe had een samenvatting van 1 pagina, Rupert Grint schreef er geen
Elevenlabs belooft verder misbruik van de AI-tool te voorkomen
De startup was in het begin ook overweldigd door de positieve reacties op hun, aangezien velen de AI-tool voor het klonen van stemmen gebruikten voor een gezonde creatie. Maar het bedrijf kreeg al snel een probleem nadat trollen de software voor snode doeleinden begonnen te misbruiken. Elevenlabs heeft het internet verzekerd dat ze de zaak grondig onderzoeken en mogelijke oplossingen bedenken.
Hoewel de makers van Elevenlabs hebben toegegeven dat ze kunnen herleiden tot de gebruikers die misbruik maken van de kracht van de AI-tool, zoeken ze naar aanvullende veiligheidsmaatregelen om dit probleem te voorkomen. De makers deelden verschillende ideeën om de kwestie aan te pakken, waaronder de introductie van handmatige verificatie voor elke kloning en volledige ID-verificatie van de gebruiker door middel van betaling of een andere methode.
Hoewel de bètatests van de Startup een gemengde start kenden, waren veel fans woedend over het onethische gebruik van stemmen van beroemdheden via de AI-tool, vooral Emma Watson. Maar mensen hebben de startup ook erkend omdat ze de situatie niet hebben weggepoetst en actieve maatregelen hebben genomen om met deze internettrollen om te gaan.
Bron: Zonde
