Generatyvusis AI turi daugybę gerai dokumentuotų piktnaudžiavimo atvejų – nuo akademinių darbų rengimo iki menininkų kopijavimo. Ir dabar, panašu, kad tai išryškėja valstybės įtakos operacijose.
Remiantis naujausia Masačusetso grėsmių žvalgybos bendrovės „Recorded Future“ ataskaita, vienai neseniai kampanijai „labai tikėtina“ padėjo komerciniai AI balso generavimo produktai, įskaitant technologijas, kurias viešai išleido populiarioji startuolis „ElevenLabs“.
Ataskaitoje aprašoma su Rusija susijusi kampanija, skirta pakirsti Europos paramą Ukrainai, pavadinta „Operation Undercut“, kurios metu buvo aiškiai naudojami dirbtinio intelekto sukurti įgarsinimai netikruose ar klaidinančiuose „naujienų“ vaizdo įrašuose.
Vaizdo įrašuose, skirtuose Europos auditorijai, Ukrainos politikai buvo puolami kaip korumpuoti arba, be kitų temų, abejojama karinės pagalbos Ukrainai naudingumu. Pavyzdžiui, viename vaizdo įraše buvo teigiama, kad „net trukdžiai negali išgelbėti amerikiečių tankų Abrams“, turėdamas omenyje JAV tankų naudojamus įrenginius, skirtus nukreipti įskrendančias raketas – tai patvirtina, kad aukštųjų technologijų šarvuočių siuntimas į Ukrainą yra beprasmiškas.
Ataskaitoje teigiama, kad vaizdo įrašų kūrėjai „labai tikėtina“ naudojo balsu sukurtą AI, įskaitant „ElevenLabs“ technologiją, kad jų turinys atrodytų teisėtesnis. Norėdami tai patikrinti, „Recorded Future“ tyrėjai pateikė klipus į „ElevenLabs“ AI kalbos klasifikatorių, kuris suteikia galimybę kiekvienam „aptikti, ar garso klipas buvo sukurtas naudojant ElevenLabs“, ir gavo atitikmenį.
„ElevenLabs“ neatsakė į prašymus komentuoti. Nors „Recorded Future“ atkreipė dėmesį į galimą kelių komercinių AI balso generavimo įrankių naudojimą, neįvardijo jokių kitų, išskyrus „ElevenLabs“.
Dirbtinio intelekto balso generavimo naudingumą netyčia pademonstravo patys įtakos kampanijos organizatoriai, kurie gana atsainiai išleido vaizdo įrašus su tikrais žmonių balsais, kuriuose buvo „ryškus rusiškas akcentas“. Priešingai, dirbtinio intelekto sukurti balsai skambėjo keliomis Europos kalbomis, pavyzdžiui, anglų, prancūzų, vokiečių ir lenkų, be svetimų akcentų.
Anot „Recorded Future“, dirbtinis intelektas taip pat leido greitai išleisti klaidinančius klipus keliomis Europoje vartojamomis kalbomis, tokiomis kaip anglų, vokiečių, prancūzų, lenkų ir turkų (beje, visomis kalbomis, kurias palaiko „ElevenLabs“.)
„Recorded Future“ šią veiklą priskyrė Socialinio dizaino agentūrai, Rusijoje įsikūrusiai organizacijai, kuriai JAV vyriausybė šį kovą skyrė sankcijas dėl „daugiau nei 60 svetainių tinklo, kuriame buvo apsimetinėjama tikromis naujienų organizacijomis Europoje, o vėliau naudojo netikras socialinės žiniasklaidos paskyras, kad sustiprintų klaidinančią informaciją. suklastotų svetainių turinys“. Visa tai buvo padaryta „Rusijos Federacijos vyriausybės vardu“, tuo metu sakė JAV valstybės departamentas.
Bendras kampanijos poveikis viešajai nuomonei Europoje buvo minimalus, padarė išvadą „Recorded Future“.
Tai ne pirmas kartas, kai „ElevenLabs“ produktai buvo išskirti dėl tariamo netinkamo naudojimo. Remiantis „Bloomberg“, padarė išvadą, kad bendrovės technologija buvo apsimetinėjama prezidentu Joe Bidenu, kuris paragino rinkėjus neiti ir balsuoti per pirminius rinkimus 2024 m. sausio mėn. Reaguodama į tai, „ElevenLabs“ paskelbė, kad išleido naujas saugos funkcijas, pvz., automatiškai blokuoja politikų balsus.
„ElevenLabs“ uždraudžia „neteisėtą, žalingą ar apgaulingą apsimetinėjimą“ ir teigia, kad naudoja įvairius įrankius, kad tai užtikrintų, pavyzdžiui, automatinį ir žmogaus moderavimą.
Nuo pat įkūrimo 2022 m. „ElevenLabs“ sparčiai augo. Neseniai jos ARR išaugo iki 80 mln. USD nuo 25 mln. USD mažiau nei prieš metus, o netrukus gali būti įvertinta 3 mlrd. USD, anksčiau pranešė „TechCrunch“. Jos investuotojai yra Andreessenas Horowitzas ir buvęs „Github“ generalinis direktorius Natas Friedmanas.