I fjor var det mer enn 21 000 dypfalske pornografiske videoer på nettet – en økning på mer enn 460 % i forhold til året før. Men kongressen kan snart gjøre det ulovlig å dele de bearbeidede bildene.
I spissen står New Hampshire-senator Maggie Hassan, en demokrat, og Texas-senator John Cornyn, en republikaner, som var medforfatter av topartilovgivning som tar sikte på å slå ned på folk som deler intime dypfalske bilder uten samtykke på nett. Lovgivningen foreslår straffestraff som inkluderer bot og opptil to års fengsel, og sivile straffer kan variere opp til $150 000.
«Det er opprørende,» sa Hassan. «Og vi må sørge for at lovene våre holder tritt med denne nye teknologien og at vi beskytter enkeltpersoner.»
Breeze Liu sa at hun ble sjokkert da en venn oppdaget ansiktet hennes lagt på pornografiske bilder.
«Og jeg føler virkelig at hele min verden falt fra hverandre i det øyeblikket,» sa Liu. «Du må se på hvor mange synspunkter det er, og hvor mange som har krenket deg. Jeg ville bare ikke leve lenger, for skammen var for mye for meg å bære.»
Liu, som sa at hun visste hvem gjerningsmannen var, bestemte seg for å ta saken hennes til politiet.
«Politiet gjorde egentlig ikke noe med det,» sa Liu. «Politiet kalte meg faktisk en prostituert. De tøsene skammet meg.»
Liu sa at da politiet ikke forfulgte saken, skapte gjerningsmannen flere dype forfalskninger av henne, og skapte mer enn 800 lenker over internett. Liu sa at FBI nå etterforsker saken hennes og at hun også er en del av et gruppesøksmål mot Pornhub.
Pornhub fortalte CBS News at det raskt fjerner alt materiale uten samtykke på plattformen, inkludert dype falske. Nettstedet sa også at det har protokoller på plass for å forhindre at materiale uten samtykke blir lastet opp.
Folk har også laget kunstig genererte intime bilder av kjendiser som Taylor Swift. I januar deaktiverte det sosiale medienettstedet X søk relatert til sangeren i et forsøk på å fjerne og stoppe sirkulasjonen av dypt falske pornografiske bilder av popsuperstjernen.
Tenåringer over hele landet sliter også med det stadig mer vanlige problemet. Noen studenter lager dypfalske porno av medstudenter og sprer dem blant venner og familiemedlemmer, noen ganger til og med presser dem ut. I New Jersey tidligere i år saksøkte en tenåring en annen student og anklaget dem for å lage og dele AI-genererte pornografiske bilder av dem og andre.
Hassan sa at kongressen jobber mot å kriminalisere opprettelsen av intime bilder uten samtykke.
«Det pågår et arbeid i Kongressen akkurat nå med hvordan man setter opp denne typen autovern, men det vi vet er at folk flest ikke vet om den dype falsken som eksisterer før noen prøver å distribuere den, ikke sant? Så vi ønsket å virkelig angripe dette problemet på det punktet hvor det blir åpenbart og noen sannsynligvis vil ta affære,» sa Hassan.
Cornyn sa at selv om det kan ta måneder å få lovforslaget gjennom senatet, er han sikker på at det vil gå gjennom med støtte fra to partier.
«Vi kommer ikke til å ta foten av gasspedalen,» sa Cornyn. «Vi kommer til å fortsette å presse på dette problemet, for så lenge regningen ikke er ute, er det folk som utnytter fraværet av denne typen straff for å utnytte folk som bruker disse dype falskene.»
I mellomtiden opprettet Liu en oppstart kalt Alecto AI for å hjelpe andre raskt å identifisere og fjerne deepfakes de finner av seg selv på nettet.
«Jeg kom til den konklusjonen at med mindre jeg endrer systemet, med mindre jeg forandrer verden, ville rettferdighet ikke engang være et alternativ for meg,» sa hun.
