AI-genererade bilder dyker nu upp i olika sammanhang, i tusental, och de används i bedrägerier och för att publicera bilder på sjuka, fattiga och barn med funktionsnedsättningar i det som kallas ”poverty porn”.

Ett klassiskt bedrägeri ute på nätet som tidigare spridits främst via epost är historien om den stenrika personen som nu blivit dödligt sjuk och som vill ge bort sina pengar. Just du har blivit utvald och om du bara betalar några mindre bankavgifter så ska pengarna vara på väg. Vartefter du betalar och kommunicerar med bedragarna så blir det fler avgifter, mer pengar och den Edna som sker är att du blir av med pengar. Du får inga.

Den typen av bedrägerier har nu dykt på på Facebook med AI-genrerade bilder.

En sökning på frasen ”Today is my birthday …” ger tusentals träffar och det är bilder på fattiga, smutsiga barn med olika typer av funktionsnedsättningar.

 

En pappa, indiskt utseende med vad som ser ut att vara ett svårt sjukt litet barn.

Ytterligare ett exempel ,ed drygt 29 000 likes och över 11 000 kommentarer.

Sympati

Visa av bilderna har publicerats av ljusskygga insamlingsorganisationer medan andra bilder publiceras i sociala medier för att väcka sympati, locka fram likes och kommentarer. Den minsta gemensamma nämnaren är att bilderna är AI-genererade. det är inte riktiga barn.

Ökat dramatiskt

Mängden blider har ökat dramatiskt sedan runt april i år. det handlar om tiotusentals bilder och miljiontals ”likes” och kommentarer. Meta har försökt att svara med att ange när det handlar om AI-bilder men mängden bilder, det stora antalet posteringar gör att Meta och Facebook har svårt att hinna med att granska alla publiceringar.

Förutom fattiga barn så publiceras bilder med patriotiskt innehålla (USA) till stöd för amerikanska veteraner och soldater. Isodrna ser ut att vara kontrollerade och ägda av amerikanska organisationer men ägarna och administratörerna sitter istället i olika asiatiska länder, Indonesien, Indien, Burma, Thailand och så vidare.

Tror

Många av oss tror oss vara duktiga på att upptäcka falska bilder och bilder som genererats med AI. Praktiska tester däremot visar att det är vi nog inte alls det. I ett ständigt ökande informationsflöde med bilder, texter, memes, bilder och videor så är vi i realiteten rätt dåliga på att upptäcka falska bilder och AI-genererade bilder.

Källa

Vlada Rozova forskar på AI och tillämpad maskininlärning vid University of Melbourne, och hon har tittat på förekomsten av AI-bilder på Facebook.