Pedofilët kanë shfrytëzuar gjithmonë internetin, por ndryshe nga forumet apo shërbimet e dërgimit të materialeve ku rrjeti shpërndan përmbajtjet seksuale, Instagrami nuk ofron aktivitete të tilla. është algoritmi që e bën. Instagrami lidh pedofilët dhe i orienton ato tek shitësit sipas ssitemit të rekomandimeve që ka aplikacioni.

Edhe pse jo shumë të dukshme, llogaritë me përmbajtje seksuale në Instagram janë të shumta. Studiuesit gjetën se njerëzit mund të kërkojnë lehtësisht hashtagje të tilla si #pedowhore dhe #preteensex dhe i lidhin ato me përdoruesit e këtyre hashtagjeve për të shitur materiale seksuale të fëmijëve. Zakonisht thuhet se janë llogari që i drejtojnë vetë këta fëmijë dhe përdorin terma të njohur seksuale duke përfshirë fjalë të tilla si “little slut for you”.

Llogaritë e Instagramit që ofrojnë materiale të tilla nuk e tregojnë haptazi, por postojnë “menu” të tyre. Llogari të caktuara ftojnë blerësit të paguajnë akte specifike. Disa menu përfshijnë çmime për video të fëmijëve që dëmtojnë veten e tyre dhe pamje të të vegjëlve që performojnë akte seksuale me kafshë, sipas kërkuesëve të Standford. Për çmime të mira, fëmijët mund të nxirren në “takime” me pedofilët.

Ligji federal ashtu si edhe rregullorja e META-s, e ndalojnë ekspozimin seksual të të miturve. Kur kompania u kontaktua nga WSJ, tha se janë në dijeni të çështjesh dhe po mundohen të ngrejnë një task-forcë për ta ndaluar. “Shfrytëzimi i fëmijëve është një krim i tmerrshëm,” tha kompania, duke shtuar, “Ne po hetojmë vazhdimisht mënyra për t’u mbrojtur në mënyrë aktive kundër kësaj sjelljeje”.

META tha se në dy vitet e fundit ka godit 27 rrjete pedofilësh dhe po planifikon më shumë të tilla. Tha po ashtu se po punon edhe me sistemin e rekomandimeve që të ndalojë ndërlidhjen.

Alex Stamos, kreu i Observatorit të Internetit në Standord dhe kreu i sigurisë në META, tha se ndalimi i këtij abuzimi kërkon përpjekje të vazhdueshme.

“Fakti që një grup me tre akademikë dhe me akses të kufizuar në një rrjet gjigand online kanë gjetur këto të dhëna, duhet të jetë alarmuese për kompaninë. Shpresoj që kompania të investojë më shumë në mjete dhe njerëz që e ndalojnë këtë fenomen”, tha ai.

Pengesat teknike dhe ligjore e bëjnë të vështirë përcaktimin e shkallës së rrjetit për këdo jashtë kompanisë. Për shkak se ligjet rreth përmbajtjeve seksuale të fëmijëve janë jashtëzakonisht të gjera, hetimi i tij në një platformë publike është ligjërisht i ndjeshëm.

Në raportimin e saj, WSJ u konsultua me ekspertë akademikë për sigurinë e fëmijëve në internet. Observatori i Internetit i Stanford-it, një ndarje e Qendrës së Politikave Kibernetike të universitetit e fokusuar në abuzimin e mediave sociale, prodhoi një analizë sasiore të pavarur të veçorive të Instagramit që ndihmojnë përdoruesit të lidhen dhe të gjejnë përmbajtje.

Gazeta gjithashtu kontaktoi Laboratorin e Shpëtimit të UMass, i cili vlerësoi sesi pedofilët në Instagram përshtaten në botën më të madhe të shfrytëzimit të fëmijëve në internet. Duke përdorur metoda të ndryshme, të dy entitetet ishin në gjendje të identifikonin shpejt komunitetet në shkallë të gjerë që promovonin abuzim seksual kriminal.

Llogaritë që u krijuan vetëm për qëllime kërkimi, false,  shikuan një llogari të vetme në rrjet u goditën menjëherë me rekomandimet “të sugjeruara për ju” të shitësve dhe blerësve të supozuar të përmbajtjes seksuale të fëmijëve, si dhe llogari që lidhen me faqet e tregtimit të përmbajtjes jashtë platformës. Ndjekja e vetëm një grushti prej këtyre rekomandimeve ishte e mjaftueshme për të mbushur llogarinë false me përmbajtje që seksualizon fëmijët.

Observatori i Internetit i Stanford përdori hashtags të lidhur me seksin e të miturve për të gjetur 405 shitës të atyre që studiuesit e etiketuan materialin e seksit të fëmijëve  “që i krijonin vetë” duke thënë se ata ishin deri në moshën 12 vjeç. Sipas të dhënave të mbledhura nëpërmjet Maltego, një softuer i hartës së rrjetit, 112 prej këtyre llogarive të shitësve kishin së bashku 22.000 ndjekës unikë.

Krijuesit dhe blerësit e materialeve seksuale të të miturve janë vetëm një cep i një ekosistemi gjigand i përkushtuar vetëm përmbajtjeve me fëmijë. Llogari të tjera në komunitetin e pedofilëve krijojnë meme pro-pedofilisë.  Punonjësit aktualë dhe ish-punonjësit e META, të cilët kanë punuar në iniciativat për sigurinë e fëmijëve në Instagram, vlerësojnë se numri i llogarive që ekzistojnë kryesisht për të ndjekur një përmbajtje të tillë është në qindra mijëra, nëse jo miliona.

Një zëdhëns nga META tha se kompania po tenton t’i largojë këto përdorues dhe vetëm në janar ka fshirë 490 mijë llogari.

“Instagrami po bëhet nga ato vende në internet ku mund të gjesh lehtësisht materiale të abuzimit seksual të fëmijëve”, tha Brian Levine, drejtor i UMass, që bën kërkime online për abuzimin e fëmijëve.

Instagrami, i vlerësuar të ketë më shumë se 1.3 miliardë përdorues, është veçanërisht i popullarizuar tek adoleshentët. Studiuesit e Stanford gjetën disa aktivitete të ngjashme shfrytëzuese seksuale në platforma të tjera sociale më të vogla, por thanë se ata zbuluan se problemi në Instagram është veçanërisht i rëndë. “Platforma më e rëndësishme për këto rrjete blerësish dhe shitësish duket të jetë Instagrami”, shkruan ata në një raport të planifikuar për publikim më 7 qershor.

Instagram tha se statistikat e tij të brendshme tregojnë se përdoruesit shohin shfrytëzimin e fëmijëve në më pak se një në 10 mijë postime të shikuara.

Përpjekja e platformave të mediave sociale dhe zbatimit të ligjit për të luftuar përhapjen e pornografisë së fëmijëve në internet përqendrohet kryesisht në kërkimin e imazheve dhe videove të konfirmuara, të njohura si materiale të abuzimit seksual të fëmijëve ose CSAM, të cilat tashmë dihet se janë në qarkullim. Qendra Kombëtare për Fëmijët e Zhdukur dhe të Shfrytëzuar, një organizatë jofitimprurëse amerikane që punon me zbatimin e ligjit, mban një bazë të dhënash të gjurmëve të gishtërinjve digjitalë për imazhe dhe video të tilla dhe një platformë për ndarjen e të dhënave të tilla midis kompanive të internetit.

Algoritmet e kompanive të internetit kontrollojnë shenjat digjitale të gishtërinjve të imazheve të postuara në platformat e tyre në lidhje me atë listë dhe raportojnë përsëri në qendër kur i zbulojnë ato, siç kërkon ligji federal i SHBA. Në vitin 2022, qendra mori 31.9 milionë raporte të pornografisë së fëmijëve, kryesisht nga kompanitë e internetit – 47% më shumë se dy vjet më parë.

Meta, me më shumë se 3 miliardë përdorues në aplikacionet e saj, të cilat përfshijnë Instagram, Facebook dhe WhatsApp, është në gjendje të zbulojë këto lloj imazhesh të njohura nëse ato nuk janë të koduara. Meta përbënte 85% të raporteve të pornografisë së fëmijëve të depozituara në qendër, duke përfshirë rreth 5 milionë nga Instagram.

Ekzaminimi i automatizuar i Meta-s për përmbajtjen ekzistuese të shfrytëzimit të fëmijëve nuk mund të zbulojë imazhe të reja ose përpjekje për të reklamuar shitjen e tyre. Parandalimi dhe zbulimi i një aktiviteti të tillë kërkon jo vetëm rishikimin e raporteve të përdoruesve, por gjurmimin dhe ndërprerjen e rrjeteve të pedofilëve, thonë punonjësit aktualë dhe të mëparshëm, si dhe studiuesit e Stanford. Qëllimi është të vështirësohet për përdoruesit e tillë që të lidhen me njëri-tjetrin, të gjejnë përmbajtje dhe të rekrutojnë viktima.

Meta ka luftuar me këto përpjekje më shumë se platformat e tjera si për shkak të zbatimit të dobët dhe veçorive të dizajnit që nxisin zbulimin e përmbajtjes së materialeve legale dhe të paligjshme, zbuloi Stanford.

Ekipi i Stanford gjeti 128 llogari që ofronin për të shitur materiale për abuzim seksual me fëmijët në Tëitter, më pak se një e treta e numrit që gjetën në Instagram, i cili ka një bazë përdoruesish shumë më të madhe se Twitter. Twitter nuk rekomandoi llogari të tilla në të njëjtën shkallë si Instagram dhe i hoqi ato shumë më shpejt, zbuloi ekipi.

Ndër platformat e tjera të njohura për të rinjtë, Snapchat përdoret kryesisht për mesazhet e tij direkte, kështu që nuk ndihmon në krijimin e rrjeteve. Dhe platforma e TikTok është ajo ku “kjo lloj përmbajtjeje nuk duket se po përhapet”, thuhet në raportin e Stanford.

Tëitter nuk iu përgjigj kërkesave për koment. TikTok dhe Snapchat nuk pranuan të komentojnë.

David Thiel, drejtues i teknologjisë në Stanford tha “problemi i Instagram është se mbështetet shumë në lidhjet e llogarive dhe interesave të tyre. Duhet të vendosësh gardh që diçka me rritje intensive të jetë sigurt, dhe Instagrami nuk e ka bërë këtë.”

Platforma ka dështuar në një teknologji bazike: fjalët kyçe. Hashtagjet janë pjesë kryesore e përmbajtjes në Instagram, duke i lejuar përdoruesit të gjejnë postime të lidhura me interesat e tyre, nga #fashion #nba etj.

Pedofilët kanë hashtagjet e tyre. Termat e kërkimit si #pedobait dhe variacionet në #mnsfë (“të vegjlit jo të sigurt për punë”) ishin përdorur për të etiketuar mijëra postime të dedikuara për reklamimin e përmbajtjeve seksuale që shfaqin fëmijë, duke i bërë ato lehtësisht të gjetshme nga blerësit, zbuluan studiuesit akademikë. Pas pyetjeve të Gazetës, META tha se është në proces ndalimi të termave të tillë.

Në shumë raste, Instagram i lejo përdoruesit të bëjnë kërkime mbi terma që edhe vetë algoritmi e di se janë të paligjshme. Në raste të tilla, një njoftim shfaqet për përdoruesit në ekran dhe paralajmëron se “Këto rezultate mund të përmbajnë imazhe të abuzimit seksual të fëmijëve” dhe vë në dukje se prodhimi dhe konsumimi i një materiali të tillë shkakton “dëm ekstrem” për fëmijët. Ekrani ofron  dy opsione për përdoruesit: “Informohu dhe “Shiko rezultatet gjithsesi”.

Në përgjigje të pyetjeve nga WSJ, Instagram hoqi opsionin që përdoruesit të shikonin rezultatet e kërkimit për termat që mund të prodhonin imazhe të paligjshme. Kompania nuk pranoi të thoshte pse e kishte ofruar këtë opsion.

Llogaritë e pedofilive në Instagram përziejnë pafytyrësinë me përpjekjet sipërfaqësore për të mbuluar aktivitetin e tyre, zbuluan studiuesit. Disa emoji funksionojnë si një lloj kodi, siç është një imazh i një harte – shkurtimisht për “person i tërhequr nga të miturit” – ose një i “picës me djathë”, i cili ndan inicialet e tij me “pornografinë e fëmijëve”, sipas Levine nga UMass. Shumë e deklarojnë veten “dashamirës të gjërave të vogla në jetë”.

Llogaritë e identifikojnë veten si “shitës” ose “s3ller” dhe shumë prej tyre deklarojnë formën e tyre të preferuar të pagesës në bio. Këto llogari shitësi shpesh përcjellin moshën e supozuar të fëmijës duke thënë se janë “në kapitullin 14” ose “mosha 31” e ndjekur nga një emoji e një shigjete mbrapa.

Disa nga rrëfimet mbanin indikacione për trafikim seksual, tha Levine nga UMass, si për shembull, një adoleshente me fjalën WHORE të skalitur në fytyrë.

Disa përdorues që pretendojnë se shesin përmbajtje seksuale të prodhuara vetë thonë se janë “pa fytyrë” – duke ofruar imazhe vetëm nga qafa e poshtë – për shkak të përvojave të kaluara në të cilat klientët i kanë ndjekur ose shantazhuar. Të tjerët marrin rrezikun, duke paguar një çmim për imazhet dhe videot që mund të zbulojnë identitetin e tyre duke treguar fytyrën e tyre.

Shumë prej llogarive tregojnë përdoruesit me plagë të prera në brendësi të krahëve ose kofshëve të tyre, dhe një numër prej tyre citojnë abuzime seksuale në të kaluarën.

Edhe shikimi i kontaktit me një llogari në komunitetin e pedofilëve të Instagramit mund të shkaktojë që platforma të fillojë të rekomandojë që përdoruesit t’i bashkohen.

Sarah Adams, një nënë kanadeze e dy fëmijëve, ka krijuar një audiencë në Instagram duke diskutuar mbi shfrytëzimin e fëmijëve dhe rreziqet e shpërndarjes së tepërt në mediat sociale. Duke pasur parasysh fokusin e saj, ndjekësit e Adams ndonjëherë i dërgojnë asaj gjëra shqetësuese që kanë hasur në platformë. Në shkurt, tha ajo, një i dërgoi asaj një mesazh të quajtur me termin “të vegjëlit e incestit”.

Adams tha se ajo hyri në llogarinë – një koleksion memesh pro incestit me më shumë se 10,000 ndjekës – vetëm për disa sekonda që u deshën për të raportuar në Instagram, më pas u përpoq ta harronte atë. Por gjatë ditëve në vijim, ajo filloi të dëgjonte nga prindërit e tmerruar. Kur ata shikuan profilin e Adams në Instagram, ajo tha se atyre u rekomandohej “vegjël e incestit” si rezultat i kontaktit të Adams me llogarinë.

Një zëdhënës i Metës tha se “fëmijët e vegjël të incestit” shkelën rregullat e tij dhe se Instagram kishte gabuar në zbatimin e tij. Kompania tha se planifikon të adresojë rekomandime të tilla të papërshtatshme si pjesë e grupit të saj të ri të punës për sigurinë e fëmijëve.

Ashtu si me shumicën e platformave të mediave sociale, thelbi i rekomandimeve të Instagramit bazohet në modele të sjelljes, jo duke i përshtatur interesat e një përdoruesi me subjekte specifike. Kjo qasje është efikase në rritjen e rëndësisë së rekomandimeve dhe funksionon në mënyrë më të besueshme për komunitetet që ndajnë një grup të ngushtë interesash.

Teorikisht, e njëjta ngushtësi e komunitetit të pedofilëve në Instagram duhet ta bëjë më të lehtë për Instagram që të hartojë rrjetin dhe të marrë hapa për ta luftuar atë. Dokumentet e shqyrtuara më parë nga Gazeta tregojnë se Meta ka bërë këtë lloj pune në të kaluarën për të shtypur rrjetet e llogarive që i konsideron të dëmshme, si për shembull me llogaritë që promovojnë delegjitimimin e zgjedhjeve në SHBA pas trazirave të Kapitolit të 6 janarit.

Ashtu si platformat e tjera, Instagram thotë se angazhon përdoruesit e tij për të ndihmuar në zbulimin e llogarive që shkelin rregullat. Por këto përpjekje nuk kanë qenë gjithmonë efektive.

Ndonjëherë raportet e përdoruesve për lakuriqësinë që përfshinte një fëmijë mbetën pa përgjigje për muaj të tërë, sipas një rishikimi të shumë raporteve të paraqitura gjatë vitit të kaluar nga shumë avokatë të sigurisë së fëmijëve..

Në fillim të këtij viti, një aktivist anti-pedofil zbuloi një llogari në Instagram që pretendonte se i përkiste një vajze që shiste përmbajtje seksuale për të mitur, duke përfshirë një postim ku deklarohej: “Ky adoleshent është gati për ju të gjithë”. Kur aktivisti raportoi llogarinë, Instagram u përgjigj me një mesazh të automatizuar duke thënë: “Për shkak të vëllimit të lartë të raporteve që marrim, ekipi ynë nuk ka qenë në gjendje ta rishikojë këtë postim”.

Pasi i njëjti aktivist raportoi një postim tjetër, ky i një vajze të re të veshur paksa me një mbishkrim grafikisht seksual, Instagram u përgjigj: “Ekipi ynë i rishikimit ka zbuluar se postimi [e llogarisë] nuk bie ndesh me Udhëzimet tona të Komunitetit”. Përgjigja sugjeroi që përdoruesi të fshihte llogarinë për të shmangur shikimin e përmbajtjes së saj.

Një zëdhënës i META pranoi se kishte marrë raporte dhe nuk kishte vepruar sipas tyre. Një rishikim i mënyrës se si kompania trajtoi raportet e abuzimit seksual të fëmijëve zbuloi se një defekt në softuer po parandalonte përpunimin e një pjese të konsiderueshme të raporteve të përdoruesve dhe se stafi i moderimit të kompanisë nuk po zbatonte siç duhet rregullat e platformës, tha zëdhënësi. Kompania tha se që atëherë e ka rregulluar gabimin në sistemin e saj të raportimit dhe po ofron trajnime të reja për moderatorët e përmbajtjes së saj.

Edhe kur Instagram fshin llogaritë që shesin përmbajtje seksuale për të mitur, ato nuk qëndrojnë gjithmonë të zhdukura.

Sipas udhëzimeve të brendshme të platformës, gjobat për shkeljen e standardeve të komunitetit të saj zakonisht vendosen në llogari, jo në përdorues ose pajisje. Për shkak se Instagram i lejon përdoruesit të ekzekutojnë llogari të shumta të lidhura, sistemi e bën të lehtë shmangien e zbatimit kuptimplotë. Përdoruesit renditin rregullisht dorezat e llogarive “rezervë” në bio-n e tyre, duke i lejuar ata thjesht të rifillojnë postimin tek i njëjti grup ndjekësish nëse Instagrami i heq ato.

Në disa raste, sistemet e rekomandimeve të Instagram zvogëlojnë drejtpërdrejt përpjekjet e stafit të tij të sigurisë. Pasi kompania vendosi të godasë lidhjet nga një shërbim specifik i koduar i transferimit të skedarëve, i njohur për transmetimin e përmbajtjes së seksit të fëmijëve, Instagram bllokoi kërkimet për emrin e tij.

Sugjerimet e hashtagjeve të drejtuara nga AI i Instagram nuk e morën mesazhin. Pavarësisht refuzimit të shfaqjes së rezultateve për emrin e shërbimit, veçoria e plotësimit automatik të platformës rekomandoi që përdoruesit të provonin variacionet e emrit me fjalët “djem” dhe “CP” të shtuara në fund.

Kompania u përpoq t’i çaktivizonte ato hashtags mes përgjigjes së saj ndaj pyetjeve nga Journal. Por brenda pak ditësh Instagram po rekomandonte sërish variacione të reja të emrit të shërbimit që çuan gjithashtu në llogaritë që shisnin përmbajtje të supozuar për seks të mitur.

Pas fshirjes fillestare të llogarive të kompanisë të sjellë në vëmendjen e saj nga Stanford dhe Journal, Levine i UMass kontrolloi disa nga llogaritë e mbetura të shitësve të mitur në Instagram. Si më parë, shikimi i njërës prej tyre bëri që Instagram të rekomandonte të reja. Sugjerimet e Instagram po ndihmonin për të rindërtuar rrjetin që stafi i sigurisë së platformës ishte në mes të përpjekjeve për ta çmontuar.

Një zëdhënës i Meta tha se sistemet e tij për të parandaluar rekomandime të tilla janë duke u ndërtuar aktualisht. Levine e quajti të papranueshëm rolin e Instagramit në promovimin e përmbajtjeve dhe llogarive pedofilike.

“Tërhiqni frenën e urgjencës,” tha ai. “A ia vlejnë përfitimet ekonomike nga dëmet e këtyre fëmijëve?”/WallStreetJournal