Instagramov algoritem olajšal povezovanje pedofilov

Skupna preiskava Wall Street Journala in akademikov univerz Stanford in Amherst je razkrila, da algoritmi za priporočanje vsebin družabnega omrežja Instagram aktivno povezujejo pedofile in jih vodijo do prodajalcev vsebin, povezanih s spolnim izkoriščanjem mladoletnikov.

Raziskovalci so odprli testni račun in si ogledali vsebine, ki jih posamezniki ponujajo z eksplicitnimi oznakami, kot so #pedowhore, #preteensex in #pedobait. Sledenje zgolj peščici teh računov je bilo dovolj, da je testni račun preplavila vsebina, ki seksualizira otroke. Za razliko od raznih forumov in storitev za prenos datotek, Instagram ne le gosti takšne dejavnosti, ampak jih prek svojih algoritmov tudi promovira!

Pri podjetju Meta so dejali, da preiskujejo težave, ki jih je izpostavilo poročilo. Tudi sicer so pri preprečevanju pedofilije na omrežju zelo aktivni, zgolj v januarju so odstranili 490.000 računov, ki so kršili njihovo politiko glede varnosti otrok, v zadnjih dveh letih pa so izbrisali kar 27 pedofilskih mrež. Kljub temu priznavajo, da je včasih tovrstnih vsebin in prijav preprosto preveč, zato bodo sporne oznake popolnoma blokirali ter dodatno prilagodili algoritem za priporočila, da preprečijo takšno povezovanje v prihodnje.