Instagram tvrdí, že jeho tzv. Teen Accounts automaticky chrání mladistvé před nevhodným obsahem. Test však odhalil pravý opak. I přes výchozí nastavení, která mají teenagery chránit, algoritmus platformy stále doporučuje obsah, který by tam vůbec neměl být.
Pět testovacích účtů vytvořených neziskovkou Design It For Us ve spolupráci s Accountable Tech narazilo během dvou týdnů na šokující množství sexuálního, toxického či jinak závadného obsahu. Čtyři z pěti účtů obdržely doporučení týkající se poruch příjmu potravy a nerealistických ideálů krásy.
Accountable Tech asked five young people in our coalition to test Instagram Teen Accounts, which are meant to protect teens online.
— Design It For Us (@DesignItForUs) May 18, 2025
Our participants found that these accounts don't always live up to Meta’s promises. https://t.co/oj163X1ToO pic.twitter.com/BT0avcPB4U
„Přibližně 80 procent obsahu v mém kanálu se týkalo vztahů nebo drsných sexuálních vtipů. Tento obsah se obecně vyhýbal absolutní explicitnosti nebo zobrazování přímo grafických obrázků, ale také ponechával jen velmi málo prostoru pro představivost,“ citoval jednoho z testerů server Digital Trends.
Kromě sexuálně laděných příspěvků algoritmus doporučoval také videa propagující alkohol, steroidy, násilí či nenávistné projevy. Podle zprávy „některé z testovacích účtů vůbec nedostaly výchozí ochranná opatření, která Meta slibuje“. A přestože Instagram tvrdí, že obsah filtruje, testovací účty viděly videa, která zobrazovala i domácí násilí a střelné zbraně.
Testovací účet vytvořený středoškolákem Sahebem Gulatim obdržel během prvních deseti minut video oslavující nadměrné pití alkoholu a další propagující produkty jako nikotinové sáčky Zyn. Ve výsledku se jeho feed proměnil v přehlídku drog, sexismu a toxické maskulinity. Podle Gulatiho „algoritmus utváří vaši představu o tom, co je přijatelné, způsobem, který si dříve ani neuvědomoval“.
Fungují opatření na dobrovolné bázi?
Meta se proti výsledkům studie ohradila. Mluvčí Liza Crenshaw označila zprávu za „zmanipulovanou“ a dodala, že „i při doslovném výkladu zpráva poukazuje na méně než 0,3 procenta obsahu, který byl za dané období zhlédnut“. Firma ale zároveň připustila, že část doporučeného obsahu vyšetřuje.
Některé funkce účtů pro teenagery fungují – například výchozí soukromý profil nebo omezení zpráv od cizích lidí. Ale hlavní problém zůstává: algoritmus dál doporučuje obsah, který by měl být skrytý. „Celkový slib ochrany nebyl naplněn nijak smysluplně,“ konstatuje Gulati.
Experiment znovu otevírá otázku, zda se dá věřit dobrovolným opatřením technologických firem. Zatímco Meta tvrdí, že chrání miliony mladých uživatelů, advokační skupiny volají po regulaci. Jak říká Alison Rice z Accountable Tech, „platformy musí být právně nuceny navrhovat bezpečnější prostředí – ne jen slibovat, že to zkusí“.
