Инстаграм, Pinterest предложи содржина предизвика смрт

Алгоритам Смрт: Додека се упатуваме кон потоплив живот во Метаверс, алармите се огласуваат. Технолошките компании треба да ги средат своите алгоритми, или ова може да биде ризична иднина за некои.

Додека сè уште не сме на Web3, проблемите со Web2 се сè уште неверојатно загрижувачки. Додека алгоритмите направени од големата технологија можат да бидат добри за општеството, како оние однапред предвидете го криминалот, има и други кои се тотална катастрофа.

Судскиот совет Ендрју Вокер ја идентификуваше причината за смртта на 14-годишната Моли Роуз Расел како чин на самоповредување. Тој рече дека ова е предизвикано од депресија и негативното влијание на онлајн содржините.

Вокер рече дека „не би било безбедно да го признаеме самоубиството како причина за смртта“.

Алгоритам смрт: Instagram и Pinterest

Експертот рече дека Instagram и Pinterest користеле алгоритми кои избирале и споделувале несоодветна содржина со студентката без таа да ги побара информациите. Вокер известува: „Некои содржини ги романтизираа чиновите на самоповредување на младите, додека други промовираа изолација и го оневозможија да се разговара за проблемот со луѓе кои би можеле да помогнат“.

Во согласност со СтарателРасел зачувала, лајкувала или објавила повеќе од 2,000 објави на Инстаграм во 2017 година во пресрет на нејзината смрт. Сите тие беа поврзани со самоубиство, депресија или самоповредување. Девојчето гледаше и 138 филмови од слична природа. Меѓу нив имаше и епизоди од серијата 13 причини зошто за луѓе 15+ и 18+.

Детски психијатар рече за време на сослушувањето дека откако го анализирал она што Расел го гледал непосредно пред нејзината смрт, тој не можел да спие цврсто со недели.

„10 иглички за депресија што можеби ќе ви се допаднат“

Инспекторите пронајдоа стотици фотографии од самоповредување и самоубиство на профилот на девојката во Pinterest. Исто така, се покажа дека платформата им праќала електронска пошта на студентите во кои им препорачува несоодветна содржина. Некои од нив имаа заглавија со натпис: „10 иглички за депресија што можеби ќе ви се допаднат“.

Веројатно е дека материјалот што го гледала Моли, која веќе страда од депресивно растројство и ранлива на повреди поврзани со возраста, имала негативен ефект врз неа. Исто така, веројатно е дека придонел повеќе од минимално за смртта на детето.

Претставниците на Мета и Пинтерест се извинија и признаа дека Расел наишол на содржина на платформите што не треба да ги има. Портпаролот на Мета рече: „Сакаме Инстаграм да обезбеди позитивно искуство за сите, особено за тинејџерите. Ќе го разгледаме одблизу целосниот извештај на судскиот совет кога ќе го достави“.

Pinterest изјави дека постојано ја подобрува платформата и се залага да обезбеди безбедност за сите.

Други случаи

TikTok беше тужен во мај поради наводни „смртоносни препораки“ на неговите алгоритми. Во декември 2021 година, виртуелниот асистент на Амазон Алекса предложи фатален предизвикд на 10-годишно дете.

Тоа е храбар нов свет, но и страшен. Големите технологии не можат да бидат задоволни со идната улога што ја имаат во ова прашање.

Имате нешто да кажете за смртта на алгоритмот или нешто друго? Пишете ни или придружете се на дискусијата во нашата Телеграмски канал. Можете исто така да нè фатите Tik ток, Facebookили Twitter.

Општи услови

Сите информации содржани на нашата веб-страница се објавени со добра волја и само за општи информации. Секоја акција што читателот ја презема врз информациите што се наоѓаат на нашата веб-страница е строго на нивна опасност.