Instagram, Pinterest Προτεινόμενο περιεχόμενο που προκάλεσε θάνατο

Αλγόριθμος Θάνατος: Καθώς κατευθυνόμαστε προς μια καθηλωτική ζωή στο Metaverse, οι συναγερμοί χτυπούν. Οι εταιρείες τεχνολογίας πρέπει να βάλουν σε τάξη τους αλγόριθμούς τους, διαφορετικά αυτό θα μπορούσε να είναι ένα επικίνδυνο μέλλον για ορισμένους.

Ενώ δεν είμαστε ακόμα στο Web3, τα προβλήματα με το Web2 εξακολουθούν να είναι απίστευτα ανησυχητικά. Ενώ οι αλγόριθμοι που κατασκευάζονται από τη μεγάλη τεχνολογία μπορούν να είναι καλοί για την κοινωνία, όπως αυτοί προβλέψει το έγκλημα εκ των προτέρων, υπάρχουν και άλλα που είναι ολοκληρωτική καταστροφή.

Ο ιατροδικαστής Andrew Walker εντόπισε την αιτία θανάτου της 14χρονης Molly Rose Russell ως την πράξη αυτοτραυματισμού. Είπε ότι αυτό προκλήθηκε από την κατάθλιψη και τον αρνητικό αντίκτυπο του διαδικτυακού περιεχομένου.

Περιπατητής είπε ότι «δεν θα ήταν ασφαλές για εμάς να αναγνωρίσουμε την αυτοκτονία ως την αιτία θανάτου».

Algorithm Death: Instagram και Pinterest

Ο ειδικός είπε ότι το Instagram και το Pinterest χρησιμοποίησαν αλγόριθμους που επέλεγαν και μοιράζονταν ακατάλληλο περιεχόμενο με τη μαθήτρια χωρίς εκείνη να ζητήσει τις πληροφορίες. Ο Walker αναφέρει, «Κάποιο περιεχόμενο ρομαντικοποιούσε τις πράξεις αυτοτραυματισμού των νέων, ενώ άλλα προώθησαν την απομόνωση και κατέστησαν αδύνατη τη συζήτηση του προβλήματος με άτομα που θα μπορούσαν να βοηθήσουν».

Σύμφωνα με την Κηδεμόνας, η Russell έσωσε, έκανε like ή δημοσίευσε περισσότερες από 2,000 αναρτήσεις στο Instagram το 2017 την παραμονή του θανάτου της. Όλα σχετίζονταν με αυτοκτονία, κατάθλιψη ή αυτοτραυματισμό. Το κορίτσι παρακολούθησε επίσης 138 ταινίες παρόμοιας φύσης. Ανάμεσά τους ήταν και επεισόδια της σειράς 13 Λόγοι γιατί για άτομα 15+ και 18+.

Ένας παιδοψυχίατρος είπε κατά τη διάρκεια της ακρόασης ότι αφού ανέλυσε τι είχε παρακολουθήσει ο Russell λίγο πριν τον θάνατό της, δεν μπορούσε να κοιμηθεί ήσυχος για εβδομάδες.

«10 καρφίτσες κατάθλιψης που μπορεί να σας αρέσουν»

Οι ερευνητές βρήκαν εκατοντάδες φωτογραφίες αυτοτραυματισμού και αυτοκτονίας στον λογαριασμό του κοριτσιού στο Pinterest. Αποδείχθηκε επίσης ότι η πλατφόρμα έστειλε στους μαθητές e-mail που συνιστούσαν ακατάλληλο περιεχόμενο. Ορισμένα από αυτά είχαν κεφαλίδες που έγραφαν: "10 καρφίτσες κατάθλιψης που μπορεί να σας αρέσουν".

Είναι πιθανό ότι το υλικό που είδε η Μόλι, η οποία ήδη πάσχει από καταθλιπτική διαταραχή και είναι ευάλωτη σε τραυματισμούς που σχετίζονται με την ηλικία, είχε αρνητική επίδραση πάνω της. Είναι επίσης πιθανό να συνέβαλε περισσότερο από ελάχιστα στον θάνατο του παιδιού.

Οι αξιωματούχοι της Meta και του Pinterest ζήτησαν συγγνώμη και παραδέχθηκαν ότι ο Russell συνάντησε περιεχόμενο στις πλατφόρμες που δεν έπρεπε να υπάρχει. Ένας εκπρόσωπος της Meta δήλωσε: «Θέλουμε το Instagram να προσφέρει μια θετική εμπειρία σε όλους, ειδικά στους εφήβους. Θα ρίξουμε μια προσεκτική ματιά στην πλήρη έκθεση του ιατροδικαστή όταν την παραδώσει».

Το Pinterest έχει δηλώσει ότι βελτιώνει συνεχώς την πλατφόρμα και δεσμεύεται να διασφαλίζει ασφάλεια για όλα.

Άλλες περιπτώσεις

TikTok μηνύθηκε τον Μάιο για υποτιθέμενες «θανατηφόρες συστάσεις» των αλγορίθμων της. Τον Δεκέμβριο του 2021, η εικονική βοηθός Alexa της Amazon πρότεινε μια μοιραία πρόκλησηε σε ένα παιδί 10 ετών.

Είναι ένας γενναίος νέος κόσμος, αλλά και τρομακτικός. Οι μεγάλες τεχνολογίες δεν μπορούν να εφησυχάζουν για τον μελλοντικό ρόλο που έχουν σε αυτό το ζήτημα.

Έχετε κάτι να πείτε για τον αλγόριθμο death ή οτιδήποτε άλλο; Γράψτε μας ή συμμετάσχετε στη συζήτηση στο δικό μας Κανάλι τηλεγραφήματος. Μπορείτε επίσης να μας πιάσετε Tik Τοκ, Facebook, ή Twitter.

Αποποίηση ευθυνών

Όλες οι πληροφορίες που περιέχονται στον ιστότοπό μας δημοσιεύονται με καλή πίστη και μόνο για σκοπούς γενικής πληροφόρησης. Οποιαδήποτε ενέργεια αναλαμβάνει ο αναγνώστης στις πληροφορίες που βρίσκονται στον ιστότοπό μας είναι αυστηρά με δική τους ευθύνη.