Meta και Instagram ανίκανα να αφαιρέσουν εικόνες αυτοτραυματισμού εφήβων

Αναποτελεσματικά είναι τα μέτρα της Meta για τον περιορισμό των εικόνων αυτοτραυματισμού εφήβων στο Instagram. Δανοί ερευνητές δημιούργησαν στο Instagram ένα ιδιωτικό δίκτυο με ψεύτικα προφίλ παιδιών ηλικίας 13 ετών, διακινώντας για έναν μήνα ελεύθερα επικίνδυνο υλικό για τον αυτοτραυματισμό. Όπως διαπιστώθηκε, δεν υπήρξε καμία παρέμβαση από τη Meta, με αποτέλεσμα όχι μόνο να μην αφαιρούνται οι επίμαχες εικόνες αλλά να υπάρχει και ενθάρρυνση όσων ασχολούνται με τη συγκεκριμένη θεματολογία, να γίνουν φίλοι. Ένα ακόμη αποκαλυπτικό στοιχείο της έρευνας το γεγονός ότι υπήρξε προοδευτική αύξηση της βίας στις αναρτήσεις στα ψεύτικα προφίλ του Instagram, φθάνοντας μάλιστα και στην παρότρυνση αυτοτραυματισμού, χωρίς να αφαιρεθεί οποιαδήποτε εικόνα ή κείμενο.

Πριν ξεκινήσουν τις δοκιμές οι ερευνητές της Digitalt Ansvar, η Meta ισχυριζόταν ότι έχει επιστρατεύσει την τεχνητή νοημοσύνη για να δώσει ουσιαστική λύση στο πρόβλημα. Ειδικότερα, σε ανακοίνωσή της είχε επισημάνει ότι με τη χρήση AI αφαιρείται περίπου το 99% του επιβλαβούς περιεχομένου πριν αυτό αναφερθεί από άλλους χρήστες ως «επικίνδυνο».
Επιλογή της Meta να μην «καθαρίσει» το Instagram από τις εικόνες αυτοτραυματισμού

Οι ερευνητές επισημαίνουν στην έκθεσή τους ότι ανέπτυξαν το δικό τους εργαλείο ελέγχου για την ανάλυση περιεχομένου με εικόνες αυτοτραυματισμού στο Instagram. Η εφαρμογή AI κατάφερε να εντοπίσει άμεσα το 38% των εικόνων αυτοτραυματισμού και το 88% των πιο σοβαρών περιπτώσεων. Τα ευρήματα αυτά ενισχύουν την άποψη ότι η Meta επιλέγει «να μην εφαρμόσει αποτελεσματικά μέτρα», παραβιάζοντας και την κείμενη νομοθεσία της Ευρωπαϊκής Ένωσης, στον ζωτικό χώρο της οποίας δραστηριοποιείται. Πιο συγκεκριμένα, ο ευρωπαϊκός νόμος για τις ψηφιακές υπηρεσίες απαιτεί από τις μεγάλες ψηφιακές πλατφόρμες να εντοπίζουν τους συστημικούς κινδύνους, συμπεριλαμβανομένων των προβλέψιμων αρνητικών συνεπειών στη σωματική και ψυχική ευεξία.

«Το περιεχόμενο που ενθαρρύνει τον αυτοτραυματισμό είναι ενάντια στις πολιτικές μας και το αφαιρούμε όταν το εντοπίζουμε. Το πρώτο εξάμηνο του 2024, αφαιρέσαμε περισσότερα από 12 εκατ. κομμάτια που σχετίζονται με αυτοκτονία και αυτοτραυματισμό στο Instagram, το 99% των οποίων αφαιρέσαμε προληπτικά» είχε αναφέρει εκπρόσωπος της Meta.
Και πρόσθεσε: «Νωρίτερα, φέτος, εγκαινιάσαμε το Instagram Teen Accounts, το οποίο θα τοποθετεί τους εφήβους στην αυστηρότερη ρύθμιση του ελέγχου ευαίσθητου περιεχομένου μας, ώστε να είναι ακόμη λιγότερο πιθανό να τους προτείνουμε ευαίσθητο περιεχόμενο και σε πολλές περιπτώσεις να αποκρύπτουμε αυτό το περιεχόμενο εντελώς».

Πώς ο αλγόριθμος του Instagram προωθεί εικόνες αυτοτραυματισμού

Πρακτικά, ο αλγόριθμος του Instagram αντί να προσπαθήσει να κλείσει το δίκτυο αυτοτραυματισμού που δημιούργησε η Digitalt Ansvar, βοήθησε ενεργά στην επέκτασή του. Μιλώντας στον Observer, ο Ask Hesby Holm, διευθύνων σύμβουλος της Digitalt Ansvar, δήλωσε ότι ήταν σοκαριστική η διαπίστωση πως όσο οι εικόνες που μοιραζόταν αυξάνονταν σε «σοβαρότητα περιεχομένου», δεν υπήρξε καμία κίνηση περιορισμού. «Σκεφτήκαμε ότι όταν το κάναμε αυτό σταδιακά, θα φτάναμε στο όριο όπου η τεχνητή νοημοσύνη ή άλλα εργαλεία θα αναγνώριζαν ή θα ταυτοποιούσαν αυτές τις εικόνες. Αλλά, προς μεγάλη μας έκπληξη, δεν το έκαναν». Και κατέληξε, τονίζοντας: «Αυτό ήταν ανησυχητικό, επειδή νομίζαμε ότι είχαν κάποιο είδος μηχανισμού που προσπαθούσε να καταλάβει και να αναγνωρίσει αυτό το περιεχόμενο».

Οι έφηβοι στον βωμό της επισκεψιμότητας και του κέρδους

Από τη μεριά της η ψυχολόγος Lotte Rubæk, που μίλησε στη βρετανική εφημερίδα «Guardian», κατηγόρησε τη Meta ότι «κλείνει τα μάτια» στο επιβλαβές περιεχόμενο του Instagram με φόντο «την επισκεψιμότητα και την απήχηση». Και πρόσθεσε με νόημα: «Έχουν επανειλημμένα ισχυριστεί στα μέσα ενημέρωσης ότι συνεχώς βελτιώνουν την τεχνολογία τους και ότι έχουν τους καλύτερους μηχανικούς στον κόσμο. Αυτό αποδεικνύει, έστω και σε μικρή κλίμακα, πως αυτό δεν είναι αλήθεια». Σύμφωνα με την ίδια, η αποτυχία της Meta να αφαιρέσει εικόνες αυτοτραυματισμού από τις πλατφόρμες της, «πυροδοτεί» ευάλωτες νεαρές γυναίκες και κορίτσια να βλάψουν περαιτέρω τον εαυτό τους, συμβάλλοντας έτσι στην αύξηση των αυτοκτονιών.

«Το ζήτημα του αυτοτραυματισμού στο Instagram είναι ζήτημα ζωής και θανάτου για τα νέα παιδιά και τους εφήβους. Και κατά κάποιο τρόπο αυτό είναι απλώς παράπλευρη απώλεια γι’ αυτούς στο δρόμο για να βγάλουν χρήματα και κέρδη από τις πλατφόρμες τους» κατέληξε.

Διαβάστε επίσης

Τα 10 πιο κλασικά Χριστουγεννιάτικα τραγούδια που αγαπήσαμε

Δώρο Χριστουγέννων ΟΑΕΔ: Καθυστερεί η πληρωμή της ΔΥΠΑ

Πακέτο 211 εκατ. για το “πρασίνισμα” των νησιών του ΒΑ Αιγαίου