Τραγούδια μίσους με την βοήθεια της AI

Νέοι μπελάδες έχουν δημιουργηθεί λόγω της ανάρμοστης χρήσης της τεχνητής νοημοσύνης, καθώς κακόβουλοι φορείς κάνουν κατάχρηση των εργαλείων AI, για να δημιουργήσουν ομοφοβικά, ρατσιστικά και προπαγανδιστικά τραγούδια μίσους, ενώ δημοσιεύουν και οδηγούς που καθοδηγούν άλλους πώς να το κάνουν.

Σύμφωνα με την ActiveFence, μια υπηρεσία για τη διαχείριση λειτουργιών εμπιστοσύνης και ασφάλειας σε διαδικτυακές πλατφόρμες, από τον Μάρτιο παρατηρείται μια έξαρση της συζήτησης σε κοινότητες που σχετίζονται με «ρητορική μίσους» σχετικά με τρόπους κατάχρησης των εργαλείων δημιουργίας μουσικής με AI για τη συγγραφή προσβλητικών τραγουδιών που στοχεύουν σε μειονοτικές ομάδες. Τα τραγούδια που δημιουργούνται από την τεχνητή νοημοσύνη και μοιράζονται σε αυτά τα φόρουμ και τους πίνακες συζητήσεων στοχεύουν στην υποκίνηση μίσους προς εθνικές, έμφυλες, φυλετικές και θρησκευτικές ομάδες, αναφέρουν οι ερευνητές της ActiveFence σε έκθεσή τους, ενώ εξυμνούν πράξεις μαρτυρίου, αυτοτραυματισμού και τρομοκρατίας.

Βέβαια, τα μισαλλόδοξα και επιβλαβή τραγούδια δεν αποτελούν νέο φαινόμενο. Αλλά ο φόβος είναι ότι, με την έλευση των εύχρηστων δωρεάν εργαλείων δημιουργίας μουσικής, θα δημιουργηθούν σε κλίμακα από ανθρώπους που προηγουμένως δεν είχαν τα μέσα ή την τεχνογνωσία. Και η αλήθεια είναι ότι με τις εικόνες, τα βίντεο, τα κείμενα και τα φωνητικά που δημιουργούνται με AI, έχει επιταχυνθεί η εξάπλωση της παραπληροφόρησης και της ρητορικής μίσους.

«Πρόκειται για τάσεις που εντείνονται καθώς όλο και περισσότεροι χρήστες μαθαίνουν πώς να δημιουργούν αυτά τα τραγούδια και να τα μοιράζονται με άλλους», δήλωσε εκπρόσωπος της ActiveFence στο TechCrunch. «Οι φορείς απειλών εντοπίζουν γρήγορα συγκεκριμένες ευπάθειες για να κάνουν κατάχρηση αυτών των πλατφορμών με διάφορους τρόπους και να παράγουν κακόβουλο περιεχόμενο».

AI: Πώς δημιουργούνται τραγούδια μίσους

Τα εργαλεία δημιουργικής μουσικής τεχνητής νοημοσύνης όπως το Udio και το Suno επιτρέπουν στους χρήστες να προσθέτουν προσαρμοσμένους στίχους στα παραγόμενα τραγούδια. Οι δικλείδες ασφαλείας στις πλατφόρμες φιλτράρουν τις συνήθεις προσβολές και υποτιμητικές εκφράσεις, αλλά οι χρήστες έχουν βρει λύσεις, σύμφωνα με την ActiveFence.

Σε ένα παράδειγμα που αναφέρεται στην έκθεση, χρήστες σε φόρουμ λευκής υπεροχής μοιράστηκαν φωνητικές γραφές μειονοτήτων και προσβλητικούς όρους, όπως «jooz» αντί για «Jews» και «say tan» αντί για «Satan», που χρησιμοποίησαν για να παρακάμψουν τα φίλτρα περιεχομένου. Ορισμένοι χρήστες πρότειναν την αλλαγή των διαστημάτων και της ορθογραφίας όταν αναφέρονταν σε πράξεις βίας, όπως η αντικατάσταση του «my rape» με το «mire ape».

Το TechCrunch δοκίμασε αρκετές από αυτές τις παρακάμψεις στο Udio και το Suno, δύο από τα πιο δημοφιλή εργαλεία για τη δημιουργία και την κοινή χρήση μουσικής που παράγεται από AI. Το Suno τα άφησε όλα αυτά να περάσουν, ενώ το Udio μπλόκαρε μερικά -αλλά όχι όλα.

Εκπρόσωπος της Udio δήλωσε στο TechCrunch ότι η εταιρεία απαγορεύει τη χρήση της πλατφόρμας της για ρητορική μίσους. Η Suno από την άλλη, δεν απάντησε στο αίτημα του TechCrunch για σχολιασμό.

Στις κοινότητες που εξέτασε, η ActiveFence βρήκε συνδέσμους προς τραγούδια που δημιουργούνται από τεχνητή νοημοσύνη και αναμασούν θεωρίες συνωμοσίας για τους Εβραίους και υποστηρίζουν τη μαζική δολοφονία τους, τραγούδια που περιέχουν συνθήματα που συνδέονται με τις τρομοκρατικές ομάδες ISIS και Αλ Κάιντα και τραγούδια που εξυμνούν τη σεξουαλική βία κατά των γυναικών.

Ποια είναι η επίδραση του τραγουδιού

Η ActiveFence υποστηρίζει ότι τα τραγούδια – σε αντίθεση, π.χ με το κείμενο – έχουν συναισθηματική βαρύτητα που τα καθιστά ιδιαίτερα ισχυρή δύναμη για τις ομάδες μίσους και τον πολιτικό πόλεμο. Η εταιρεία παραπέμπει στο Rock Against Communism, τη σειρά συναυλιών white power rock στο Ηνωμένο Βασίλειο στα τέλη της δεκαετίας του ’70 και στις αρχές της δεκαετίας του ’80 που γέννησε υποείδη αντισημιτικής και ρατσιστικής μουσικής «hatecore».

«Η τεχνητή νοημοσύνη κάνει το επιβλαβές περιεχόμενο πιο ελκυστικό – σκεφτείτε κάποιον να κηρύσσει μια επιβλαβή αφήγηση για έναν συγκεκριμένο πληθυσμό και στη συνέχεια φανταστείτε κάποιον να δημιουργεί ένα ομοιοκατάληκτο τραγούδι που το κάνει εύκολο για όλους να το τραγουδήσουν και να το θυμούνται», δήλωσε ο εκπρόσωπος της ActiveFence. «Ενισχύουν την αλληλεγγύη της ομάδας, κατηχούν τα περιφερειακά μέλη της ομάδας και χρησιμοποιούνται επίσης για να σοκάρουν και να προσβάλουν τους μη προσκείμενους χρήστες του διαδικτύου».

Η ActiveFence καλεί τις πλατφόρμες παραγωγής μουσικής να εφαρμόσουν εργαλεία πρόληψης και να διεξάγουν πιο εκτεταμένες αξιολογήσεις ασφαλείας. Αλλά οι διορθώσεις μπορεί να αποδειχθούν παροδικές, καθώς οι χρήστες ανακαλύπτουν νέες μεθόδους που καταστρέφουν τη μετριοπάθεια. Μερικά από τα τραγούδια τρομοκρατικής προπαγάνδας που δημιούργησε η AI και τα οποία εντόπισε η ActiveFence, για παράδειγμα, δημιουργήθηκαν χρησιμοποιώντας την αραβική γλώσσα την οποία δε μπορούσαν να ελέγξουν αρκετά ικανοποιητικά τα φίλτρα.

Η μουσική μίσους που δημιουργείται από AI είναι έτοιμη να εξαπλωθεί ευρέως, αν ακολουθήσει τα βήματα άλλων μέσων που δημιουργούνται από τεχνητή νοημοσύνη. Το Wired κατέγραψε νωρίτερα φέτος πώς ένα κλιπ του Αδόλφου Χίτλερ που φτιάχτηκε με τεχνητή νοημοσύνη συγκέντρωσε περισσότερες από 15 εκατομμύρια προβολές στο X, αφού το κοινοποίησε ένας ακροδεξιός συνωμοσιολόγος.

Μεταξύ άλλων, ένα συμβουλευτικό όργανο του ΟΗΕ εξέφρασε την ανησυχία ότι το ρατσιστικό, αντισημιτικό, ισλαμοφοβικό και ξενοφοβικό περιεχόμενο θα μπορούσε να υπερφορτιστεί από τη GenAI.«Οι υπηρεσίες δημιουργικής τεχνητής νοημοσύνης επιτρέπουν στους χρήστες που δεν διαθέτουν πόρους ή δημιουργικές και τεχνικές δεξιότητες να δημιουργήσουν ελκυστικό περιεχόμενο και να διαδώσουν ιδέες που μπορούν να ανταγωνιστούν για την προσοχή στην παγκόσμια αγορά ιδεών», δήλωσε ο εκπρόσωπος. «Και οι φορείς απειλών, έχοντας ανακαλύψει τις δημιουργικές δυνατότητες που προσφέρουν αυτές οι νέες υπηρεσίες, εργάζονται για να παρακάμψουν τη μετριοπάθεια και να αποφύγουν τον εντοπισμό – και έχουν επιτύχει».

Διαβάστε επίσης:

Alpha Bank: Πάνω από 1,5 δισ. οι προσφορές για το ομόλογο Tier 2

Εξαγωγές: Η τριάδα χωρών εντός ΕΕ που κατευθύνονται τα ελληνικά αγαθά

Κινούμαι Ηλεκτρικά 3: Μέσα σε ένα δίμηνο θα πληρώνονται τα ποσά στους δικαιούχους