To πρώτο βήμα για την καταπολέμηση του deepfake περιεχομένου κάνει η TikTok, που ανακοίνωσε ότι θα ξεκινήσει να χρησιμοποιεί μια τεχνολογία που θα το βοηθήσει να επισημαίνει εικόνες και βίντεο που παράγονται από τεχνητή νοημοσύνη και ανεβαίνουν στην υπηρεσία κοινής χρήσης βίντεο. Η πλατφόρμα δήλωσε ότι θα υιοθετήσει τα «Content Credentials», ένα ψηφιακό υδατογράφημα που δηλώνει τον τρόπο δημιουργίας και επεξεργασίας των εικόνων. Η τεχνολογία Content Credential ξεκίνησε από την Adobe, αλλά είναι ανοιχτή για χρήση από άλλες εταιρείες και έχει ήδη υιοθετηθεί από την OpenAI και άλλες.
Οι ερευνητές έχουν εκφράσει την ανησυχία τους ότι το deepfake περιεχόμενο θα μπορούσε να χρησιμοποιηθεί ως παραπληροφόρηση σε μια προσπάθεια παρέμβασης στις αμερικανικές εκλογές το φθινόπωρο. Η TikTok ήταν ήδη μεταξύ μιας ομάδας 20 εταιρειών τεχνολογίας που νωρίτερα μέσα στο 2024 υπέγραψαν μια συμφωνία με την οποία δεσμεύτηκαν να την καταπολεμήσουν. Το YouTube, που ανήκει στην Google της Alphabet, καθώς και η Meta Platforms, στην οποία ανήκουν το Instagram και το Facebook, έχουν επίσης δηλώσει ότι σχεδιάζουν να χρησιμοποιήσουν τα Content Credentials.
Για να λειτουργήσει το σύστημα, τόσο ο κατασκευαστής του εργαλείου δημιουργικής τεχνητής νοημοσύνης που χρησιμοποιείται για την παραγωγή περιεχομένου όσο και η πλατφόρμα που χρησιμοποιείται για τη διανομή του περιεχομένου πρέπει να συμφωνήσουν να χρησιμοποιούν το βιομηχανικό πρότυπο. Εάν κάποιος χρησιμοποιεί το εργαλείο Dall-E του OpenAI για τη δημιουργία μιας εικόνας, για παράδειγμα, το OpenAI επισυνάπτει ένα υδατογράφημα στην εικόνα που προκύπτει. Εάν η εν λόγω σημαδεμένη εικόνα μεταφορτωθεί στη συνέχεια στο TikTok, θα επισημανθεί αυτόματα ως εικόνα που έχει παραχθεί από τεχνητή νοημοσύνη.
Το TikTok ήδη επισημαίνει το περιεχόμενο που δημιουργείται με τεχνητή νοημοσύνη και γίνεται με εργαλεία μέσα στην εφαρμογή, αλλά η τελευταία κίνηση θα εφαρμόσει μια ετικέτα στο περιεχόμενο που δημιουργείται εκτός της υπηρεσίας. «Έχουμε επίσης πολιτικές που απαγορεύουν τη ρεαλιστική τεχνητή νοημοσύνη που δεν φέρει ετικέτα, οπότε αν η ρεαλιστική τεχνητή νοημοσύνη (που παράγεται από περιεχόμενο) εμφανιστεί στην πλατφόρμα, τότε θα την αφαιρέσουμε ως παραβιάζουσα τις κατευθυντήριες γραμμές της κοινότητάς μας», δήλωσε σε συνέντευξή του ο Adam Presser, επικεφαλής λειτουργιών και εμπιστοσύνης και ασφάλειας στο TikTok.
