Slack: Χρησιμοποιεί δεδομένα από συνομιλίες για να εκπαιδεύσει το AI

Σε μια αμφιλεγόμενη κίνηση, η πλατφόρμα Slack της Salesforce εκπαιδεύει τα μοντέλα που χρησιμοποιεί για τις λειτουργίες generative AI με βάση τα μηνύματα, τα αρχεία και το περιεχόμενο των χρηστών, χωρίς τη ρητή άδεια των χρηστών.

Η εκπαίδευση είναι opt-out, πράγμα που σημαίνει ότι τα προσωπικά σας δεδομένα θα διαρρεύσουν εξ ορισμού. Κάνοντας τα πράγματα χειρότερα, θα πρέπει να ζητήσετε από τον διαχειριστή του Slack του οργανισμού σας (ανθρώπινο δυναμικό, IT κ.λπ.) να στείλει email στην εταιρεία για να της ζητήσει να σταματήσει. (Δεν μπορείτε να το κάνετε μόνοι σας.) Καλώς ήρθατε στη σκοτεινή πλευρά της νέας χρυσοφόρας εξόρμησης δεδομένων εκπαίδευσης AI, σημειώνει η ιστοσελίδα engadget.

Ο Corey Quinn, στέλεχος της DuckBill Group, εντόπισε την πολιτική σε ένα σημείωμα στις Αρχές απορρήτου του Slack και δημοσίευσε σχετικά στο X (μέσω του PCMag). «Για την ανάπτυξη μοντέλων AI/ML, τα συστήματά μας αναλύουν δεδομένα πελατών (π.χ. μηνύματα, περιεχόμενο και αρχεία) που υποβάλλονται στο Slack, καθώς και άλλες πληροφορίες (συμπεριλαμβανομένων πληροφοριών χρήσης), όπως ορίζονται στην Πολιτική απορρήτου μας και στη συμφωνία πελάτη σας».

Σε απάντηση στις ανησυχίες σχετικά με την πρακτική αυτή, η Slack δημοσίευσε μια ανάρτηση στο blog της το βράδυ της Παρασκευής για να διευκρινίσει πώς χρησιμοποιούνται τα δεδομένα των πελατών της. Σύμφωνα με την εταιρεία, τα δεδομένα πελατών δεν χρησιμοποιούνται για την εκπαίδευση οποιουδήποτε από τα παραγωγικά προϊόντα AI της Slack – για τα οποία βασίζεται σε LLM τρίτων – αλλά τροφοδοτούνται στα μοντέλα μηχανικής εκμάθησης για προϊόντα «όπως προτάσεις καναλιών και emoji και αποτελέσματα αναζήτησης». Για αυτές τις εφαρμογές, η ανάρτηση λέει, «Τα παραδοσιακά μοντέλα ML του Slack χρησιμοποιούν μη ταυτοποιημένα, συγκεντρωτικά δεδομένα και δεν έχουν πρόσβαση σε περιεχόμενο μηνυμάτων σε DM, ιδιωτικά κανάλια ή δημόσια κανάλια». Αυτά τα δεδομένα μπορεί να περιλαμβάνουν πράγματα όπως χρονικές σημάνσεις μηνυμάτων και τον αριθμό των αλληλεπιδράσεων μεταξύ των χρηστών.

Γι’ αυτές τις εφαρμογές, αναφέρει η ανάρτηση, «τα παραδοσιακά μοντέλα ML της Slack χρησιμοποιούν απο-προσδιορισμένα, συγκεντρωτικά δεδομένα και δεν έχουν πρόσβαση στο περιεχόμενο μηνυμάτων σε DMs, ιδιωτικά κανάλια ή δημόσια κανάλια». Αυτά τα δεδομένα μπορεί να περιλαμβάνουν πράγματα όπως χρονοσφραγίδες μηνυμάτων και τον αριθμό αλληλεπιδράσεων μεταξύ χρηστών.

Ένας εκπρόσωπος της Salesforce το επανέλαβε αυτό σε δήλωσή του στο Engadget, λέγοντας επίσης ότι «δεν κατασκευάζουμε ή εκπαιδεύουμε αυτά τα μοντέλα με τέτοιο τρόπο ώστε να μπορούν να μάθουν, να απομνημονεύσουν ή να είναι σε θέση να αναπαράγουν δεδομένα πελατών».

I'm sorry Slack, you're doing fucking WHAT with user DMs, messages, files, etc? I'm positive I'm not reading this correctly. pic.twitter.com/6ORZNS2RxC

— Corey Quinn (@QuinnyPig) May 16, 2024

Τι απαιτεί η διαδικασία εξαίρεσης

Όπως σημειώνει το δημοσίευμα, η διαδικασία εξαίρεσης απαιτεί από εσάς να κάνετε όλη τη δουλειά για την προστασία των δεδομένων σας. Σύμφωνα με την ειδοποίηση απορρήτου, «Για να εξαιρεθείτε, παρακαλούμε να ζητήσετε από τους ιδιοκτήτες του Org ή του Workspace ή τον κύριο ιδιοκτήτη να επικοινωνήσουν με την ομάδα Customer Experience στη διεύθυνση feedback@slack.com με τη διεύθυνση URL του Workspace/Org και το θέμα «Slack Global model opt-out request». Θα επεξεργαστούμε το αίτημά σας και θα σας απαντήσουμε μόλις ολοκληρωθεί η εξαίρεση».

Η εταιρεία απάντησε στο μήνυμα του Quinn στο X: «Για να διευκρινίσουμε, το Slack διαθέτει μοντέλα μηχανικής μάθησης σε επίπεδο πλατφόρμας για πράγματα όπως οι συστάσεις καναλιών και emoji και τα αποτελέσματα αναζήτησης. Και ναι, οι πελάτες μπορούν να αποκλείσουν τα δεδομένα τους από το να βοηθήσουν στην εκπαίδευση αυτών των (μη γεννητικών) μοντέλων ML».

Το πόσο καιρό πριν η εταιρεία που ανήκει στην Salesforce έβαλε κρυφά στους όρους της τη συγκεκριμένη διαδικασία δεν είναι σαφές. Είναι παραπλανητικό, στην καλύτερη περίπτωση, να λέμε ότι οι πελάτες μπορούν να εξαιρεθούν, όταν ο όρος «πελάτες» δεν περιλαμβάνει τους υπαλλήλους που εργάζονται σε έναν οργανισμό. Θα πρέπει να ρωτήσουν όποιον χειρίζεται την πρόσβαση στο Slack στην επιχείρησή τους για να το κάνουν αυτό – και ελπίζω ότι θα υποχρεωθεί.

Οι ασυνέπειες στις πολιτικές απορρήτου του Slack επιτείνουν τη σύγχυση. Σε ένα τμήμα αναφέρεται: «Κατά την ανάπτυξη μοντέλων Al/ML ή την κατ’ άλλο τρόπο ανάλυση δεδομένων πελατών, το Slack δεν μπορεί να έχει πρόσβαση στο υποκείμενο περιεχόμενο. Διαθέτουμε διάφορα τεχνικά μέτρα που αποτρέπουν αυτό το ενδεχόμενο». Ωστόσο, η πολιτική εκπαίδευσης μοντέλων μηχανικής μάθησης φαίνεται να έρχεται σε αντίθεση με αυτή τη δήλωση, αφήνοντας πολλά περιθώρια για σύγχυση.

Επιπλέον, η ιστοσελίδα της Slack που εμπορεύεται τα premium εργαλεία γεννητικής τεχνητής νοημοσύνης της αναφέρει: «Εργαστείτε χωρίς ανησυχία. Τα δεδομένα σας είναι τα δεδομένα σας. Δεν τα χρησιμοποιούμε για να εκπαιδεύσουμε το Slack AI. Τα πάντα εκτελούνται στην ασφαλή υποδομή του Slack, που πληροί τα ίδια πρότυπα συμμόρφωσης με το ίδιο το Slack».

Σε αυτή την περίπτωση, η εταιρεία μιλάει για τα premium εργαλεία γεννητικής AI, ξεχωριστά από τα μοντέλα μηχανικής μάθησης στα οποία εκπαιδεύει χωρίς ρητή άδεια. Ωστόσο, όπως σημειώνει το PCMag, ο υπαινιγμός ότι όλα τα δεδομένα σας είναι ασφαλή από την εκπαίδευση AI είναι, στην καλύτερη περίπτωση, μια άκρως παραπλανητική δήλωση, όταν η εταιρεία προφανώς μπορεί να επιλέξει ποια μοντέλα AI καλύπτει αυτή η δήλωση.

Διαβάστε επίσης

DBRS: Χαμηλό το επίπεδο επενδύσεων στην Ελλάδα

Ιράν: Τι σηματοδοτεί για την Τεχεράνη και τον πλανήτη ο θάνατος του Ραΐσι

Βιομάζα: Αγκάθι η έλλειψη πρώτης ύλης, έρχονται μεταρρυθμίσεις