OpenAI: Nέα επιτροπή ασφάλειας για τους κινδύνους της AI

Η OpenAI δημιούργησε μια επιτροπή του διοικητικού συμβουλίου για την αξιολόγηση της ασφάλειας και της προστασίας των μοντέλων τεχνητής νοημοσύνης της, μια αλλαγή στη διακυβέρνηση που έγινε εβδομάδες μετά την παραίτηση του κορυφαίου στελέχους της στο θέμα αυτό και την ουσιαστική διάλυση της εσωτερικής του ομάδας.

Η νέα επιτροπή θα περάσει 90 ημέρες αξιολογώντας τις δικλείδες ασφαλείας στην τεχνολογία της OpenAI προτού υποβάλει έκθεση. «Μετά την αξιολόγηση από το πλήρες συμβούλιο, η OpenAI θα μοιραστεί δημοσίως μια ενημέρωση σχετικά με τις υιοθετημένες συστάσεις με τρόπο που να συνάδει με την ασφάλεια και την προστασία», ανέφερε η εταιρεία σε ανάρτηση στο blog της την Τρίτη.

Η OpenAI ανέφερε επίσης ότι πρόσφατα άρχισε να εκπαιδεύει το τελευταίο μοντέλο τεχνητής νοημοσύνης της.

Οι πρόσφατες ραγδαίες εξελίξεις της ιδιωτικής εταιρείας στον τομέα της τεχνητής νοημοσύνης έχουν προκαλέσει ανησυχίες σχετικά με τον τρόπο με τον οποίο διαχειρίζεται τους πιθανούς κινδύνους της τεχνολογίας. Οι ανησυχίες αυτές εντάθηκαν το περασμένο φθινόπωρο, όταν ο διευθύνων σύμβουλος Σαμ Άλτμαν απομακρύνθηκε για λίγο σε ένα πραξικόπημα στο διοικητικό συμβούλιο, αφού συγκρούστηκε με τον συνιδρυτή και επικεφαλής επιστήμονα Ίλια Σουτσκέβερ σχετικά με το πόσο γρήγορα θα αναπτύξει προϊόντα τεχνητής νοημοσύνης και τα βήματα για τον περιορισμό των βλαβών.

Οι ανησυχίες αυτές επανήλθαν αυτόν τον μήνα μετά την αποχώρηση του Σουτσκέβερ και ενός βασικού αναπληρωτή του, του Γιαν Λέικ, από την εταιρεία. Οι επιστήμονες διηύθυναν τη λεγόμενη ομάδα υπερεξουσίας της OpenAI, η οποία επικεντρώθηκε στις μακροπρόθεσμες απειλές της υπεράνθρωπης τεχνητής νοημοσύνης. Ο Λέικ, ο οποίος παραιτήθηκε, έγραψε στη συνέχεια ότι το τμήμα του «πάλευε» για υπολογιστικούς πόρους εντός της OpenAI. Άλλοι εργαζόμενοι που αποχώρησαν άσκησαν την ίδια κριτική που άσκησε ο Λέικ.

Μετά την αποχώρηση του Σουτσκέβερ, το OpenAI διέλυσε την ομάδα του. Η εταιρεία ανακοίνωσε την Τρίτη ότι η συγκεκριμένη εργασία θα συνεχιστεί υπό την ερευνητική της μονάδα και τον John Schulman, έναν συνιδρυτή με τον νέο τίτλο του επικεφαλής του τμήματος Alignment Science.

Η startup έχει κατά καιρούς δυσκολευτεί να διαχειριστεί τις αποχωρήσεις προσωπικού. Την περασμένη εβδομάδα, η OpenAI ακύρωσε το μετοχικό κεφάλαιο από τους πρώην υπαλλήλους αν μιλούσαν εναντίον της εταιρείας. Ένας εκπρόσωπος δήλωσε ότι η OpenAI γνώριζε την κριτική από πρώην υπαλλήλους και ανέμενε περισσότερες, προσθέτοντας ότι η εταιρεία εργαζόταν για να αντιμετωπίσει τις ανησυχίες.

Η νέα επιτροπή ασφαλείας της OpenAI θα αποτελείται από τρία μέλη του συμβουλίου – τον Πρόεδρο Μπρετ Τέιλορ, τον CEO της Quora Άνταμ Ντ’Άντζελο και την πρώην εκτελεστική διευθύντρια της Sony Entertainment Νικόλ Σέλινγκμαν – μαζί με έξι υπαλλήλους, μεταξύ των οποίων οι Σούλμαν και Άλτμαν. Η εταιρεία δήλωσε ότι θα συνεχίσει τις διαβουλεύσεις με εξωτερικούς εμπειρογνώμονες, κατονομάζοντας δύο από αυτούς: Τον Ρομπ Τζόις, σύμβουλο Εσωτερικής Ασφάλειας του Ντόναλντ Τραμπ, και τον Τζον Κάρλιν, πρώην αξιωματούχο του Υπουργείου Δικαιοσύνης υπό τον Πρόεδρο Τζο Μπάιντεν.

Διαβάστε επίσης

Έρχεται τον Σεπτέμβριο το νέο κουπόνι για φθηνό γρήγορο ίντερνετ

Ακαθάριστα οικόπεδα: Δόθηκε μηνιαία παράταση, τα πρόστιμα

Φωτοβολταϊκά: Πληθαίνουν οι αντιδράσεις γύρω από το net billing