THEPOWERGAME
Πριν από την τετραήμερη αποπομπή του διευθύνοντος συμβούλου της OpenAI Σαμ Άλτμαν, αρκετοί ερευνητές του προσωπικού έγραψαν επιστολή προς το διοικητικό συμβούλιο προειδοποιώντας για μια μεγάλη ανακάλυψη τεχνητής νοημοσύνης που, όπως είπαν, θα μπορούσε να απειλήσει την ανθρωπότητα, αναφέρει το Reuters που επικαλείται πηγές δύο άτομα που γνωρίζουν το θέμα.
Η επιστολή που δεν είχε αναφερθεί προηγουμένως και ο αλγόριθμος τεχνητής νοημοσύνης αποτέλεσαν εξελίξεις-κλειδιά πριν από την απομάκρυνση του Άλτμαν από το διοικητικό συμβούλιο, το παιδιού θαύμα, γενεσιουργού της τεχνητής νοημοσύνης. Πριν από τη θριαμβευτική επιστροφή του Άλτμαν αργά την Τρίτη, περισσότεροι από 700 εργαζόμενοι είχαν απειλήσει να παραιτηθούν και να ενταχθούν στην υποστηρικτική Microsoft σε ένδειξη αλληλεγγύης προς τον απολυμένο ηγέτη τους.
Οι πηγές ανέφεραν την επιστολή ως έναν παράγοντα μεταξύ ενός μακρύτερου καταλόγου παραπόνων του διοικητικού συμβουλίου που οδήγησε στην απόλυση του Άλτμαν, μεταξύ των οποίων ήταν οι ανησυχίες για την εμπορική αξιοποίηση των εξελίξεων πριν από την κατανόηση των συνεπειών.
Σε επικοινωνία με το Reuters, η OpenAI, αρνήθηκε να σχολιάσει, αναγνώρισε ωστόσο σε ένα εσωτερικό μήνυμα προς το προσωπικό την ύπαρξη ενός έργου, με την ονομασία Q* και μια επιστολή προς το συμβούλιο πριν από τα γεγονότα του Σαββατοκύριακου, δήλωσε μία από τις πηγές που μίλησαν στο πρακτορείο. Εκπρόσωπος της OpenAI δήλωσε ότι το μήνυμα, που εστάλη από το υψηλόβαθμό στέλεχος Μίνα Μουράτι, προειδοποιούσε το προσωπικό για ορισμένες ιστορίες των μέσων ενημέρωσης χωρίς να σχολιάζει την ακρίβειά τους.
Κάποιοι στην OpenAI πιστεύουν ότι το Q* (προφέρεται Q-Star) θα μπορούσε να είναι μια σημαντική ανακάλυψη στην αναζήτηση της startup γι’ αυτό που είναι γνωστό ως τεχνητή γενική νοημοσύνη (AGI), δήλωσε η ίδια πηγή στο Reuters. Η OpenAI ορίζει την AGI ως αυτόνομα συστήματα που ξεπερνούν τον άνθρωπο στις περισσότερες οικονομικά πολύτιμες εργασίες.
Με δεδομένους τεράστιους υπολογιστικούς πόρους, το νέο μοντέλο ήταν σε θέση να λύσει ορισμένα μαθηματικά προβλήματα, δήλωσε η ίδια πηγή υπό τον όρο της ανωνυμίας, επειδή το άτομο δεν ήταν εξουσιοδοτημένο να μιλήσει εκ μέρους της εταιρείας. Αν και εκτελούσε μαθηματικά μόνο στο επίπεδο των μαθητών του δημοτικού σχολείου, η άριστη επίδοση σε τέτοια τεστ έκανε τους ερευνητές πολύ αισιόδοξους για τη μελλοντική επιτυχία του Q*, δήλωσε η πηγή.
Το Reuters δεν μπόρεσε να επαληθεύσει ανεξάρτητα τις δυνατότητες του Q* που ισχυρίζονται οι ερευνητές.
Πέπλο άγνοιας και ανησυχίες για πιθανούς κινδύνους της ΑΙ
Οι ερευνητές θεωρούν ότι τα μαθηματικά είναι ένα σύνορο της ανάπτυξης της γεννητικής τεχνητής νοημοσύνης. Επί του παρόντος, η γεννητική τεχνητή νοημοσύνη είναι καλή στη γραφή και τη μετάφραση γλωσσών προβλέποντας στατιστικά την επόμενη λέξη, ενώ οι απαντήσεις στην ίδια ερώτηση μπορεί να διαφέρουν σημαντικά. Αλλά η κατάκτηση της ικανότητας να κάνει μαθηματικά – όπου υπάρχει μόνο μία σωστή απάντηση – συνεπάγεται ότι η ΤΝ θα έχει μεγαλύτερες ικανότητες συλλογισμού που θα μοιάζουν με την ανθρώπινη νοημοσύνη. Αυτό θα μπορούσε να εφαρμοστεί, για παράδειγμα, σε νέα επιστημονική έρευνα, πιστεύουν οι ερευνητές της ΤΝ.
Σε αντίθεση με μια αριθμομηχανή που μπορεί να λύσει έναν περιορισμένο αριθμό πράξεων, η AGI μπορεί να γενικεύει, να μαθαίνει και να κατανοεί.
Στην επιστολή τους προς το διοικητικό συμβούλιο, οι ερευνητές επισήμαναν τις ικανότητες και τους πιθανούς κινδύνους της ΑΙ, ανέφεραν οι πηγές χωρίς να διευκρινίσουν τις ακριβείς ανησυχίες για την ασφάλεια που σημειώνονται στην επιστολή. Εδώ και καιρό υπάρχει συζήτηση μεταξύ των επιστημόνων πληροφορικής σχετικά με τον κίνδυνο που εγκυμονούν οι μηχανές υψηλής νοημοσύνης, για παράδειγμα αν θα μπορούσαν να αποφασίσουν ότι η καταστροφή της ανθρωπότητας είναι προς το συμφέρον τους.
Οι ερευνητές έχουν επίσης επισημάνει τις εργασίες μιας ομάδας «επιστημόνων τεχνητής νοημοσύνης», την ύπαρξη της οποίας επιβεβαίωσαν πολλαπλές πηγές. Η ομάδα, η οποία σχηματίστηκε από το συνδυασμό προηγούμενων ομάδων «Code Gen» και «Math Gen», διερευνούσε πώς να βελτιστοποιήσει τα υπάρχοντα μοντέλα τεχνητής νοημοσύνης για να βελτιώσει τη συλλογιστική τους και τελικά να εκτελέσει επιστημονικό έργο, δήλωσε ένας από τους ανθρώπους.
Ο Άλτμαν ηγήθηκε των προσπαθειών για να γίνει το ChatGPT μια από τις ταχύτερα αναπτυσσόμενες εφαρμογές λογισμικού στην ιστορία και προσέλκυσε τις επενδύσεις – και τους υπολογιστικούς πόρους – που ήταν αναγκαίοι από τη Microsoft για να πλησιάσει περισσότερο την AGI.
Εκτός από την ανακοίνωση μιας σειράς νέων εργαλείων σε μια επίδειξη αυτό το μήνα, ο Άλτμαν την περασμένη εβδομάδα άφησε να εντυπώσεις σε μια σύνοδο κορυφής παγκόσμιων ηγετών στο Σαν Φρανσίσκο ότι πιστεύει ότι σημαντικές εξελίξεις είναι ορατές.
«Τέσσερις φορές τώρα στην ιστορία του OpenAI, η πιο πρόσφατη φορά ήταν μόλις τις τελευταίες δύο εβδομάδες, έχω την ευκαιρία να βρίσκομαι στο δωμάτιο, όταν κατά κάποιο τρόπο σπρώχνουμε το πέπλο της άγνοιας πίσω και τα σύνορα της ανακάλυψης μπροστά, και το να το κάνω αυτό είναι η επαγγελματική τιμή της ζωής μου», είπε στη σύνοδο κορυφής της Οικονομικής Συνεργασίας Ασίας-Ειρηνικού.
Ακολουθήστε το Powergame.gr στο Google News για άμεση και έγκυρη οικονομική ενημέρωση!
