THEPOWERGAME
Θα μας σκοτώσει όλους η τεχνητή νοημοσύνη; Ορισμένοι τεχνολόγοι πιστεύουν ειλικρινά ότι η απάντηση είναι ναι. Σε ένα εφιαλτικό σενάριο, η τεχνητή νοημοσύνη τελικά ξεπερνάει την ανθρωπότητα και αποστασιοποιείται, καταλαμβάνοντας υπολογιστές και εργοστάσια και γεμίζοντας τον ουρανό με φονικά μη επανδρωμένα αεροσκάφη. Σε ένα άλλο, τα μεγάλα γλωσσικά μοντέλα (LLMs) του είδους που τροφοδοτούν τη γενετική TN, όπως το ChatGPT, δίνουν στους κακούς την τεχνογνωσία για να δημιουργήσουν καταστροφικά κυβερνο-όπλα και θανατηφόρα νέα παθογόνα.
Είναι καιρός να σκεφτούμε καλά αυτά τα σενάρια καταστροφής. Όχι επειδή έχουν γίνει πιο πιθανά -κανείς δεν ξέρει πόσο πιθανά είναι-, αλλά επειδή οι υπεύθυνοι χάραξης πολιτικής σε όλο τον κόσμο μελετούν μέτρα για να προφυλαχθούν από αυτά. Η Ευρωπαϊκή Ένωση οριστικοποιεί μια επεκτατική πράξη για την τεχνητή νοημοσύνη, ενώ ο Λευκός Οίκος αναμένεται σύντομα να εκδώσει εκτελεστικό διάταγμα για τα LLMs. Την 1η και 2η Νοεμβρίου η βρετανική κυβέρνηση θα συγκαλέσει παγκόσμιους ηγέτες και ιθύνοντες της τεχνολογίας σε μια «Σύνοδο Κορυφής για την Ασφάλεια», όπου θα συζητηθούν οι ακραίοι κίνδυνοι που μπορεί να εγκυμονούν τα μοντέλα τεχνητής νοημοσύνης.
Οι κυβερνήσεις δεν έχουν την πολυτέλεια να αγνοήσουν μια τεχνολογία που θα μπορούσε να αλλάξει τον κόσμο καταλυτικά, αλλά κάθε πιθανή απειλή για την ανθρωπότητα πρέπει να λαμβάνεται σοβαρά υπόψη. Οι ρυθμιστικές Αρχές υπήρξαν πολύ αργές στο παρελθόν. Πολλοί εύχονται να είχαν ενεργήσει ταχύτερα για την αστυνόμευση των κοινωνικών μέσων ενημέρωσης στη δεκαετία του 2010 και επιθυμούν, αυτήν τη φορά, να είναι στην πρώτη γραμμή. Ωστόσο, υπάρχει κίνδυνος, επίσης, να ενεργήσουμε βιαστικά. Αν κινηθούν πολύ γρήγορα, οι υπεύθυνοι χάραξης πολιτικής θα μπορούσαν να δημιουργήσουν παγκόσμιους κανόνες και θεσμούς που θα στοχεύουν σε λάθος προβλήματα, θα είναι αναποτελεσματικοί έναντι των πραγματικών και θα καταπνίγουν την καινοτομία.
Η ιδέα ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει την ανθρωπότητα στην εξαφάνιση είναι ακόμη εντελώς υποθετική. Κανείς δεν γνωρίζει, τουλάχιστον αυτήν τη στιγμή, πώς θα μπορούσε να υλοποιηθεί μια τέτοια απειλή. Δεν υπάρχουν κοινές μέθοδοι για να καθοριστεί τι θεωρείται επικίνδυνο, πολύ περισσότερο για να αξιολογηθούν τα μοντέλα σε σχέση με ένα σημείο αναφοράς για τον κίνδυνο. Χρειάζεται πολλή έρευνα προτού καθοριστούν πρότυπα και κανόνες. Αυτός είναι ο λόγος για τον οποίο ένας αυξανόμενος αριθμός στελεχών της τεχνολογίας λέει ότι ο κόσμος χρειάζεται ένα σώμα για τη μελέτη της ΤΝ, όπως η Διακυβερνητική Επιτροπή για την Κλιματική Αλλαγή (IPCC), η οποία παρακολουθεί και εξηγεί την υπερθέρμανση του πλανήτη.
Η βιασύνη για τη ρύθμιση των κινδύνων ουράς θα μπορούσε να αποσπάσει την προσοχή των υπεύθυνων χάραξης πολιτικής από λιγότερο αποκαλυπτικά, αλλά πιο πιεστικά προβλήματα. Μπορεί να χρειαστούν νέοι νόμοι για να ρυθμίσουν τη χρήση υλικού που προστατεύεται από πνευματικά δικαιώματα κατά την εκπαίδευση των LLMs ή για να καθορίσουν τα δικαιώματα προστασίας της ιδιωτικής ζωής καθώς τα μοντέλα καταβροχθίζουν προσωπικά δεδομένα. Επίσης, η ΤΝ θα διευκολύνει πολύ την παραγωγή παραπληροφόρησης, ένα ακανθώδες πρόβλημα για κάθε κοινωνία.
Η βιαστική ρύθμιση θα μπορούσε επίσης να καταπνίξει τον ανταγωνισμό και την καινοτομία. Λόγω των απαιτούμενων υπολογιστικών πόρων και τεχνικών δεξιοτήτων, μόνο μια χούφτα εταιρείες έχουν αναπτύξει μέχρι στιγμής ισχυρά «συνοριακά» μοντέλα. Η νέα ρύθμιση θα μπορούσε εύκολα να εδραιώσει τις κατεστημένες επιχειρήσεις και να αποκλείσει τους ανταγωνιστές, όχι μόνο επειδή οι μεγαλύτεροι κατασκευαστές μοντέλων συνεργάζονται στενά με τις κυβερνήσεις για τη συγγραφή των κανόνων. Η εστίαση στους ακραίους κινδύνους είναι πιθανό να καταστήσει τις ρυθμιστικές Αρχές επιφυλακτικές απέναντι στα μοντέλα ανοικτού κώδικα, τα οποία είναι ελεύθερα διαθέσιμα και μπορούν εύκολα να τροποποιηθούν. Μέχρι πρόσφατα φημολογούνταν ότι ο Λευκός Οίκος εξέταζε το ενδεχόμενο να απαγορεύσει στις εταιρείες να κυκλοφορούν μοντέλα ανοικτού κώδικα. Ωστόσο, αν οι κίνδυνοι αυτοί δεν υλοποιηθούν, ο περιορισμός των μοντέλων ανοικτού κώδικα θα περιορίσει μόνο μια σημαντική πηγή ανταγωνισμού.
Οι ρυθμιστικές Αρχές πρέπει να είναι έτοιμες να αντιδράσουν γρήγορα, αν χρειαστεί, αλλά δεν πρέπει να βιάζονται ως προς τη θέσπιση κανόνων ή τη δημιουργία θεσμών που αποδεικνύονται περιττοί ή επιβλαβείς. Ελάχιστα είναι γνωστά σχετικά με τη κατεύθυνση της γενετικής ΤΝ για να κατανοήσουμε τους κινδύνους που συνδέονται με αυτήν, πόσω μάλλον για να τους διαχειριστούμε.
Το καλύτερο που μπορούν να κάνουν τώρα οι κυβερνήσεις είναι να δημιουργήσουν την υποδομή για να μελετήσουν την τεχνολογία και τους πιθανούς κινδύνους της και να διασφαλίσουν ότι όσοι ασχολούνται με το πρόβλημα θα έχουν επαρκείς πόρους. Στον σημερινό διασπασμένο κόσμο θα είναι δύσκολο να δημιουργηθεί ένας φορέας όπως η IPCC και να ευδοκιμήσει. Όμως φορείς που ήδη ασχολούνται με ζητήματα που σχετίζονται με την ΤΝ, όπως ο ΟΟΣΑ και η νεοσύστατη Frontier ΑΙ Taskforce της Βρετανίας, η οποία έχει στόχο να αποκτήσει πρόσβαση στις βασικές πρακτικές λεπτομέρειες των μοντέλων, θα μπορούσαν να συνεργαστούν στενά.
Αν οι κυβερνήσεις συμφωνούσαν σε έναν κώδικα δεοντολογίας για τους κατασκευαστές μοντέλων, όπως οι «εθελοντικές υποχρεώσεις» που διαπραγματεύτηκε ο Λευκός Οίκος και στις οποίες έχουν ήδη υπογράψει 15 κατασκευαστές ιδιόκτητων μοντέλων, θα βοηθούσε. Αυτές υποχρεώνουν τους κατασκευαστές μοντέλων, μεταξύ άλλων, να μοιράζονται πληροφορίες σχετικά με τον τρόπο με τον οποίο διαχειρίζονται τον κίνδυνο της ΤΝ. Αν και οι υποχρεώσεις δεν είναι δεσμευτικές, μπορούν να βοηθήσουν στην αποφυγή ενός επικίνδυνου ελεύθερου παιχνιδιού, Παράλληλα, οι κατασκευαστές μοντέλων ανοικτού κώδικα δεν θα πρέπει να μείνουν εκτός.
Καθώς η ΤΝ αναπτύσσεται περαιτέρω, οι ρυθμιστικές Αρχές θα έχουν πολύ καλύτερη ιδέα από ποιους κινδύνους προστατεύονται και, κατά συνέπεια, πώς θα πρέπει να διαμορφωθεί το εγχειρίδιο κανόνων. Ένα ολοκληρωμένο καθεστώς θα μπορούσε τελικά να μοιάζει μάλλον με εκείνα για άλλες τεχνολογίες που αλλάζουν τον κόσμο, όπως η πυρηνική ενέργεια ή η βιομηχανική. Ωστόσο, η δημιουργία του θα απαιτήσει χρόνο -και περίσκεψη.
© 2023 The Economist Newspaper Limited. All rights reserved.
Άρθρο από τον Economist, το οποίο μεταφράστηκε και δημοσιεύθηκε με επίσημη άδεια από την www.powergame.gr. Το πρωτότυπο άρθρο, στα αγγλικά, βρίσκεται στο www.economist.com
Ακολουθήστε το Powergame.gr στο Google News για άμεση και έγκυρη οικονομική ενημέρωση!
