THEPOWERGAME
Ορισμένοι αγώνες τελειώνουν πριν καν ξεκινήσουν. Έτσι μπορεί να φαίνονται τα πράγματα στον αγώνα δρόμου για τη δημιουργία των καλύτερων μεγάλων γλωσσικών μοντέλων (LLMs). Αυτοί οι αλγόριθμοι τροφοδοτούν τη δημιουργική τεχνητή νοημοσύνη, που μπορεί να παράγει κείμενο και άλλα αποτελέσματα που μοιάζουν με τα ανθρώπινα. Η OpenΑΙ, η αμερικανική εταιρεία δημιουργός του ChatGPT, φαίνεται να προηγείται κατά πολύ. Έχει κατασκευάσει το ισχυρότερο LLM στον κόσμο, το GPT-4. Η εταιρεία μαζεύει από παντού ταλέντα, δεδομένα και υπολογιστική ισχύ για την κατασκευή πιο έξυπνων μοντέλων. Ως αποτέλεσμα, προσελκύει περισσότερους χρήστες και μαζί τους περισσότερα κεφάλαια, για να δημιουργήσει ακόμα πιο εξελιγμένα μοντέλα.
Ωστόσο, μια γαλλική νεοφυής επιχείρηση, η Mistral προσπαθεί να ξεχωρίσει μέσα σε όλη αυτήν την τρέλα της ΤΝ. Στις 26 Φεβρουαρίου κυκλοφόρησε ένα νέο LLM. Το μοντέλο, που ονομάζεται Mistral-Large, είναι μικρότερο από το GPT-4, μετρούμενο από τον αριθμό των παραμέτρων που χρησιμοποιεί (ένα κοινό μέτρο της ισχύος του μοντέλου). Ακόμα κι έτσι, σχεδόν συναγωνίζεται το GPT-4 σε σημαντικές πτυχές της απόδοσης, όπως η συλλογιστική. Η Mistral παρουσίασε επίσης έναν ανταγωνιστή του ChatGPT, που τροφοδοτείται από το Mistral-Large, το Le Chat (η γαλλική λέξη για τη γάτα και όχι το αγγλικό ομόλογο). Παράλληλα, ανακοίνωσε μια συμφωνία με τη Microsoft, τον κολοσσό της τεχνητής νοημοσύνης που έχει ήδη στενή συνεργασία με την OpenAI. Ο τεχνολογικός γίγαντας θα αποκτήσει ένα μικρό μερίδιο της Mistral και θα διαθέσει τα μοντέλα της γαλλικής εταιρείας μέσω του νέφους Azure.
Η Mistral είναι η απόδειξη ότι η βιομηχανία γίνεται ήδη πιο ανοιχτή -και λιγότερο αμερικανική. Αν όντως αποτελέσει σοβαρή πρόκληση για το OpenAI, θα επιβεβαιώσει την υποψία ορισμένων στη βιομηχανία ότι στη δημιουργική τεχνητή νοημοσύνη το μέγεθος δεν είναι το παν. «Δεν έχει πλέον να κάνει με το μέγεθος, άλλα με το πόσο δημιουργικός και γρήγορος είσαι», λέει ο Arthur Mensch, διευθύνων σύμβουλος της Mistral.
Η άνοδος της γαλλικής εταιρείας ήταν τόσο γρήγορη όσο και ο βορειοδυτικός χειμωνιάτικος άνεμος από τον οποίο πήρε το όνομά της. Ιδρύθηκε πριν από λιγότερο από έναν χρόνο και εξακολουθεί να απασχολεί μόλις 25 υπαλλήλους. Παρ’ όλα αυτά, τα LLMs της ηγούνται της αυξανόμενης ομάδας μοντέλων ανοικτού κώδικα, τα στατιστικά ενδότερα των οποίων είναι, σε αντίθεση με τα ιδιοκτησιακά μαύρα κουτιά, όπως το GPT-4, δημόσια διαθέσιμα και μπορούν να τροποποιηθούν από οποιονδήποτε. Αυτή η κίνηση επέτρεψε στη Mistral να αντλήσει μια εντυπωσιακή χρηματοδότηση ύψους 490 εκατ. ευρώ (531 εκατ. δολάρια), αποτιμώντας την εταιρεία σε περισσότερα από 2 δισ. δολάρια. Στους μεγάλους επενδυτές περιλαμβάνονται κορυφαία επιχειρηματικά κεφάλαια της Silicon Valley, όπως η Andreessen Horowitz και η General Catalyst, καθώς και προσωπικότητες της τεχνολογίας, όπως ο Eric Schmidt, πρώην διευθύνων σύμβουλος της Google.
Η Mistral οφείλει την πρώιμη επιτυχία της στην έξυπνη ανάμειξη των κύριων τεχνικών συστατικών της τεχνητής νοημοσύνης -ταλέντο, δεδομένα και υπολογιστική ισχύς- με την πολιτική, η οποία αποκτά ολοένα και μεγαλύτερη σημασία για τη βιομηχανία της τεχνητής νοημοσύνης, καθώς οι κυβερνήσεις του κόσμου εξετάζουν τις δυνατότητες της τεχνολογίας.
Ας ξεκινήσουμε με το ταλέντο. Εδώ η Mistral αποτελεί έναν «ονειρεμένο γάμο» μεταξύ της γαλλικής εκπαίδευσης μηχανικών και των αμερικανικών εταιρειών μεγάλης τεχνολογίας, λέει ο Stanislas Polu, συνιδρυτής της Dust, μιας άλλης από τις εταιρείες ΤΝ που εμφανίζονται στο Παρίσι. Τρεις από τους έξι ιδρυτές της Mistral και τα τεχνικά μυαλά της -ο κ. Mensch, ο Timothée Lacroix και ο Guillaume Lample- είναι απόφοιτοι των ελίτ τεχνικών σχολών της Γαλλίας. Όπως και πολλοί άλλοι κορυφαίοι επιστήμονες της τεχνητής νοημοσύνης, έχουν εργαστεί στα ερευνητικά εργαστήρια της Google και της Meta -αν και στην περίπτωση του τρίο δημιουργούσαν συστήματα LLMs στα παρακλάδια αυτών των εργαστηρίων στο Παρίσι και όχι στο Λονδίνο ή τη Silicon Valley. Αυτό τους τοποθετεί ανάμεσα στους περίπου 100 ανθρώπους παγκοσμίως που γνωρίζουν πραγματικά πώς να εκπαιδεύουν μοντέλα αιχμής.
Όπως φαίνεται, υπήρξαν ιδιαίτερα επιδέξιοι στη συγκέντρωση δεδομένων για την εκπαίδευση των μοντέλων τους -το δεύτερο συστατικό της επιτυχίας της TN. Ο κ. Mensch δεν θέλει να μιλήσει για το πώς ακριβώς η Mistral επιμελείται τα σύνολα εκπαίδευσής της. Είναι η πηγή του ανταγωνιστικού πλεονεκτήματος της εταιρείας του, λέει. Όμως οι γνώστες του κλάδου επιβεβαιώνουν ότι η Mistral είναι, σύμφωνα με τα λόγια ενός από αυτούς, «πραγματικά έξυπνη» στην επιμέλεια, για παράδειγμα φιλτράροντας τις πληροφορίες που επαναλαμβάνονται ή δεν έχουν νόημα. Η διαδικασία αυτή επέτρεψε στα μοντέλα της Mistral να είναι πολύ μικρότερα: τα στατιστικά βάρη, ή «παράμετροι», των μοντέλων της Mistral ανέρχονται σε δισεκατομμύρια, σε σύγκριση με τα εκτιμώμενα 1,8 τρισ. για το GPT-4 της OpenAI (καμία από τις δύο εταιρείες δεν μιλάει για τα ακριβή μεγέθη). Έτσι, οι πελάτες μπορούν να τα τρέχουν στους δικούς τους υπολογιστές και όχι σε ένα τεράστιο κέντρο δεδομένων, το οποίο πολλά ιδιόκτητα μοντέλα απαιτούν.
Σύμφωνα με τον κ. Mensch, η εστίαση της Mistral στην επιμέλεια των δεδομένων επιτρέπει στην εταιρεία να χρησιμοποιεί την υπολογιστική ισχύ, το τρίτο κρίσιμο συστατικό της τεχνητής νοημοσύνης, πιο αποτελεσματικά από τους ανταγωνιστές της. Η εκπαίδευση του τελευταίου μοντέλου της Mistral κόστισε πολύ λιγότερο από τα 100 εκατ. δολάρια που προφανώς δαπάνησε η OpenΑΙ για την ανάπτυξη του GPT-4. Η προσέγγιση της Mistral καθιστά επίσης φθηνότερη για τους πελάτες τόσο τη λεπτομερή ρύθμιση των μοντέλων της με τα δικά τους δεδομένα όσο και τη μετέπειτα λειτουργία τους.
Όπως υποστηρίζει η Jeannette Zu Fürstenberg της General Catalyst, από τεχνικής άποψης, οι νεοφυείς επιχειρήσεις, όπως η Mistral, απολαμβάνουν το «πλεονέκτημα του δεύτερου παίκτη», επωφελούμενες απ’ όλη τη δουλειά που έχει κάνει η OpenAI και άλλοι. Επιπλέον, στην περίπτωση της Mistral αυτά τα τεχνικά προσόντα συμπληρώνονται από πολιτική νοημοσύνη, η οποία είναι χρήσιμη, δεδομένου ότι πολλές κυβερνήσεις πιστεύουν ότι τα εγχώρια LLMs θα προσδώσουν οικονομικά και στρατηγικά πλεονεκτήματα.
Έτσι, το γεγονός ότι ένας άλλος από τους συνιδρυτές της Mistral είναι ο Cédric O, πρώην υπουργός ψηφιακής τεχνολογίας της Γαλλίας, βοηθάει. Ο κ. O διατηρεί άμεση επαφή με τον πρόεδρο της χώρας, Emmanuel Macron, ο οποίος δείχνει έντονο ενδιαφέρον για όλα τα πράγματα που αφορούν την τεχνητή νοημοσύνη. Όταν πέρυσι ένα σχέδιο νόμου της Ευρωπαϊκής Ένωσης για την τεχνητή νοημοσύνη απειλούσε να αναγκάσει τη Mistral να αποκαλύψει τη συνταγή των δεδομένων της, ο κ. O συντόνισε, με την υποστήριξη του κ. Macron, μια επιτυχημένη γαλλογερμανική προσπάθεια να αντιταχθεί σε τέτοιες διατάξεις, οι οποίες, τελικά, απαλείφθηκαν από το νομοσχέδιο.
Το ερώτημα τώρα είναι κατά πόσο η Mistral, η οποία δεν έχει ακόμα δημιουργήσει σημαντικά έσοδα, μπορεί να μετατρέψει αυτό το δελεαστικό τεχνοπολιτικό μείγμα σε κέρδη. Το στοίχημα της εταιρείας είναι ότι πολλές επιχειρήσεις, ιδίως ευρωπαϊκές, θέλουν περισσότερο έλεγχο στα LLMs που χρησιμοποιούν απ’ ό,τι είναι διατεθειμένη να τους δώσει η OpenAI, και δεν θέλουν να εγκλωβιστούν σε άλλη μια αμερικανική τεχνολογική πλατφόρμα. Αυτοί οι πελάτες, σύμφωνα με το σκεπτικό, θα ήταν πρόθυμοι να πληρώσουν τη Mistral για να συντηρεί και να διαχειρίζεται τα μοντέλα τους.
Ένα ερώτημα που μπορεί να θέσουν οι δυνητικοί πελάτες είναι πώς ο κόσμος θα ρυθμίσει τα μοντέλα ανοιχτού κώδικα. Μια έντονη συζήτηση σχετικά με το αν θα επιτρέψουν σε τρομοκράτες και άλλους κακούς παράγοντες να κατασκευάσουν βιολογικά και κυβερνο-όπλα έχει καταλαγιάσει. Αντί να εστιάζει στους κινδύνους, η συζήτηση μεταξύ των φορέων χάραξης πολιτικής στρέφεται πλέον στα πιθανά οφέλη: μεγαλύτερη διαφάνεια, περισσότερη καινοτομία και λιγότερη εξάρτηση από μια χούφτα ισχυρών εταιρειών που ελέγχουν την τεχνολογία. Οι ρυθμιστικές αρχές και στις δύο πλευρές του Ατλαντικού έχουν μέχρι στιγμής ανεχθεί τα LLMs ανοικτού κώδικα. Ωστόσο, ο κ. Ο μπορεί να έχει και πάλι αρκετή δουλειά αν αυτά τα μοντέλα συνεχίσουν να γίνονται πιο ισχυρά ή αν διαπιστωθεί ότι χρησιμοποιούνται καταχρηστικά, για παράδειγμα βοηθώντας στη διάδοση της παραπληροφόρησης κατά τη διάρκεια των φετινών εκλογών σε όλο τον κόσμο.
Η αποφυγή πολιτικών αντιδράσεων είναι, προφανώς, προς το συμφέρον της Mistral, αλλά η επιτυχία των πιέσεων έχει και μια άλλη πλευρά. Η ρυθμιστική ανοχή θα οδηγούσε σχεδόν σίγουρα σε περισσότερο ανταγωνισμό ανοικτού κώδικα. Στις 20 Φεβρουαρίου η Silo ΑΙ, μια φινλανδική εταιρεία, παρουσίασε ένα νέο LLM, που είναι ακόμα πιο ανοιχτό από αυτό της Mistral, παρέχοντας πληροφορίες σχετικά με τα δεδομένα στα οποία εκπαιδεύτηκε και το λογισμικό που έκανε τη δουλειά. Μια νέα έκδοση, που θα κυκλοφορήσει σε λίγους μήνες, θα είναι εξίσου καλή στις περισσότερες ευρωπαϊκές γλώσσες, όπως είναι τώρα στα φινλανδικά και τα αγγλικά.
Το πιο σημαντικό είναι ότι δεν είναι ακόμα σαφές αν στη δημιουργική ΤΝ το μέγεθος έχει σημασία. Η δοκιμή θα γίνει όταν η OpenΑΙ κυκλοφορήσει επιτέλους το επόμενο μοντέλο της, το GPT-5. Αν το Mistral-Large και άλλα μικρότερα μοντέλα ανοιχτού κώδικα δουν τη σκόνη του, τότε τα λόγια του κ. Mensch για δημιουργικότητα και ταχύτητα μπορεί να ακουστούν κενά. Μέχρι τότε, ωστόσο, η ιστορία της Mistral θα συνεχίσει να κερδίζει τις εντυπώσεις.
© 2024 The Economist Newspaper Limited. All rights reserved.
Άρθρο από τον Economist, το οποίο μεταφράστηκε και δημοσιεύθηκε με επίσημη άδεια από την www.powergame.gr. Το πρωτότυπο άρθρο, στα αγγλικά, βρίσκεται στο www.economist.com
Ακολουθήστε το Powergame.gr στο Google News για άμεση και έγκυρη οικονομική ενημέρωση!
