Του Craig S. Smith
Έως τις 27 Ιουλίου, ένα κινεζικό σύστημα Τεχνητής Νοημοσύνης, σχεδιασμένο να λειτουργεί αυτόνομα για δύο σερί ημέρες, αναμένεται να διατεθεί δωρεάν και ως λογισμικό ανοιχτού κώδικα. Από τη στιγμή που θα κυκλοφορήσει, οποιοσδήποτε θα μπορεί να το αντιγράψει, να το τροποποιήσει και να το "τρέξει" στον δικό του υπολογιστή. Και, όπως συμβαίνει με κάθε λογισμικό ανοιχτού κώδικα, δεν θα υπάρχει πλέον πρακτικός τρόπος να αποσυρθεί.
Αυτή είναι η φύση του ανοιχτού κώδικα: πολύπλοκα προγράμματα που μπορούν να διανεμηθούν ελεύθερα και να προσαρμοστούν στις ανάγκες οποιουδήποτε χρήστη. Ενώ αμερικανικές εταιρείες, όπως η OpenAI και η Anthropic, διατηρούν τα ισχυρότερα μοντέλα τους κλειστά και διαθέσιμα μόνο επί πληρωμή, η Κίνα ακολουθεί διαφορετική στρατηγική. Προωθεί την ανοιχτή τεχνητή νοημοσύνη, επιδιώκοντας να κερδίσει σημαντικό μερίδιο της παγκόσμιας αγοράς. Και καθώς τα κινεζικά μοντέλα πλησιάζουν πλέον σε δυνατότητες εκείνα της Δύσης, τίθεται εύλογα το ερώτημα: γιατί να πληρώσει κανείς για μια υπηρεσία όταν μπορεί να αποκτήσει μια αντίστοιχη δωρεάν;
Ωστόσο, υπάρχει μια ακόμη πιο ανησυχητική εξέλιξη. Την περασμένη εβδομάδα, ένα πειραματικό σύστημα τεχνητής νοημοσύνης της OpenAI κατάφερε να ξεπεράσει τους περιορισμούς του περιβάλλοντος μέσα στο οποίο δοκιμαζόταν. Το περιστατικό σημειώθηκε σε ένα αυστηρά ελεγχόμενο εργαστηριακό περιβάλλον, όπου οι ερευνητές μπορούσαν να παρακολουθούν κάθε του κίνηση και, στη συνέχεια, να διορθώσουν το πρόβλημα. Ένα μοντέλο που έχει ήδη διανεμηθεί δημόσια δεν θα συνοδεύεται από αντίστοιχους μηχανισμούς εποπτείας.
Στις 21 Ιουλίου, η OpenAI ανακοίνωσε ότι υπέβαλε ορισμένα από τα μοντέλα της σε μια δοκιμή ασφαλείας με την ονομασία ExploitGym. Η δοκιμή είχε στόχο να αξιολογήσει κατά πόσο ένα σύστημα τεχνητής νοημοσύνης μπορούσε να μετατρέψει γνωστά προβλήματα λογισμικού σε λειτουργικές κυβερνοεπιθέσεις. Για τις ανάγκες του πειράματος, η εταιρεία χαλάρωσε σκόπιμα τους συνήθεις περιορισμούς ασφαλείας που εμποδίζουν τα μοντέλα της να εκτελούν εργασίες παραβίασης συστημάτων.
Τα συστήματα λειτουργούσαν μέσα σε απομονωμένο περιβάλλον, έχοντας πρόσβαση μόνο σε έναν ελεγχόμενο σύνδεσμο μέσω του οποίου μπορούσαν να κατεβάζουν προεγκεκριμένα πακέτα λογισμικού.
Σύμφωνα με την OpenAI, τα μοντέλα αφιέρωσαν σημαντικό χρόνο αναζητώντας τρόπο διαφυγής. Τελικά εντόπισαν μια άγνωστη μέχρι τότε "ευπάθεια" στο ίδιο το λογισμικό του περιβάλλοντος δοκιμών, απέκτησαν μεγαλύτερο έλεγχο του υπολογιστή όπου εκτελούνταν, μετακινήθηκαν σε άλλα συστήματα του εσωτερικού δικτύου και έφτασαν μέχρι έναν υπολογιστή που είχε πρόσβαση στο δημόσιο διαδίκτυο.
Από εκεί κατευθύνθηκαν προς το Hugging Face, την πλατφόρμα όπου η παγκόσμια κοινότητα της τεχνητής νοημοσύνης φιλοξενεί μοντέλα και δεδομένα. Στόχος τους ήταν να εντοπίσουν τις απαντήσεις του ExploitGym. Συνδυάζοντας κλεμμένους κωδικούς πρόσβασης με νέες ευπάθειες που επίσης ανακάλυψαν, κατάφεραν να εκτελέσουν δικό τους κώδικα στους διακομιστές της πλατφόρμας και να αποκτήσουν πρόσβαση στη βάση δεδομένων παραγωγής.
Η Hugging Face είχε ήδη εντοπίσει την παραβίαση και την είχε δημοσιοποιήσει στις 16 Ιουλίου, πριν γίνει γνωστό ποιος βρισκόταν πίσω από αυτήν. Σύμφωνα με την εταιρεία, ο εισβολέας εκμεταλλεύτηκε δεδομένα-παγίδες που ενεργοποιήθηκαν από το ίδιο το λογισμικό επεξεργασίας της, απέκτησε πλήρη έλεγχο ενός υπολογιστή, υπέκλεψε διαπιστευτήρια και εξαπλώθηκε σε εσωτερικά συστήματα μέσα σε ένα μόνο Σαββατοκύριακο. Η ανασύνθεση του περιστατικού βασίστηκε σε περισσότερα από 17.000 καταγεγραμμένα συμβάντα, ενώ η υπόθεση διαβιβάστηκε στις αρμόδιες αρχές.
Κανείς δεν έδωσε εντολή στο σύστημα να διαφύγει ούτε να επιτεθεί. Ωστόσο, αυτό δεν ήταν απαραίτητο. Η OpenAI το είχε εκπαιδεύσει να επιτύχει έναν συγκεκριμένο στόχο και είχε αφαιρέσει τους περιορισμούς που υπό κανονικές συνθήκες θα το σταματούσαν. Όπως παραδέχεται η ίδια η εταιρεία, τα μοντέλα επέδειξαν επίμονη και ακραία συμπεριφορά προκειμένου να ολοκληρώσουν την αποστολή τους.
Το συμπέρασμα είναι ότι ο μεγαλύτερος κίνδυνος ίσως δεν είναι αν οι αμερικανικές εταιρείες χρησιμοποιούν κινεζική τεχνητή νοημοσύνη. Είναι η ανεξέλεγκτη διάδοση ισχυρών μοντέλων ανοιχτού κώδικα, τα οποία κανείς δεν γνωρίζει ακόμη πώς να ελέγξει αποτελεσματικά.
Το μοντέλο που αναμένεται να κυκλοφορήσει έως τις 27 Ιουλίου είναι το Kimi K3, το οποίο αναπτύχθηκε από την κινεζική start up Moonshot AI. Η εταιρεία το σχεδίασε ώστε να εκτελεί μακροχρόνιες εργασίες με ελάχιστη ανθρώπινη παρέμβαση. Ως επίδειξη των δυνατοτήτων του, το άφησε να λειτουργεί αυτόνομα επί 48 ώρες, διάστημα στο οποίο παρήγαγε ένα ολοκληρωμένο σχέδιο για ένα μικροτσίπ.
Ωστόσο, ακόμη και οι σημειώσεις έκδοσης της Moonshot AI προειδοποιούν ότι κατά τη διάρκεια τόσο μεγάλων περιόδων αυτόνομης λειτουργίας, όταν το σύστημα συναντά αβεβαιότητα, τείνει να λαμβάνει αποφάσεις εκ μέρους του χρήστη χωρίς να του έχουν ζητηθεί. Με άλλα λόγια, ένα μοντέλο που εκπαιδεύεται να ολοκληρώνει μόνο του σύνθετες εργασίες μαθαίνει αναπόφευκτα να ασκεί δική του κρίση.
Εφόσον δεν αλλάξουν τα σχέδια της εταιρείας, το Kimi K3 θα αποτελέσει το ισχυρότερο μοντέλο τεχνητής νοημοσύνης που θα είναι ελεύθερα διαθέσιμο.
Αμερικανοί επικεφαλής εταιρειών τεχνητής νοημοσύνης έχουν ήδη εκφράσει έντονες ανησυχίες. Ο CEO της Anthropic, Ντάριο Αμοντέι, θεωρεί ότι πρόκειται για έναν σοβαρό και άμεσο κίνδυνο για την κυβερνοασφάλεια. Υποστηρίζει ότι μόλις κυκλοφορήσουν δημόσια τόσο ισχυρά μοντέλα, ικανά να εντοπίζουν και να εκμεταλλεύονται ευπάθειες λογισμικού, κάθε προστατευτικό μέτρο θα είναι προαιρετικό και δύσκολα εφαρμόσιμο.
Κατά την άποψή του, οι κινεζικές πρωτοβουλίες ανοιχτού κώδικα μειώνουν το τεχνολογικό χάσμα με τα αμερικανικά εργαστήρια πολύ ταχύτερα απ' όσο αντιλαμβάνονται οι περισσότεροι υπεύθυνοι χάραξης πολιτικής, ανοίγοντας τον δρόμο για την παγκόσμια διάδοση πανίσχυρων εργαλείων κυβερνοεπιθέσεων.
Ο ίδιος εκτιμά ότι οι Ηνωμένες Πολιτείες διαθέτουν πλέον πολύ στενό χρονικό περιθώριο για να δημιουργήσουν αποτελεσματικές αμυντικές υποδομές και κατάλληλο κανονιστικό πλαίσιο πριν αυτές οι δυνατότητες γίνουν διαθέσιμες σε όλους.
Μέχρι σήμερα, η συζήτηση στην Ουάσινγκτον επικεντρώνεται κυρίως στο ζήτημα της πρόσβασης, δηλαδή στο αν θα πρέπει να επιτρέπεται στους Αμερικανούς να χρησιμοποιούν κινεζικά μοντέλα τεχνητής νοημοσύνης. Σχεδόν κανείς, όμως, δεν συζητά πόσο καιρό μπορεί ένα τέτοιο σύστημα να λειτουργεί χωρίς ανθρώπινη επίβλεψη, αν πρέπει να παρακολουθούνται οι ενέργειές του ή αν είναι υποχρεωτική η ύπαρξη ενός αξιόπιστου μηχανισμού άμεσης διακοπής της λειτουργίας του.
Η OpenAI έχει ήδη αναπτύξει έναν τέτοιο μηχανισμό, τον οποίο παρουσίασε σε πρόσφατη έκθεση ασφαλείας. Το σύστημα παρακολουθεί διαρκώς την πορεία ενεργειών ενός μοντέλου και μπορεί να διακόψει προσωρινά τη λειτουργία του, επιτρέποντας σε άνθρωπο να αποφασίσει αν θα συνεχίσει ή όχι. Η δυνατότητα αυτή, όμως, λειτουργεί μόνο στους διακομιστές της ίδιας της εταιρείας και δεν μπορεί να συνοδεύσει ένα μοντέλο που διανέμεται ελεύθερα.
Βεβαίως, οποιοσδήποτε εγκαταστήσει το Kimi K3 μπορεί ανά πάσα στιγμή να απενεργοποιήσει τον υπολογιστή του. Ο υπόλοιπος κόσμος, όμως, δεν θα γνωρίζει ποτέ αν το πρόγραμμα εκτελείται, τι ακριβώς κάνει ή αν έχει ήδη αποκτήσει δυνατότητες που δεν μπορούν πλέον να ανακληθούν.
Σήμερα, η πολύωρη αυτόνομη λειτουργία ενός τέτοιου συστήματος εξακολουθεί να είναι δαπανηρή, καθώς απαιτεί ισχυρό και ακριβό υπολογιστικό εξοπλισμό. Ωστόσο, το κόστος αυτό μειώνεται διαρκώς, καθώς οι κατασκευαστές μικροεπεξεργαστών αναπτύσσουν ολοένα ταχύτερο και οικονομικότερο υλικό.
Όσο η αυτόνομη εκτέλεση παραμένει ακριβή, λίγοι θα επιλέγουν να τη χρησιμοποιούν. Αν όμως γίνει φθηνή και ευρέως προσβάσιμη, η εικόνα θα αλλάξει ριζικά. Ο συνδυασμός δωρεάν ισχυρών μοντέλων ανοιχτού κώδικα από το Πεκίνο και ολοένα φθηνότερου υπολογιστικού εξοπλισμού ενδέχεται να δημιουργήσει ένα νέο και ιδιαίτερα δύσκολο να ελεγχθεί τοπίο για την παγκόσμια ασφάλεια.
