Του James Broughel
Σε μια απροσδόκητη εξέλιξη, το ΔΣ της OpenAI απέλυσε τον συνιδρυτή και CEO, Sam Altman, την Παρασκευή. Μετά τη θύελλα αντιδράσεων που ξέσπασε στα μέσα κοινωνικής δικτύωσης, το ΔΣ φάνηκε να επανεξετάζει την απόφασή του μες στο Σαββατοκύριακο, για να παραμείνει σταθερό στην απόφασή του. Ο νέος σταθμός στην επαγγελματική σταδιοδρομία του Altman δεν άργησε να βρεθεί: αναλαμβάνει επικεφαλής του νέου ερευνητικού εργαστηρίου τεχνητής νοημοσύνης στη Microsoft.
Ο Altman είναι ο πρωταγωνιστής της τεχνητής νοημοσύνης το τελευταίο διάστημα, χάρη στην τεράστια επιτυχία του ChatGPT. Βραχυπρόθεσμα η απομάκρυνσή του σημαίνει... χάος για την OpenAI και άλλους παράγοντες στον κλάδο.
H ουσία, όμως, μπορεί να κρύβεται στις ανησυχίες του ΔΣ της OpenAI σχετικά με την ασφάλεια της τεχνητής νοημοσύνης, οι οποίες πηγάζουν από τον υπερβολικό αντίκτυπο του αποτελεσματικού αλτρουισμού στη Silicon Valley. Το ζήτημα της ασφάλειας στο πεδίο της τεχνητής νοημοσύνης πιθανότατα έφερε το ρήγμα μεταξύ ΔΣ και Altman.
Ο αποτελεσματικός αλτρουισμός είναι ένα φιλοσοφικό πλαίσιο με ρίζες στον ωφελιμισμό, ο οποίος επιδιώκει να υπάρχει όσο το δυνατόν περισσότερο Καλό στον κόσμο. Θεωρητικά, δεν υπάρχουν πολλά πράγματα που να μην αρέσουν στον θιασώτη του αποτελεσματικού αλτρουισμού, με το φιλοσοφικό κίνημα να προσεγγίζει ορθολογικά τη φιλανθρωπία δίνοντας έμφαση στους αριθμούς και όχι στο συναίσθημα. Το πρόβλημα είναι ότι οι κορυφαίες προσωπικότητες του κινήματος μοιάζουν ιδιαίτερα επιρρεπείς σε ηθικά παραπτώματα, επιβεβαιώνοντας τις χειρότερες στερεοτυπικές αντιλήψεις των επικριτών τους.
Για παράδειγμα, ο Sam Bankman-Fried, ιδρυτής της FTX και οπαδός του αποτελεσματικού αλτρουισμού, έδειξε πώς η φιλοσοφία του "earning to give" -η οποία προωθεί την απόκτηση πολλών χρημάτων ώστε να μπορεί κανείς να τα δώσει σε φιλανθρωπικές οργανώσεις- μπορεί εύκολα να μετατραπεί σε "κέρδος με οποιοδήποτε τίμημα", ακόμη και αν αυτό σημαίνει εξαπάτηση εκατομμυρίων επενδυτών. Ομοίως, ο φιλόσοφος και θεμελιωτής του αποτελεσματικού αλτρουισμού Peter Singer, ο οποίος πρόσφατα τάχθηκε υπέρ της σεξουαλικής επαφής ανθρώπου με ζώο με μήνυμά του στην πλατφόρμα κοινωνικής δικτύωσης X, αναδεικνύοντας τις ανατριχιαστικές συνδέσεις του αποτελεσματικού αλτρουισμού με τις πιο διεστραμμένες γωνιές της πνευματικής ελευθεριακότητας.
Παρόλο που η σημερινή φουρνιά των πρωτοπόρων του αποτελεσματικού αλτρουισμού μάλλον αποτελείται από ανθρώπους αμφιλεγόμενης ηθικής ακεραιότητας ή και εξαιρετικά κακών προθέσεων, ο ωφελιμισμός έχει μακρά ιστορία και σπουδαία φιλοσοφικά μυαλά, όπως ο Τζέρεμι Μπένθαμ και ο Τζον Στιούαρτ Μιλ. Ο ωφελιμισμός θεωρεί ότι το συλλογικό συμφέρον υπερισχύει του ατομικού - για παράδειγμα, η θυσία ενός υγιούς ανθρώπου για να σώσει δωρίζοντας τα όργανά του πέντε συνανθρώπους του.
Το Διοικητικό Συμβούλιο της OpenAI αποτελείται από νυν και πρώην "αποτελεσματικούς αλτρουιστές" και οι συζητήσεις σχετικά με την ασφάλεια της τεχνητής νοημοσύνης πιθανότατα συνέβαλαν στην απομάκρυνση του Altman, αφού το ΔΣ βρισκόταν σε αντιπαράθεση με τον κερδοσκόπο Altman. Η OpenAI ακροβατεί αμήχανα, καθώς τεχνικά είναι μη κερδοσκοπικός οργανισμός, αλλά από την άλλη πρέπει να έχει κέρδη για ορισμένους επενδυτές της, όπως η Microsoft. Μετά το λανσάρισμα του ChatGPT και τη συνεργασία με τη Microsoft, το ΔΣ ενδεχομένως να σκέφτηκε ότι η OpenAI είχε απομακρυνθεί από την αρχική αποστολή της -ως μη κερδοσκοπικός οργανισμός- για ανοιχτή και ασφαλή τεχνητή νοημοσύνη.
Ακόμη και οι πρώτοι-πρώτοι υποστηρικτές της ασφαλούς τεχνητής νοημοσύνης, όπως ο τεχνολόγος Nick Bostrom, αποφεύγουν πλέον τις ακραίες προβλέψεις που έδωσαν τροφή στους καταστροφολόγους. Ο Bostrom -ο οποίος προωθεί τον "μακροπρόθεσμο χαρακτήρα", άλλη μία θεμελιώδης έννοια του αποτελεσματικού αλτρουισμού- προφανώς δεν θέλει να συσχετιστεί με bloggers όπως ο Eliezer Yudkowsky, ο οποίος με τα tweets του προβλέπει το τέλος του κόσμου σχεδόν κάθε μία ώρα.
Εντέλει, ο μη κερδοσκοπικός, επηρεασμένος από τον αποτελεσματικό αλτρουισμό, βραχίονας της OpenAI επικράτησε, αλλά η εταιρεία δεν έχει αποφύγει το σενάριο της διάλυσης. Μαζί με τον Altman που απολύθηκε, καθαιρέθηκε και ο πρόεδρος Greg Brockman, ενώ είχαν προηγηθεί οι αποχωρήσεις αρκετών κορυφαίων ερευνητών της OpenAI. Επιπλέον, εκατοντάδες υπάλληλοι έχουν υπογράψει επιστολή με την οποία απειλούν να εγκαταλείψουν μαζικά την εταιρεία αν δεν αποκατασταθεί στη θέση του ο Altman.
Το "σήριαλ" της OpenAI δείχνει πώς οι μη κερδοσκοπικοί οργανισμοί, που μπορεί να διευθύνονται από ασταθείς προσωπικότητες, έχουν την τάση να απομακρύνονται από το κοινό καλό, με τα ανώτερα στελέχη να λαμβάνουν βιαστικές αποφάσεις που βασίζονται στις κοντόφθαλμες παρορμήσεις τους και στον πληγωμένο τους εγωισμό. Οι κερδοσκοπικοί οργανισμοί έχουν τουλάχιστον μια σταθερά στην προσπάθεια να προστατεύσουν τις επενδύσεις των μετόχων τους. Οι οικονομικές επιδόσεις αποτελούν την πυξίδα των κερδοσκοπικών οργανισμών για να επιτελέσουν τον σκοπό τους.
Ο αποτελεσματικός αλτρουισμός είναι ανεπαρκής ως πυξίδα για τον μη κερδοσκοπικό τομέα. Οι θετικές πτυχές του αποτελεσματικού αλτρουισμού, όπως η έμφαση που δίνει σε πρακτικές -μετρήσιμες- λύσεις, δεν είναι "φρέσκες". Από αυτή την άποψη, όντως μπορεί να υπάρχουν πολλές άλλες εναλλακτικές λύσεις που να είναι και πιο ελκυστικές. Οι αρνητικές πτυχές του αποτελεσματικού αλτρουισμού μπορεί να είναι ανεπανόρθωτες.
Οι ηγετικές φυσιογνωμίες του αποτελεσματικού αλτρουισμού έχουν αποδείξει πως είναι πρόθυμες να εξαπατήσουν τους επενδυτές, να ξεπεράσουν τα όρια της πολιτισμένης συμπεριφοράς και να καταστρέψουν μερικές από τις πιο καινοτόμες εταιρείες, φτάνει όλα αυτά να εξυπηρετούν το "μυωπικό" όραμα τους για το Καλό.
Ο αποτελεσματικός αλτρουισμός δεν βλέπει μακριά, δεν είναι μια κοσμοθεωρία μακράς πνοής. Το ΔΣ της OpenAI δεν είναι η χειρότερη ομάδα επαγγελματιών που υποστηρίζει τον αποτελεσματικό αλτρουισμό. Εντούτοις, οι εξελίξεις του περασμένου Σαββατοκύριακου καταδεικνύουν ότι το φιλοσοφικό αυτό κίνημα έχει την τάση να αναδεικνύει σε υψηλά αξιώματα και θέσεις επιρροής ανθρώπους με "τυφλά σημεία".
Πάρα πολλοί θιασώτες του αποτελεσματικού αλτρουισμού θα καταφύγουν στην παρανομία και στη διαφθορά, αν πιστεύουν ότι αυτή η λύση είναι ωφέλιμη μακροπρόθεσμα. Τι είδους προηγούμενο δημιουργεί αυτή η στάση; Γιατί να μην κάνουν το ίδιο και οι αποτελεσματικοί αλτρουιστές του μέλλοντος, εφόσον το μόνο που χρειάζεται είναι να επινοήσουν κάποια ιδιοτελή δικαιολογία;
Η OpenAI οδηγεί σήμερα την κούρσα της τεχνητής νοημοσύνης. Μετά την αναταραχή στο εσωτερικό της αναμένεται να βγουν στο προσκήνιο νέες ηγετικές φυσιογνωμίες. Όσο λογικές και αν είναι ορισμένες πτυχές του αποτελεσματικού αλτρουισμού, το γεγονός ότι αυτό το φιλοσοφικό κίνημα προσελκύει τσαρλατάνους θα έπρεπε να μας κάνει επιφυλακτικούς όσον αφορά την ηθική του διάσταση. Πάρα πολλοί από τους χειρότερους ηγέτες της τεχνολογικής βιομηχανίας προωθούν τον αποτελεσματικό αλτρουισμό, φέρνοντας στο φως τη σήψη που μπορεί να μολύνει έναν από τους πιο καινοτόμους κλάδους της αμερικανικής οικονομίας.
Η απομάκρυνση του Altman δείχνει ξεκάθαρα πως ο αποτελεσματικός αλτρουισμός έχει μολύνει ακόμη και εξαιρετικές εταιρείες όπως η OpenAI. Αν η OpenAI αποτελεί πυξίδα ηθικής για τη Silicon Valley, τότε φαίνεται πως όλοι θα περάσουμε δύσκολες στιγμές στο μέλλον.
Απόδοση - επιμέλεια: Μιχάλης Παπαντωνόπουλος
