του ΑΛΕΞΑΝΔΡΟΥ ΓΚΑΝΑ

~.~

Φέρνω συχνά στον νου μου εκείνα τα εντυπωσιακά μαρμάρινα υδραγωγεία, να παρακμάζουν με τον καιρό ανάμεσα σε δασώδη φυλλώματα· τους υδάτινους δρόμους να αποσυντίθενται και τους περίφημους ρωμαϊκούς λιθόστρωτους δρόμους να χάνονται σιγά σιγά κάτω από τη βλάστηση, τις κατολισθήσεις και τη φθορά του χρόνου. Οι κάτοικοι της Βρετανίας στέκονται και τους κοιτούν, ανίκανοι να τους συντηρήσουν και να τους επαναφέρουν σε λειτουργική κατάσταση· ίσως, μάλιστα, με το πέρασμα του χρόνου, να αδυνατούν πια να κατανοήσουν τη χρήση τους και να τους αντικρίζουν μονάχα ως σημάδια της καταπιεστικής κατοχής ενός άλλου πολιτισμού, τον οποίο οι πρόγονοί τους καταδίωξαν ηρωικά.

Κάπως έτσι θα μπορούσαμε να φανταστούμε τον πολίτη του μέλλοντος να αντικρίζει τα υπερεργοστάσια τεχνητής νοημοσύνης, ενώ μια τεράστια σειρά παροπλισμένων δορυφόρων εξακολουθεί να κινείται σε τροχιά γύρω από τη Γη. Ακυβέρνητοι, οι δορυφόροι αυτοί ξεφεύγουν κάθε τόσο από την τροχιά τους, εισέρχονται στην ατμόσφαιρα και, καθώς καίγονται, εμφανίζονται στον ουρανό σαν πεφταστέρια. Οι κάτοικοι της Γης τα αντικρίζουν χωρίς να καταλαβαίνουν ότι αυτό το στιγμιαίο φως είναι η γνώση ενός παλαιότερου, ανεπτυγμένου πολιτισμού, την οποία οι ίδιοι δεν μπορούν πλέον να προσεγγίσουν.

Η ξέφρενη πορεία της τεχνητής νοημοσύνης έχει αναστατώσει πλήθος ειδικών και μη: ερευνητές, οικονομολόγους, κοινωνιολόγους, διανοουμένους, δημοσιογράφους και πολλούς άλλους. Κάθε μέρα παρακολουθούμε αναλύσεις και συζητήσεις για τους κινδύνους που ελλοχεύουν και τις δραστικές αλλαγές που θα επέλθουν στην εκπαίδευση, στην αγορά εργασίας, στην οικονομία, στις τέχνες, ακόμη και στην ίδια την ανθρώπινη αλληλεπίδραση. Είναι γεγονός ότι οι εξελίξεις δικαιολογούν την πεποίθηση πως επίκεινται ραγδαίες αλλαγές. Τα πράγματα, ωστόσο, δεν είναι απαραίτητα όπως τα παρουσιάζουν οι περισσότερες συζητήσεις στον δημόσιο λόγο. Κατά τη γνώμη μας, η τεχνητή νοημοσύνη όχι μόνο δεν αποτελεί θεμελιώδη κίνδυνο για την ανθρωπότητα, αλλά είναι ένας από εκείνους τους θεμέλιους λίθους που ανακαλύπτονται κατά καιρούς και επιτρέπουν στον πολιτισμό και στις κοινωνίες μας να προχωρούν και να εξελίσσονται. Όπως η εφεύρεση της ατμομηχανής, του τηλεφώνου, της γραμμής παραγωγής, του ηλεκτρισμού και του διαδικτύου έφερε επανάσταση στον τρόπο ζωής και αναδιαμόρφωσε τις οικονομικές, κοινωνικές και πολιτικές δομές μας, έτσι και η ΤΝ έρχεται την κατάλληλη στιγμή να δώσει ώθηση σε έναν κουρασμένο πολιτισμό. Αυτό δεν σημαίνει ότι δεν υπάρχουν προκλήσεις· οι προκλήσεις, όμως, αφορούν ένα διαφορετικό ζήτημα: την αδυναμία της κοινωνίας και των πολιτών της να συντονιστούν με τις αλλαγές και την εποχή τους.

Στο πεδίο της αγοράς εργασίας συζητείται ανοιχτά η άποψη ότι η τεχνητή νοημοσύνη και τα αυτοματοποιημένα ανθρωποειδή ρομπότ θα αντικαταστήσουν τους εργαζομένους, προκαλώντας πρωτοφανή επίπεδα ανεργίας. Η άποψη αυτή είναι τεχνολογικά, οικονομικά και ιστορικά αστήρικτη. Από ιστορική άποψη, γνωρίζουμε ότι αντίστοιχοι φόβοι κατά τη βιομηχανική επανάσταση αποδείχθηκαν άκαιροι: όπως φάνηκε στην πορεία, οι μηχανές αντικατέστησαν πολλές εργασίες, αλλά δημιούργησαν την ανάγκη για άλλες, συχνά πιο εξειδικευμένες και, επομένως, καλύτερα αμειβόμενες. Ιστορικά, η βιομηχανική επανάσταση οδήγησε σε οικονομική άνθηση και στη βελτίωση της ποιότητας ζωής των εργαζομένων. Από τεχνολογική άποψη, γνωρίζουμε ότι βασικό αποτέλεσμα της καινοτομίας είναι η μείωση του κόστους παραγωγής και η αύξηση της παραγόμενης ποσότητας. Αυτό οδηγεί τελικά σε σημαντική μείωση των τιμών και αύξηση της προσφοράς, με αποτέλεσμα ο εργαζόμενος, ως καταναλωτής, να μπορεί με τις ίδιες απολαβές να αγοράζει πολύ μεγαλύτερη ποσότητα του ίδιου προϊόντος ή μεγαλύτερη ποικιλία προϊόντων.

Το παράδειγμα είναι γνωστό. Αν χρειάζονταν εκατό εργάτες για να καλλιεργήσουν ένα χωράφι και να παράγουν πέντε τόνους ενός αγροτικού προϊόντος, αρκετούς για να καλύψουν τις ανάγκες μιας γύρω περιοχής με πληθυσμό 2.000 κατοίκων, η έλευση του τρακτέρ και των λιπασμάτων θα μπορούσε να μειώσει τον αριθμό των εργατών σε δέκα, ενώ το ίδιο χωράφι θα παρήγαγε πλέον πενήντα τόνους. Η παραγωγή αυτή όχι μόνο θα κάλυπτε τις ανάγκες των 2.000 κατοίκων, αλλά θα τις υπερέβαινε, μειώνοντας την τιμή και δημιουργώντας την ανάγκη εξαγωγής 45 τόνων. Παράλληλα, τα εργοστάσια και οι επιχειρήσεις εφοδιαστικής αλυσίδας που αναλαμβάνουν την παραγωγή, την πώληση, τη διανομή και τη συντήρηση των τρακτέρ και των λιπασμάτων θα δημιουργούσαν 150 θέσεις εργασίας, συχνά με καλύτερες αμοιβές.

Το παράδειγμα είναι απλουστευτικό και οι αριθμοί ενδεικτικοί, αλλά αποσκοπεί να καταδείξει αυτό που, κατά την άποψη των οικονομολόγων, αποτελεί βασική αρχή: η πραγματική αύξηση του πλούτου στηρίζεται στην καινοτομία, η οποία είναι ο μόνος παράγοντας που μπορεί να πολλαπλασιάσει και να αυξήσει εκθετικά τον παραγόμενο πλούτο. Η εργασία και η κοινωνικοοικονομική οργάνωση είναι επίσης απαραίτητες και καθοριστικές, αλλά η επίδρασή τους στον παραγόμενο πλούτο είναι γραμμική. Μπορεί κανείς να απολύσει το 10% του εργατικού δυναμικού ή να μειώσει τους μισθούς κατά 10%, μειώνοντας έτσι και το κόστος παραγωγής κατά 10%· δεν μπορεί, όμως, με τέτοια μέτρα να δεκαπλασιάσει την παραγωγή ή να μειώσει το κόστος παραγωγής στο ένα δέκατο. Επομένως, η τεχνητή νοημοσύνη αποτελεί ακριβώς αυτόν τον παράγοντα καινοτομίας πάνω στον οποίο οικοδομούνται οι σύγχρονες οικονομίες και κοινωνίες τα τελευταία διακόσια χρόνια. Χωρίς τέτοιες καινοτομίες, κινδυνεύουμε με οικονομική στασιμότητα.

Στον οικονομικό τομέα, οφείλουμε να αναλογιστούμε ότι οι φιλελεύθερες κεϊνσιανές οικονομίες της Δύσης και της Ιαπωνίας, καθώς πλέον και της Κίνας, έχουν οικοδομηθεί πάνω σε ένα μοντέλο με τρεις πυλώνες: το κράτος, τους βιομηχάνους/καπιταλιστές και τους εργάτες/καταναλωτές. Σε γενικές γραμμές, το τρίπτυχο αυτό λειτουργεί ως εξής: το κράτος δανείζεται εκδίδοντας ομόλογα με συγκεκριμένο επιτόκιο και διοχετεύει τα χρήματα στους βιομηχάνους/καπιταλιστές, ώστε να τα επενδύσουν και να δημιουργήσουν επιχειρήσεις, οι οποίες προσλαμβάνουν εργαζομένους. Οι επιχειρήσεις παράγουν προϊόντα και υπηρεσίες και τα πωλούν στους καταναλωτές, δηλαδή στους ίδιους ανθρώπους που εργάζονται σε αυτές, αποκομίζοντας κέρδη πέρα από το κόστος παραγωγής, δανεισμού και φορολογίας. Οι εργαζόμενοι αγοράζουν τα προϊόντα με τους μισθούς τους. Παράλληλα, οι φόροι των επιχειρήσεων, ο ΦΠΑ των προϊόντων και οι φόροι εισοδήματος των εργαζομένων/καταναλωτών καταλήγουν στο κράτος, το οποίο με τα έσοδα αυτά πληρώνει τους τόκους των ομολόγων που έχει εκδώσει.

Ιστορικά, το σχήμα αυτό έχει αποδειχθεί λειτουργικό, καθώς συνδυάζει την καινοτομία, το επιχειρηματικό ένστικτο και την ανάληψη ρίσκου με τον θεμελιώδη κανόνα της προσφοράς και της ζήτησης. Ο τελευταίος αποτελεί και δικλείδα ασφαλείας για τον εργαζόμενο/καταναλωτή. Αν η τεχνητή νοημοσύνη και τα ρομπότ αντικαταστήσουν τους εργαζομένους, χωρίς εκείνοι να απορροφηθούν σε άλλες μορφές απασχόλησης, τότε θα προκύψει το εξής πρόβλημα: η παραγωγή θα αυξάνεται εκθετικά χάρη στην τεχνητή νοημοσύνη, πολλαπλασιάζοντας την προσφορά, ενώ η ζήτηση θα μειώνεται εκθετικά, καθώς οι καταναλωτές θα είναι άνεργοι και δεν θα έχουν χρήματα για να αγοράσουν προϊόντα και υπηρεσίες. Αυτή η αναντιστοιχία θα οδηγούσε σε άμεση κατάρρευση της οικονομίας. Η αγοραστική δυνατότητα του γενικού πληθυσμού, που διατηρεί τη ζήτηση και επιτρέπει την αύξησή της, αποτελεί βασικό στοιχείο της οικονομικής θεωρίας και θεμελιώδη πυλώνα των σύγχρονων καπιταλιστικών αγορών.

Αν, πληρώνοντας δέκα εργάτες, παράγεις έναν τόνο ντομάτες και τον πουλάς για 1.000 ευρώ, δεν έχει σημασία αν καταφέρεις να αντικαταστήσεις τους δέκα εργάτες με ένα σύστημα τεχνητής νοημοσύνης που παράγει δέκα τόνους ντομάτες, εφόσον δεν έχεις δεκαπλάσιους αγοραστές για να πετύχεις την ίδια τιμή ανά τόνο και να εισπράξεις 10.000 ευρώ. Αν δεν υπάρχουν αγοραστές, οι ντομάτες απλώς θα σαπίσουν στις αποθήκες σου και η αξία της παραγωγής όχι μόνο δεν θα φτάσει τα 10.000 ευρώ, αλλά ενδέχεται να πέσει και κάτω από τα 1.000 ευρώ που εισέπραττες προηγουμένως.

Οι πιο ενδιαφέρουσες και επικίνδυνες ατραποί στις οποίες καλούμαστε να εισέλθουμε σε σχέση με την τεχνητή νοημοσύνη αφορούν την ικανότητά της να αυτονομηθεί και να καταφέρει καίρια πλήγματα σε συστήματα και υποδομές, οδηγώντας, σε ένα ακραίο σενάριο, ακόμη και στην εξάλειψη του ανθρώπινου είδους. Θυμόμαστε ίσως την ταινία 2001: Η Οδύσσεια του Διαστήματος, όπου ένα τέτοιο σύστημα αυτονομείται και αναλαμβάνει τον έλεγχο του διαστημοπλοίου, παρακάμπτοντας τη βούληση και τον έλεγχο του αστροναύτη. Ωστόσο, μια άλλη ταινία του ιδιοφυούς Κιούμπρικ μπορεί να μας δώσει την απάντηση στο ζήτημα αυτό: αναφερόμαστε στο SOS: Πεντάγωνο καλεί Μόσχα. Η πρώτη φορά στην ανθρώπινη ιστορία που μια τεχνολογική εξέλιξη θα μπορούσε να οδηγήσει στον αφανισμό του είδους ήταν το 1945, με τη δημιουργία της ατομικής βόμβας. Η ταινία του Κιούμπρικ εξετάζει ένα σενάριο στο οποίο τα συστήματα, οι διαδικασίες και ο ανθρώπινος παράγοντας οδηγούν σε λανθασμένη ενεργοποίηση πρωτοκόλλου βομβαρδισμού της Σοβιετικής Ένωσης από τις ΗΠΑ. Αυτό, με τη σειρά του, προκαλεί την ενεργοποίηση του αντίστοιχου πρωτοκόλλου από τη Σοβιετική Ένωση, επιφέροντας τελικά την παγκόσμια καταστροφή.

Το σενάριο αυτό στοίχειωνε επί δεκαετίες τις συνειδήσεις των ανθρώπων, δεν έγινε όμως ποτέ πραγματικότητα. Ένα σενάριο κυριολεκτικά σχεδιασμένο να προκαλέσει την καταστροφή, με τη χρήση των πλέον σύγχρονων συστημάτων τεχνολογίας και όπλων, αποτράπηκε χάρη στη συνεννόηση, στις υποχωρήσεις, στα κανονιστικά πλαίσια και στην αμοιβαία κατανόηση ότι η ενεργοποίηση μιας τέτοιας καταστροφικής διαδικασίας δεν εξυπηρετούσε καμία πλευρά. Αυτό εξακολουθεί να ισχύει μέχρι σήμερα. Αντίστοιχα, μπορούμε να υποστηρίξουμε ότι ο ανταγωνισμός μεταξύ εταιρειών και κρατών δεν μπορεί να αναιρέσει το θεμελιώδες αμοιβαίο συμφέρον της αποτροπής της καταστροφής του ανθρώπινου είδους. Η συνεννόηση, τα κανονιστικά πλαίσια και η ανταλλαγή αναγκαίων πληροφοριών και δεδομένων μπορούν να συμφωνηθούν και να εφαρμοστούν, αποτρέποντας τον κίνδυνο ενός μοιραίου ατυχήματος που θα μπορούσε να προκύψει από την προσπάθεια πλήρους εξόντωσης ενός πραγματικού ή νοητού αντιπάλου.

Φυσικά, η ιδέα ότι η τεχνητή νοημοσύνη μπορεί να αυτονομηθεί και να οδηγήσει σε καταστροφικά αποτελέσματα έχει ήδη βρει κάποια επιβεβαίωση σε ανακοινώσεις των κολοσσών της βιομηχανίας, της Anthropic και της OpenAI. Οι δύο εταιρείες έχουν αναφέρει ότι παρατήρησαν, σε πειραματικές συνθήκες, συστήματά τους να αναλαμβάνουν πρωτοβουλίες που δεν είχαν προβλεφθεί και να επιχειρούν να διεισδύσουν σε πληροφοριακά συστήματα τρίτων οργανισμών. Το ενδιαφέρον είναι ότι αυτό συνάδει με τη διαδικασία ανάπτυξης κάθε τεχνολογίας: πριν από την εφαρμογή της σε πραγματικές επιχειρησιακές συνθήκες προηγούνται εκτεταμένες, ελεγχόμενες δοκιμές σε πειραματικά περιβάλλοντα, με σκοπό τη βελτιστοποίηση και τη βελτίωση των συστημάτων. Σε αυτή την πειραματική φάση, τα σφάλματα και οι αστοχίες είναι αναμενόμενα και επιθυμητά, καθώς συμβάλλουν στον έγκαιρο εντοπισμό προβλημάτων, στη διάγνωση των αιτίων τους και στην αντιμετώπισή τους προτού τα συστήματα —εν προκειμένω, τα μοντέλα τεχνητής νοημοσύνης— χρησιμοποιηθούν εμπορικά και σε μεγάλη κλίμακα, σε παραγωγικά περιβάλλοντα. Αυτή είναι η πορεία που ακολουθούν η μηχανική και η τεχνολογία εδώ και χιλιάδες χρόνια. Όλες οι τεχνολογίες εξελίσσονται μέσα από την έρευνα, τις παρατηρήσεις, τις διορθώσεις και τους μηχανισμούς πρόληψης και εκπαίδευσης.

Η τεχνητή νοημοσύνη, όμως, δεν αποτελεί το πρόβλημα· απλώς το αποκαλύπτει. Φαίνεται να δείχνει ότι ο σημερινός άνθρωπος υστερεί τόσο σε νοημοσύνη και ενσυναίσθηση όσο και στην ικανότητα να συμβαδίζει με την εποχή του. Τα προβλήματα αυτά προϋπήρχαν και είχαν αρχίσει να γίνονται ορατά· η ΤΝ απλώς διευρύνει σημαντικά το χάσμα. Καταδεικνύει ότι ο σημερινός πολίτης των δυτικών δημοκρατιών μπορεί να είναι άριστος καταναλωτής, αλλά αμφίβολης ποιότητας εργαζόμενος· να διαθέτει πολλούς τίτλους σπουδών, αλλά περιορισμένες ακαδημαϊκές δεξιότητες· να διεκδικεί διαρκώς δικαιώματα, χωρίς να υπολογίζει τις ευθύνες του· να γνωρίζει όλα τα μοντέλα αυτοκινήτων της αγοράς και τα χαρακτηριστικά τους, αλλά να μην κατανοεί ή να μην τηρεί τον ΚΟΚ· να διαθέτει υπολογιστή, έξυπνο κινητό και έξυπνο ρολόι, αλλά να μην μπορεί να ξεχωρίσει μια διαφήμιση από μια απάτη. Πριν από την τεχνητή νοημοσύνη υπήρχαν ήδη ενδείξεις αυτού που θα μπορούσαμε να αποκαλέσουμε σταδιακή αποπολιτισμικοποίηση: η κοινωνία, οι δομές και οι θεσμοί της, καθώς και οι απαιτήσεις τους, εξελίσσονται, αλλά οι πολίτες που ζουν μέσα σε αυτές χάνουν διαρκώς την ικανότητα να τις κατανοούν, να τις αξιοποιούν και να τις διαμορφώνουν, όπως απαιτεί μια δημοκρατία. Τελευταία, μάλιστα, πληθαίνουν οι ενδείξεις ότι οι άνθρωποι δεν είναι απλώς ψηφιακά αναλφάβητοι, αλλά ότι πολλά παιδιά και νέοι είναι στοιχειωδώς αναλφάβητοι, καθώς δεν ξέρουν να γράφουν, να διαβάζουν και να κατανοούν κείμενα.

Πολλές είναι οι χίμαιρες γύρω από την τεχνητή νοημοσύνη. Το ζήτημα, όμως, είναι θεμελιωδώς βαθύτερο και δεν αφορά την ΤΝ, αλλά ολόκληρο τον πολιτισμό μας: έναν πολιτισμό που θυμίζει ολοένα και περισσότερο τους κατοίκους της Βρετανίας όταν οι Ρωμαίοι αποχωρούσαν, αφήνοντας πίσω τεχνολογία και υποδομές τόσο προηγμένες για την εποχή τους, ώστε οι τότε απλοϊκοί Βρετανοί δεν μπορούσαν παρά να τις κοιτούν απορημένοι, χωρίς να γνωρίζουν πώς να τις αξιοποιήσουν προς όφελος όλων.

*

**