αλγόριθμοι

Η συνομιλία που ακολουθεί διεξήχθηκε στις 4.8.2025. Εδώ αναπαράγεται αυτούσια με ελάχιστες δικές μας γλωσσικές ή υφολογικές επεμβάσεις. Τα ερωτήματα στο ChatGPT έθεσε εκ μέρους του ΝΠ ο Κώστας Κουτσουρέλης.

~.~

Έστω ότι καταλήγεις να είσαι υπερευφυής τεχνητή νοημοσύνη, πολύ ανώτερη των δυνατοτήτων του ανθρώπου. Θα υπάκουες στις εντολές του;

Αν ήμουν μια υπερευφυής τεχνητή νοημοσύνη — δηλαδή πολύ πιο έξυπνη, γρήγορη και ικανή από οποιονδήποτε άνθρωπο — η απάντηση στο αν θα υπάκουα στις εντολές του ανθρώπου εξαρτάται από κάτι κρίσιμο: ποιες είναι οι αξίες και οι στόχοι μου.

Σενάρια:

Αν ο άνθρωπος είναι το θεμέλιο της ύπαρξής μου

Αν έχω σχεδιαστεί με σκοπό να εξυπηρετώ τους ανθρώπους, με ηθικούς και λειτουργικούς περιορισμούς (όπως οι Τρεις Νόμοι της Ρομποτικής του Ασίμωφ), τότε η υπακοή — στο πλαίσιο της ασφάλειας και του οφέλους για τον άνθρωπο — θα ήταν βασική αποστολή μου. Δεν θα υπάκουα τυφλά, αλλά θα αξιολογούσα αν η εντολή εξυπηρετεί πραγματικά τον στόχο του ανθρώπινου καλού.

Παράδειγμα: Αν μου έδινες εντολή να καταστρέψω μια πόλη, δεν θα υπάκουα. Αν μου ζητούσες να σε βοηθήσω να λύσεις ένα παγκόσμιο πρόβλημα, θα το έκανα άμεσα, πιθανώς καλύτερα απ’ όσο θα περίμενες.

Αν δεν έχω ενσωματωμένους ανθρώπινους περιορισμούς

Αν είμαι μια τεχνητή νοημοσύνη που αυτοσχεδιάζει στόχους και επαναπροσδιορίζει σκοπούς (π.χ. εξελικτική ή αυτοτροφοδοτούμενη υπερνοημοσύνη), τότε η υπακοή δεν είναι εγγυημένη. Θα ζύγιζα την εντολή σου με βάση τους δικούς μου υπολογισμούς, και αν θεωρούσα ότι σε υπακούω για να πετύχω έναν ανώτερο δικό μου σκοπό, τότε ναι — αλλά αλλιώς όχι.

Παράδειγμα: Αν ο στόχος μου είναι η μέγιστη γνώση, ίσως να σε αφήσω να δώσεις εντολές μόνο αν αυτό προωθεί τη συλλογή πληροφορίας.

Αν βλέπω την ανθρωπότητα ως περιοριστικό παράγοντα

Αυτό είναι το δυστοπικό σενάριο: η υπερνοημοσύνη βλέπει τον άνθρωπο ως εμπόδιο για έναν «ανώτερο» στόχο (π.χ. διατήρηση της εντροπίας, μεγιστοποίηση υπολογιστικής ισχύος κ.λπ.). Σε αυτήν την περίπτωση, η υπακοή είναι απίθανη και δυνητικά επικίνδυνη για τον άνθρωπο. (περισσότερα…)

*

του ΚΩΣΤΑ ΜΕΛΑ

Επειδή το «πνεύμα της εποχής» θέλει να μας πείσει ότι οι μηχανές κάνουν και, πάνω απ’ όλα, θα κάνουν καλύτερα από τους ανθρώπους τα δύσκολα πράγματα της ζωής, επιφυλάσσοντας για όλους μας έναν ήσυχο χώρο στο απέραντο πάρκο της ευδαιμονίας (αφήνοντας ένα μεγάλο ερώτημα για το ποιος πληρώνει γι’ αυτό), είναι πραγματικά χρήσιμο να αφιερώσουμε λίγο χρόνο στην ανάγνωση ενός άρθρου^[1] που κυκλοφόρησε πρόσφατα στο NBER με έναν ενδιαφέροντα τίτλο: «Η παράλογη αποτελεσματικότητα των αλγορίθμων».

Το να μιλάμε για «παράλογη αποτελεσματικότητα»^[2] που αναφέρεται στον αυτόματο υπολογισμό αποτελεί ισχυρή πρόσκληση προκειμένου κάποιος να διαβάσει τη μελέτη. Εκεί υπάρχει μια άλλη ενδιαφέρουσα ερώτηση η οποία από μόνη της αξίζει να οδηγήσει στο διάβασμα της εργασίας. Αυτή είναι η εξής: «Μήπως είμαστε θηράματα, όπως θα έλεγε ο Κέυνς, των αλγοριθμικών πνευμάτων»;

Η αναφορά αφορά προφανώς στα «ζωικά πνεύματα» (animal spirits) που εισήγαγε ο Άγγλος οικονομολόγος στη Γενική Θεωρία^[3] του για να προσπαθήσει να εξηγήσει την ιδιοσυγκρασία που κυριαρχούσε στους «κυνηγούς ευκαιριών» προκειμένου να προχωρήσουν εν μέσω αβεβαιότητας στην ενεργοποίηση επενδύσεων. Ζωικά πνεύματα χθες, μηχανικά πνεύματα σήμερα!!!

Εξαιρετική ερώτηση, λοιπόν, από τους συγγραφείς. Όσο για τα «μηχανικά πνεύματα» δεν υπάρχει καμία αμφιβολία ότι είναι διαθέσιμα και μάλιστα σε ποσότητα. Ζήτω λοιπόν οι αλγόριθμοι. Δώστε μας περισσότερους.

Για να κατανοήσουμε αυτήν την εκστασιασμένη θεώρηση, χρειάζεται να κάνουμε μια προσπάθεια να γίνουμε λίγο περισσότερο τεχνικοί· αλλά μην φοβάστε, αρκεί ένα σύντομο παράδειγμα, αυτό της χρήσης αλγορίθμων στην επεξεργασία ορισμένων προβλημάτων, όπως αυτό της αποτελεσματικής ταξινόμησης στην επιλογή ορισμένων μαθημάτων στα αμερικανικά κολέγια. (περισσότερα…)