Γιατί σταμάτησα την έρευνα στα προβλήματα του Μπόνγκαρντ

του Χάρη Φουνταλή

Σημείωση 1: το κείμενο αυτό αρχικά γράφτηκε στα αγγλικά, με αποδέκτη το Αμερικανικό κοινό κυρίως. Κάποιοι φίλοι-μου όμως μου ζήτησαν να το μεταφράσω στα ελληνικά, και το αποτέλεσμα είναι η παρούσα σελίδα.

Σημείωση 2: αυτό το κείμενο γράφτηκε το καλοκαίρι του 2007, και εξηγεί γιατί εγώ, ο συγγραφέας, έκανα ένα μεγάλο διάλειμμα από την ενασχόλησή μου με θέματα έρευνας του τομέα-μου, μετά από το καλοκαίρι του 2006. Όταν έγραψα το παρόν, και μέχρι περίπου το 2011, είχα πραγματικά σταματήσει την έρευνά μου — οπότε ο τίτλος ήταν σωστός μέχρι τότε. Αργότερα, μετά από το 2011, άρχισα δειλά-δειλά να ερευνώ και πάλι, αλλά μόνος-μου — για λόγους που εξηγούνται προς το τέλος του παρόντος — και μάλιστα με κάποια επιτυχία. Οπότε ο τίτλος δεν είναι σωστός πλέον. Θα έπρεπε να λέει: «Γιατί υποχρέωσα τον εαυτό-μου να κάνει ένα μεγάλο διάλειμμα από την έρευνά μου». Εντούτοις προτίμησα να διατηρήσω αυτό το άρθρο στο διαδίκτυο σαν τεκμήριο μιας σημαντικής περιόδου της ζωής-μου, καθώς εξηγεί τη στάση-μου στην επιστημονική έρευνα γενικά.

Μια ιστοσελίδα που έφτιαξα κάπου 10 χρόνια πριν (αυτή, αλλά στα αγγλικά) εξηγεί τη θαυμάσια περιοχή έρευνάς μου στη νοολογία: τα προβλήματα του Μπόνγκαρντ. Σήμερα, μια δεκαετία αργότερα, παρά το αμείωτο ενδιαφέρον που εξακολουθώ να έχω για τα προβλήματα του Μπόνγκαρντ, έχω σταματήσει να δουλεύω προς την κατεύθυνση αυτή για κάποιους λόγους ηθικής τάξης. Θα ήθελα να εξηγήσω ποιοι είναι οι λόγοι αυτοί, γιατί πιστεύω πως ενδιαφέρουν όλους-μας· όχι μόνο τους νοολόγους σαν εμένα, όχι μόνο τους επιστήμονες γενικότερα, αλλά στην κυριολεξία τον καθένα-μας. Ιδού μια σύντομη ανασκόπηση:

Πρώτα-πρώτα, τί είναι τα προβλήματα του Μπόνγκαρντ; Μπορείτε να μάθετε την απάντηση ακολουθώντας το σύνδεσμο που έδωσα μόλις παραπάνω, αλλά για να σας βοηθήσω να μην “ξεστρατίσετε” από την παρούσα σελίδα, θα σας πω οτι τα προβλήματα του Μπόνγκαρντ είναι “οπτικά αινίγματα”: σας δίνεται ας πούμε ένα διάγραμμα όπως αυτό με τα 6+6 κουτάκια παρακάτω, κ’ εσείς προσπαθείτε να βρείτε γιατί τα έξι κουτάκια στ’ αριστερά έχουν τοποθετηθεί ξέχωρα από τα έξι κουτάκια στα δεξιά. Τί το κοινό υπάρχει στο περιεχόμενο καθενός από τα έξι κουτιά αριστερά, που δεν υπάρχει στο περιεχόμενο κανενός από τα έξι δεξιά;

Πρόβλημα Μπόνγκαρντ #38: Τί το κοινό έχουν όλα τα κουτιά στ’ αριστερά; Και τί εκείνα στα δεξιά;

Η έρευνά μου επικεντρώθηκε στην κατασκευή ενός προγράμματος υπολογιστή, που το ονόμασα Φαιακώ, που μπορούσε να λύσει τέτοια προβλήματα αυτόματα. Στην πραγματικότητα, το να γράψει κανείς ένα πρόγραμμα που να μπορεί να το κάνει αυτό δεν είναι δα και τόσο αξιοπρόσεκτο. Το πώς μπορεί να γίνει είναι που έχει ιδιαίτερη σημασία· γιατί από τη μια μεριά υπάρχουν τετριμμένα, μηχανικά, και μη ενδιαφέροντα προγράμματα, κι από την άλλη υπάρχουν προγράμματα που δείχνουν πιο “ανθρώπινη” συμπεριφορά καθώς λύνουν αυτά τα προβλήματα. Η διατριβή-μου περιγράφει μια υπολογιστική αρχιτεκτονική για τη νόηση (αυτό είναι η Φαιακώ) που, μεταξύ άλλων, μπορεί να λύσει προβλήματα του Μπόνγκαρντ, επιδεικνύοντας μια μάλλον “ανθρώπινη” συμπεριφορά.

Με άλλα λόγια, ο στόχος της έρευνάς μου ήταν να γράψω όχι απλώς ένα πρόγραμμα που να λύνει προβλήματα του Μπόνγκαρντ, αλλά ένα πρόγραμμα που να υλοποιεί κάποιες θεμελιώδεις αρχές της νόησης (κείμενο στα αγγλικά), οι οποίες να το βοηθούν να επιδείξει — στοιχειωδώς έστω — κάποια χαρακτηριστικά ανθρώπινης συμπεριφοράς, ή ανθρώπινης σκέψης.

Ωραία. Και τί σχέση έχει η ηθική με όλ’ αυτά;

Η ηθική έχει να κάνει με τη μακρυνή πιθανότητα κατασκευής νοήμονων μηχανών που δρουν σαν — αλλά και μοιάζουν με — ανθρώπους. Αν αυτό επιτευχθεί, τελικά θα κατασκευαστούν νοήμονα όπλα μαζικής καταστροφής, χωρίς αμφιβολία. Αυτό είναι που θα ήθελα να εξηγήσω παρακάτω.

Ρίξτε μια ματιά στην εικόνα της γυναίκας, αριστερά. Μοιάζει αληθινή; Δεν είναι. Είναι μια κούκλα, και ονομάζεται “ηθοποιοειδές” (actroid). Μπορείτε να μάθετε περί ηθοποιοειδών κάνοντας κλικ στην εικόνα, αλλά με συντομία, ένα ηθοποιοειδές είναι «ένα ανθρωποειδές ρομπότ με έντονα ανθρώπινη όψη» που «μπορεί να μιμηθεί ζωτικές λειτουργίες όπως το πετάρισμα των βλεφάρων, η ομιλία, και η αναπνοή». Αυτό που βλέπουμε εδώ είναι ένα διαδραστικό ρομπότ με ικανότητα ν’ αναγνωρίζει και να παράγει ομιλία, και ν’ αποκρίνεται ανάλογα. Τέτοια ρομπότ έχουν αρκετή “τεχνητή νοημοσύνη” ώστε ν’ αποφεύγουν ενοχλήσεις, όπως ένα χαστούκι ή ένα τσίμπημα, αλλά αντιδρούν διαφορετικά σε πιο ευγενικές χειρονομίες, όπως ένα χάδι στο μπράτσο. «Το δέρμα είναι από σιλικόνη και μοιάζει πολύ ρεαλιστικό.» (Χωρίς επουσιώδεις λεπτομέρειες κάτω απ’ τα ρούχα, υποθέτω.)

Τώρα σκεφτείτε αυτό το ρομπότ στο όχι και τόσο μακρυνό μέλλον. Φανταστείτε οτι έχει αρκετή υπολογιστική ισχύ στο κεφάλι-της (ή στο θώρακα, δεν έχει σημασία πού) ώστε να της επιτρέπει να συμπεριφέρεται φυσιολογικά, σαν άνθρωπος. Και φανταστείτε επίσης οτι στην κοιλιά-της εγκυμονεί όχι ανθρωποειδή όργανα (που θα της ήσαν άχρηστα), αλλά μια μικρή πυρηνική βόμβα.

Αδύνατο; Γιατί όχι; Δεν μιλάω για τρέχουσα τεχνολογία, με την οποία τα πυρηνικά όπλα μοιάζουν με τέρατα. Μιλάω για μελλοντική τεχνολογία, όταν η σμίκρυνση των πάντων ακούγεται λογικοφανής.

Ούτε μιλάω για πυρηνική βόμβα ικανή να αφανίσει μια ολόκληρη πόλη, αλλά για κάποια που να μπορεί να μετατρέψει σε στάχτη πιθανώς μερικά οικοδομικά τετράγωνα, και να κάνει μη κατοικίσιμα ακόμα περισσότερα.

(Σημείωση: Ένας αναγνώστης αντέταξε οτι υπάρχει ένα όριο στο κατά πόσο μπορούν να μικρύνουν τα πυρηνικά όπλα, λόγω της γνωστής κρίσιμης μάζας που απαιτείται ώστε το ραδιενεργό υλικό ν’ αρχίσει πυρηνικές αλυσσιδωτές αντιδράσεις, και τα υπόλοιπα μαραφέτια που πρέπει να κουβαλάει μια πυρηνική βόμβα προκειμένου να λειτουργήσει με ελεγχόμενο τρόπο. Δεν αντιλέγω. Παρόλο που δεν μπορούμε να μαντέψουμε την τεχνολογία του μέλλοντος επί τη βάσει των όσων γνωρίζουμε στο παρόν, ας υποθέσουμε οτι το να φυτέψουμε μια πυρηνική βόμβα στην κοιλιά ενός ρομπότ θα είναι για πάντα αδύνατο. Μα δεν προτίθεμαι να περιορίσω το εύρος της συζήτησής μας στα πυρηνικά όπλα μόνο. Θα μπορούσαν να είναι βιολογικά όπλα: μια “βόμβα” που διασπείρει θανατηφόρους ιούς, χωρίς καν την ανάγκη έκκρηξης, αλλά λειτουργώντας απλώς μέσω του βήχα ή του φταρνίσματος του ηθοποιοειδούς. Άρα όταν διαβάζετε περί “πυρηνικών όπλων” στο άρθρο αυτό, παρακαλώ ερμηνεύστε-το αυτό σαν γενική αναφορά σε “όπλα μαζικής καταστροφής”.)

Γιά να δούμε... Υποθέτω οτι δεν αντιτίθεστε στην άποψη οτι αυτό είναι ένα πιθανό σενάριο. Αυτό που πραγματικά πιστεύετε (ή ίσως απλώς ελπίζετε) είναι οτι θα είμαστε εμείς, η δική-μας πλευρά, ο δικός-μας στρατός που θ’ αποκτήσει τέτοια θαυματουργά όπλα. Ο εχθρός δεν θα τα έχει, οπότε εμείς, με την υπερέχουσα τεχνολογία-μας, θ’ αναδειχθούμε νικητές και θα ζήσουμε ευτυχισμένα για πάντα, έχοντας συντρίψει τους βαρβάρους. Yey!

Συνήθως είναι ο μέσος Αμερικανός που εμφορείται μ’ αυτή την ψυχολογία αναφορικά με τα όπλα υψηλής τεχνολογίας. (Αν είστε Αμερικανός και διαβάζετε το παρόν, αυτό που μόλις έγραψα δεν συνεπάγεται οτι υποχρεωτικά έχετε την ίδια ψυχολογία· προσέξτε τη λέξη “μέσος”, παρακαλώ.) Η Αμερικανική κουλτούρα έχει μια ανατριχιαστικά παιδιάστικη προσέγγιση στα όπλα, όπως και μια αλλόκοτη (αλλά επίσης παιδιάστικη) αδιαφορία για την ανθρώπινη ζωή. (Και πάλι, μπορεί να είστε ένας έξυπνος, ώριμος Αμερικανός, που σέβεται τη ζωή βαθύτατα· είναι ο μέσος συμπατριώτης-σας στον οποίο αναφέρομαι.) Νά τί έγραψε ένας Αμερικανός δημοσιογράφος στην Ουάσιγκτον Ποστ, την 6^η Μαΐου του 2007:

«Άρα σε ποια κατηγορία μπαίνει το ιπτάμενο όχημα που ονομάζεται Κυνηγός; [Μιλάει για ένα ιπτάμενο ρομπότ.] Είναι μη επανδρωμένο, και εντυπωσιακό. Το 2002, στην Υεμένη, ένα απ’ αυτά καθοδηγούμενο από τη CIA ήρθε πίσω από ένα τζιπ γεμάτο με αρχηγούς της Αλ Κάιντα και του έριξε με επιτυχία έναν πύραυλο Hellfire, αφήνοντας ένα μεγάλο κρατήρα που κάπνιζε εκεί όπου πριν ήταν το όχημα.»

Μάλιστα, όπως το διαβάσατε: μια ομάδα ανθρώπων διαμελίστηκαν κ’ έγιναν στάχτη, κι αυτός ο θλιβερός δημοσιογράφος, όποιος κι αν είναι, μιλώντας με τη νοημοσύνη ενός 10χρονου που ανατινάσσει τα στρατιωτάκια-του, μας αναφέρει ψυχρά το πώς οι άνθρωποι μετατράπηκαν σε σκόνη από τα αγαπημένα-του («εντυπωσιακά», yeah) στρατιωτικά παιχνίδια. Φυσικά, για τους υπεραναπτυγμένους μπεμπέδες σαν και του λόγου-του, το τζιπ δεν ήταν γεμάτο από ανθρώπινα όντα, αλλά από «αρχηγούς της Αλ Κάιντα» (γιατί, είδαν τα γαλόνια-τους;), τρομοκράτες, υπανθρώπους που δεν αξίζουν να ζουν, που δεν έχουν μάνες να συντριβούν από το χαμό-τους. Η αντιμετώπιση του εχθρού σαν υπο-ανθρώπινο βδέλυγμα που πρέπει να εξαλειφθεί χωρίς δεύτερη σκέψη ήταν χαρακτηριστική των Ναζί εναντίον των Εβραίων (και άλλων) κατά το 2^ο Παγκόσμιο Πόλεμο. (Το πλήρες άρθρο, του οποίου άλλοτε έδινα το σύνδεσμο εδώ, αλλά αφαίρεσα αργότερα ώστε να μην αποκαλύπτω πλέον το όνομα του συγγραφέα-του, εξηγεί το πώς οι στρατιώτες συνδέονται συναισθηματικά με τα ρομπότ-τους, προεκτάσεις των εφηβικών παιχνιδιών-τους, προφανώς εκχωρώντας σ’ αυτά υψηλότερη αξία από την ανθρώπινη ζωή.)

Αν αυτή η στάση ήταν σπάνια μεταξύ των Αμερικανών, αν η παραπάνω ιστορία ήταν μοναδική στο είδος-της, δεν θ’ ανησυχούσα καθόλου. Οποιοσδήποτε βλαξ μπορεί να πει ότι θέλει σε μια ελεύθερη κοινωνία, και μπορεί ακόμη και να δει τις βλακώδεις ιδέες-του τυπωμένες. Το πρόβλημα, κατά τη γνώμη-μου, είναι οτι έχω δει την παραπάνω στάση ξανά και ξανά στα χρόνια που έζησα στις Η.Π.Α. Κάποτε, ο καθαριστής του κτιρίου όπου δούλευα την έρευνά μου, έχοντας μόλις μάθει κάποια λυπηρά νέα για μερικούς Αμερικανούς στρατιώτες που είχαν σκοτωθεί στο Ιράκ, αναρωτήθηκε σε μια συζήτηση μαζί-μου: «Γιατί δεν τους εξαλείφουμε όλους με πυρηνικά τέλος-πάντων; Ας κάνουμε την καταραμένη έρημο γυαλί, για να τελειώνουμε μ’ αυτούς τους ___» (δεν θυμάμαι ποιο επίθετο χρησιμοποίησε). Μπορεί να νομίσετε οτι ο καθαριστής δεν ήταν πολύ “σοφιστικέ” στον τρόπο με τον οποίο πλησίαζε τον πόλεμο και την ανθρώπινη ζωή. Αλλά λίγες μέρες αργότερα διάβαζα ένα άρθρο σε μια ιστοσελίδα, της οποίας δυστυχώς δεν έσωσα τη διεύθυνση, που περιέγραφε μια κατάσταση παρόμοια με την παραπάνω: πώς να χρησιμοποιηθούν ρομπότ για να μπουν σε σπηλιές (ήταν γνωστό τότε οτι ο αρχηγός της Αλ Κάιντα, ο Οσάμα μπιν Λάντεν, κρυβόταν σε σπηλιές στα σύνορα Αφγανιστάν–Πακιστάν), να ψάξουν για τρομοκράτες, και να τινάξουν στον αέρα όλο τον τόπο: τρομοκράτες, ρομπότ, τα πάντα· «να τους ξεκαπνίσουν έξω απ’ τις τρύπες-τους» (“to smoke them out of their holes”), όπως εκείνη η εμβληματικά σοφή φιγούρα, ο Αμερικανός πρόεδρος G. W. Bush, είχε πει αμέσως μετά από τις επιθέσεις της 11ης Σεπτεμβρίου.

Σημείωση: Επί χρόνια δίσταζα να ανεβάσω τις φωτογραφίες που ακολουθούν, γιατί μου προκαλούσαν ταραχή. Αλλά τώρα (2009), αρκετά χρόνια μετά την Αμερικανική εισβολή και κατοχή του Ιράκ, και με τα πνεύματα να έχουν κάπως ηρεμήσει, νομίζω πως αυτές οι φωτογραφίες θα έπρεπε να βλέπονται σε μια σελίδα που λαμβάνει αρκετές επισκέψεις από Αμερικανούς αναγνώστες (στην αγγλική έκδοσή της). Γιατί τότε (το 2003) τέτοιες εικόνες δεν περνούσαν ποτέ μέσα από το κόσκινο των “αποδεκτών” φωτογραφιών, καθώς κρίνονταν ακατάλληλες για το — ω, τόσο ευαίσθητο — Αμερικανικό κοινό, από τα μέσα ενημέρωσης των Η.Π.Α. Ορίστε, νά-τες λοιπόν: αυτές οι εικόνες είναι που — μεταξύ άλλων — μου έδωσαν μια γερή κλωτσιά και με ξαπόστειλαν από τη “γη των ελεύθερων” (εφήβων και άλλων ανώριμα σκεπτόμενων ανθρώπων), αφού προσπαθούσα να πάψω να αισθάνομαι σαν συνεργός στις ωμότητές τους:   Παιδί του Ιράκ, ο Αλί Ισμαλί Αμπάς, 12 ετών, Απρίλιος 2003, αμέσως μετά την εισβολή στο Ιράκ από τις Η.Π.Α. Θέλει πίσω τα χέρια-του. Ο κ. Αλ-Σαουάμρα κρατά στα χέρια- του ότι απέμεινε από την οικογένειά του, όταν αεροπλάνο των ΗΠΑ του βομβάρδισε το σπίτι. Παιδιά του Ιράκ μετά από βομβιστική επίθεση στο σχολείο-τους, Απρίλιος 2007. Παρόλο που το έκαναν Ισλαμιστές, αυτό δεν θα είχε συμβεί χωρίς την Αμερικανική εισβολή. Αυτές οι εικόνες δεν δίνουν ούτε την ελάχιστη ιδέα του μακελειού και της συμφοράς που τα “εντυπωσιακά” και “νοήμονα” όπλα ψυχικής καταστροφής επέφεραν στο λαό του Ιράκ. Κύριε Αμερικάνε δημοσιογράφε — ναι, σ’ εσάς τον “εντυπωσιασμένο” μιλάω — σας κάνουν καθόλου εντύπωση αυτές οι εικόνες; Είναι άραγε μόνο οι καπνίζοντες κρατήρες τρομοκρατών που αξίζουν το θαυμασμό-σας; Ή μήπως νομίζετε οτι ο πόλεμός σας αφήνει πίσω-του μόνο νεκρούς «αρχηγούς της Αλ Κάιντα» και άλλους τρομοκράτες;

Λοιπόν, επιστρέφουμε στο θέμα-μας: τί ωραία που θα ’ταν να ’χαμε “ηθοποιοειδείς” εγκύους με πυρηνικά ή βιολογικά όπλα, έτσι δεν είναι; Ίσως “πυρηνικοειδή”, ε; Τί θα λέγατε; Φυσικά, μόνο εμείς θα γνωρίζαμε οτι είναι στην πραγματικότητα πυρινικοειδή. Οι τρομοκράτες θα τα περνούσαν για κανονικούς ανθρώπους.

Πόσο ανώριμος θα πρέπει να είναι κανείς για να σκεφτεί κάτι τέτοιο! Φέρτε στο νου-σας τα πυρηνικά όπλα. Όταν εμφανίστηκαν αρχικά, στο δεύτερο μισό του 20^ού αιώνα, μόνο πέντε χώρες τα κατείχαν: οι Η.Π.Α., η Μ. Βρετανία, η Γαλλία, η Σοβιετική Ένωση, και η Κίνα (οι νικητές του πολέμου). Σταδιακά, κι άλλες χώρες μπήκαν στο πυρηνικό κλαμπ, μερικές ανοιχτά (Ινδία, Πακιστάν), άλλες στα κρυφά (Ισραήλ). Τώρα, οποιοδήποτε κράτος-παρίας μπορεί να έχει τα πυρηνικά παιχνίδια-του, ή να ονειρεύεται να τα αποκτήσει. Τον καιρό που πρωτογράφτηκε το παρόν, υπήρχε διάχυτος φόβος στη διεθνή κοινότητα οτι το δικτάτορα του Πακιστάν — τον υποστηριζόμενο από τις Η.Π.Α. — θα τον έριχναν ακραίοι Ισλαμιστές, οπότε το πυρηνικό οπλοστάσιο του Πακιστάν θα έπεφτε στα χέρια φανατικών και τρομοκρατών. Δεν είναι μυστικό οτι το Ιράν — ορκισμένος εχθρός των Η.Π.Α. — σχεδιάζει να φτιάξει το δικό-του πυρηνικό οπλοστάσιο. Η Τουρκία, προς το παρόν σύμμαχος των Η.Π.Α., θέλει να χτίσει τα δικά-της πυρηνικά εργοστάσια, “για ενεργειακούς σκοπούς και μόνο”. Αλλά μετά από μια-δυο δεκαετίες η Τουρκία μπορεί να μετατραπεί σε σφηκοφωλιά ακραίων Ισλαμιστών, λόγω της δημογραφικής-της σύστασης που αλλάζει σταθερά· οπότε στο μέλλον μπορεί να έχουμε άλλο ένα “Ιρανίζον” έθνος στην ίδια ασταθή περιοχή. Άρα βάσει ποιας διαστρέβλωσης της κοινής λογικής θα είναι αδύνατο για κράτη-παρίες, ή ακόμα και για μεμονωμένα άτομα, να κατέχουν “πυρηνικοειδή” στο προβλέψιμο μέλλον;

Η τεχνολογία διαδίδεται· δεν είναι κάτι που μπορεί να περιοριστεί μέσα σ’ εθνικά σύνορα. Ειδικά αν μιλάμε για παγκοσμιοποίηση, πρέπει να καταλάβουμε οτι και η γνώση γίνεται παγκόσμια, κι αυτό περιλαμβάνει και την εξειδικευμένη γνώση που χρειάζεται για να φτιαχτούν ιδιαίτερα μικρά όπλα μαζικής καταστροφής, ή ένα φονικό ανθρωποειδές ρομπότ.

Λοιπόν, πώς σχετίζονται όλα τα παραπάνω με τη δουλειά σε αθώα ερευνητικά προγράμματα, όπως η αυτοματοποίηση της λύσης προβλημάτων του Μπόνγκαρντ;

Όπως εξήγησα νωρίτερα, δεν πρόκειται απλώς για την αυτοματοποίηση των προβλημάτων του Μπόνγκαρντ. Πρόκειται για την αυτοματοποίηση της νόησης. Ορίστε τί θα μπορούσε θεωρητικά (in principle) να κάνει η Φαιακώ, το πρόγραμμα που ανέπτυξα:

Η παραπάνω κινούμενη εικόνα ξεκινά με τη φωτογραφία ορισμένων οικοδομικών τετραγώνων μιας πόλης, που πήρα από το Google Earth. Κατόπιν δείχνει το αποτέλεσμα της εφαρμογής διαφόρων “φίλτρων” που κάνουν μια στοιχειώδη “επεξεργασία εικόνας”. Μετά γίνεται περαιτέρω επεξεργασία εικόνας, με τρόπους που είναι συγκεκριμένοι για τη Φαιακώ (γιατί το πρόγραμμα υποθέτει οτι του έχει δοθεί ένα πρόβλημα Μπόνγκαρντ), μέχρις ότου φτάσουμε σε μια εικόνα όπου τα οικοδομικά τετράγωνα έχουν ταυτοποιηθεί και οι θέσεις-τους είναι πλέον γνωστές. Τώρα φανταστείτε οτι αυτή είναι η πόλη-σας — το σπίτι-σας είναι ίσως σε ένα από αυτά τα τετράγωνα — και οτι ένα αεροπλάνο χωρίς πιλότο πετάει από πάνω, ταυτοποιώντας τα τετράγωνα όπως υποδεικνύει η παραπάνω εικόνα, αλλά πολύ γρήγορα, σε πραγματικό χρόνο. Το αεροπλάνο θα μπορούσε να είναι οπλισμένο με βόμβες, και  “έξυπνο”, τόσο ώστε να στοχοποιήσει ένα από τα τετράγωνα και να στείλει μια βόμβα σ’ αυτό — “έξυπνο”, αλλά ηθικά ανίδεο.

Όποιος δουλεύει στον τομέα της μηχανικής νοημοσύνης (machine intelligence), και ειδικά όποιος θέλει να “δώσει πνοή ζωής” σε μηχανές, πρέπει ν’ αντιληφθεί τις σοβαρώτατες ηθικές συνέπειες μιας τέτοιας επιθυμίας. Κοιτάξτε το παρακάτω μήνυμα που έλαβα από ένα φοιτητή στο Indiana University (το “IU”, το πανεπιστήμιο όπου έκανα το διδακτορικό-μου) το 2008 (η έμφαση δική-μου):

Γεια σε όλους,

  Το Κλαμπ Ρομποτικής του IU κάνει την πρώτη συνάντησή του αυτή την Πέμπτη,
17 Ιανουαρίου. Είμαστε μια ομάδα προπτυχιακών και μεταπτυχιακών σπουδαστών, ερχόμενοι
από πολλούς τομείς με κοινό ενδιαφέρον σε οτιδήποτε σχετικό με ρομποτική, αυτόματα,
συνθετική ζωή, και τεχνητή νοημοσύνη. Παρακινούμε τους συναδέλφους-μας να δώσουν
πνοή ζωής στην ύλη, ότι κι αν αποφασίσουν οτι σημαίνει αυτό.

Καταλαβαίνει κανείς στο IU τα ηθικά προβλήματα με τα οποία παίζουν αυτά τα παιδιά; Είναι όντως πιο σημαντικό να αγωνιούμε για τις συνέπειες της κλωνοποίησης και την έρευνα σε βλαστοκύτταρα; Δεν έχει σημασία το οτι αυτά τα παιδιά, ή ίσως τα παιδιά-τους, μπορεί να μετατραπούν σ’ ένα νέφος ασύνδετων υποατομικών σωματιδίων κάποια μέρα στο όχι και τόσο μακρυνό μέλλον μέσω των καρπών των ίδιων των παιχνιδιών-τους; Ή μήπως αυτό που προκαλεί την αδιαφορία είναι το οτι το μέλλον αυτό φαίνεται απόμακρο, ενώ άλλα ηθικά προβλήματα στην επιστήμη μοιάζουν να θέλουν αντιμετώπιση εδώ και τώρα; Δεν κάνουν όμως η σοβαρότητα του κινδύνου των πυρηνικοειδών και το αναπόφευκτο της δημιουργίας-τους εντύπωση σε κανέναν;

Ο πρώην επιβλέπων καθηγητής-μου στην έρευνα που έκανα πρότεινε το ακόλουθο αντεπιχείρημα (ή μάλλον, διατύπωσε μια ελπίδα-του), πρόσφατα:

      Σχετικά με την ανησυχία-σου για τα αυτοματοποιημένα όπλα, καταλαβαίνω τον ισχυρισμό-σου και συμφωνώ πως υπάρχουν αρκετές δυσοίωνες προοπτικές στον ορίζοντα.  Εντούτοις, το βλέπω σαν ένα είδος δρόμου ταχύτητας μεταξύ εκείνων των δυσοίωνων προοπτικών από τη μια μεριά, κι από την άλλη μεριά της ενοποίησης της ανθρωπότητας χάρη σε πράγματα όπως ο Παγκόσμιος Ιστός, τα κινητά τηλέφωνα, το ηλ. ταχυδρομείο, και λοιπά. Εμένα μου φαίνεται οτι όσο ισχυρότερα είμαστε όλοι μπλεγμένοι σ’ ένα μεγάλο δίχτυ, έτσι ώστε να μας περιμένει όλους μια κοινή μοίρα, τόσο μικραίνει η πιθανότητα για μια καθολική σύγκρουση, και τόσο πιο μεγάλη θα είναι η συνεργασία μεταξύ ανθρώπων (και λαών).  Ελπίζω οτι η “σμίκρυνση” του κόσμου θα συμβεί πιο γρήγορα από την πρόοδο στην έρευνα των όπλων. Φυσικά, δεν μπορεί να γνωρίζει κανείς.

Ακριβώς, δεν μπορεί να γνωρίζει κανείς. Δεν εκφράζω απόλυτη βεβαιότητα εδώ, ακόμα κι όταν μιλάω για «το αναπόφευκτο» ενός γεγονότος (βλ. παραπάνω). Σκέφτηκα αρκετά την ιδέα του καθηγητή-μου, αλλά τα συμπεράσματά μου δεν ήταν τόσο αισιόδοξα όσο τα δικά-του. Συγκεκριμένα, δεν νομίζω οτι η παγκοσμιοποίηση θα μετατρέψει τη Γη σ’ ένα μεγάλο, χαρούμενο χωριό. Τουναντίον. Η οικονομική απόσταση μεταξύ των πλουσιότερων πλούσιων και των φτωχότερων φτωχών μοιάζει να αυξάνεται διαρκώς, δεκαετία προς δεκαετία: ενώ οι εύπορες κοινωνίες γίνονται πιο εύπορες, όχι μόνο οι φτωχές παραμένουν εξίσου φτωχές, αλλά ο αριθμός-τους ολοένα και αυξάνει. Οι εύπορες κοινωνίες βάζουν φρένο στις γεννήσεις-τους, ενώ οι φτωχές τις διατηρούν σταθερές και σε υψηλά επίπεδα. Η φτώχεια γεννάει πιο πολλή φτώχεια, σ’ ένα φαύλο κύκλο. Αποτέλεσμα της παγκοσμιοποίησης μπορεί να είναι αλλόκοτες εικόνες όπως κεραίες τηλεοράσεων να ξεπροβάλλουν από τις αχυρένιες στέγες των καλυβών στην Αφρική· ή γυμνόστηθα κορίτσια της μαύρης φυλής, με τα χρωματοπλουμιστά στολίδια-τους και μ’ ένα ζευγάρι ακουστικά χωμένα στ’ αυτιά-τους, όπως κ’ ένα MP3 να κρέμεται ανάμεσα στον υπόλοιπο διάκοσμο (βλ. εικόνα). Μα η παγκοσμιοποίηση δεν βελτιώνει το βιοτικό επίπεδο των φτωχών.
Ιδού παράδειγμα: γυμνόστηθο κορίτσι, νεαρή Αφρικάνα με τα χαϊμαλιά-της, τα μπεγλέρια-της, τη νεροκολοκύθα στη μασχάλη, αλλά και μια τσιχλόφουσκα στο στόμα! (Άδεια ελεύθερης τεκμηρίωσης GNU)		Απλώς κάνει ευκολότερη την καταλήστευση των φυσικών πόρων των φτωχών από τους πλούσιους, όπως δείχνουν οι Πετρελαϊκοί Πόλεμοι του Μπους στη Μέση Ανατολή, και όπως οι ιθαγενείς φυλές στην Κεντρική και Νότια Αμερική γνωρίζουν πολύ καλά. Η παγκοσμιοποίηση στέλνει την “κουλτούρα” των Η.Π.Α. (αυτό που λένε “μουσική”, χολλυγουντιανές ταινίες, τη συνήθεια του φαγητού στο άψε-σβήσε [fast food], Δυτικές μόδες ντυσίματος, κλπ.) στον υπόλοιπο κόσμο, αλλά επίσης στέλνει φυσικούς πόρους και πλούτο από άλλα έθνη προς τις Η.Π.Α. Αυτό έχει σαν αποτέλεσμα την εχθρότητα αυτών που ζουν στην ανέχεια εναντίον αυτών που ζουν στη χλιδή. Δεν βλέπω το πώς η παγκοσμιοποίηση θα μας φέρει όλους κοντύτερα. Αν μη τι άλλο, εγώ βλέπω την παγκοσμιοποίηση σαν παράγοντα που επιτείνει την ένταση και φέρνει κοντύτερα το χρόνο μιας καθολικής σύγκρουσης, γιατί μέσω της παγκοσμιοποίησης οι φτωχοί έρχονται σ’ επαφή με μερικά από τα επιτεύγματα των πλούσιων και μαθαίνουν γι’ αυτά, ενώ ταυτόχρονα παραμένουν φτωχοί, οπότε βλέπουν το τί χάνουν και φυσικό είναι να ζηλεύουν. Το 1789, στη Γαλλία, οι μάζες των φτωχών εξεγέρθηκαν εναντίον της ολιγαρχίας των αριστοκρατών (και νίκησαν). Αν οι τάσεις συνεχιστούν όπως σήμερα, κάποια στιγμή στο μέλλον το παγκόσμιο χωριό θα εκραγεί με ανάλογο τρόπο, όταν οι μάζες των φτωχών εθνών θα ζητήσουν και πάλι το μερίδιό τους στην πίττα από τα πλούσια έθνη. Το αν η έκρηξη θα συμβεί πριν την ανάπτυξη των πυρηνικοειδών, δεν το γνωρίζω. Αλλ’ ακόμα κι αν συμβεί στο μεσοδιάστημα, όταν οι εύπορες κοινωνίες θα έχουν αναπτύξει πυρηνικοειδή ενώ οι φτωχές δεν θα τα έχουν στην κατοχή-τους ακόμα, τέτοια όπλα υψηλής τεχνολογίας θα ήσαν άχρηστα για τους πλούσιους: απλούστατα, δεν μπορείτε “να τους κάνετε γυαλί”. Η νοοτροπία του “να κάνουμε την έρημο γυαλί” μπορεί να υπάρχει μόνο σε απλοϊκούς νους, και να καταλήξει στη δική-τους — και δική-μας — καταστροφή. (Δεν προσπαθώ να εκφράσω καμιά αίσθηση υπεροχής απέναντι στο φτωχό καθαριστή του κτιρίου-μου που περιέγραψα νωρίτερα. Αν κάποιος με τη δική-του νοοτροπία μπορεί ν’ αντιτάξει επιχειρήματα εναντίον των δικών-μου, θα χαρώ πολύ να τα μάθω.)

Μια υποσημείωση, άσχετη με το περιεχόμενο του παραπάνω επιχειρήματος:

Υπέπεσε στην αντίληψή μου, μετά από ένα διαδικτυακό ψάξιμο που έκανα για σχετιζόμενα θέματα, οτι κάποιος εξέφρασε σοκ για την παραπάνω εικόνα που δείχνει ένα ημίγυμνο νεαρό κορίτσι. Οφείλω να πω οτι κ’ εγώ σοκαρίστηκα μαθαίνοντας για το σοκ εκείνου του ατόμου. Όταν το δάχτυλο δείχνει προς το φως, κάποιοι άνθρωποι μένουν να κοιτούν το δάχτυλο. Αυτό που βλέπω εγώ στην παραπάνω εικόνα είναι ένα υγιές, νεαρό, και αρκετά όμορφο μαύρο κορίτσι, που ζει τη ζωή-του σε μια κοινωνία που φαίνεται να είναι παράδειγμα αυτού ακριβώς που θέλω να δείξω: μια τεχνολογικά μη αναπτυγμένη κοινωνία, που όμως πιθανώς γίνεται δέκτης πότε-πότε των πλεονεκτημάτων των προϊόντων μοντέρνας τεχνολογίας. Το άτομο που έπαθε σοκ, κοίταξε αυτή την εικόνα, και μάλλον είδε μόνο ένα ζευγάρι στήθη (για να τα ονομάσω “επιστημονικά”). Τον οικτίρω. Στο δικό-μου νου τα στήθη του κοριτσιού δεν έχουν κάποιο σεξουαλικό νόημα, αλλά υπογραμμίζουν την ιδέα οτι μοιάζει να είναι μια κοπέλα υγιής, με σιγουριά για τον εαυτό-της (προσέξτε μόνο εκείνο το βλέμμα!), και πιθανώς εντελώς εν αγνοία της τεράστιας τεχνολογίας που υπάρχει πίσω από εκείνο το ταπεινό κομματάκι της τσίχλας που μασάει, όπως και του τεράστιου πλήθους των συνήθως καλοντυμένων ανθρώπων που κινούν να νήματα της τεχνολογίας εκείνης. Πιθανώς θα σοκαριζόταν κι αυτή αν μάθαινε οτι κάποιοι από ’κείνους τους καλοντυμένους ανθρώπους σοκάρονται κοιτώντας τα δυο στολίδια-της — που είναι ότι πιο φυσικό θα μπορούσε να έχει το θηλυκό σώμα-της. Θα συμφωνούσα μαζί-της, και θα προσπαθούσα να της εξηγήσω οτι μερικά άτομα εκείνης της κοινωνίας (της ίδιας που φτιάχνει και καταναλώνει με πάθος τις τσίχλες), και συγκεκριμένα άρρενες, δεν μεγαλώνουν ποτέ-τους πραγματικά. Ένα ζευγάρι στήθη έχει επάνω-τους τη μαγική έλξη που έχει και το καρότο σ’ ένα κουνέλι. Εστιάζουν το βλέμμα επάνω-τους, ώστε ο νους-τους από το σημείο εκείνο και πέρα μπορεί να σκέφτεται μόνο ένα πράγμα: «βυζάκια!» Μόνο που εγώ έγραψα το κείμενο αυτό για πιο ώριμους αναγνώστες.

Αυτό το γνωρίζω θαυμάσια. Η αποχή ενός μόνον ατόμου δεν μπορεί να έχει καμιά απολύτως συνέπεια στη συνολική εικόνα των πραγμάτων. Ο σκοπός-μου δεν είναι να κρύψω το κεφάλι στην άμμο σαν τη στρουθοκάμηλο, αλλά να ευαισθητοποιήσω τον κόσμο στο πρόβλημα αυτό. Ούτε αναμένω να είναι αρκετή η φωνή ενός ατόμου. (Δεν ξέρω αν είμαι μόνος· πιστεύω πως δεν είμαι, αλλά δεν έχω ακούσει τη φωνή κανενός άλλου στο θέμα αυτό· επικοινωνήστε μαζί-μου αν γνωρίζετε κάποιους που μιλούν για το ίδιο πρόβλημα.) Αν άλλοι θέλουν ν’ αναλάβουν το χτίσιμο της τεχνολογίας των πυρηνικοειδών, με γεια-τους με χαρά-τους (κι αέρα στα πανιά-τους), εμένα πάντως μη με μετράτε. Εγώ επιλέγω να “ρίχνω την ψήφο-μου” προς την κατεύθυνση της δημοσιοποίησης της ανησυχίας-μου. Ελπίζω πως έτσι ένας μεγαλύτερος αριθμός ανθρώπων θα δει τη σοβαρότητα του θέματος αυτού και θα ενώσουν τις φωνές-τους, εξασκώντας κοινωνική πίεση στις κυβερνήσεις για να λάβουν κάποια μέτρα.

Στα τέλη του 19^ου με αρχές του 20^ού αιώνα, με την αναμενόμενη διάδοση της χρήσης του ηλεκτρισμού, κάποιοι φοβόνταν οτι άλλοι άνθρωποι θα πέθαιναν από ηλεκτροπληξία, οπότε ο ηλεκτρισμός θεωρείτο δημόσιος κίνδυνος. Τέτοιες ανησυχίες, που μοιάζουν ακόμα και αστείες σήμερα, δεν ήσαν αβάσιμες ή άχρηστες. Ακριβώς εξαιτίας τέτοιων ανησυχιών πάρθηκαν μέτρα, και αναπτύχθηκε τεχνολογία που έκανε δυνατή την κατασκευή ακίνδυνων ηλεκτρικών συσκευών.

Συμφωνώ οτι ο σκεπτικισμός είναι μια υγιής στάση. Κ’ εγώ ο ίδιος είμαι σκεπτικιστής σε πολλά θέματα. Είμαι σκεπτικιστής ακόμα και σχετικά με τον κίνδυνο που προβλέπω και αναπτύσσω στο παρόν άρθρο. Αλλά, ζυγίζοντας λογικά αυτά που ξέρω για τη φύση του ανθρώπου και το πόσο μακριά μπορεί να φτάσει η τεχνολογία απ’ τη μια μεριά, και οποιεσδήποτε αντιρρήσεις μπορεί να έχω λόγω σκεπτικισμού από την άλλη, βρίσκω οτι η “απειλή των πυρηνικοειδών” έχει μεγαλύτερο βάρος. Επαφίεται στον αναγνώστη να κάνει το δικό-του ζύγισμα πριν βγάλει συμπεράσματα. Μια προειδοποίηση μόνο: απλώς και μόνο επειδή κάποια καταστροφολογικά σενάρια δεν πραγματοποιήθηκαν στο παρελθόν δεν σημαίνει οτι δεν υπάρχει ποτέ κανένας κίνδυνος — θα μπορούσε κανείς να πέσει στην παγίδα του βοσκού που φώναζε «Λύκος!», με άλλα λόγια. Είναι θεμελιώδης αρχή λειτουργίας του ανθρώπινου νου το να προσπαθεί να κατηγοριοποιήσει, να βάλει καταστάσεις σε καλούπια· οπότε αν έχει ήδη δει έναν αριθμό αποτυχημένων σεναρίων καταστροφής, τείνει να κατηγοριοποιήσει οτιδήποτε παρόμοιο σαν: «Α, μάλιστα, είναι ένα από κείνα τα σενάρια». Πιστεύω πως αυτή η ιδιότητα της νόησής μας δεν μας ευνοεί σ’ αυτήν την περίσταση. Πρέπει κανείς ν’ απαριθμήσει διεξοδικά τους λόγους για τους οποίους αυτό «είναι ένα από κείνα τα σενάρια», και να σταθμίσει την ακρίβεια μιας τέτοιας αντιμετώπισης.

Ένα σχετιζόμενο θέμα, ειδικά για τους αναγνώστες από τις Η.Π.Α., είναι οτι μετά από τις επιθέσεις της 11^ης Σεπτεμβρίου 2001, οι Αμερικανοί πέρασαν μια περίοδο έντονου φόβου, μια φοβία για οτιδήποτε θα μπορούσε ν’ ανατρέψει τον άνετο και βολικό τροπο ζωής-τους. Τώρα, αρκετά χρόνια μετά, χωρίς άλλη επίθεση σε έδαφος των Η.Π.Α., έχουν δειλά-δειλά αρχίσει να βγαίνουν απ’ αυτό το στάδιο της φοβίας, και τα πρώτα άρθρα που κοιτάζουν την “εποχή του φόβου” με κριτικό μάτι (κι ακόμη και μια δόση χιούμορ) έχουν αρχίσει να εμφανίζονται (π.χ., διαβάστε αυτό, στα αγγλικά). Ο κίνδυνος εδώ είναι οτι θα φτάσουν σ’ αυτό που ονομάζω “κίνηση του εκκρεμούς στην αντίθετη ακραία θέση”· δηλαδή, όταν αφήνει κανείς ένα εκκρεμές ελεύθερο από μια ακραία θέση, αυτό δεν πάει κατευθείαν στην κατάσταση ισορροπίας, αλλά στην ακριβώς αντίθετη ακραία θέση πρώτα. Παρόμοια, οι Αμερικανοί μπορεί να αισθάνονται αποστροφή για το είδος του κινδύνου που περιγράφω εδώ, αντιμετωπίζοντάς τον σαν άλλο ένα από κείνα τα νοσηρά σενάρια που έστελναν ρίγη ανατριχίλας πάνω και κάτω στη σπονδυλική-τους στήλη στο παρελθόν. Είναι μια φυσική ψυχολογική αντίδραση αυτό, το να προσπαθούμε να στρέψουμε την προσοχή μακριά απ’ οτιδήποτε μας προκαλεί ταραχή. Αλλά οι Αμερικανοί μπορούν να διαισθανθούν οτι αυτή δεν είναι μια περίπτωση σαν κ’ εκείνες τις οποίες γνωρίζουν, αν αναλογιστούν οτι η η “κυριαρχία του φόβου” ήταν ένα φτηνό κόλπο που υιοθέτησαν επί χρόνια οι κυβερνήσεις-τους μετά την 11^η Σεπτεμβρίου ώστε να μειώσουν τις πολιτικές ελευθερίες και να περάσουν αντιδημοκρατικούς νόμους χωρίς αντίσταση. Δεν είμαι μέλος της κυβέρνησής τους, ούτε καν Αμερικανός. Μιλώ σαν άτομο που ανησυχεί για συνανθρώπους, και για το μέλλον της ανθρωπότητας στο σύνολό της.

Αυτό το επιχείρημα το έχουν προτείνει μερικοί αναγνώστες, και πραγματικά, βρίσκω πως είναι το πιο δύσκολο ν’ απαντηθεί. Το επιχείρημα λέει οτι το άτομο που εφηύρε το μαχαίρι (ας υποθέσουμε οτι υπήρξε κάποιο τέτοιο προϊστορικό άτομο) δεν μπορεί να θεωρηθεί υπεύθυνο για όλα τα μαχαιρώματα που έχουν γίνει από τότε. Δεν μπορεί να ζητηθεί λογαριασμός απ’ τον Ισαάκ Νιούτον (ή Νεύτωνα) για το οτι άλλοι χρησιμοποίησαν τη μαθηματική ανάλυση για να υπολογίσουν με ακρίβεια την παραβολική τροχιά ενός βλήματος, όπως μιας σιδερένιας μπάλας κανονιού. Ο James Clerk Maxwell δεν μπορεί να κατηγορηθεί για την ηλεκτροπληξία που έχουν υποστεί εγκληματίες (ή υποτιθέμενοι εγκληματίες) σε διάφορες Πολιτείες των Η.Π.Α. Όσο πιο γενικής φύσης είναι μια ανακάλυψη, τόσο πιο πιθανό είναι οτι θα βρεθεί κάποιος τρόπος να εφαρμοστεί ώστε να καταλήξει σε θανάτους.  Θα έπρεπε κανείς να βάλει ένα όριο, τραβώντας μια γραμμή που να διαχωρίζει τη δημιουργία μιας επιστημονικής θεωρίας από τη συνειδητή κατασκευή όπλων βάσει εκείνης της θεωρίας, με σκοπό την καταστροφή ζωών.

Ωραία. Οπότε τώρα πού ανήκει η έρευνα στη θεωρητική νοολογία; Σε ποια μεριά της γραμμής (του ορίου) πέφτει;

Κοιτώντας το θέμα ψυχρά, φαίνεται οτι πέφτει στην ίδια μεριά με τη μαθηματική ανάλυση του Νεύτωνα, τον ηλεκτρομαγνητισμό του Maxwell, κι ακόμα και με τη δημιουργία του μαχαιριού του άγνωστου προγόνου. Το να σχεδιάζει κανείς αρχιτεκτονικές της νόησης, και το να υλοποιεί τις ιδέες-του σε υπολογιστή ώστε να βλέπει αν οι ιδέες δουλεύουν ή όχι, χωρίς να έχει κατά νου το πώς αυτές οι ιδέες μπορούν να χρησιμοποιηθούν εναντίον της ανθρωπότητας, δεν μοιάζει να είναι μια μεμπταία δραστηριότητα. Συμβαίνει απλώς οτι, παρόλο που δεν έχω καμιά κακή εφαρμογή κατά νου, δεν μπορώ παρά να σκέφτομαι οτι κάποιοι άλλοι θα καταφέρουν να βρουν αυτή την κακή εφαρμογή, αναμφίβολα. Έτσι, παρόλο που τώρα έχω αρχίσει και πάλι να δουλεύω στη νοολογία (αν και μόνος-μου), δεν μπορώ ν’ αποφύγω να βλέπω το πρόβλημα στον ορίζοντα.

Το να βλέπει κανείς το πρόβλημα στον ορίζοντα είναι ένα πράγμα, αλλά το να βρει τί μπορεί να γίνει για την αντιμετώπισή του είναι τελείως άλλο. Δεν θέλω να δώσω την εντύπωση οτι γνωρίζω πώς μπορούμε ν’ αντιμετωπίσουμε την απειλή των πυρηνικοειδών. Όλο κι όλο που μπορώ να προτείνω είναι τα παρακάτω:

Η έρευνα που στοχεύει στο να κάνει μηχανές να μοιάζουν ανθρώπινες πρέπει να σημειώνεται σαν “υψηλού κινδύνου”, ή σαν αμφίβολης ηθικής τουλάχιστον. Τέτοιου είδους έρευνα δεν πρέπει να χρηματοδοτείται. Σημειώστε οτι δεν προτείνω μια εχθρότητα προς όλη την έρευνα στην τεχνητή νοημοσύνη και τη νοολογία· μόνο την αποθάρρυνση της έρευνας που άμεσα οδηγεί στην ανάπτυξη μηχανών που μπορούν να ξεγελάσουν ανθρώπους, και να περάσουν για άνθρωποι. Το να έχουμε υπολογιστές που να μπορούν να συνθέσουν μουσική υψηλής ποιότητας, λόγου χάρη, ή να μεταφράσουν από μια γλώσσα σε άλλη, δεν είναι άμεσα επικίνδυνο. Ούτε είναι επικίνδυνο να έχουμε μηχανές ενσυνείδητες, με αυτογνωσία. Αν μη τι άλλο, μια μηχανή με αυτογνωσία, που δίνει μεγάλη αξία στην ύπαρξή της και στην ύπαρξη της ανθρωπότητας, είναι ίσως πιο δύσκολο να πειστεί να πάει και ν’ ανατιναχτεί ανάμεσα σε ανθρώπους — παρά τα όσα μας έχουν διδάξει οι φανατικοί Ισλαμιστές. Απ’ αυτήν την τελευταία σκέψη έπεται οτι η πολυπλοκότητα μπορεί να είναι ένα επιθυμητό χαρακτηριστικό των μηχανών: όσο πιο ενσυνείδητες, τόσο μικρότερος ο πυρηνικοειδής κίνδυνος· αλλά ενσυνείδητες πρέπει να είναι διά νόμου, κι όχι χάρη στην καλή θέληση της ζούγκλας της αγοράς· και ενσυνείδητες μηχανές σημαίνει πιο ανθρώπινες κατά το νου, όχι κατά την όψη και την εξωτερική εμφάνιση. Χρειαζόμαστε ρομπότ που δουλεύουν για μας, αλλά όχι ρομπότ που μας κοροϊδεύουν κάνοντάς μας να μην τα αναγνωρίζουμε ως τέτοια.

Τα γυμνασιόπαιδα, οι φοιτητές (προπτυχιακοί και μεταπτυχιακοί), και γενικά όλοι όσοι μετέχουν στα εκπαιδευτικά συστήματα των Η.Π.Α., Ευρώπης, Ιαπωνίας, Αυστραλίας, και αλλού, πρέπει να εγκαταλείψουν την αφελή στάση “ας δώσουμε πνοή ζωής στην ύλη”, και ν’ αντιληφθούν τη σοβαρότητα αυτής της επιθυμίας. Όμως τα παιδιά δεν μπορούν να συνειδητοποιήσουν από μόνα-τους τη κρισιμότητα του θέματος, άρα επαφίεται στα εκπαιδευτικά ιδρύματα να διδάξουν τους μαθητές και σπουδαστές-τους, λαμβάνοντας τα κατάλληλα μέτρα. Εάν πανεπιστήμια, όπως το δικό-μου IU, μπορούν να επιδεικνύουν τόση σοβαρότητα για θέματα που αφορούν σε πειράματα ψυχολογίας επί ανθρώπων και ακόμη και επί ζώων (όπως γνωρίζω από προσωπική εμπειρία οτι όντως επιδεικνύουν), τότε είναι ώρα να γίνουν ακόμη πιο σχολαστικά σχετικά με τις μηχανές, με την κατασκευή των οποίων πειραματίζονται οι φοιτητές-τους στους τομείς της τεχνητής νοημοσύνης και της νοολογίας.

Οι Αμερικανοί θα πρέπει να ενηλικιωθούν και να εγκαταλείψουν την παιδιάστικη στάση-τους έναντι των όπλων, της υψηλής τεχνολογίας, και της αξίας της έννοιας “μη-Αμερικανός άνθρωπος” (που δυστυχώς είναι συνώνυμη της έννοιας “υπάνθρωπος” για πολλούς). Αυτό είναι και το δυσκολότερο μέρος των προτάσεών μου, γιατί δεν μπορείς να υπαγορεύσεις σε μια ολόκληρη κουλτούρα να κάνει αυτό, ή να μην κάνει εκείνο. Στην προκειμένη περίπτωση τα πράγματα περιπλέκονται από την ύπαρξη της πλούσιας τάξης των Η.Π.Α., στα συμφέροντα της οποίας είναι να κρατιέται ο πολύς κόσμος απληροφόρητος, και να έχει τη στάση του καθαριστή του κτιρίου-μου, που συνοψίζεται στο “Ας κάνουμε την έρημο γυαλί να τελειώνουμε”. Η έλλειψη παιδείας και κατανόησης του Αμερικανικού κοινού αυξάνει τα βραχυπρόθεσμα κέρδη της πλούσιας τάξης των Η.Π.Α. (εφόσον το κοινό υποστηρίζει τους Αμερικανικούς πολέμους, που βοηθούν τους πλούσιους στην κατασκευή, διαφήμιση, και πώληση περισσότερων όπλων στο εξωτερικό, για παράδειγμα). Αυτό συνδυάζεται με τον Αμερικανικό μύθο πως δεν πειράζει αν είσαι φτωχός, γιατί αν είσαι ικανός μπορείς να σκαρφαλώσεις ψηλότερα στο κοινωνικό στάτους, μέχρι και την κορυφή. Έχοντας πιστέψει αυτόν το μύθο για δεκαετίες, οι φτωχοί μεταξύ των Αμερικανών δεν αγανακτούν για την οικονομική-τους θέση (που τους υποχρεώνει να μένουν στην πολιτική και πνευματική ένδεια του καθαριστή-μου) γιατί η ιδέα οτι ο οποιοσδήποτε μπορεί ν’ αναρριχηθεί στην κορυφή χρυσώνει το χάπι και το κάνει πιο εύπεπτο. Πρέπει να σημειώσω εδώ πως πιστεύω οτι το Αμερικανικό όνειρο που είναι γνωστό ως “απ’ τ’ αλώνια στα σαλόνια” (σε δική-μου ελεύθερη μετάφραση του “from rags to riches”) είναι ένας μύθος για τουλάχιστον δύο λόγους: πρώτο, όντως έχει σημασία αν γεννήθηκες Μαύρος, Λατίνος, Ινδιάνος, κλπ. — στο κάτω-κάτω, ποιο είναι το ποσοστό των μη-λευκών δισεκατομμυριούχων στις Η.Π.Α.; Και δεύτερο, είναι ανάλογο με το να κερδίζεις το τζάκποτ σε μια λοτταρία: ναι, μπορεί να γίνεις ο μοναδικός νικητής, και μπορείς ακόμη και να συντηρείς των εγωισμό-σου σκεπτόμενος οτι η νίκη στη ζωή δεν είναι απλώς θέμα τύχης, αλλά σκέψου οτι η ύπαρξη του τζάκποτ προϋποθέτει έναν τεράστιο αριθμό χαμένων· πόσο μεγάλες είναι οι πιθανότητες οτι θα έχεις τα κότσια να γίνεις ο μοναδικός κερδισμένος και να υψώσεις το κοινωνικό-σου στάτους; Και είναι πράγματι τόσο ελκυστικό το να ζεις σε μια κοινωνία με μια χούφτα κερδισμένους και εκατομμύρια χαμένους, που έχει σαν αποτέλεσμα τις στρατιές των δυστυχισμένων που ψάχνουν στα σκουπίδια, ενώ εσύ — ο “καλός Χριστιανός” — τους κοιτάς με περιφρόνηση για το οτι δεν τα κατάφεραν και είναι μεταξύ των χαμένων;

Σημείωση: Ορίστε μερικά νούμερα που υποστηρίζουν αυτά που μόλις έγραψα. Σύμφωνα με έρευνα που εμφανίστηκε σε κάποιο περιοδικό μεταξύ του 2003 και 2006, του οποίου δυστυχώς λυπάμαι για το οτι δεν συγκράτησα την ονομασία (το δημοσίευμα το ανέφεραν κάποιοι φίλοι-μου σε μια συζήτηση), μπορεί να συναχθεί οτι 17% των Αμερικανών πιστεύουν οτι ανήκουν στο κορυφαίο 1% του οικονομικού στάτους στις Η.Π.Α. Το αντίστοιχο ποσοστό μεταξύ των Βρετανών είναι γύρω στο 3%. Όταν οι Αμερικανοί ερωτώνται για το αν ελπίζουν οτι θα φτάσουν στο κορυφαίο 1% κάποια στιγμή στη ζωή-τους, τότε το ποσοστό εκείνων που απαντούν ναι διπλασιάζεται (34%). Αυτό σημαίνει οτι ένα 16% των Αμερικανών έχουν λάθος άποψη για τη σημερινή κατάσταστασή τους, και ένα ηχηρό 33% (το ένα τρίτο!) λαθεύουν για τη μελλοντική κατάστασή τους. Θεωρώ πως αυτή η έρευνα είναι άκρως αποκαλυπτική σχετικά με τα Αμερικανικά φρούδα όνειρα. Αν κάποιος γνωρίζει την πηγή, παρακαλώ πείτε-μου. (Πολλές ευχαριστίες προς έναν αναγνώστη, τον Walter van Huissteden, που μου επέστησε την προσοχή σ’ αυτό το άρθρο, το οποίο αναφέρει διάφορα αποτελέσματα σφυγμομετρήσεων που μοιάζουν να είναι πολύ παρόμοια μ’ αυτά στα οποία αναφέρομαι εδώ· η πρωταρχική πηγή των δεδομένων-μου φαίνεται πως ήταν μια δημοσκόπηση του οργανισμού Gallup τον Ιούλιο του 2000.)

Για τους παραπάνω λόγους, αναγνωρίζω την εξαιρετική δυσκολία του να προσπαθεί να μιλήσει κανείς σε μια ολόκληρη κουλτούρα. Οπότε, η μόνη οδός για δράση που μου φαίνεται διαθέσιμη είναι η ευαισθητοποίηση του κόσμου, έχοντας όσο το δυνατό πιο πολλές φωνές ενωμένες να μιλούν για το θέμα αυτό, κι αυτό να γίνεται ιδιαίτερα στο πιο άναρχο και σχετικά μη λογοκρινόμενο εκ των άνω μέσο επικοινωνίας που έχει γνωρίσει μέχρι στιγμής η ανθρωπότητα: το Διαδίκτυο.