Πριν την εφεύρεση των υπολογιστών, οι περισσότεροι πειραματικοί ψυχολόγοι πίστευαν ότι ο εγκέφαλος ήταν ένα απρόσιτο μαύρο κουτί. Θα μπορούσατε να αναλύσετε τη συμπεριφορά ενός υποκειμένου –χτυπά το καμπανάκι, τρέχουν τα σάλια του σκύλου– αλλά τις σκέψεις, τις αναμνήσεις και τα συναισθήματα; Αυτά τα πράγματα ήταν ασαφή και ανεξιχνίαστα, πέρα από το εύρος της επιστήμης. Κατά συνέπεια, αυτοί οι συμπεριφοριστές, όπως αυτοαποκαλούνταν, περιόρισαν τις έρευνές τους στη μελέτη του ερεθίσματος και της ανταπόκρισης, της ανατροφοδότησης και της ενίσχυσης, της καμπάνας και του σάλιου. Παραιτήθηκαν από την προσπάθεια κατανόησης των εσώτερων εργασιών του εγκεφάλου. Κυριάρχησαν στον τομέα τους για τέσσερις δεκαετίες.
Αργότερα, στα μέσα της δεκαετίας του 1950, μια ομάδα επαναστατών ψυχολόγων, γλωσσολόγων, θεωρητικών της πληροφορίας, και οι πρώτοι ερευνητές πάνω στην τεχνητή νοημοσύνη επινόησαν μια νέα θεώρηση του ανθρώπινου νου. Προέβαλαν το επιχείρημα ότι οι άνθρωποι δεν αποτελούν απλά συλλογές από προκαθορισμένες αντιδράσεις. Απορροφούν πληροφορίες, τις επεξεργάζονται και έπειτα δρουν βάσει αυτών. Έχουν συστήματα γραφής, αποθήκευσης και ανάκλησης αναμνήσεων. Λειτουργούν με μια λογική, επίσημη σύνταξη. Ο εγκέφαλος καθόλου δεν είναι ένα μαύρο κουτί. Μοιάζει περισσότερο με υπολογιστή.
Η λεγόμενη γνωστική επανάσταση ξεκίνησε με μικρά βήματα, αλλά όσο οι υπολογιστές καθίσταντο βασικός εξοπλισμός των ψυχολογικών εργαστηρίων στη χώρα, βρήκε μεγαλύτερη ανταπόκριση. Φτάνοντας στα τέλη της δεκαετίας του 1970, η γνωστική ψυχολογία είχε παραγκωνίσει τον συμπεριφορισμό, και μαζί με το νέο καθεστώς εμφανίστηκε μια εντελώς νέα γλώσσα για να περιγραφεί η νοητική ζωή. Οι ψυχολόγοι άρχισαν να περιγράφουν τις σκέψεις ως προγράμματα, κοινοί άνθρωποι μιλούσαν για την αποθήκευση γεγονότων στις μνημονικές τράπεζές τους, και οι επιχειρηματικοί γκουρού αγχώνονταν για τα όρια του εύρους ζώνης του εγκεφάλου και της επεξεργαστικής ισχύος στο σύγχρονο εργασιακό περιβάλλον.
Αυτή η ιστορία έχει επαναληφθεί ξανά και ξανά. Καθώς η ψηφιακή επανάσταση εισέβαλλε σε κάθε πτυχή της ζωής μας, διαπέρασε τη γλώσσα μας και τις βαθιές, βασικές θεωρίες μας για τη λειτουργία των πραγμάτων. Η τεχνολογία πάντα το κάνει αυτό. Την περίοδο του Διαφωτισμού, οι Νεύτων και Καρτέσιος ενέπνευσαν τους ανθρώπους να σκέφτονται το σύμπαν ως ένα τεράστιο ρολόι. Τη βιομηχανική εποχή, το σύμπαν ήταν σαν μια μηχανή με πιστόνια. (Ο Freud δανείστηκε την θεωρία του για την ψυχοδυναμική από την θερμοδυναμική των ατμομηχανών). Τώρα είναι ένας υπολογιστής. Το οποίο είναι, αν το σκεφτείτε, μια δυναμωτική ιδέα. Γιατί αν ο κόσμος είναι ένας υπολογιστής, τότε ο κόσμος μπορεί να κωδικοποιηθεί.
Ο κώδικας είναι λογικός. Ο κώδικας μπορεί να χακαριστεί εύκολα. Ο κώδικας είναι το πεπρωμένο. Αυτά είναι τα κεντρικά αξιώματα (και οι αυτοεκπληρούμενες προφητείες) της ζωής στην ψηφιακή εποχή. Καθώς το λογισμικό έχει φάει τον κόσμο, για να παραφράσουμε τον καπιταλιστή επιχειρηματικών εγχειρημάτων Marc Andreessen, έχουμε περιτριγυριστεί από μηχανές που μετατρέπουν τις πράξεις, τις σκέψεις και τα συναισθήματά μας σε δεδομένα –πρώτες ύλες προς διαμόρφωση από μηχανικούς που χειρίζονται κώδικες. Έχουμε φτάσει στο σημείο να βλέπουμε την ίδια τη ζωή ως κάτι που διέπεται από μια σειρά οδηγιών που μπορούν να ανακαλυφθούν, να γίνουν αντικείμενα εκμετάλλευσης, να βελτιστοποιηθούν, ακόμα και να ξαναγραφτούν. Οι εταιρείες χρησιμοποιούν κώδικες για να κατανοήσουν τους πιο οικείους δεσμούς μας∙ ο Mark Zuckerberg, ο ιδρυτής του Facebook, έχει φτάσει στο σημείο να προβάλει τη θεωρία ότι ίσως υπάρχει ένας «θεμελιώδης μαθηματικός νόμος που υποβόσκει στις ανθρώπινες σχέσεις και καθορίζει την ισορροπία για ποιον και για ποιο πράγμα ενδιαφερόμαστε όλοι». Το 2013, ο Craig Venter ανακοίνωσε ότι είχε ξεκινήσει, μια δεκαετία μετά την αποκρυπτογράφηση του ανθρώπινου γενετικού κώδικα, να γράφει ένα πρόγραμμα που θα του επέτρεπε να δημιουργήσει συνθετικούς οργανισμούς. «Γίνεται φανερό», είπε, «ότι όλα τα ζωντανά κύτταρα που ξέρουμε σε αυτόν τον πλανήτη είναι βιολογικές μηχανές που καθοδηγούνται από το γενετικό υλικό ως λογισμικό». Ακόμα και τα βιβλία αυτοβοήθειας επιμένουν ότι μπορείτε να χακάρετε τον πηγαίο κώδικά σας, αναπρογραμματίζοντας την ερωτική σας ζωή, τον ύπνο σας και τις καταναλωτικές σας συνήθειες.
Σε αυτό τον κόσμο, η ικανότητα να γράφετε κώδικες δεν έχει γίνει απλά μια επιθυμητή δεξιότητα, αλλά μια γλώσσα που εξασφαλίζει τη θέση μυημένου σε αυτούς που την μιλούν. Έχουν πρόσβαση σε κάτι που θα λεγόταν, σε μια πιο μηχανική εποχή, μοχλός ισχύος. «Αν ελέγχετε τον κώδικα, ελέγχετε τον κόσμο», έγραψε ο φουτουριστής Marc Goodman. (Στην Bloomberg Businessweek, ο Paul Ford ήταν ελαφρός πιο επιφυλακτικός: «Αν οι κωδικογράφοι δεν κυβερνούν τον κόσμο, θέτουν σε λειτουργία τα πράγματα που κυβερνούν τον κόσμο». Το ίδιο και το αυτό.)
Αλλά, είτε σας αρέσει είτε όχι αυτή η κατάσταση –είτε είστε μέλος της ελίτ των κωδικογράφων είτε κάποιος που δεν νιώθει και τόσο άξιος να παίζει με τις ρυθμίσεις του κινητού σας- μην τη συνηθίζετε και τόσο. Οι μηχανές μας αρχίζουν τώρα να μιλούν μια διαφορετική γλώσσα, μία που ούτε οι καλύτεροι δημιουργοί κωδίκων μπορούν να καταλάβουν εξ ολοκλήρου.
Τα τελευταία χρόνια, οι μεγαλύτερες τεχνολογικές εταιρείες στο Silicon Valley έχουν συστηματικά επιδιώξει μια προσέγγιση στην υπολογιστική που λέγεται εκμάθηση μηχανών. Στον παραδοσιακό προγραμματισμό, ένας μηχανικός γράφει σαφείς, βήμα προς βήμα εντολές για να ακολουθήσει ο υπολογιστής. Με την εκμάθηση μηχανών, οι προγραμματιστές δεν κωδικοποιούν τους υπολογιστές με οδηγίες. Τους εκπαιδεύουν. Αν θέλετε να διδάξετε σε ένα νευρικό δίκτυο να αναγνωρίζει μια γάτα, για παράδειγμα, δεν του λέτε να ψάξει για μουστάκια, αφτιά, τρίχωμα και μάτια. Απλά του δείχνετε χιλιάδες και χιλιάδες φωτογραφίες από γάτες, και τελικά εκπαιδεύεται. Αν ταξινομεί λανθασμένα διαρκώς τις αλεπούδες ως γάτες, δεν ξαναγράφετε τον κώδικα. Απλά το εκπαιδεύετε ξανά και ξανά.
Η προσέγγιση αυτή δεν είναι κάτι καινούριο –έχει υπάρξει για δεκαετίες- αλλά έχει γίνει πρόσφατα ισχυρότερη, χάρη, κατά ένα μέρος, στην ανάπτυξη των βαθέων νευρικών δικτύων, ευρέως κατανεμημένων υπολογιστικών συστημάτων που μιμούνται τις πολυεπίπεδες συνδέσεις των νευρώνων στον εγκέφαλο. Και ήδη, είτε το αντιλαμβάνεστε είτε όχι, η εκμάθηση μηχανών τροφοδοτεί μεγάλες λωρίδες της διαδικτυακής μας δραστηριότητας. Το Facebook τη χρησιμοποιεί για τον καθορισμό των ειδήσεων που εμφανίζονται στο πρόγραμμα τροφοδότησης, και το Google Photos την χρησιμοποιεί για να εντοπίζει πρόσωπα. Η εκμάθηση μηχανών εκτελεί το Skype Translator της Microsoft, το οποίο μετατρέπει την ομιλία σε διαφορετικές γλώσσες σε πραγματικό χρόνο. Τα αυτοκίνητα χωρίς οδηγό χρησιμοποιούν την εκμάθηση μηχανών για να αποφεύγουν τα ατυχήματα. Ακόμα και η μηχανή αναζήτησης Google –για τόσα πολλά χρόνια ένα υψηλό οικοδόμημα κανόνων σχεδιασμένων από ανθρώπους- έχει ξεκινήσει να βασίζεται πάνω σε αυτά τα βαθιά νευρικά δίκτυα. Τον Φεβρουάριο, η εταιρεία αντικατέστησε τον εδώ και πολλά χρόνια διευθυντή αναζήτησης με τον ειδικό στην εκμάθηση μηχανών John Giannandrea, και έχει ξεκινήσει ένα νέο πρόγραμμα επανεκπαίδευσης των μηχανικών της σε αυτές τις νέες τεχνικές. «Με τη δημιουργία συστημάτων μάθησης», είπε ο Giannandrea στους δημοσιογράφους το φθινόπωρο, «δεν χρειάζεται πια να γράφουμε αυτές τις εντολές».
Εν τούτοις, εδώ είναι το θέμα: με την εκμάθηση μηχανών, ο μηχανικός δεν ξέρει ποτέ με ακρίβεια πώς ο υπολογιστής εκτελεί τις εργασίες του. Οι λειτουργίες του νευρικού δικτύου είναι κατά βάση αδιαφανείς και ανεξιχνίαστες. Είναι, με άλλα λόγια, ένα μαύρο κουτί. Και ενώ αυτά τα μαύρα κουτιά έχουν την ευθύνη για ολοένα και περισσότερες από τις καθημερινές ψηφιακές μας εργασίες, όχι μόνο πρόκειται να αλλάξουν τη σχέση μας με την τεχνολογία –πρόκειται να αλλάξουν το πώς σκεφτόμαστε τον εαυτό μας, τον κόσμο μας και τη θέση μας σε αυτόν.
Αν, κατά την παλιά άποψη, οι προγραμματιστές ήταν κάτι σαν θεοί, συγγράφοντας τους νόμους που διέπουν τα υπολογιστικά συστήματα, τώρα είναι σαν γονείς ή εκπαιδευτές σκύλων. Και όπως κάθε γονέας ή εκπαιδευτής σκύλων μπορεί να σας πει, αυτή είναι μια πολύ πιο μυστηριώδης σχέση στην οποία μπορεί να βρεθεί κανείς.
Ο Andy Rubin είναι ένας καθιερωμένος τεχνικός και προγραμματιστής. Ως συνιδρυτής του λειτουργικού συστήματος Android, ο Rubin είναι περιβόητος στο Silicon Valley για τον εφοδιασμό των εργασιακών χώρων και του σπιτιού του με ρομπότ. Τα προγραμματίζει ο ίδιος. «Μου δημιουργήθηκε το ενδιαφέρον για την επιστήμη των υπολογιστών όταν ήμουν πολύ μικρός, και μου άρεσε γιατί μπορούσα να εξαφανίζομαι στον κόσμο των υπολογιστών. Ήταν μια άγραφη πλάκα, ένας κενός καμβάς, και μπορούσα να δημιουργήσω κάτι από το μηδέν», λέει. «Μου έδωσε πλήρη έλεγχο ενός κόσμου όπου έπαιζα για πολλά, πολλά χρόνια».
Τώρα, λέει, αυτός ο κόσμος έρχεται στο τέλος του. Ο Rubin είναι συνεπαρμένος για την άνοδο της εκμάθησης μηχανών –η νέα του εταιρεία, Playground Global, επενδύει σε νέες εταιρείες εκμάθησης μηχανών και φαίνεται ότι πρόκειται να γίνει αρχηγός στη διάδοση των έξυπνων συσκευών- αλλά τον θλίβει και λίγο, επίσης. Και αυτό γιατί η εκμάθηση μηχανών αλλάζει τη σημασία του να είναι κάποιος μηχανικός.
«Οι άνθρωποι δεν γράφουν τα προγράμματα ευθύγραμμα», λέει ο Rubin. «Αφότου ένα νευρικό δίκτυο μαθαίνει πώς να κάνει αναγνώριση ομιλίας, ο μηχανικός δεν μπορεί να πάει να το κοιτάξει και να δει πώς έγινε αυτό. Είναι ακριβώς σαν τον εγκέφαλό σας. Δεν μπορείτε να κόψετε το κεφάλι σας και να δείτε τι σκέφτεστε». Όταν οι μηχανικοί καταφέρνουν να διεισδύσουν σε ένα βαθύ νευρικό δίκτυο, αυτό που βλέπουν είναι ένας ωκεανός μαθηματικών: μια τεράστια, πολυεπίπεδη σειρά μαθηματικών προβλημάτων, η οποία –με τη συνεχόμενη εξαγωγή των σχέσεων μεταξύ δισεκατομμυρίων σημείων δεδομένων- δημιουργεί εικασίες για τον κόσμο.
Η τεχνητή νοημοσύνη δεν είχε σχεδιαστεί για να λειτουργεί με αυτόν τον τρόπο. Μέχρι πριν από μερικά χρόνια, οι κυριότεροι ερευνητές τεχνητής νοημοσύνης υπέθεταν ότι για να δημιουργήσουμε νοημοσύνη, έπρεπε απλά να εφοδιάσουμε μια μηχανή με τη σωστή λογική. Θα γράφαμε αρκετές εντολές και τελικά θα δημιουργούσαμε ένα σύστημα αρκετά περίπλοκο ώστε να καταλαβαίνει τον κόσμο. Κατά κύριο λόγο αγνοούσαν, μέχρι και κακολογούσαν, τους πρώτους υπερμάχους της εκμάθησης μηχανών, οι οποίοι προέβαλλαν επιχειρήματα υπέρ του καταιγισμού των μηχανών με δεδομένα μέχρι να βγάλουν τα δικά τους συμπεράσματα. Για χρόνια δεν ήταν αρκετά ισχυροί οι υπολογιστές ώστε να αποδείξουν πράγματι τα πλεονεκτήματα των δύο προσεγγίσεων, με αποτέλεσμα η διαφωνία αυτή να καταστεί φιλοσοφικού επιπέδου. «Οι περισσότερες από αυτές τις συζητήσεις βασίζονταν σε σταθερές πεποιθήσεις σχετικά με το πώς ο κόσμος έπρεπε να οργανώνεται και πώς λειτουργεί ο εγκέφαλος», λέει ο Sebastian Thrun, ο πρώην καθηγητής τεχνητής νοημοσύνης του Stanford που δημιούργησε το αυτοκίνητο χωρίς οδηγό της Google. «Τα νευρικά δίκτυα δεν είχαν σύμβολα ή εντολές, μόνο αριθμούς. Αυτό απομάκρυνε πολλούς ανθρώπους».
Οι επιπτώσεις μιας μηχανικής γλώσσας που δεν μπορεί να αναλυθεί δεν είναι απλά φιλοσοφικές. Για τις τελευταίες δύο δεκαετίες, η εκμάθηση δημιουργίας κωδίκων έχει γίνει μία από τις πιο σίγουρες διόδους για μια σταθερή δουλειά –μια πραγματικότητα που δεν διαφεύγει των γονέων που στέλνουν τα παιδιά τους σε σχολές εκμάθησης κωδίκων μετά το σχολείο. Αλλά ένας κόσμος που λειτουργεί με νευρικά δικτυωμένες μηχανές βαθιάς εκμάθησης απαιτεί διαφορετικό εργατικό δυναμικό. Οι αναλυτές έχουν ήδη αρχίσει να ανησυχούν για την επίδραση της τεχνητής νοημοσύνης στην αγορά εργασίας, αφού οι μηχανές αυτές καθιστούν απαρχαιωμένες τις παλιές δεξιότητες. Οι προγραμματιστές μπορεί σύντομα να πάρουν μια γεύση της ανεργίας.
«Μόλις είχα μια συζήτηση σχετικά με αυτό το θέμα το πρωί», είπε ο γκουρού της τεχνολογίας Tim O’ Reilly όταν τον ρωτάω για αυτήν την αλλαγή. «Επεσήμαινα πόσο διαφορετικές θα είναι οι εργασίες προγραμματισμού όταν θα μεγαλώσουν αυτά τα παιδιά που έχουν εκπαιδευτεί στις επιστήμες». Η παραδοσιακή δημιουργία κωδίκων δεν θα εξαφανιστεί εντελώς –βέβαια, ο O’ Reilly προβλέπει ότι θα χρειαζόμαστε για πολύ καιρό ακόμα προγραμματιστές- αλλά θα είναι λιγότερο συχνή και θα γίνει μια δευτερεύουσα δεξιότητα, ένας τρόπος για να δημιουργούμε μια «σκαλωσιά», όπως την αποκαλεί ο Oren Etzioni, γενικός διευθυντής του Ινστιτούτου Τεχνητής Νοημοσύνης Allen, μέσα από την οποία μπορεί να λειτουργήσει η εκμάθηση μηχανών. Όπως οι νόμοι του Νεύτωνα δεν παραμερίστηκαν από την ανακάλυψη της κβαντομηχανικής, ο κώδικας θα παραμείνει ισχυρή, αν και ανολοκλήρωτη, εργαλειοθήκη για να εξερευνούμε τον κόσμο. Αλλά όταν πρόκειται για την τροφοδότηση ειδικών λειτουργιών, η εκμάθηση μηχανών θα κάνει το μεγαλύτερο μέρος της δουλειάς για εμάς.
Βέβαια, οι άνθρωποι ακόμα χρειάζεται να εκπαιδεύουν αυτά τα συστήματα. Αλλά τουλάχιστον προς το παρόν, αυτή η δεξιότητα είναι σπάνια. Η δουλειά αυτή απαιτεί όχι μόνο κατανόηση των μαθηματικών σε υψηλό επίπεδο, αλλά και διαίσθηση ώστε να πραγματοποιείται η παιδαγωγική αυτή συνδιαλλαγή. «Αποτελεί σχεδόν τέχνη η απόσπαση των καλύτερων χαρακτηριστικών αυτών των συστημάτων», λέει ο Demis Hassabis, που ηγείται της ομάδας τεχνητής νοημοσύνης της Google DeepMind. «Υπάρχουν μετά βίας μερικές εκατοντάδες άνθρωποι στον κόσμο που μπορούν να τα καταφέρουν». Αλλά ακόμα και αυτός ο μικροσκοπικός αριθμός ήταν αρκετός για να μεταμορφώσει την τεχνολογική βιομηχανία μέσα σε 2-3 χρόνια.
Όποιες και αν είναι οι επαγγελματικές συνέπειες αυτής της μεταβολής, οι πολιτισμικές επιπτώσεις θα είναι ακόμα μεγαλύτερες. Αν η ανάδειξη του λογισμικού που δημιουργήθηκε από ανθρώπους οδήγησε στην κλειστή λέσχη των μηχανικών και στη σκέψη ότι η ανθρώπινη εμπειρία μπορεί τελικά να περιοριστεί σε μια σειρά κατανοητών οδηγιών, η εκμάθηση των μηχανών γέρνει το εκκρεμές στην αντίθετη κατεύθυνση. Ο κώδικας που διέπει το σύμπαν μπορεί να ξεπερνά την ανθρώπινη ανάλυση. Αυτή τη στιγμή η Google, για παράδειγμα, αποτελεί αντικείμενο αντιμονοπωλιακής εξέτασης στην Ευρώπη, η οποία κατηγορεί την εταιρεία ότι ασκεί παραπάνω επιρροή από όσο θα έπρεπε στα αποτελέσματα αναζήτησης. Αυτή η κατηγορία θα είναι δύσκολο να αποδειχθεί τη στιγμή που ακόμα και οι ίδιοι οι μηχανικοί της εταιρείας δεν μπορούν να πουν με ακρίβεια εξαρχής πώς λειτουργούν οι αλγόριθμοι αναζήτησής της.
Αυτή η έκρηξη απροσδιοριστίας προετοιμαζόταν για καιρό. Δεν είναι κάτι καινούριο το ότι ακόμα και οι απλοί αλγόριθμοι μπορούν να δημιουργήσουν απρόβλεπτη συμπεριφορά –μια γνώση που προέρχεται από τη θεωρία του χάους και τις γεννήτριες τυχαίων αριθμών. Τα τελευταία χρόνια, καθώς τα δίκτυα συνδέονται όλο και περισσότερο μεταξύ τους και οι λειτουργίες τους γίνονται ολοένα και πιο περίπλοκες, ο προγραμματισμός έχει φτάσει στο σημείο να θεωρείται μια εξωγήινη δύναμη, τα φαντάσματα στις μηχανές θεωρούνται πλέον δυσπρόσιτα και δύσκολα στη διαχείριση. Τα αεροπλάνα πέφτουν στο έδαφος χωρίς λόγο. Φαινομενικά προβλέψιμες ξαφνικές πτώσεις στο χρηματιστήριο. Περιοδικές διακοπές ρεύματος.
Αυτά τα γεγονότα έχουν ωθήσει τον τεχνολόγο Danny Hillis να ανακηρύξει το τέλος του Διαφωτισμού, την πίστη μας στη λογική που είχε διαρκέσει αιώνες, τον ντετερμινισμό και την κυριαρχία μας πάνω στη φύση. Ο Hillis λέει ότι προχωράμε στην εποχή της Εμπλοκής, όπως την αποκαλεί. «Καθώς οι τεχνολογικές και οι θεσμικές δημιουργίες μας έχουν γίνει πιο περίπλοκες, οι σχέσεις μας με αυτές έχουν αλλάξει», έγραψε στο Journal of Design and Science. «Αντί να είμαστε κύριοι των δημιουργημάτων μας, έχουμε μάθει να διαπραγματευόμαστε με αυτά, να τα καλοπιάνουμε και να τα στρέφουμε στην γενική κατεύθυνση των σκοπών μας. Έχουμε δημιουργήσει τη δική μας ζούγκλα, η οποία έχει μια δική της ζωή». Η εμφάνιση της εκμάθησης των μηχανών είναι το πιο πρόσφατο –και ίσως το τελευταίο- βήμα σε αυτό το ταξίδι.
Αυτό μπορεί να γίνει αρκετά τρομακτικό. Εξάλλου, ο προγραμματισμός ήταν τουλάχιστον ένα πράγμα που ένας μέσος άνθρωπος θα σκεφτόταν να επιλέξει σε μια εκπαιδευτική κατασκήνωση. Οι προγραμματιστές, τουλάχιστον, ήταν άνθρωποι. Τώρα η τεχνολογική ελίτ είναι ακόμα μικρότερη, και το κύρος του λόγου της απέναντι στις δημιουργίες της έχει φθίνει και καταστεί λιγότερο άμεσο. Ήδη οι εταιρείες που έφτιαξαν αυτά τα πράγματα βλέπουν ότι έχουν αρχίσει να συμπεριφέρονται με τρόπο που είναι δύσκολο να τα διαχειριστούν. Πέρυσι το καλοκαίρι, η Google έσπευσε να ζητήσει συγγνώμη όταν η μηχανή αναγνώρισης φωτογραφιών της άρχισε να επισημαίνει τις φωτογραφίες των εγχρώμων ως γορίλλες. Η πρώτη βιαστική ενέργεια της εταιρείας ήταν να αποτρέψει το σύστημα να βάζει ετικέτα του γορίλλα σε οτιδήποτε.
Για αυτούς που έχουν μια τάση στην επιστημονική φαντασία, όλα αυτά σημαίνουν τον ερχομό μιας εποχής στην οποία χάνουμε την εξουσία πάνω στις μηχανές μας. «Ο καθένας μπορεί να φανταστεί μια τέτοια τεχνολογία να ξεγελά τις οικονομικές αγορές, να ξεπερνά σε εφευρέσεις τους ερευνητές, να πείθει τους ηγέτες, και να δημιουργεί όπλα που δεν μπορούμε καν να κατανοήσουμε», έγραψε ο Stephen Hawking –άποψη που υιοθετείται από τους Elon Musk και Bill Gates. «Ενώ η βραχυπρόθεσμη επίδραση της τεχνητής νοημοσύνης εξαρτάται από αυτόν που την ελέγχει, η μακροπρόθεσμη επίδραση εξαρτάται από το αν μπορεί τελικά να ελεγχθεί».
Αλλά μην τρομάζετε τόσο∙ δεν πρόκειται για την αυγή του Skynet. Απλά μαθαίνουμε τους νέους κανόνες συνδιαλλαγής με μια νέα τεχνολογία. Ήδη οι μηχανικοί ψάχνουν τρόπους για να απεικονίζουν τι συμβαίνει κάτω από ένα σύστημα βαθιάς εκμάθησης. Εν τούτοις, ακόμα και να μην καταλάβουμε εξ ολοκλήρου πώς σκέφτονται αυτές οι νέες μηχανές, αυτό δεν σημαίνει ότι θα είμαστε αδύναμοι μπροστά τους. Στο μέλλον, δεν θα ασχολούμαστε πολύ με τις υποβόσκουσες αιτίες της συμπεριφοράς τους∙ θα μάθουμε να επικεντρωνόμαστε στην καθεαυτή συμπεριφορά τους. Ο κώδικας θα γίνει λιγότερο σημαντικός από τα δεδομένα που χρησιμοποιούμε για να τον εκπαιδεύσουμε.
Αν όλα αυτά μοιάζουν γνωστά, είναι γιατί θυμίζουν σε μεγάλο βαθμό τον παλιό καλό συμπεριφορισμό του 20ου αιώνα. Στην πραγματικότητα, η διαδικασία της εκπαίδευσης ενός αλγορίθμου εκμάθησης μηχανών συχνά συγκρίνεται με τα σπουδαία συμπεριφοριστικά πειράματα των αρχών του 20ου αιώνα. Ο Pavlov προκαλούσε την έκκριση των σιέλων του σκύλου του όχι μέσα από μια βαθιά κατανόηση της πείνας, αλλά απλά με την επανάληψη μιας ακολουθίας γεγονότων ξανά και ξανά. Παρείχε δεδομένα ξανά και ξανά, μέχρι το πρόγραμμα να ξαναγραφεί από μόνο του. Πείτε ό, τι θέλετε για τους συμπεριφοριστές, αλλά όντως ήξεραν να ελέγχουν τα υποκείμενά τους.
Μακροπρόθεσμα, λέει ο Thrun, η εκμάθηση των μηχανών θα έχει δημοκρατική επίδραση. Με τον ίδιο τρόπο που δεν χρειάζεται να ξέρετε HTML για να φτιάξετε μια ιστοσελίδα αυτήν την εποχή, στην τελική δεν θα χρειάζεστε διδακτορικό για να αξιοποιήσετε την απίστευτη δύναμη της βαθιάς εκμάθησης. Ο προγραμματισμός δεν θα είναι ο μοναχικός τομέας των εκπαιδευμένων προγραμματιστών που έχουν μάθει μια σειρά αρχαίων γλωσσών. Θα είναι διαθέσιμος σε οποιονδήποτε έχει διδάξει σε έναν σκύλο να αλλάζει πλευρό. «Για μένα, είναι το πιο ωραίο πράγμα στον προγραμματισμό που έχει υπάρξει ποτέ», λέει ο Thrun, «γιατί τώρα ο καθένας μπορεί να χρησιμοποιήσει κώδικες».
Κατά το μεγαλύτερο μέρος της ιστορίας των υπολογιστών, είχαμε μια εικόνα της λειτουργίας των μηχανών από μέσα προς τα έξω. Πρώτα συνθέτουμε το πρόγραμμα, μετά η μηχανή το εφαρμόζει. Αυτή η θέαση του κόσμου υποδήλωνε πλαστικότητα, αλλά επίσης έδειχνε και έναν ντετερμινισμό που βασιζόταν σε κανόνες, μια αίσθηση ότι τα πράγματα αποτελούν προϊόν των υποβοσκόντων εντολών τους. Η εκμάθηση μηχανών φανερώνει το αντίθετο, μια οπτική από έξω προς τα μέσα, στην οποία ο κώδικας δεν καθορίζει απλά τη συμπεριφορά, η συμπεριφορά επίσης καθορίζει τον κώδικα. Οι μηχανές είναι προϊόντα του κόσμου μας.
Τελικά, θα φτάσουμε στο σημείο να εκτιμούμε και τη δύναμη του χειρόγραφου ευθύγραμμου κώδικα και τη δύναμη των αλγορίθμων εκμάθησης μηχανών να τον προσαρμόζουν –το πάρε-δώσε του σχεδιασμού και της εμφάνισης. Πιθανόν οι βιολόγοι έχουν ήδη αρχίσει να το αντιλαμβάνονται. Οι τεχνικές επεξεργασίας των γονιδίων όπως το Crispr τους δίνουν την δύναμη να χειρίζονται τον κώδικα που ήδη διαθέτουν τα παραδοσιακά προγράμματα λογισμικού. Οι ανακαλύψεις, όμως, στον τομέα της επιγενετικής φανερώνουν ότι το γενετικό υλικό δεν είναι στην πραγματικότητα ένα απαράλλαχτο σύστημα οδηγιών, αλλά ένα δυναμικό σύστημα διακοπτών που προσαρμόζεται ανάλογα με το περιβάλλον και τις εμπειρίες του ξενιστή του. Ο κώδικάς μας δεν υπάρχει ξεχωριστά από τον φυσικό κόσμο∙ επηρεάζεται βαθιά και μεταμορφώνεται ριζικά μέσα από αυτόν. Ο Venter μπορεί να πιστεύει ότι τα κύτταρα είναι μηχανές που έχουν για λογισμικό τους τον γενετικό κώδικα, αλλά ο επιγενετιστής Steve Cole προτείνει έναν διαφορετικό σχηματισμό: «Ένα κύτταρο είναι μια μηχανή για την μετατροπή της εμπειρίας σε βιολογία».
Και τώρα, 80 χρόνια αφότου ο Alan Turing έφτιαξε τα πρώτα σχέδια για μια μηχανή επίλυσης προβλημάτων, οι υπολογιστές γίνονται συσκευές που μετατρέπουν την εμπειρία σε τεχνολογία. Για δεκαετίες αναζητούσαμε τον μυστικό κώδικα που θα μπορούσε να εξηγήσει και να βελτιώσει, με κάποια προσαρμογή, την βίωση του κόσμου από εμάς. Οι μηχανές, όμως, δεν θα λειτουργούν με αυτόν τον τρόπο για πολύ ακόμα –και ο κόσμος μας δεν λειτούργησε ποτέ έτσι. Πρόκειται να έχουμε μια πιο περίπλοκη αλλά και πιο ικανοποιητική, τελικά, σχέση με την τεχνολογία. Αντί να διατάζουμε τις συσκευές μας, θα τις ανατρέφουμε.
