Οι λόγοι για τη ρύθμιση των αλγορίθμων AI είναι πιο απλοί από όσο νομίζετε

Ανησυχείτε ότι η τεχνητή νοημοσύνη θα καταλάβει τον κόσμο; Πολλοί το κάνουν. Από τον Έλον Μασκ που ανησυχεί Ο DeepMind κερδίζει ανθρώπους στο προηγμένο παιχνίδι του Go το 2017, σε μέλη του Κογκρέσου, Ευρωπαίους φορείς χάραξης πολιτικής (βλ Μια ευρωπαϊκή προσέγγιση για την τεχνητή νοημοσύνη), και ακαδημαϊκοί, υπάρχει αυτή η αίσθηση ότι αυτή είναι η δεκαετία που πρέπει να παίρνετε στα σοβαρά την τεχνητή νοημοσύνη, και έχει ισχύ. Ωστόσο, όχι για τους λόγους που μπορεί να νομίζετε και όχι λόγω κάποιας παρούσας απειλής.

Εδώ μπαίνουν οι αλγόριθμοι. Τι είναι αλγόριθμος, ίσως ρωτήσετε; Ο απλούστερος τρόπος να το σκεφτείς είναι ως ένα σύνολο οδηγιών από τις οποίες οι μηχανές μπορούν να κατανοήσουν και να μάθουν. Μπορούμε ήδη να δώσουμε εντολή σε μια μηχανή να υπολογίζει, να επεξεργάζεται δεδομένα και να συλλογίζεται με δομημένο, αυτοματοποιημένο τρόπο. Ωστόσο, το πρόβλημα είναι ότι μόλις δοθούν οι εν λόγω οδηγίες, το μηχάνημα θα τις ακολουθήσει. Προς το παρόν, αυτό είναι το θέμα. Σε αντίθεση με τους ανθρώπους, οι μηχανές ακολουθούν τις οδηγίες. Δεν το μαθαίνουν καλά. Αλλά μόλις το κάνουν, θα μπορούσαν να προκαλέσουν προβλήματα.

Δεν θέλω να κάνω ένα εντυπωσιακό επιχείρημα σχετικά με την ιδέα ότι οι υπολογιστές θα ξεπεράσουν μια μέρα την ανθρώπινη νοημοσύνη, πιο γνωστό ως επιχείρημα της μοναδικότητας (βλ. τον φιλόσοφο του NYU, David Chalmers συλλογισμοί για το θέμα.) Αντίθετα, η κατασκευή μπορεί να είναι το καλύτερο παράδειγμα του γιατί οι αλγόριθμοι τεχνητής νοημοσύνης αρχίζουν να έχουν μεγαλύτερη σημασία για το ευρύ κοινό. Φοβάται κανείς ότι οι μηχανές θα επιταχύνουν κατά πολύ την ανδρεία τους σε βάρος μας. Όχι με κάποιο προηγμένο σκεπτικό, απαραίτητα, αλλά λόγω της βελτιστοποίησης εντός των ορίων αυτού που λέει ένας αλγόριθμος.

Η κατασκευή αφορά την κατασκευή πραγμάτων. Αλλά όταν οι μηχανές φτιάχνουν πράγματα, πρέπει να προσέχουμε. Ακόμα κι αν αυτό που φτιάχνουν οι μηχανές είναι απλό. Θα εξηγήσω γιατί.

Από μπότες βροχής μέχρι κινητά τηλέφωνα και πίσω

Ας πούμε, ένα εργοστάσιο έφτιαχνε μπότες βροχής. Λατρεύω τις μπότες βροχής γιατί μεγάλωσα σε μια περιοχή της Νορβηγίας όπου βρέχει πολύ. Μου αρέσει να είμαι έξω, υποκείμενος στα πολλά στοιχεία της φύσης. Η Nokia έφτιαξε τις μπότες βροχής με τις οποίες μεγάλωσα. Ναι, η Nokia που ξέρουμε σήμερα ως εταιρεία ηλεκτρονικών που έφτιαχνε λαστιχένιες μπότες. Γιατί είναι αυτό το κλειδί; Γιατί μόλις φτιάξεις κάτι, είσαι προορισμένος να θέλεις να κάνεις βελτιώσεις. Οτι έχει νόημα. Θα μπορούσατε να πείτε ότι αυτή είναι η ανθρώπινη φύση.

Αυτό που συνέβη με τη Nokia είναι γνωστό και έχει κάπως έτσι: Αρχικά, μια χαρτοποιία, όταν ήμουν παιδί, η κατασκευή λαστιχένιες μπότες (και ελαστικά) ήταν ιδιαίτερα επιτυχημένη για την εταιρεία. Ωστόσο, είδαν περισσότερες ευκαιρίες. Ως εκ τούτου, κάποια στιγμή στη δεκαετία του 1980, στράφηκαν στα ηλεκτρονικά και άλλαξαν γρήγορα τα εργοστάσια γύρω, χτίζοντας μια μεγάλη δομή τοπικών προμηθευτών όταν άρχισαν να κατασκευάζουν κινητά τηλέφωνα. Αυτό εγκαινίασε την επανάσταση των κινητών επικοινωνιών, η οποία ξεκίνησε στη Σκανδιναβία και εξαπλώθηκε στον υπόλοιπο κόσμο. Όπως είναι κατανοητό, πολλοί έχουν γράψει την ιστορία της Nokia στη δεκαετία του 1990 (βλ Μυστικά πίσω από το φινλανδικό θαύμα: η άνοδος της Nokia).

Το παράδειγμά μου είναι ξεκάθαρο. Ίσως, πολύ απλό. Αλλά σκεφτείτε το με αυτόν τον τρόπο. Εάν μια μεγάλη εταιρεία μπορεί γρήγορα να μεταβεί από την κατασκευή χαρτιού για να γράφει, σε μπότες που διευκολύνουν τη βροχή, τότε τελικά, σε κινητά τηλέφωνα που αλλάζουν τον τρόπο επικοινωνίας των ανθρώπων: πόσο εύκολο θα είναι το επόμενο βήμα; Ας υποθέσουμε ότι μια εταιρεία που κατασκευάζει κινητά τηλέφωνα αποφασίζει να κατασκευάσει νανορομπότ και ίσως αυτά να απογειωθούν σε μια δεκαετία, αλλάζοντας την ανθρωπότητα με μικροσκοπικά μηχανήματα που τρέχουν αυτόνομα παντού, ικανά να επανασυναρμολογήσουν και να αλλάξουν την ανθρώπινη εμπειρία. Τι θα συμβεί αν αυτό συμβεί χωρίς να σκεφτούμε πώς θέλουμε να συμβεί, ποιοι θέλουμε να είμαστε υπεύθυνοι και τους απώτερους στόχους;

Το να προτείνουμε ότι τα ρομπότ βοήθησαν συνειδητά τη Nokia να αποφασίσει να κατασκευάσει κινητά τηλέφωνα θα ήταν πολύ δύσκολο. Αλλά η αναγνώριση ότι η τεχνολογία είχε ρόλο στο να επιτρέψει σε μια φινλανδική αγροτική περιοχή στη βόρεια ακτή της να πιστέψει ότι θα μπορούσε να αποκτήσει παγκόσμια κυριαρχία σε μια νέα βιομηχανία παίζει σημαντικό ρόλο.

Η ιστορία της Nokia δεν ήταν τόσο ρόδινη την τελευταία δεκαετία, δεδομένου ότι δεν έλαβαν υπόψη την εμφάνιση λειτουργικών συστημάτων iOS και Android που βασίζονται σε λογισμικό. Τώρα, ως αποτέλεσμα, η Nokia δεν κατασκευάζει πια τηλέφωνα. Σε μια μικρή ιστορία επιστροφής, τώρα κατασκευάζουν υποδομές δικτύωσης και τηλεπικοινωνιών, λύσεις ασφάλειας δικτύου, δρομολογητές Wi-Fi, έξυπνο φωτισμό και έξυπνες τηλεοράσεις (βλ. Η ιστορία της επιστροφής της Nokia). Η Nokia εξακολουθεί να φτιάχνει πράγματα, αυτό είναι αλήθεια. Η μόνη παρατήρηση που πρέπει να κάνουμε είναι ότι η Nokia φαίνεται να απολαμβάνει πάντα να ανακατεύει τα πράγματα που φτιάχνει. Ακόμη και οι κατασκευαστικές αποφάσεις των ανθρώπινων όντων είναι, μερικές φορές, δύσκολο να κατανοηθούν.

Κατασκευή σημαίνει να κάνεις πράγματα και πράγματα να εξελίσσονται. Σε γενικές γραμμές, αυτό που φτιάχνουμε σήμερα έχει αλλάξει από μόλις πριν από μια δεκαετία. Οι τρισδιάστατοι εκτυπωτές έχουν αποκεντρωμένη παραγωγή πολλών προηγμένων προϊόντων, τόσο στη βιομηχανία όσο και στο σπίτι. Οι συνέπειες της τρισδιάστατης εκτύπωσης που αλλάζουν τη ζωή δεν έχουν ακόμη συμβεί. Δεν γνωρίζουμε αν αυτό θα διαρκέσει, αλλά γνωρίζουμε ότι η εστίαση του FDA είναι στη ρύθμιση της παραγωγής προϊόντων (βλ. εδώ) όπως τα τυπωμένα χάπια ή οι ιατρικές συσκευές που προκύπτουν, τα προφανή ζητήματα πνευματικής ιδιοκτησίας και ευθύνης ή τα ζητήματα σχετικά με τη δυνατότητα εκτύπωσης πυροβόλων όπλων. Τελικά, η συζήτηση πολιτικής σχετικά με τις αρνητικές συνέπειες που μπορεί να έχει η τρισδιάστατη εκτύπωση πέρα ​​από αυτό είναι ανύπαρκτη και λίγοι από εμάς έχουν μπει στον κόπο να το σκεφτούμε.

Δεν προτείνω ότι η τρισδιάστατη εκτύπωση είναι επικίνδυνη από μόνη της. Ίσως, αυτό είναι ένα κακό παράδειγμα. Ωστόσο, πράγματα που αρχικά φαίνονται κοσμικά μπορούν να αλλάξουν τον κόσμο. Υπάρχουν πολλά παραδείγματα: η αιχμή βέλους του κυνηγού/τροφοσυλλέκτη από μέταλλο που ξεκινά πολέμους, τελετουργικές μάσκες που μας προστατεύουν από τον COVID-3, καρφιά που χτίζουν ουρανοξύστες, κινητές τυπογραφικές μηχανές που (ακόμα) γεμίζουν τα εργοστάσιά μας με τυπωμένο χαρτί και δύναμη εκδοτική επιχείρηση, λαμπτήρες που σας επιτρέπουν να βλέπετε και να δουλεύετε μέσα τη νύχτα, θα μπορούσα να συνεχίσω. Κανείς για τον οποίο γνωρίζω δεν κάθισε στα τέλη του 19 και προέβλεψε ότι η Nokia θα μετέφερε την παραγωγή της από χαρτί σε καουτσούκ στα ηλεκτρονικά και στη συνέχεια μακριά από τα κινητά τηλέφωνα. Ίσως θα έπρεπε να έχουν.

Οι άνθρωποι είναι φτωχοί προγνωστικοί παράγοντες της αλλαγής σταδίου, της διαδικασίας όπου μια αλλαγή οδηγεί σε περισσότερες αλλαγές, και ξαφνικά, τα πράγματα είναι ριζικά διαφορετικά. Δεν καταλαβαίνουμε ακόμη αυτή τη διαδικασία επειδή έχουμε ελάχιστη πρακτική γνώση της εκθετικής αλλαγής. δεν μπορούμε να το φανταστούμε, να το υπολογίσουμε ή να το καταλάβουμε. Ωστόσο, ξανά και ξανά, μας χτυπάει. Πανδημίες, αύξηση πληθυσμού, τεχνολογική καινοτομία από την εκτύπωση βιβλίων μέχρι τη ρομποτική, μας χτυπάει συνήθως χωρίς προειδοποίηση.

Το κόλπο με τον φουτουρισμό δεν είναι αν, αλλά πότε. Κάποιος μπορεί πραγματικά να είναι σε θέση να προβλέψει την αλλαγή απλώς επιλέγοντας κάποιες νέες μεθόδους παραγωγής και δηλώνοντας ότι θα γίνουν πιο διαδεδομένες στο μέλλον. Αυτό είναι αρκετά απλό. Το δύσκολο κομμάτι είναι να καταλάβεις ακριβώς πότε και κυρίως πώς.

Οι συνδετήρες δεν είναι το πρόβλημα

Σκεφτείτε ξανά το εργοστασιακό μου παράδειγμα, αλλά αυτή τη φορά, φανταστείτε ότι οι μηχανές είναι υπεύθυνες για πολλές αποφάσεις, όχι όλες τις αποφάσεις, αλλά αποφάσεις παραγωγής όπως η βελτιστοποίηση. Στο βιβλίο του Υπερ-ευφυΐα, ο δυστοπικός ανθρωπιστής Nick Bostrom του Πανεπιστημίου της Οξφόρδης φαντάστηκε περίφημα έναν αλγόριθμο βελτιστοποίησης τεχνητής νοημοσύνης που λειτουργούσε ένα εργοστάσιο συνδετήρων. Κάποια στιγμή, λέει, φανταστείτε ότι η μηχανή εξηγεί ότι το να μαθαίνουμε να εκτρέπουμε τους συνεχώς αυξανόμενους πόρους στην εργασία είναι ορθολογικό, καταλήγοντας να μετατρέπουμε σταδιακά τον κόσμο μας σε συνδετήρες και να αντιστεκόμαστε στις προσπάθειές μας να τον απενεργοποιήσουμε.

Παρά το γεγονός ότι είναι ένας έξυπνος τύπος, το παράδειγμα του Bostrom είναι αρκετά ανόητο και παραπλανητικό (αλλά, αξέχαστο). Πρώτον, αποτυγχάνει να εξηγήσει το γεγονός ότι οι άνθρωποι και τα ρομπότ δεν είναι πλέον ξεχωριστές οντότητες. Αλληλεπιδρούμε. Τα περισσότερα έξυπνα ρομπότ εξελίσσονται σε cobots ή συνεργατικά ρομπότ. Οι άνθρωποι θα έχουν πολλές πιθανότητες να διορθώσουν το μηχάνημα. Ακόμα κι έτσι, το βασικό του σημείο παραμένει. Μπορεί να υπάρξει μια αλλαγή σταδίου κάποια στιγμή και αν αυτή η αλλαγή γίνει αρκετά γρήγορα και χωρίς επαρκή επίβλεψη, ο έλεγχος μπορεί να χαθεί. Αλλά αυτό το ακραίο αποτέλεσμα φαίνεται λίγο τραβηγμένο. Είτε έτσι είτε αλλιώς, συμφωνώ, πρέπει να ρυθμίσουμε τους ανθρώπους που χειρίζονται αυτές τις μηχανές και να επιβάλουμε στους εργαζόμενους να είναι πάντα ενήμεροι εκπαιδεύοντάς τους κατάλληλα. Αυτό το είδος προπόνησης δεν πάει καλά. Προς το παρόν παίρνει πολύ χρόνο και απαιτούνται ειδικές δεξιότητες τόσο για την εκπαίδευση όσο και για την εκπαίδευση. Ξέρω ένα πράγμα. Στο μέλλον όλα τα είδη ανθρώπων θα χειρίζονται ρομπότ. Όσοι δεν το κάνουν, θα είναι αρκετά ανίσχυροι.

Η αύξηση των ανθρώπων είναι καλύτερη από την ανούσια αυτοματοποίηση, άσχετα αν ποτέ δεν συγχωνευθούμε πλήρως με μηχανές. Οι δύο έννοιες είναι λογικά διακριτές. Είναι πιθανό τόσο οι άνθρωποι όσο και τα ρομπότ να κολλήσουν στην αυτοματοποίηση για χάρη του αυτοματισμού. Αυτό θα έκανε μεγάλη ζημιά στη μεταποίηση στο μέλλον. Ακόμα κι αν δεν παράγει ρομπότ δολοφόνους. Πιστεύω ότι μια συγχώνευση είναι εκατοντάδες χρόνια μακριά, αλλά δεν είναι αυτό το θέμα. Ακόμα κι αν είναι μόνο τριάντα χρόνια μακριά, οι αυτοπροωθούμενες μηχανές που λειτουργούν με απλοϊκούς αλγόριθμους που χάνουν τον έλεγχο, αυτό το σενάριο συμβαίνει ήδη στο πάτωμα του καταστήματος. Μερικά από αυτά τα μηχανήματα είναι τριάντα ετών και λειτουργούν με παλιά, ιδιόκτητα συστήματα ελέγχου. Η βασική τους πρόκληση δεν είναι ότι είναι προχωρημένοι αλλά το αντίθετο. Είναι πολύ απλοϊκοί για να μπορούν να επικοινωνούν. Αυτό δεν είναι πρόβλημα για αύριο. Είναι ένα προϋπάρχον πρόβλημα. Πρέπει να ανοίξουμε τα μάτια μας σε αυτό. Σκεφτείτε το την επόμενη φορά που θα μπείτε στις λαστιχένιες μπότες σας.

Έχω ακόμα τις μπότες Nokia από τη δεκαετία του 1980. Έχουν μια τρύπα, αλλά τα κρατάω για να υπενθυμίσω στον εαυτό μου από πού είμαι και πόσο μακριά έχω περπατήσει. Η βροχή συνεχίζει να πέφτει, επίσης, και εφόσον είναι αρκετά καθαρό, δεν θέλω καλύτερη λύση από αυτές τις μπότες. Και πάλι, είμαι άνθρωπος. Ένα ρομπότ προφανώς θα είχε ήδη προχωρήσει. Ποια είναι η έκδοση AI των rainboots, αναρωτιέμαι. Δεν είναι κινητό. Δεν είναι αισθητήρας βροχής. Μαλακώνει το μυαλό.

Οι ψηφιακές μπότες σήμερα σημαίνουν ότι μπορείτε να τις εξατομικεύσετε επειδή έχουν 3D-εκτυπωμένα σχέδια πάνω τους. Υπάρχουν εικονικά παπούτσια που υπάρχουν μόνο ως NFT (non-fungible tokens) που μπορούν να πουληθούν και να διαπραγματευτούν. Τα κορυφαία εικονικά αθλητικά παπούτσια αξίζουν 10,000 $ αυτές τις μέρες (βλ Τι είναι ένα NFT Sneaker και γιατί αξίζει 10,000 $;). Δεν τα φοβάμαι αυτά αλλά θα έπρεπε; Εάν ο εικονικός κόσμος αποκτήσει μεγαλύτερη αξία από τον φυσικό κόσμο, ίσως το κάνω. Ή πρέπει να περιμένω να ανησυχήσω μέχρι το avatar ενός AI να αγοράσει τη δική του μπότα NFT για να αντιμετωπίσει τη «βροχή»; Εάν κατασκευάζουμε αλγόριθμους σύμφωνα με τη δική μας εικόνα, είναι πιο πιθανό μια τεχνητή νοημοσύνη να είναι καλή σε πράγματα στα οποία θα θέλαμε να είμαστε καλοί αλλά συνήθως δεν είμαστε, όπως η αγορά μετοχών, η οικοδόμηση πιστών φιλιών (ίσως και με μηχανές και ανθρώπους) και να θυμόμαστε πράγματα. Το βιομηχανικό metaverse μπορεί να είναι εκπληκτικά εξελιγμένο – γεμάτο ψηφιακά δίδυμα που μιμούνται τον κόσμο μας και τον ξεπερνούν με γόνιμους τρόπους – ή μπορεί να είναι συγκλονιστικά απλό. Ισως και τα δύο. Απλώς δεν ξέρουμε ακόμα.

Πρέπει να ρυθμίσουμε τους αλγόριθμους τεχνητής νοημοσύνης γιατί δεν ξέρουμε τι υπάρχει στη γωνία. Αυτός είναι αρκετός λόγος, αλλά όσον αφορά το πώς το κάνουμε, αυτή είναι μια μεγαλύτερη ιστορία. Επιτρέψτε μου μια ακόμη γρήγορη παρατήρηση, ίσως όλοι οι θεμελιώδεις αλγόριθμοι θα πρέπει να δημοσιοποιηθούν. Ο λόγος είναι, αν όχι, δεν υπάρχει τρόπος να γνωρίζουμε σε τι μπορεί να οδηγήσουν. Οι κορυφαίοι είναι αρκετά γνωστοί (βλ Κορυφαίοι 10 αλγόριθμοι μηχανικής μάθησης), αλλά δεν υπάρχει παγκόσμια επισκόπηση για το πού και πώς θα συνηθίσουν. Είναι ιδιαίτερα οι αλγόριθμοι χωρίς επίβλεψη που πρέπει να παρακολουθούνται προσεκτικά (βλ Έξι ισχυρές περιπτώσεις χρήσης για τη μηχανική μάθηση στην κατασκευή), είτε χρησιμοποιούνται για την πρόβλεψη συντήρησης ή ποιότητας, για την προσομοίωση περιβαλλόντων παραγωγής (π.χ. ψηφιακά δίδυμα), είτε για τη δημιουργία νέων σχεδίων που δεν θα σκεφτόταν ποτέ ο άνθρωπος. Στο σημερινό τοπίο, αυτοί οι αλγόριθμοι χωρίς επίβλεψη είναι συνήθως τα λεγόμενα τεχνητά νευρωνικά δίκτυα, που προσπαθούν να μιμηθούν τον ανθρώπινο εγκέφαλο.

Έχω αρχίσει να ανησυχώ για τα νευρωνικά δίκτυα, μόνο και μόνο επειδή δυσκολεύομαι να κατανοήσω τη λογική τους. Το πρόβλημα είναι ότι οι περισσότεροι ειδικοί, ακόμη και αυτοί που τους αναπτύσσουν, δεν καταλαβαίνουν πώς αυτοί οι αλγόριθμοι μετακινούνται από βήμα σε βήμα ή επίπεδο σε επίπεδο. Δεν νομίζω ότι η μεταφορά των «κρυμμένων στρωμάτων», που χρησιμοποιείται συχνά, είναι πολύ εύστοχη ή πολύ αστεία. Δεν πρέπει να υπάρχουν κρυφά επίπεδα στην κατασκευή, στην αυτοματοποιημένη είσπραξη φόρων, στις αποφάσεις πρόσληψης ή στις εισαγωγές κολεγίων, για αρχή. Ίσως θα έπρεπε να σκεφτείτε και εσείς να ανησυχήσετε; Ένα είναι σίγουρο, ότι άνθρωποι και μηχανές που φτιάχνουν πράγματα μαζί θα αλλάξουν τον κόσμο. Έχει ήδη, πολλές φορές. Από το χαρτί μέχρι τις μπότες βροχής και τα στρώματα των σημερινών τεχνητών εγκεφάλων, τίποτα δεν πρέπει να μείνει ανεξερεύνητο. Δεν πρέπει να κρυβόμαστε από το απλό γεγονός ότι από πολλές μικρές αλλαγές μπορεί ξαφνικά να εμφανιστεί μια μεγαλύτερη αλλαγή.