AI Ethics And The Acclaimed AI Uncanny Valley, που επίσης κροταλίζει αυτοοδηγούμενα αυτοκίνητα που βασίζονται σε AI

Μερικές φορές υπάρχουν ελαφρώς περίεργα πράγματα που τραβούν την προσοχή σας και κάνουν τη διαισθητική σας αίσθηση ότι κάτι δεν πάει καλά. Η παραδοξότητα δεν είναι κραυγαλέα, καθόλου κραυγαλέα στο πρόσωπό σου. Ίσως να μην μπορείτε καν να βάλετε αμέσως το δάχτυλό σας σχετικά με το τι είναι η ασυμβατότητα ή πώς γίνεται να μυρμηγκιάζει η παροιμιώδης αραχνιασμένη αίσθηση σας.

Ίσως ανιχνεύονται λεπτές ενδεικτικές ενδείξεις. Ίσως τυχαίνει να συνειδητοποιήσετε στο έντερό σας μια παραφωνία. Υποθέτω ότι θα μπορούσατε να πείτε ότι υπάρχει μόνο η παραμικρή ένδειξη υποτιμημένης απόκοσμης συμπεριφοράς και το ευαίσθητο ανθρώπινο ραντάρ σας συλλαμβάνει κατά τα άλλα φαινομενικά κρυμμένα σήματα.

Καλώς ήρθατε στην παράξενη κοιλάδα.

Εάν δεν έχετε ακούσει ποτέ για την παράξενη κοιλάδα, ένα θέμα σχετικά δημοφιλές στον τομέα της τεχνητής νοημοσύνης και ιδιαίτερα της ρομποτικής, θα σας χαροποιήσει λίγο, καθώς αυτό είναι το θέμα που θα συζητήσω και θα αναλύσω προσεκτικά εδώ.

Η γενική ιδέα μπορεί να εφαρμοστεί σε πολλά πράγματα που βιώνουμε στη ζωή, αν και οι βασικές αρχές και ο αρχικός ορισμός περιλαμβάνουν συστήματα τεχνητής νοημοσύνης και ρομπότ. Θα εξερευνήσουμε πρώτα την προέλευση και την αρχική έννοια της παράξενης κοιλάδας και στη συνέχεια θα προχωρήσουμε σε μια διεύρυνση για να δούμε πώς τα φαινόμενα φαίνεται να μπορούν να εφαρμοστούν σε μεγαλύτερα πλαίσια.

Θα μπορούσα επίσης να προσθέσω ότι θα εξετάσουμε αν υπάρχει καθόλου η παράξενη κοιλάδα.

Βλέπετε, κάποιοι σκεπτικιστές και κυνικοί υποστηρίζουν ότι το όλο θέμα είναι λιγάκι γελοίο και δεν κρατάει νερό. Να είστε προσεκτικοί όταν αναφέρετε το θέμα σε όσους γνωρίζουν. Κάποιοι θα χαμογελάσουν χαρούμενα και θα σας χτυπήσουν παλαμάκια στην πλάτη ότι είστε πολύ εξοικειωμένοι με την παράξενη κοιλάδα, ενώ άλλοι θα σας πουν με έντονο διάλεξο ότι είναι ένα smorgasbord από χοιρινό πλύσιμο και ότι πρέπει να καθαρίσετε συνοπτικά το μυαλό σας με μια σαπουνάδα ψυχικού καθαριστικού σαπουνιού .

Τα καλά νέα εδώ είναι ότι μπορείτε να αποφασίσετε εάν η παράξενη κοιλάδα είναι αληθινή ή όχι, καθώς και εάν έχει τα πλεονεκτήματα για προσεκτική εφαρμογή ή αντ 'αυτού θα πρέπει να πεταχτεί ασυνήθιστα στα σκουπίδια τεχνο-ιδεών. Υπό αυτή την έννοια, βρίσκεστε στη θέση του οδηγού.

Όλα αυτά σχετίζονται επίσης στενά με το αναπτυσσόμενο πεδίο της Ηθικής AI και την αυξανόμενη συνειδητοποίηση ότι η κοινωνία πρέπει να δώσει σοβαρά και νηφάλια προσοχή στην ηθική της τεχνητής νοημοσύνης. Θα κάνουμε αυτή την ισοπαλία στιγμιαία.

Το καλύτερο μέρος για να ξεκινήσετε είναι να παραθέσετε απευθείας τον καθηγητή που βρήκε την ιδέα της παράξενης κοιλάδας και ονόμασε ξεκάθαρα αυτό το διακηρυγμένο φαινόμενο. Το 1970, ο καθηγητής Masahiro Mori στο Ινστιτούτο Τεχνολογίας του Τόκιο δημοσίευσε ένα μάλλον μικροκαμωμένο άρθρο σε ένα κάπως λιγότερο γνωστό περιοδικό που ονομάζεται Ενέργεια (όχι ιδιαίτερα μια εστία για την τεχνητή νοημοσύνη και τη ρομποτική αυτή καθαυτή), και είπε το εξής:

«Έχω παρατηρήσει ότι, όταν σκαρφαλώνουμε προς τον στόχο να κάνουμε τα ρομπότ να φαίνονται ανθρώπινα, η συγγένειά μας για αυτά αυξάνεται μέχρι να φτάσουμε σε μια κοιλάδα, την οποία αποκαλώ παράξενη κοιλάδα».

Λάβετε υπόψη ότι η παραπάνω φράση εμφανίζεται στα Αγγλικά, αν και το αρχικό χαρτί ήταν στα Ιαπωνικά. Η αγγλική μεταφρασμένη έκδοση επιβλήθηκε από τον συγγραφέα και αργότερα δημοσιεύτηκε στο IEEE Spectrum το 2012 και πιστώθηκε στον Masahiro Mori ως συγγραφέα. Μπορείτε να διαβάσετε την εφημερίδα μόνοι σας, καθώς είναι ανοιχτά και ελεύθερα διαθέσιμη στο διαδίκτυο. Είναι μια αναμφισβήτητα γρήγορη ανάγνωση περίπου δέκα λεπτών και δεν περιέχει καμία βαριά ορολογία τεχνολογίας.

Τούτου λεχθέντος, είναι ενδιαφέρον και κάπως εκπληκτικό το γεγονός ότι ένα τόσο ζωηρό άρθρο, που δημοσιεύθηκε το 1970, ξεκίνησε τελικά μια ολόκληρη αρένα έρευνας και ξεκίνησε μια μυριάδα σχετικών μελετών, έργων, ερευνών και μερικές φορές μια θύελλα διαμάχης σχετικά με το αν η Η έννοια μιας παράξενης κοιλάδας υπάρχει πραγματικά. Υποθέτω ότι αυτό δείχνει ότι οι ενδιαφέρουσες και μερικές φορές ιδέες που αλλάζουν τις απόψεις δεν χρειάζεται να είναι μαζικά μπερδεμένες ή υπερβολικές με ορολογία και μεγαλοπρέπεια. Μια συνοπτική ιδέα μπορεί να είναι σαν να μην είναι ακόμη πιο ισχυρή από ό,τι φαίνεται στην όψη των πραγμάτων.

Πιστεύω ότι αυτό θα σας ενθαρρύνει να προσπαθήσετε και να προωθήσετε τις νέες σας ιδέες, πράττοντάς το με τη συνειδητοποίηση ότι το γλυκό και απλό μπορεί να είναι τόσο υπέροχο ή μερικές φορές περισσότερο από περίπλοκο και περίπλοκο.

Ας πηδήξουμε πίσω στην παράξενη κοιλάδα.

Συναντάτε ένα ρομποτικό σύστημα που έχει πρόσωπο παρόμοιο με πρόσωπο που μοιάζει με άνθρωπο. Φανταστείτε ότι αυτό το ρομποτικό πρόσωπο έχει επινοηθεί μέσα από πολλές επαναλήψεις. Οι προγραμματιστές τεχνητής νοημοσύνης που συνθέτουν την κεφαλή ρομπότ προσπαθούν σταδιακά να κάνουν το ρομποτικό τμήμα του προσώπου να μοιάζει όλο και περισσότερο σαν ένα πραγματικό ανθρώπινο πρόσωπο.

Η πρώτη τους προσπάθεια ήταν εξαιρετικά πρωτόγονη. Το πρόσωπο του ρομπότ είχε την ίδια εμφάνιση που έχετε δει στις ταινίες επιστημονικής φαντασίας να είναι εντελώς μεταλλικό και να επιδεικνύει γρανάζια και καλώδια. Ξέρεις αμέσως όταν κοιτάζεις το μαγείρεμα ότι είναι ένα ρομπότ. Δεν υπάρχει ερώτηση στο μυαλό σας σχετικά με αυτό.

Η επόμενη προσπάθεια από τους προγραμματιστές AI περιλάμβανε το τύλιγμα κάποιων πλαστικών υλικών γύρω από τα μεταλλικά κομμάτια. Αν και αυτό φαίνεται κάπως πιο φιλικό, εξακολουθείτε να γνωρίζετε αμέσως ότι είναι ένα κεφάλι ρομπότ και ένα ρομποτικό πρόσωπο. Και πάλι, εύκολο να εντοπιστεί.

Αυτοί οι προγραμματιστές AI είναι αποφασισμένοι να συνεχίσουν αυτό. Σμιλεύουν το πλαστικό και του δίνουν τόνους δέρματος. Προσθέτουν χαρακτηριστικά που μοιάζουν πολύ με ένα ανθρώπινο πρόσωπο, όπως κρεατοελιές, μαλλιά, ατέλειες και άλλα παρόμοια.

Με την πρώτη ματιά, μπορεί να οδηγηθείτε στο να πιστέψετε ότι αυτό είναι ένα ανθρώπινο πρόσωπο. Εάν τραβήχτηκε μια φωτογραφία του ρομποτικού προσώπου και σας ζητήθηκε να προσδιορίσετε εάν η εικόνα απεικόνιζε ένα άτομο σε σχέση με ένα ρομποτικό πρόσωπο, μπορεί να δυσκολευτείτε να πείτε αμέσως ποιο ήταν. Από την άλλη πλευρά, αν στεκόσασταν δίπλα στη συσκευή, πιθανότατα μετά από προσεκτική επιθεώρηση θα μπορούσατε να διακρίνετε ότι δεν πρόκειται για άνθρωπο, αλλά για ρομποτικό τεχνητό.

Το θέμα είναι ότι πριν αποκτήσετε αυτή την ευκαιρία να κάνετε κοντινό έλεγχο, υπήρχε κάτι στο πρόσωπο που δεν φαινόταν να αθροίζεται εντελώς. Σίγουρα έμοιαζε με ανθρώπινο πρόσωπο. Όμως κάτι δεν πήγαινε καλά. Έπρεπε να συνεχίσεις να κοιτάς επίμονα ξανά και ξανά για να βάλεις το δάχτυλό σου σε αυτό που δεν φαίνεται πολύ σωστό. Ίσως είναι αληθινό πρόσωπο. Και πάλι, ίσως δεν είναι. Το μυαλό σου κυλά αναλόγως.

Ένα φαινομενικό απόκοσμο μπαίνει στο μυαλό σας.

Δεν είχατε την ίδια εμφάνιση απόκοσμης όταν είδατε τις δύο προηγούμενες εκδόσεις. Θα μπορούσατε χωρίς παύση ή δισταγμό να εντοπίσετε ότι το ρομπότ ήταν ρομπότ. Μόνο ένα παιδί μπορεί να ξεγελαστεί και να πιστέψει ότι οποιαδήποτε από αυτές τις εκδοχές ήταν αληθινού προσώπου.

Αυτή η τελευταία έκδοση όμως ήταν διαφορετική. Δεν ήταν ακόμα τελειοποιημένο ώστε να φαίνεται σαν ανθρώπινο πρόσωπο. Ούτε ήταν τόσο μακριά από το πραγματικό πράγμα που ήταν προφανές ότι έπρεπε να είναι ρομπότ. Είχε φτάσει ένα είδος μπερδεμένου εδάφους.

Ας υποθέσουμε ότι οι προγραμματιστές ώθησαν περαιτέρω στις ερευνητικές τους προσπάθειες και έβαλαν τα πάντα έτσι ώστε το ρομποτικό πρόσωπο να είναι σχεδόν αδιάκριτο από ένα ανθρώπινο πρόσωπο. Ανεξάρτητα από το πόσο καιρό κοιτάς το πράγμα, δεν είσαι σίγουρος αν είναι άνθρωπος ή όχι. Όταν ενημερωθείς ότι είναι το ρομποτικό πρόσωπο, μένεις έκπληκτος. Θεέ μου, έκαναν εξαιρετική δουλειά για να το κάνουν να φαίνεται αληθινό.

Παρατηρήστε ότι μέχρι στιγμής εξετάζατε τις ρομποτικές πτυχές μόνο με βάση την εμφάνιση.

Θα μπορούσαμε να προσθέσουμε κίνηση στην εξίσωση. Αυτό προσθέτει μια πρόσθετη διάσταση για να διακρίνετε εάν το ρομπότ είναι ρομπότ έναντι ανθρώπου. Δεν θέλω να το διασκεδάσω πλήρως ως ένα πολυδιάστατο είδος προβλήματος σε αυτήν τη συζήτηση, καθώς κάνει μια διευκρίνιση σχετικά με αυτό το θέμα πιο περίπλοκη (αν και υπάρχουν πολλές διαστάσεις αναπόφευκτα αλληλένδετες). Σε κάθε περίπτωση, φανταστείτε ότι όχι μόνο είδατε το ρομποτικό πρόσωπο αλλά θα μπορούσατε επίσης να παρακολουθήσετε καθώς το ρομπότ κινεί τα χαρακτηριστικά του προσώπου, όπως το στόμα, τα μάτια, τη μύτη κ.λπ. ρομπότ ή άνθρωπο.

Μια ζωτικής σημασίας πτυχή που πρέπει να παραμείνει στην πρώτη γραμμή της παράξενης κοιλάδας είναι ότι η αρχική σύλληψη δίνει έμφαση στην πράξη της ανθρώπινης συγγένειας. Το ισχυριζόμενο φαινόμενο είναι ότι η συγγένειά σας αυξάνεται καθώς βλέπετε τα σταδιακά βελτιωμένα πρόσωπα ρομπότ, μέχρι το σημείο στο οποίο προκύπτει η παράξενη παραλλαγή. Σε αυτή τη συγκυρία, η αίσθηση της συγγένειάς σας λέγεται ότι πέφτει δραματικά, πέφτοντας κατακόρυφα σε ένα χάσμα ή κοιλάδα συγγένειας.

Για τη συγκεκριμένη εκδοχή που σας έκανε να υποψιαστείτε ότι κάτι δεν πάει καλά, η συγγένειά σας φέρεται να έχει πέσει ριζικά. Επιπλέον, σύμφωνα με τη θεωρία, η συγγένειά σας μπορεί να ανέβει στα ύψη μόλις συναντήσετε την πιο προηγμένη έκδοση που είναι σχεδόν πανομοιότυπη με μια πραγματικά ανθρώπινη μορφή.

Δείτε περισσότερα για όσα δήλωσε ο συγγραφέας σχετικά με την κανονική μας κλίση να υποθέσουμε ότι οι πτυχές της ζωής αυξάνονται ομαλά: «Ο μαθηματικός όρος μονότονα αυξανόμενη συνάρτηση περιγράφει μια σχέση στην οποία η συνάρτηση y = ƒ(x) αυξάνεται συνεχώς με τη μεταβλητή x. Για παράδειγμα, ως προσπάθεια x μεγαλώνει, εισόδημα y αυξάνεται ή καθώς πιέζεται το γκάζι του αυτοκινήτου, το αυτοκίνητο κινείται πιο γρήγορα. Αυτού του είδους η σχέση είναι πανταχού παρούσα και πολύ εύκολα κατανοητή. Στην πραγματικότητα, επειδή τέτοιες μονότονα αυξανόμενες συναρτήσεις καλύπτουν τα περισσότερα φαινόμενα της καθημερινής ζωής, οι άνθρωποι μπορεί να έχουν την ψευδαίσθηση ότι αντιπροσωπεύουν όλες τις σχέσεις. Επιβεβαιώνει επίσης αυτή τη λανθασμένη εντύπωση το γεγονός ότι πολλοί άνθρωποι αγωνίζονται στη ζωή πιέζοντας επίμονα χωρίς να καταλαβαίνουν την αποτελεσματικότητα του τραβήγματος πίσω. Αυτός είναι ο λόγος που οι άνθρωποι συνήθως μπερδεύονται όταν έρχονται αντιμέτωποι με κάποιο φαινόμενο που αυτή η λειτουργία δεν μπορεί να αντιπροσωπεύσει». Αυτό αναφέρεται σύμφωνα με το IEEE Spectrum μεταφρασμένο χαρτί.

Αυτή η σχεδόν καθολική υπόθεση σχετικά με την αύξηση πάντα μπορεί να ανατραπεί όταν συναντάμε κάτι που δεν πάει καλά. Η απόγνωση και η καχυποψία θα προκαλέσουν μια σχετικά απότομη και δραματική πτώση της συγγένειας, λέει η θεωρία, όπως ένα ρομποτικό χέρι που επιλέξατε να κουνήσετε και δεν μπορούσατε να αισθανθείτε τα χαρακτηριστικά των οστών ενός ανθρώπινου χεριού: «Όταν συμβαίνει αυτό, χάνουμε τις αισθήσεις μας της συγγένειας, και το χέρι γίνεται παράξενο. Με μαθηματικούς όρους, αυτό μπορεί να αναπαρασταθεί από μια αρνητική τιμή.»

Εάν αποδέχεστε την υπόθεση ότι υπάρχει αυτό το φαινόμενο μιας παράξενης κοιλάδας, είμαι βέβαιος ότι αναρωτιέστε τι σας ωφελεί να γνωρίζετε ότι η παράξενη κοιλάδα προφανώς υπάρχει.

Αυτό είναι το κλασικό όλων των εποχών "και τι;" τεστ πρακτικότητας.

Αποδεικνύεται ότι πολλοί άνθρωποι έχουν καταλήξει σε πολλές ερμηνείες για το τι πρέπει ή μπορούμε να κάνουμε για την παράξενη κοιλάδα. Υπάρχουν τόνοι απόψεων. Θα αναφερθώ σε μερικά από αυτά σύντομα.

Εν τω μεταξύ, ορίστε τι πρότεινε ο Masahiro Mori: «Ελπίζουμε να σχεδιάσουμε και να κατασκευάσουμε ρομπότ και προσθετικά χέρια που δεν θα πέσουν στην παράξενη κοιλάδα. Έτσι, λόγω του εγγενούς κινδύνου στην προσπάθεια να αυξήσουν τον βαθμό της ανθρώπινης ομοιότητάς τους για να κλιμακώσουν τη δεύτερη κορυφή, προτείνω στους σχεδιαστές να λάβουν ως στόχο τους την πρώτη κορυφή, κάτι που έχει ως αποτέλεσμα έναν μέτριο βαθμό ανθρώπινης ομοιότητας και μια σημαντική αίσθηση συγγένειας . Στην πραγματικότητα, προβλέπω ότι είναι δυνατό να δημιουργηθεί ένα ασφαλές επίπεδο συγγένειας επιδιώκοντας σκόπιμα ένα μη ανθρώπινο σχέδιο. Ζητώ από τους σχεδιαστές να το σκεφτούν αυτό.”

Μια γρήγορη συμπύκνωση από την πλευρά μου των δώδεκα εύχρηστων κανόνων για το τι πρέπει να κάνετε σχετικά με την παράξενη κοιλάδα έχει ως εξής για τους προγραμματιστές τεχνητής νοημοσύνης ειδικότερα:

1) Να είστε ενήμεροι για την παράξενη κοιλάδα και να είστε προσεκτικοί αναλόγως

2) Προφανώς θέλετε να αποκτήσετε όσο το δυνατόν περισσότερη ανθρώπινη συγγένεια για την τεχνητή νοημοσύνη σας

3) Να είστε προετοιμασμένοι για απώλεια ανθρώπινης συγγένειας εάν το AI σας πέσει στην παράξενη κοιλάδα

4) Επιδιώξτε να αποφύγετε την παράξενη κοιλάδα επινοώντας έτσι την τεχνητή νοημοσύνη σας

5) Είναι σεβαστό να έχεις έναν στόχο που είναι μικρός από την παράξενη κοιλάδα

6) Χαλαρώστε μέχρι την άκρη της παράξενης κοιλάδας, αλλά μην πέσετε πάνω από τον γκρεμό

7) Μην έχετε εμμονή να πηγαίνετε πέρα ​​από την παράξενη κοιλάδα

8) Υπάρχει πιθανότητα να πηδήξετε ωστόσο την παράξενη κοιλάδα

9) Μην σε απασχολεί το πήδημα γιατί μπορεί να πέσεις στην κοιλάδα ούτως ή άλλως

10) Η μέγιστη ανθρώπινη συγγένεια θα επιτευχθεί ομολογουμένως περνώντας την παράξενη κοιλάδα

11) Παρόλα αυτά, υπάρχει επαρκής και κατάλληλη συγγένεια πριν από την παράξενη κοιλάδα

12) Να προσέχετε συνεχώς την παράξενη κοιλάδα και μην την αφήνετε να σας ξεφύγει από το μυαλό

Αυτές οι δωδεκάδες είναι όλες γενικές αρχές που μπορούν να θεωρηθούν ως θεμέλιο λίθο ή σημεία αγκύρωσης της γνώσης για την παράξενη κοιλάδα. Θα αναγνωρίσω αμέσως ότι υπάρχουν άλλα σημεία που δεν αναφέρονται σε αυτές τις ελάχιστες δωδεκάδες που θα μπορούσαν να θεωρηθούν εξίσου σημαντικά. Θα αναγνωρίσω επίσης πρόθυμα ότι είναι βέβαιο ότι υπάρχει διαφωνία για καθένα από τα σημεία που προσδιορίζονται, και μπορεί να ακολουθήσει μια μακρά έντονη συζήτηση για κάθε σημείο που τίθεται.

Επιπλέον, κάποιοι θα έλεγαν ότι τα δώδεκα σημεία είναι εντελώς σκουπίδια επειδή βασίζονται σε ένα ψέμα, καταρχάς. Δεν υπάρχει τέτοιο πράγμα όπως μια παράξενη κοιλάδα, θα έλεγαν. Είναι όλα απλώς τσικάνια και μια επινοημένη τεχνοτροπία που απευθύνεται αποκλειστικά και δυστυχώς σε αδύναμα μυαλά (ωχ, αυτό πονάει σοβαρά!). Οποιαδήποτε προσοχή στην παράξενη κοιλάδα είναι μια χαμένη ανάσα αέρα και κάποιος θα πρέπει να έρθει και να βάλει έναν αιχμηρό ξύλινο θεωρητικό πάσσαλο στην καρδιά του θέματος (μερικοί ερευνητές έχουν προσπαθήσει να το κάνουν).

Για λόγους συζήτησης, ας πάμε με τη ροή και ας υποθέσουμε ότι υπάρχει μια παράξενη κοιλάδα και ότι υποτίθεται ότι γενικά ταιριάζει με αυτό που έχω υποδείξει μέχρι τώρα. Όσοι διαφωνούν με την σύλληψη μιας παράξενης κοιλάδας είναι ευπρόσδεκτοι να βγουν έξω ή να συνεχίσουν να διαβάζουν με σφιχτά τα δόντια τους και τον πνευματικό τους θυμό να δημιουργείται και να βράζει (συγγνώμη γι' αυτό).

Δείτε πώς γίνεται η ηθική τεχνητή νοημοσύνη και η εστίαση στην επινόηση και την εφαρμογή ηθικής τεχνητής νοημοσύνης. Παρεμπιπτόντως, για τις συνεχείς και σε βάθος εξερευνήσεις μου σχετικά με την ηθική της τεχνητής νοημοσύνης, δείτε τη συζήτησή μου στο αυτό το σύνδεσμο εδώ και αυτό το σύνδεσμο εδώ, για να αναφέρουμε μόνο μερικά.

Η παράξενη κοιλάδα είναι αναμφισβήτητα μια σχέση αγάπης και μίσους για όσους ασχολούνται με την ηθική τεχνητή νοημοσύνη.

Πρώτον, χρειάζεται κάποιο υπόβαθρο. Ένας από τους πιο ενοχλητικούς ηθικούς ενδοιασμούς που σχετίζονται με την τεχνητή νοημοσύνη είναι ότι οι άνθρωποι μπορούν να ξεγελαστούν και να πιστέψουν ότι ένα σύστημα τεχνητής νοημοσύνης είναι ευαίσθητο. Λάβετε υπόψη ότι δεν υπάρχει καμία τεχνητή νοημοσύνη του σήμερα που να είναι πολύ κοντά στο να είναι αισθητή. Απλώς δεν συμβαίνει αυτή τη στιγμή. Ο φαινομενικά «θρασύτατος» ισχυρισμός μου γίνεται παρά τους αδιάκοπους και κραυγαλέους τίτλους που δηλώνουν ότι αυτή η τεχνητή νοημοσύνη ή ότι η τεχνητή νοημοσύνη είναι είτε ευαίσθητη είτε αρκετά κοντινή ώστε να θεωρείται τέτοια. Malarkey. Δεν είμαστε σε τεχνητή νοημοσύνη.

Δεν ξέρουμε πώς να φτάσουμε εκεί. Δεν ξέρουμε αν θα συμβεί. Η αίσθηση της τεχνητής νοημοσύνης είναι ένα αξιόλογο όνειρο και φιλοδοξία, αν και μην πηδάτε το όπλο και νομίζετε ότι βρισκόμαστε στο κατώφλι να το πετύχουμε.

Φυσικά, πολλοί προειδοποιούν ένθερμα ότι αν καταφέρουμε με κάποιο τρόπο να αποσπάσουμε την αίσθηση της τεχνητής νοημοσύνης, είτε το κάνουμε από σχεδιασμό είτε από καθαρά ατύχημα, θα αντιμετωπίσουμε έναν υπαρξιακό κίνδυνο. Με αυτόν τον τρόπο σκέψης, ίσως η αναζήτηση της αίσθησης της τεχνητής νοημοσύνης δεν αξίζει τον κόπο. Ο κίνδυνος είναι ότι αυτή η έξυπνη τεχνητή νοημοσύνη μπορεί να καθορίσει ότι οι άνθρωποι δεν αξίζουν να έχουμε κοντά μας. Θα μπορούσαμε να στριμωχτούμε σαν ζωύφιο. Ή να γίνετε σκλάβοι της τεχνητής νοημοσύνης. Αυτό θα μπορούσε να συμβεί εάν η τεχνητή νοημοσύνη επιλέγει φανερά να το κάνει, ή η τεχνητή νοημοσύνη μπορεί να καταλήξει να είναι η δική μας μηχανή καταστροφής που μας καταστρέφει από τη δική μας ανικανότητα. Για την κάλυψή μου σχετικά με αυτά τα ανησυχητικά αποτελέσματα της αίσθησης ή της μοναδικότητας της τεχνητής νοημοσύνης, βλ ο σύνδεσμος εδώ.

Μια κρίσιμη ανησυχία για την ηθική τεχνητή νοημοσύνη είναι ότι οι προγραμματιστές της τεχνητής νοημοσύνης και όσοι ασχολούνται με την τεχνητή νοημοσύνη κατά καιρούς παρασύρουν τους ανθρώπους να πιστέψουν ότι η τεχνητή νοημοσύνη είναι ευαίσθητη. Ο τρόπος με τον οποίο εμφανίζεται η τεχνητή νοημοσύνη, όπως με μια ρομποτική διατύπωση ή με τη συνομιλία της, μπορεί ύπουλα να ωθήσει τους ανθρώπους να υποθέσουν ότι η τεχνητή νοημοσύνη είναι ευαίσθητη. Αυτό με τη σειρά του σας οδηγεί σε ένα δυνητικά βρώμικο μονοπάτι primrose.

Εάν πέσετε στη διανοητική παγίδα να πιστεύετε ότι ένα σύστημα τεχνητής νοημοσύνης είναι ευαίσθητο, είναι πιθανό να βασιστείτε σε αυτό για να κάνετε πράγματα που θα έκαναν τα αισθανόμενα όντα. Αλλά δεν υπάρχει ακόμη καμία κοινή αίσθηση μιας ανθρώπινης ποιότητας ενσωματωμένη σε κανένα από τα σημερινά AI. Η τεχνητή νοημοσύνη που βιώνουμε αυτή τη στιγμή είναι εξαιρετικά εύθραυστη και ρηχή όσον αφορά τις ανθρώπινες ικανότητες. Θα μπορούσατε να μπείτε σε κάποια δυσάρεστα και επικίνδυνα νερά πιστεύοντας ότι ένα σύστημα AI είναι ευαίσθητο.

Πώς συνδέεται αυτό με την παράξενη κοιλάδα;

Εδώ είναι η συμφωνία.

Θυμηθείτε ότι η παράξενη κοιλάδα φαίνεται να μας λέει ότι η ανθρώπινη συγγένεια θα αυξάνεται σταδιακά καθώς ένα σύστημα τεχνητής νοημοσύνης ή ένα ρομπότ πλησιάζει όλο και πιο κοντά σε μια ανθρώπινη σύνθεση. Σε μια συγκυρία όπου το σύστημα τεχνητής νοημοσύνης πλησιάζει στο σημείο να είναι αρκετά κοντά, αλλά ακόμα, όχι ακριβώς εκεί, έχουμε μια απόκοσμη αίσθηση ότι κάτι δεν πάει καλά. Μέχρι τότε, γνωρίζαμε ότι η τεχνητή νοημοσύνη δεν ήταν άνθρωπος. Τώρα δεν είμαστε σίγουροι. Η ανθρώπινη συγγένεια πέφτει. Μόνο όταν η τεχνητή νοημοσύνη ή το ρομπότ γίνει απόλυτα πειστικό ως προς τις ανθρώπινες ικανότητες, ανακτούμε την ομοιότητα της συγγένειάς μας με τη συσκευή.

Οι προγραμματιστές τεχνητής νοημοσύνης που ασχολούνται με αυτήν την καρδιά πιθανώς θα το έκαναν εκ προθέσεως προσπαθούν να κρατήσουν την τεχνητή νοημοσύνη τους έξω από την παράξενη κοιλάδα, με στόχο να σταματήσουν όσον αφορά τα χαρακτηριστικά της τεχνητής νοημοσύνης, λίγο πριν πέσουν στην απίθανη άβυσσο (θυμηθείτε, αυτό τόνισε επίσης ο Masahiro Mori). Οι προγραμματιστές προφανώς θα το έκαναν φροντίζοντας να εξακολουθούν να υπάρχουν άφθονες ενδεικτικές ενδείξεις για να είναι ξεκάθαρο ότι η τεχνητή νοημοσύνη είναι λιγότερο ευαίσθητη τεχνητή νοημοσύνη και, επομένως, δεν είναι άνθρωπος ή εξίσου.

Οι ηθικολόγοι της τεχνητής νοημοσύνης θα καλωσόριζαν γενικά αυτήν την εγκάρδια προσπάθεια.

Το σκεπτικό είναι ξεκάθαρο. Όσοι είναι τόσο ενημερωμένοι και αγκαλιάζουν τους προγραμματιστές τεχνητής νοημοσύνης προσπαθούν να βεβαιωθούν ότι το σύστημα τεχνητής νοημοσύνης δεν παραπλανά τους ανθρώπους να αποδίδουν ψευδώς ανθρώπινες εγκαταστάσεις στο AI. Αυτά είναι σίγουρα καλά νέα. Οι προγραμματιστές θα δημιουργήσουν σκόπιμα το AI για να αποτρέψουν μια κατάδυση στην παράξενη κοιλάδα. Οι άνθρωποι θα συνειδητοποιήσουν εύκολα ότι η τεχνητή νοημοσύνη δεν είναι αισθητός.

Η προσπάθεια να πείσουμε τους προγραμματιστές AI να υιοθετήσουν μια τέτοια προσέγγιση δεν είναι εύκολη. Πράγματι, μπορεί να είναι αντίθετο με τα συνηθισμένα ένστικτα και τις οδηγικές τους φιλοδοξίες.

Πολλοί ισχυρίζονται ότι οι προγραμματιστές τεχνητής νοημοσύνης και οι τεχνικοί, γενικά, καταναλώνονται με στόχους. Βλέπουν έναν στόχο και συχνά τον επιδιώκουν τυφλά με μεγάλη όρεξη. Δεν υπάρχει χρόνος για να σταματήσετε και να μυρίσετε τα τριαντάφυλλα. Πηγαίνουμε στους αγώνες. Στον τομέα της τεχνητής νοημοσύνης, ο κανονιστικός στόχος θα ήταν μια εξιδανικευμένη τεχνητή νοημοσύνη που δεν διακρίνεται από τους ανθρώπους, καθώς η τεχνητή νοημοσύνη θα μπορούσε να είναι έξυπνα ίση σε ισοτιμία. Αλλά δεν είμαστε ακόμα εκεί. Ως εκ τούτου, η ασυνήθιστη κοιλάδα παρέχει έναν δευτερεύοντα στόχο, την προσγείωση πριν από την κατά τα άλλα φραγμένη παράξενη κοιλάδα, και γίνεται ένας στόχος που είναι ωστόσο αποδεκτός. Σίγουρα, δεν είναι το χρυσό δαχτυλίδι, αλλά η ιδέα είναι ότι αυτό το «δευτερεύον» βραβείο είναι εντάξει, σας ευχαριστώ πολύ και μπορείτε να είστε περήφανοι για αυτό.

Έχουμε αλλάξει την καταστροφική ύψιστη φιλοδοξία της αναζήτησης στόχων και την αξιοποιήσαμε σε μια λογική βάση για να κάνουμε το σωστό, όπως λέγαμε.

Ζήτω!

Σημειώστε μια νίκη για την ηθική της AI.

Αλλά περιμένετε για μια δεύτερη ειδοποίηση spoiler, υπάρχει κάτι άλλο που πρέπει να λάβουμε εξίσου υπόψη.

Τώρα που αυτοί οι έμπειροι προγραμματιστές τεχνητής νοημοσύνης γνωρίζουν για την παράξενη κοιλάδα, μπορεί να στρέψουν την ευφυΐα και την ικανότητα των τεχνικών στο να πηδήξουν σκόπιμα πάνω από την άβυσσο και ωστόσο να το κάνουν έχοντας στο μυαλό τους μια παρομοίωση εξαπάτησης. Κάντε την τεχνητή νοημοσύνη να φαίνεται και να φαίνεται ότι είναι εντελώς ανθρώπινη, παρόλο που οι προγραμματιστές γνωρίζουν ότι αυτό είναι αναληθές.

Η αδίστακτη σκέψη πάει κάπως έτσι. Μην αφήνετε το σύστημά σας AI να γείρει το καπέλο του και να προκαλεί στους ανθρώπους αυτό το άπιαστο υπόγειο ρεύμα. Καταργήστε τις πτυχές που θα μπορούσαν να δώσουν κάποια υπόδειξη ή ένδειξη ότι η τεχνητή νοημοσύνη δεν είναι ανθρώπινης ικανότητας. Κάνετε αυτό ενώ συνειδητοποιείτε κρυφά και ξέροντας αδικαιολόγητα ότι η τεχνητή νοημοσύνη δεν είναι ανθρώπινης ικανότητας και όλα αυτά αφορούν την απόκρυψη αυτής της αλήθειας από εκείνους που αλληλεπιδρούν ή εξαρτώνται από το AI.

Τι διαβολικά σχέδια.

Κατά ειρωνικό τρόπο, η παράξενη κοιλάδα θα μπορούσε να είναι ένα είδος αφύπνισης για τους προγραμματιστές τεχνητής νοημοσύνης ότι αν θέλουν να ξεγελάσουν πραγματικά τους ανθρώπους, πρέπει να είναι αρκετά έξυπνοι για να ξεφύγουν από την άβυσσο. Δεν το κάνουν επιτυγχάνοντας πλήρη τεχνητή νοημοσύνη, και αντ 'αυτού ανεβάζοντας καπνό και καθρέφτες για να κάνουν το AI να φαίνεται παραπλανητικό σαν να είναι ανθρώπινο. Αν οι προγραμματιστές της τεχνητής νοημοσύνης δεν είχαν συνειδητοποιήσει ότι αυτή η παράξενη κοιλάδα υπάρχει, σε μεγάλο βαθμό θα είχαν πέσει σε αυτήν. Αυτό είναι καλό για την ανθρωπότητα, επειδή οι άνθρωποι έτσι θα έχαναν τη συγγένειά τους με την τεχνητή νοημοσύνη όσον αφορά το να μην βασίζονται υπερβολικά στη σημερινή ποιότητα της τεχνητής νοημοσύνης.

Δυστυχώς, γνωρίζοντας ότι η παγίδα υπάρχει, οι προγραμματιστές τεχνητής νοημοσύνης που θέλουν να την περιπλανηθούν κρυφά θα βρουν καταστροφικά έξυπνους τρόπους για να το κάνουν.

Σημειώστε ένα χτύπημα ενάντια στις αρχές της ηθικής τεχνητής νοημοσύνης.

Βλέπετε πώς αυτό δημιουργεί μια σχέση αγάπης-μίσους για τους ηθικούς της τεχνητής νοημοσύνης σχετικά με την παράξενη κοιλάδα;

Καταραμένο αν το κάνεις, κατάρα αν δεν το κάνεις.

Αντιλαμβάνομαι ότι αυτή ήταν μια κάπως υψηλή εξέταση των φρυδιών της παράξενης κοιλάδας και ίσως λαχταράτε για μερικά καθημερινά παραδείγματα. Υπάρχει ένα ιδιαίτερο και σίγουρα δημοφιλές σύνολο παραδειγμάτων που είναι κοντά στην καρδιά μου. Βλέπετε, με την ιδιότητά μου ως εμπειρογνώμονα σε θέματα τεχνητής νοημοσύνης, συμπεριλαμβανομένων των ηθικών και νομικών προεκτάσεων, μου ζητείται συχνά να εντοπίσω ρεαλιστικά παραδείγματα που παρουσιάζουν διλήμματα Ηθικής AI, έτσι ώστε η κάπως θεωρητική φύση του θέματος να γίνει πιο εύκολα κατανοητή. Ένας από τους πιο υποβλητικούς τομείς που παρουσιάζει ζωντανά αυτό το ηθικό δίλημμα της τεχνητής νοημοσύνης είναι η εμφάνιση αληθινών αυτοοδηγούμενων αυτοκινήτων που βασίζονται σε τεχνητή νοημοσύνη. Αυτό θα χρησιμεύσει ως εύχρηστη περίπτωση χρήσης ή υπόδειγμα για άφθονη συζήτηση σχετικά με το θέμα.

Ακολουθεί μια αξιοσημείωτη ερώτηση που αξίζει να σκεφτούμε: Η έλευση των αληθινών αυτοοδηγούμενων αυτοκινήτων που βασίζονται στην τεχνητή νοημοσύνη φωτίζει κάτι για την παράξενη κοιλάδα, και αν ναι, τι μας ενημερώνει αυτό να κάνουμε;

Επιτρέψτε μου μια στιγμή να ξεκαθαρίσω την ερώτηση.

Πρώτον, σημειώστε ότι δεν υπάρχει άνθρωπος οδηγός που να εμπλέκεται σε ένα αληθινό αυτό-οδηγούμενο αυτοκίνητο. Λάβετε υπόψη ότι τα πραγματικά αυτοοδηγούμενα αυτοκίνητα οδηγούνται μέσω συστήματος οδήγησης AI. Δεν υπάρχει ανάγκη για ανθρώπινο οδηγό στο τιμόνι, ούτε προβλέπεται να οδηγεί το όχημα από άνθρωπο. Για την εκτενή και συνεχή κάλυψη των Αυτόνομων Οχημάτων (AV) και ιδιαίτερα των αυτοοδηγούμενων αυτοκινήτων, βλ. ο σύνδεσμος εδώ.

Θα ήθελα να διευκρινίσω περαιτέρω τι εννοεί όταν αναφέρομαι σε αληθινά αυτοκίνητα αυτο-οδήγησης.

Κατανόηση των επιπέδων Αυτοκινήτων Αυτοκινήτων

Ως διευκρίνιση, τα αληθινά αυτοκινούμενα αυτοκίνητα είναι αυτά που το AI οδηγεί το αυτοκίνητο εξ ολοκλήρου μόνο του και δεν υπάρχει ανθρώπινη βοήθεια κατά την οδήγηση.

Αυτά τα οχήματα χωρίς οδηγό θεωρούνται Επίπεδο 4 και Επίπεδο 5 (δείτε την εξήγησή μου στο αυτό το σύνδεσμο εδώ), ενώ ένα αυτοκίνητο που απαιτεί από έναν άνθρωπο οδηγό να συμμεριστεί την προσπάθεια οδήγησης θεωρείται συνήθως στο Επίπεδο 2 ή στο Επίπεδο 3. Τα αυτοκίνητα που μοιράζονται από κοινού την οδήγηση περιγράφονται ως ημιαυτόνομα και συνήθως περιέχουν μια ποικιλία αυτοματοποιημένα πρόσθετα που αναφέρονται ως ADAS (Advanced Driver-Assistance Systems).

Δεν υπάρχει ακόμη ένα αληθινό αυτοκίνητο αυτο-οδήγησης στο Επίπεδο 5, το οποίο δεν γνωρίζουμε ακόμη και αν αυτό θα είναι δυνατό να επιτευχθεί και ούτε πόσο θα χρειαστεί να φτάσουμε εκεί.

Εν τω μεταξύ, οι προσπάθειες του Επιπέδου 4 προσπαθούν σταδιακά να αποκτήσουν κάποια έλξη υποβάλλοντας σε πολύ στενές και επιλεκτικές δοκιμές σε δημόσιους δρόμους, αν και υπάρχει διαμάχη σχετικά με το εάν αυτή η δοκιμή πρέπει να επιτρέπεται αυτή καθαυτή (είμαστε όλοι πειραματόζωα ζωής ή θανάτου σε ένα πείραμα που λαμβάνουν χώρα στους αυτοκινητόδρομους και στις παρακάμψεις μας, κάποιοι ισχυρίζονται, δείτε την κάλυψή μου στο αυτό το σύνδεσμο εδώ).

Δεδομένου ότι τα ημι-αυτόνομα αυτοκίνητα απαιτούν ανθρώπινο οδηγό, η υιοθέτηση αυτών των τύπων αυτοκινήτων δεν θα είναι σημαντικά διαφορετική από την οδήγηση συμβατικών οχημάτων, οπότε δεν υπάρχουν πολλά νέα για να καλύψουν σχετικά με αυτό το θέμα (ωστόσο, όπως θα δείτε σε λίγο, τα επόμενα σημεία είναι γενικά εφαρμόσιμα).

Για τα ημι-αυτόνομα αυτοκίνητα, είναι σημαντικό το κοινό να προειδοποιείται για μια ενοχλητική πτυχή που έχει προκύψει πρόσφατα, συγκεκριμένα ότι παρά τους ανθρώπους που συνεχίζουν να δημοσιεύουν βίντεο που κοιμούνται στο τιμόνι ενός αυτοκινήτου Level 2 ή Level 3 , όλοι πρέπει να αποφύγουμε να παραπλανηθούμε στο να πιστεύουμε ότι ο οδηγός μπορεί να αφαιρέσει την προσοχή του από το καθήκον οδήγησης κατά την οδήγηση ενός ημι-αυτόνομου αυτοκινήτου.

Είστε ο υπεύθυνος για τις ενέργειες οδήγησης του οχήματος, ανεξάρτητα από το πόσο αυτοματοποίηση μπορεί να πεταχτεί σε Επίπεδο 2 ή Επίπεδο 3.

Αυτο-οδηγούμενα αυτοκίνητα και η ασυνήθιστη κοιλάδα

Για τα πραγματικά οχήματα επιπέδου 4 και επιπέδου 5, δεν θα υπάρχει ανθρώπινος οδηγός που θα εμπλέκεται στο καθήκον οδήγησης.

Όλοι οι επιβάτες θα είναι επιβάτες.

Το AI κάνει την οδήγηση.

Μία πτυχή για άμεση συζήτηση συνεπάγεται το γεγονός ότι η AI που εμπλέκεται στα σημερινά συστήματα οδήγησης AI δεν είναι αισιόδοξη. Με άλλα λόγια, η τεχνητή νοημοσύνη είναι συνολικά μια ομάδα προγραμματισμού και αλγορίθμων που βασίζονται σε υπολογιστή και σίγουρα δεν είναι σε θέση να αιτιολογήσει με τον ίδιο τρόπο που οι άνθρωποι μπορούν.

Γιατί αυτή η πρόσθετη έμφαση στο ότι η AI δεν είναι αισθαντική;

Επειδή θέλω να υπογραμμίσω ότι κατά τη συζήτηση του ρόλου του συστήματος οδήγησης AI, δεν αποδίδω ανθρώπινες ιδιότητες στο AI. Λάβετε υπόψη ότι υπάρχει μια συνεχιζόμενη και επικίνδυνη τάση αυτές τις μέρες να ανθρωπομορφώνεται η AI. Ουσιαστικά, οι άνθρωποι αποδίδουν ανθρώπινη αίσθηση στη σημερινή AI, παρά το αναμφισβήτητο και αναμφισβήτητο γεγονός ότι δεν υπάρχει τέτοια AI.

Με αυτήν την αποσαφήνιση, μπορείτε να φανταστείτε ότι το σύστημα οδήγησης AI δεν θα “ξέρει” εγγενώς για τις πτυχές της οδήγησης. Η οδήγηση και όλα όσα συνεπάγεται θα πρέπει να προγραμματιστούν ως μέρος του υλικού και του λογισμικού του αυτοκινούμενου αυτοκινήτου.

Ας ρίξουμε μια ματιά σε πολλές πτυχές που έρχονται να παίξουν σε αυτό το θέμα.

Πρώτον, είναι σημαντικό να συνειδητοποιήσουμε ότι δεν είναι όλα τα αυτοοδηγούμενα αυτοκίνητα AI. Κάθε αυτοκινητοβιομηχανία και εταιρεία τεχνολογίας αυτόνομης οδήγησης υιοθετεί την προσέγγισή της στην επινόηση αυτοκινούμενων αυτοκινήτων. Ως εκ τούτου, είναι δύσκολο να γίνουν σαρωτικές δηλώσεις σχετικά με το τι θα κάνουν ή τι δεν θα κάνουν τα συστήματα οδήγησης τεχνητής νοημοσύνης.

Επιπλέον, όποτε δηλώνεται ότι ένα σύστημα οδήγησης AI δεν κάνει κάτι συγκεκριμένο, αυτό μπορεί, αργότερα, να ξεπεραστεί από προγραμματιστές που στην πραγματικότητα προγραμματίζουν τον υπολογιστή να κάνει ακριβώς αυτό. Βήμα προς βήμα, τα συστήματα οδήγησης AI βελτιώνονται και επεκτείνονται σταδιακά. Ένας υπάρχων περιορισμός σήμερα μπορεί να μην υπάρχει πλέον σε μελλοντική επανάληψη ή έκδοση του συστήματος.

Πιστεύω ότι παρέχει αρκετή λιτανεία προειδοποιήσεων για να υπογραμμίσει αυτό που πρόκειται να αναφέρω.

Είμαστε έτοιμοι τώρα να κάνουμε μια βαθιά βουτιά σε αυτοκίνητα αυτόνομης οδήγησης και ηθικά ερωτήματα τεχνητής νοημοσύνης που συνεπάγονται την παράξενη κοιλάδα.

Υπάρχουν τέσσερις πτυχές σχετικά με αυτό το θέμα που θα καλυφθούν εδώ:

1. Η συνολική εμφάνιση των αυτοοδηγούμενων αυτοκινήτων

2. Το ερώτημα για το πού «βλέπουν» τα αυτοοδηγούμενα αυτοκίνητα

3. Δράσεις οδήγησης AI αυτοοδηγούμενων αυτοκινήτων

4. Ρομπότ που οδηγούν ως μέσο για την επίτευξη αυτοοδηγούμενων αυτοκινήτων

Περιλαμβάνονται επίσης βιώσιμα πρόσθετες πτυχές, αλλά για περιορισμούς χώρου, αυτά τα τέσσερα θέματα θα είναι επαρκή για να φωτίσουν το ρουλεμάν της παράξενης κοιλάδας που σχετίζεται με αυτοοδηγούμενα αυτοκίνητα που βασίζονται σε τεχνητή νοημοσύνη.

1. Συνολική εμφάνιση των αυτο-οδηγούμενων αυτοκινήτων

Βάζω στοίχημα ότι έχετε δει φωτογραφίες ή βίντεο από τις σημερινές δοκιμές αυτοοδηγούμενων αυτοκινήτων. Ως εκ τούτου, ίσως έχετε παρατηρήσει ότι τα περισσότερα από τα οχήματα είναι αυτοκίνητα συμβατικής εμφάνισης που είναι εξοπλισμένα με πρόσθετο εξειδικευμένο εξοπλισμό. Για παράδειγμα, μπορεί να υπάρχει μια σχάρα στην ταράτσα που περιέχει μια σειρά ηλεκτρονικών αισθητήρων. Οι αισθητήρες μερικές φορές περιλαμβάνουν βιντεοκάμερες, μονάδες ραντάρ, συσκευές LIDAR, αισθητήρες υπερήχων και παρόμοια.

Τα φουτουριστικά σχέδια τείνουν να υποδηλώνουν ότι θα μπορούσαμε να απομακρυνθούμε από το συμβατικό αυτοκίνητο για να επανασχεδιάζουμε αυτοκίνητα τόσο στο εσωτερικό όσο και στο εξωτερικό για να είναι πιο κομψά αυτόνομα οχήματα. Αυτήν τη στιγμή, η γενική σκέψη είναι ότι είναι απλούστερο να χρησιμοποιείς συμβατικά αυτοκίνητα και να μην ξοδεύεις ενέργεια προσπαθώντας να επεκτείνεις την προσπάθεια κάνοντας ταυτόχρονη χρήση αντισυμβατικών αυτοκινήτων (υπάρχουν μερικές εξαιρέσεις σε αυτή τη γενική άποψη, βλ. την κάλυψή μου στο ο σύνδεσμος εδώ).

Η ουσία αυτή τη στιγμή είναι ότι αν οδηγείτε στο δρόμο και συναντήσετε ένα κοντινό αυτό-οδηγούμενο αυτοκίνητο, μπορείτε σχεδόν πάντα να διακρίνετε αμέσως ότι πιθανώς πρόκειται για αυτόνομο αυτοκίνητο, παρατηρώντας απλώς τη σμίκρυνση των αισθητήρων που είναι τοποθετημένοι στο αυτόνομο όχημα. Αυτό είναι ένα γρήγορο οπτικό δώρο. Φυσικά, δεν ξέρετε με βεβαιότητα ότι είναι αυτόνομη οδήγηση, καθώς σε αυτήν τη συγκυρία τα χειριστήρια οδήγησης είναι συνήθως άθικτα και ένας ανθρώπινος εφεδρικός οδηγός μπορεί να βρίσκεται στο τιμόνι.

Με έναν τρόπο σκέψης, μπορείτε να υποδείξετε ότι είναι ιδιαίτερα βολικό τα αυτοοδηγούμενα αυτοκίνητα να φαίνονται φυσικά να ξεχωρίζουν και να εντοπίζονται εύκολα οπτικά από ανθρώπους οδηγούς σε κοντινά αυτοκίνητα που κινούνται με ανθρώπους, καθώς και από πεζούς. Η συνειδητοποίηση ότι ένα αυτο-οδηγούμενο αυτοκίνητο περιφέρεται κοντά μπορεί να είναι μια χρήσιμη ένδειξη για να είστε σε επιφυλακή, προτρέποντάς σας να είστε προσεκτικοί και να έχετε επίγνωση ότι η τεχνητή νοημοσύνη οδηγεί ή μπορεί να οδηγεί το όχημα.

Ας υποθέσουμε ότι τα αυτοκινούμενα αυτοκίνητα έμοιαζαν πανομοιότυπα με ένα συμβατικό αυτοκίνητο που οδηγείται από άνθρωπο. Αυτό είναι ρεαλιστικά εφικτό με τουλάχιστον δύο τρόπους. Πρώτον, οι αισθητήρες θα μπορούσαν ενδεχομένως να κρυφτούν ή να διαμορφωθούν ώστε να μην είναι τόσο εμφανείς στην περιστασιακή οπτική επιθεώρηση. Δεύτερον, θα μπορούσε να είναι ότι όλα τα αυτοκίνητα, συμπεριλαμβανομένων των συμβατικών αυτοκινήτων που οδηγούνται από τον άνθρωπο, εξοπλίζονται σταδιακά με τους συγγενείς αισθητήρες, ακόμα κι αν το όχημα πρόκειται ωστόσο να παραμείνει ως αυτοκίνητο κατά κύριο λόγο από τον άνθρωπο. Δείτε την περαιτέρω κάλυψή μου στο αυτό το σύνδεσμο εδώ.

Εάν σκεφτείτε προσεκτικά αυτή τη σκέψη σχετικά με το εάν τα αυτοοδηγούμενα αυτοκίνητα μπορούν ή πρέπει να είναι πανομοιότυπα στην εμφάνιση με τα συμβατικά αυτοκίνητα που οδηγούνται από ανθρώπους, μπορεί να σκεφτείτε ότι μια παράξενη κοιλάδα μπορεί να κρύβεται σε αυτό το στιφάδο.

Βλέπετε, τα αυτοκίνητα που μοιάζουν κατάφωρα με αυτοοδηγούμενα αυτοκίνητα μπορεί να χαρακτηριστούν ως σε μια διασταύρωση που βρίσκεται ακριβώς κοντά στην παράξενη κοιλάδα. Βασικά, "ξέρετε" ότι είναι ένα ρομπότ ή ένα ρομποτικό είδος συστήματος. Αυτή είναι μια κρίση στην οποία μπορείτε σχεδόν αμέσως να πηδήξετε.

Όταν τα αυτόνομα αυτοκίνητα κοιτάζουν πανομοιότυπα με αυτοκίνητα που οδηγούνται από ανθρώπους, ίσως αυτό υποδηλώνει ότι τα αυτόνομα οχήματα έχουν ξεπεράσει την παράξενη κοιλάδα όσον αφορά την εμφάνισή τους που μοιάζει με ρομπότ. Υπάρχει όμως μια μέση λύση ανάμεσα σε αυτές τις δύο φυσικές εμφανίσεις που μας προσγειώνει στην παράξενη κοιλάδα;

Ίσως εντοπίσετε ένα αυτοοδηγούμενο αυτοκίνητο να κατεβαίνει στο δρόμο και φαίνεται ότι είναι πιθανότατα αυτόνομο, από την άλλη πλευρά, η εμφάνιση δεν είναι ούτε αυστηρά αυτόνομη ούτε έχει όψη αυστηρά ανθρωποκεντρική. Θα μπορούσατε να υποστηρίξετε ότι το αυτο-οδηγούμενο αυτοκίνητο είναι τώρα σε μια απόκοσμη ή ανησυχητική κατάσταση εμφάνισης.

Το αυτοοδηγούμενο αυτοκίνητο φαινομενικά έχει βυθιστεί στην παράξενη κοιλάδα.

Τούτου λεχθέντος, δεν θα συμφωνούσαν όλοι με αυτήν την κατηγοριοποίηση. Κάποιοι θα ισχυρίζονταν ότι η φυσική εμφάνιση δεν έχει καμία σχέση με την παράξενη κοιλάδα. Μερικοί φυσικά υποστηρίζουν επίσης ότι δεν υπάρχει τίποτα ρεαλιστικά γνωστό ως η παράξενη κοιλάδα.

Όπως αναφέρθηκε προηγουμένως, είστε ευπρόσδεκτοι να πάρετε τη δική σας απόφαση σχετικά με αυτό.

2. Ερώτηση για το πού κοιτάζουν τα αυτο-οδηγούμενα αυτοκίνητα

Μια διαφαινόμενη ανησυχία που έχουν πολλοί για τα αυτόνομα αυτοκίνητα είναι ότι συνήθως τους λείπει κανένας άνθρωπος οδηγός στη θέση του οδηγού και επομένως είναι δύσκολο να καταλάβουμε πού κοιτάζει ο «οδηγός» ενώ οδηγεί το αυτοκίνητο.

Συνήθως ρίχνεις μια ματιά στους ανθρώπους οδηγούς για να κατασκοπεύεις εκεί που κοιτάζουν. Για παράδειγμα, μπορεί να είστε πεζός σε διάβαση πεζών και ένα αυτοκίνητο πλησιάζει τη διάβαση. Κοιτάτε προσεκτικά το άτομο που κάθεται στη θέση του οδηγού και προσπαθείτε να διακρίνετε πού είναι στραμμένο το κεφάλι του και πού κοιτάζουν τα μάτια του. Εάν πιστεύετε ότι ο οδηγός σας έχει δει, ίσως να είστε πιο άνετοι με το να διασχίσετε το δρόμο. Αντίθετα, αν ο άνθρωπος οδηγός δεν φαίνεται να σας βλέπει, δικαίως ανησυχείτε για τη διέλευση.

Σε ορισμένες πόλεις, υπάρχει ένα είδος γάτας και ποντικιού σε αυτές τις πτυχές. Ένας ιδιαίτερος πολιτιστικός κανόνας σε μια δεδομένη πόλη μπορεί να είναι ότι εάν κάνετε οπτική επαφή με έναν οδηγό, ο οδηγός «κερδίζει» και έχει το φαινομενικό δικαίωμα να προχωρήσει, ανεξάρτητα από τη νομιμότητα της κατάστασης οδήγησης. Άλλες πόλεις μπορεί να είναι εντελώς το αντίθετο, δηλαδή ότι ο πολιτιστικός κανόνας είναι ότι όταν γίνεται η οπτική επαφή ο πεζός «κερδίζει» και ο ανθρώπινος οδηγός υποτίθεται ότι αναβάλλει τις ενέργειες του πεζού.

Φαίνεται ότι έχουμε υιοθετήσει αυτό το έθιμο κατά τη σχετικά μακροχρόνια περίοδο που τα αυτοκίνητα βρίσκονται στη μέση των πόλεων και των κοινοτήτων μας. Το πρόβλημα με την έλευση των αυτοοδηγούμενων αυτοκινήτων είναι ότι δεν υπάρχει άνθρωπος οδηγός στη θέση του οδηγού και επομένως οποιοσδήποτε πεζός ή κοντινός οδηγός που χρησιμοποιεί συνήθως το κεφάλι και τα μάτια των οδηγών αυτοκινήτων ως πολιτισμική ένδειξη της πρόθεσης οδήγησης είναι τώρα άτυχος.

Οι αυτοκινητοβιομηχανίες και οι προγραμματιστές αυτοοδηγούμενων αυτοκινήτων γνωρίζουν πολύ καλά αυτό το αναδυόμενο ζήτημα. Μια προτεινόμενη λύση συνίσταται στο να αναβοσβήνει το αυτοοδηγούμενο αυτοκίνητο τους προβολείς του αυτόνομου οχήματος ή πιθανώς να χτυπά την κόρνα. Μια άλλη ιδέα είναι ότι το αυτοοδηγούμενο αυτοκίνητο μπορεί να έχει μια παραλλαγή μεγαφώνου και να λέει σε όσους βρίσκονται κοντά ποιες είναι οι «προθέσεις» του συστήματος οδήγησης AI. Κάθε μία από αυτές τις ιδέες έχει σημαντικά μειονεκτήματα.

Ωστόσο, μια διαφορετική πρόταση συνεπάγεται να κάνεις κάτι που στην αρχή μπορεί να πιστέψεις ότι είναι γελοίο. Η πρόταση συνίσταται στην τοποθέτηση σφαιρών που μοιάζουν με τα μάτια στο εξωτερικό του αυτόνομου οχήματος. Αυτές οι σφαίρες θα έμοιαζαν λίγο πολύ με ανθρώπινα μάτια σαν να μπορούν να περιστρέφονται εμπρός και πίσω, δίνοντάς σας μια άμεση ένδειξη που υποδηλώνει ότι η τεχνητή νοημοσύνη «σε έχει δει» (θα το ερμηνεύατε αυτό από τα μάτια που κοιτάζουν προς τη δική σας κατεύθυνση). Έχω αναλύσει αυτήν την προσέγγιση στο ο σύνδεσμος εδώ.

Ποια θα ήταν η αντίδρασή σας αν βλέπατε ένα αυτοοδηγούμενο αυτοκίνητο να κατεβαίνει στο δρόμο και να έχουν αυτές τις υπερμεγέθεις περίεργες σφαίρες τοποθετημένες στο καπό ή στην ταράτσα;

Υποθέτω ότι μπορεί να πιστεύετε ότι είναι απόκοσμο, ίσως ανατριχιαστικό.

Κάποιοι θα πρότειναν ότι το απόκοσμο προκύπτει από το εξοπλισμένο αυτό-οδηγούμενο αυτοκίνητο που βρίσκεται στην παράξενη κοιλάδα. Άλλοι θα υποστήριζαν έντονα ότι αυτό δεν έχει καμία απολύτως σχέση με την παράξενη κοιλάδα. Από αυτούς τους ειδήμονες, μερικοί θα έλεγαν ότι υπάρχει μια απόκοσμη φύση που μπορεί να είναι απόκοσμη χωρίς να χρειάζεται να εδραιωθεί στην παράξενη κοιλάδα (δηλαδή, η παράξενη κοιλάδα φαινομενικά πάντα παράγει απόκοσμο, αλλά δεν παράγεται όλη η απόκοσμη φύση μόνο μέσω της παράξενης κοιλάδας). Η άλλη οπτική γωνία είναι ότι οι σφαίρες θα μπορούσαν πιθανώς να σχεδιαστούν ώστε να δείχνουν λιγότερο βολβό και να φαίνονται πιο ρομποτικά, ή ότι όλοι αναπόφευκτα θα αποδεχτούμε την εμφάνιση αυτών των σφαιρών και η αρχική τρομακτική αντίδραση θα υποχωρήσει.

3. AI Driving Actions Of Self-Driving Cars

Πολλές από τις σημερινές δοκιμές αυτοοδηγούμενων αυτοκινήτων έχουν δείξει ότι τα υπάρχοντα συστήματα οδήγησης τεχνητής νοημοσύνης τείνουν να είναι προγραμματισμένα να οδηγούν με μάλλον χλιαρούς και κάπως αυστηρά νόμιμους τρόπους. Το σύστημα οδήγησης τεχνητής νοημοσύνης συνήθως σταματάει το αυτοοδηγούμενο αυτοκίνητο στα σήματα Stop. Το σύστημα οδήγησης τεχνητής νοημοσύνης δεν κάνει τολμηρά τρεξίματα μέσα από διασταυρώσεις όταν το σήμα οδικής κυκλοφορίας επίκειται να είναι κόκκινο. Αυτές οι παράξενες πρακτικές οδήγησης είναι η επαρχία των ανθρώπινων οδηγών.

Μιλώντας, θα μπορούσατε σχεδόν να μαντέψετε ότι ένα αυτοοδηγούμενο αυτοκίνητο είναι ένα αυτοοδηγούμενο αυτοκίνητο από το στυλ οδήγησης που παρουσιάζει. Ακόμα κι αν το αυτόνομο όχημα φαινόταν οπτικά να είναι ένα συμβατικό αυτοκίνητο που οδηγείται από ανθρώπους, μπορείτε να παρατηρήσετε τις ενέργειες οδήγησης και ίσως λογικά να συμπεράνετε ότι πιθανότατα οδηγείται από σύστημα τεχνητής νοημοσύνης.

Ορισμένοι πιστεύουν ότι θα χρειαστεί να κάνουμε τα συστήματα οδήγησης τεχνητής νοημοσύνης να μοιάζουν περισσότερο με τις γελοιότητες των ανθρώπινων οδηγών, έτσι ώστε να συνδυάζονται αποτελεσματικά με τις κανονιστικές προσεγγίσεις στην οδήγηση. Υποθέτω ότι θα μπορούσατε να το ερμηνεύσετε αυτό ως καταπολέμηση της φωτιάς με τη φωτιά.

Έχει νόημα να γίνει αυτό;

Να γνωρίζετε ότι οι ειλικρινείς σκεπτικιστές και οι κριτικοί αποστρέφονται την ιδέα. Θα υποστήριζαν σθεναρά ότι θέλουμε τα συστήματα οδήγησης τεχνητής νοημοσύνης να οδηγούν σωστά και γλυκά. Η προσθήκη δυνητικά εκατομμυρίων αυτοοδηγούμενων αυτοκινήτων στους δρόμους που είναι προγραμματισμένα να μοιάζουν με παραπλανητικούς οδηγούς θα φαινόταν ένας κολοσσιαίος εφιάλτης. Έχω συζητήσει αυτήν την αμφιλεγόμενη πρόταση στο ο σύνδεσμος εδώ.

Ας αναδιατυπώσουμε το δίλημμα αξιοποιώντας την παράξενη κοιλάδα.

Όταν το σύστημα οδήγησης τεχνητής νοημοσύνης είναι αυστηρά νόμιμο από τις οδηγικές του ενέργειες, αυτό είναι ίσως μια ενδεικτική ένδειξη ότι είναι πιθανό να είναι ένα ρομποτικό σύστημα (παρά τους ανθρώπινους οδηγούς που ομολογουμένως το κάνουν αυτό, αν και στον σημερινό κόσμο φαίνονται πολύ λίγοι). Εάν τα συστήματα οδήγησης τεχνητής νοημοσύνης οδηγούν τόσο ιδιόμορφα όσο οι άνθρωποι οδηγοί, αυτό διασχίζει την παράξενη κοιλάδα ή πέφτει στην παράξενη κοιλάδα;

Σκεφτείτε το.

4. Ρομπότ που οδηγούν ως μέσο για την επίτευξη αυτοοδηγούμενων αυτοκινήτων

Αυτό το τελευταίο στοιχείο για κάλυψη είναι το πιο εντυπωσιακό από αυτά τα τέσσερα.

Μπορεί να αγνοείτε εντελώς ότι ορισμένοι προγραμματιστές τεχνητής νοημοσύνης προσπαθούν να δημιουργήσουν ρομπότ που θα οδηγούν αυτοκίνητα. Το ρομπότ θα έτεινε να μοιάζει με άνθρωπο από διάφορες απόψεις, έχοντας ως άκρα ρομποτικά πόδια και ρομποτικά χέρια. Όταν θέλετε οποιοδήποτε συμβατικό αυτοκίνητο που οδηγείται από ανθρώπους να είναι αυτοοδηγούμενο αυτοκίνητο, απλώς τοποθετείτε αυτό το εξειδικευμένο ρομπότ οδήγησης τεχνητής νοημοσύνης στη θέση του οδηγού του αυτοκινήτου σας. Δείτε την ανάλυσή μου για αυτήν την έννοια στο ο σύνδεσμος εδώ.

Γιατί να θέλουμε να οδηγούμε ρομπότ;

Η ομορφιά ενός τέτοιου ρομπότ είναι ότι όλα τα σημερινά αυτοκίνητα που οδηγούνται από τον άνθρωπο θα μπορούσαν με έναν τρόπο ερμηνείας να γίνουν αυτοοδηγούμενα αυτοκίνητα, σχεδόν σε μια νύχτα. Απλώς αγοράζετε, μισθώνετε ή αποκτάτε με κάποιο τρόπο ένα ρομπότ οδήγησης. Βάζετε το ρομπότ στη θέση του οδηγού σας όταν πηγαίνετε σε ένα ταξίδι οδήγησης. Το ρομπότ σας οδηγεί στον προορισμό σας. Εάν θέλετε να μεταβείτε στην ανθρώπινη οδήγηση, αφαιρείτε το ρομπότ από το όχημα, ίσως το αποθηκεύσετε στο πορτμπαγκάζ για μελλοντική χρήση.

Υπάρχουν περίπου 250 εκατομμύρια συμβατικά αυτοκίνητα στις Ηνωμένες Πολιτείες σήμερα. Μερικοί πιστεύουν ότι τελικά θα απορριφθούν όταν δημιουργηθούν αυτοκίνητα αυτόνομης οδήγησης. Αντί να αχρηστεύσουμε αυτά τα συμβατικά αυτοκίνητα, ίσως θα μπορούσαμε να προσπαθήσουμε να τα μετατρέψουμε ώστε να γίνουν αυτοοδηγούμενα αυτοκίνητα, αν και αυτή είναι πιθανώς μια αρκετά δαπανηρή ιδέα. Η φαινομενικά πιο συνετή προσέγγιση θα ήταν η διάθεση ρομπότ οδήγησης.

Αν βλέπατε ένα συμβατικό αυτοκίνητο να κατεβαίνει στο δρόμο της γειτονιάς σας και είχε ένα ρομπότ στο τιμόνι, ποια θα ήταν η αντίδρασή σας;

Πιθανότατα απόκοσμο.

Ένας ομολογουμένως αμφισβητούμενος ισχυρισμός είναι ότι αυτό το απόκοσμο οφείλεται στο ότι το ρομπότ που οδηγεί συμβατικό αυτοκίνητο βυθίζεται στη διάσημη ή διαβόητη παράξενη κοιλάδα.

Συμπέρασμα

Από την προοπτική της ηθικής τεχνητής νοημοσύνης, η παράξενη κοιλάδα παρουσιάζει ένα ενδιαφέρον αίνιγμα.

Υπάρχουν κάποιοι στην τεχνητή νοημοσύνη που πιστεύουν πλήρως στην παράξενη κοιλάδα και κάποιοι που δεν πιστεύουν. Αλλά, είτε πιστεύετε στην παράξενη κοιλάδα είτε δεν το κάνετε, παρόλα αυτά το ίδιο το θέμα είναι περικυκλωμένο. Δεν μπορείτε να κρύψετε το κεφάλι σας και να προσποιηθείτε ότι η κατασκευή αυτή καθεαυτή είναι ανύπαρκτη. Το κατασκεύασμα ως ιδέα ζει και κατά κάποιο τρόπο είναι πανίσχυρο. Το μισείς ή το αγαπάς, το καταραμένο ή ίσως εξυψωμένο θέμα επιμένει.

Σύμφωνα με την προηγούμενη ομιλία μου σχετικά με τα πλεονεκτήματα της παράξενης κοιλάδας από την ηθική γωνία της τεχνητής νοημοσύνης, υπάρχει μια μονομαχία μεταξύ αγάπης και μίσους. Εάν όσοι βρίσκονται στο βασίλειο της ηθικής τεχνητής νοημοσύνης αγκαλιάσουν την παράξενη κοιλάδα, ή απορρίψουν συνοπτικά την παράξενη κοιλάδα ή παραμείνουν κάπως ουδέτεροι ως προς την αλήθεια και αντ' αυτού θα εστιάσουν στον αντίκτυπο που προκύπτει λόγω των συνεχιζόμενων αποκλίνων πεποιθήσεων σχετικά με αυτήν.

Αυτή η πρόκληση προκαλεί τον εξέχοντα οικονομολόγο Άνταμ Σμιθ, όπως είπε κάποτε (παραφράζοντας) ότι στο δρόμο από την Πόλη του Σκεπτικισμού, πρέπει να περάσετε μέσα από την Κοιλάδα της Αμφισημίας.