Ηθική τεχνητής νοημοσύνης Προσεκτικά αξιολογώντας εάν η προσφορά προκαταλήψεων τεχνητής νοημοσύνης Κυνηγώντας επιδόματα για να πιάσετε και να συλλάβετε ηθικά πονηρά πλήρως αυτόνομα συστήματα είναι συνετή ή μάταιη

Καταζητούμενος: Κυνηγοί μεροληψίας AI.

Αυτή θα μπορούσε να είναι μια σύγχρονη διαφήμιση που θα αρχίσετε να βλέπετε να εμφανίζεται στα κανάλια κοινωνικής δικτύωσης και να εμφανίζεται σε διάφορες διαδικτυακές αγγελίες εργασίας. Αυτή είναι μια σχετικά νέα έννοια ή ρόλος. Κουβαλάει μαζί του αντιπαραθέσεις. Μερικοί ένθερμοι πιστοί υποστηρίζουν ένθερμα ότι έχει άφθονο νόημα και θα έπρεπε να συμβαίνει σε όλη τη διάρκεια, ενώ άλλοι κάνουν μάλλον νευρικά κάποιο σοβαρό ξύσιμο του κεφαλιού και δεν είναι και τόσο σίγουροι ότι αυτή είναι μια καλή ιδέα.

Η ουσία του ρόλου συνίσταται στην απομάκρυνση από την τεχνητή νοημοσύνη τυχόν κρυφών προκαταλήψεων ή ενσωματωμένων πρακτικών διακρίσεων. Στη διάσωση έρχονται οι πρόθυμοι και όλοι οι παλιότεροι κυνηγοί της τεχνητής νοημοσύνης. Προφανώς θα ήταν κυνηγοί επικηρυγμένων με γνώσεις υπολογιστών. Περισσότερο, ελπίζουμε, βουτηγμένο στα βάθη των δυνατοτήτων AI.

Έχεις όπλο, θα ταξιδέψεις και μπορείς, μέσω σκοπευτικής ικανότητας με δεξιότητες τεχνητής νοημοσύνης, να καταφέρεις να αποκαλύψεις αυτές τις δυσάρεστες και αβλαβείς προκαταλήψεις της τεχνητής νοημοσύνης.

Αυτό εγείρει μια σειρά από ακανθώδη ερωτήματα σχετικά με την ευαισθησία της επιδίωξης μιας τέτοιας τακτικής όταν πρόκειται για την ανακάλυψη προκαταλήψεων AI. Όπως θα συζητήσω στιγμιαία, να ξέρετε ότι η έλευση της τεχνητής νοημοσύνης έφερε μαζί της και την εμφάνιση μεροληψιών AI. Ένας χείμαρρος προκαταλήψεων AI. Για τη συνεχή και εκτενή μου κάλυψη της Δεοντολογίας της AI και της Ηθικής ΤΝ, βλ ο σύνδεσμος εδώ και ο σύνδεσμος εδώ, για να αναφέρουμε μόνο μερικά.

Πώς μπορούμε να ανακαλύψουμε ότι ένα συγκεκριμένο σύστημα τεχνητής νοημοσύνης έχει προκαταλήψεις;

Μπορείτε να εμπιστευτείτε τους προγραμματιστές τεχνητής νοημοσύνης που επινόησαν την τεχνητή νοημοσύνη να το κάνουν. Το θέμα είναι ότι μπορεί να είναι τόσο βυθισμένοι σε προκαταλήψεις που οι ίδιοι δεν μπορούν να αναγνωρίσουν τις προκαταλήψεις μέσα στην επινοημένη τεχνητή νοημοσύνη τους. Τους φαίνονται όλα καλά. Ή μπορεί να είναι τόσο ενθουσιασμένοι με την τεχνητή νοημοσύνη και να έχουν μια αίσθηση υπερηφάνειας γι' αυτό, που το να πρέπει να το εξετάσουν με κριτικό μάτι για προκαταλήψεις θα ήταν δύσκολο και πραγματικά καταστροφικό. Πολλοί άλλοι τέτοιοι λόγοι μπορεί να φαίνεται να υπονομεύουν το να αναλάβουν αυτό το έργο οι προγραμματιστές AI, συμπεριλαμβανομένης της έλλειψης δεξιοτήτων για να καταλάβουν τις ενσωματωμένες προκαταλήψεις, την έλλειψη χρόνου σε ένα έργο για να το κάνουν κ.λπ.

Εντάξει, προχωρήστε λοιπόν και προσλάβετε εξωτερικούς συμβούλους για να σας κάνουν τη βρώμικη δουλειά, όπως λες. Αποδεικνύεται ότι οι σύμβουλοι θα εξετάσουν ευχαρίστως την τεχνητή νοημοσύνη σας για προκαταλήψεις, χρεώνοντάς σας μια όμορφη δεκάρα για να το κάνετε (πολλές, πολλές δεκάρες). Συνειδητοποιήστε ότι πρέπει να πληρώσετε για να επιταχύνουν το σύστημά σας AI. Στη συνέχεια, πρέπει να τους βάλετε να ψαχουλέψουν, κάτι που μπορεί να πάρει έναν ανείπωτο αριθμό δαπανηρών και επίπονων ωρών. Η χρήση συμβούλων είναι μια επιλογή εάν έχετε τον προϋπολογισμό για αυτό.

Στο δυνητικό «κενό» του τρόπου εύρεσης αυτών των ύπουλων προκαταλήψεων τεχνητής νοημοσύνης έρχονται οι ηρωικοί και τολμηροί κυνηγοί επικηρυγμένων προκαταλήψεων τεχνητής νοημοσύνης.

Συνήθως δεν τα πληρώνεις προκαταβολικά. Προσπαθούν να βρουν τις προκαταλήψεις της τεχνητής νοημοσύνης στον χρόνο τους και πρέπει να πληρώσουν τους δικούς τους λογαριασμούς καθώς το κάνουν. Μόνο αν βρουν με επιτυχία προκαταλήψεις πληρώνονται. Υποθέτω ότι θα μπορούσατε εύκολα να ισχυριστείτε ότι με τον κατάλληλο τρόπο σκέψης, αυτός είναι ο συμβατικός ορισμός του κυνηγού επικηρυγμένων. Πληρωθείτε αν πετύχετε. Μην πληρώνεστε αν δεν είστε επιτυχημένοι. Περίοδος, τέλος ιστορίας.

Τα προγράμματα Bounty υπάρχουν τουλάχιστον από την εποχή των Ρωμαίων και έτσι θα μπορούσαμε να υποθέσουμε ότι έχουν αποτέλεσμα, έχοντας επιτυχώς αντέξει ως πρακτική όλα αυτά τα χρόνια.

Εδώ είναι ένα συναρπαστικό κομμάτι ιστορικών trivia για εσάς. Σύμφωνα με πληροφορίες, ένα αναρτημένο μήνυμα κατά τη διάρκεια της Ρωμαϊκής Αυτοκρατορίας στην πόλη της Πομπηίας διακήρυξε ότι χρειάζονταν κυνηγοί επικηρυγμένων για να βρουν ένα χάλκινο δοχείο που χάθηκε από ένα μικρό κατάστημα. Η ανταμοιβή για την ανάκτηση του χάλκινου δοχείου ήταν ένα εντυπωσιακό έπαθλο εξήντα πέντε χάλκινων νομισμάτων. Λυπούμαστε που λέμε ότι δεν γνωρίζουμε αν κάποιος κυνηγός επικηρυγμένων βρήκε το χάλκινο δοχείο και διεκδίκησε τα χάλκινα νομίσματα, αλλά γνωρίζουμε ότι το κυνήγι επικηρυγμένων σίγουρα συνεχίστηκε από τους αρχαίους χρόνους.

Στις πιο σύγχρονες εποχές, ίσως γνωρίζετε ότι στη δεκαετία του 1980 προσφέρθηκαν μερικά αξιοσημείωτα οφέλη για την εύρεση σφαλμάτων υπολογιστή ή σφαλμάτων σε πακέτα λογισμικού εκτός ραφιού και στη συνέχεια, στη δεκαετία του 1990, το Netscape πρόσφερε αξιοσημείωτα ένα μπόνους για την εύρεση σφαλμάτων στο πρόγραμμα περιήγησής του. (γίνοντας μια από τις πιο εξέχουσες εταιρείες εκείνης της εποχής που το έκανε). Η Google και το Facebook είχαν επιλέξει το κυνήγι επικηρυγμένων για σφάλματα από το 2010 και το 2013, αντίστοιχα. Λίγα χρόνια αργότερα, το 2016, ακόμη και το Υπουργείο Άμυνας των ΗΠΑ (DoD) μπήκε στην πράξη κάνοντας μια προσπάθεια επιβράβευσης "Hack the Pentagon" (σημειώστε ότι η δημόσια επικεντρωμένη αμοιβή ήταν για σφάλματα που βρέθηκαν σε διάφορους ιστότοπους που σχετίζονται με το DoD και όχι σε αμυντικά συστήματα κρίσιμων αποστολών).

Ας εμβαθύνουμε στο θέμα του bug bounty. Αντιλαμβάνομαι ότι στοχεύω κυρίως να μιλήσω για τις προκαταλήψεις της τεχνητής νοημοσύνης στο κυνήγι επικηρυγμένων σε αυτήν τη συζήτηση, αλλά υπάρχουν μερικοί αρκετά σχετικοί παραλληλισμοί με την αρένα των επικηρυγμένων σφαλμάτων.

Μερικοί είναι αποδεδειγμένα μπερδεμένοι ότι οποιαδήποτε εταιρεία θα ήθελε να προσφέρει ένα μπόνους για να βρει σφάλματα (ή, σε αυτήν την περίπτωση, προκαταλήψεις τεχνητής νοημοσύνης) στα συστήματά τους.

Επιφανειακά, αυτό φαίνεται σαν μια στρατηγική του τύπου «το ζητάς». Εάν ενημερώσετε τον κόσμο ότι καλωσορίζετε εκείνους που μπορεί να προσπαθήσουν να βρουν τρύπες στο λογισμικό σας, φαίνεται ότι ισοδυναμεί με το να πείτε στους διαρρήκτες να προχωρήσουν και να προσπαθήσουν να διαρρήξουν το σπίτι σας. Ακόμα κι αν πιστεύετε ήδη ότι έχετε ένα πολύ καλό σύστημα συναγερμού διαρρήξεων και ότι κανείς δεν πρέπει να μπορεί να μπει στο ασφαλές σπίτι σας, φανταστείτε να ζητάτε και να παρακαλάτε τους διαρρήκτες να κατέβουν όλοι στον τόπο διαμονής σας και να δουν αν μπορούν ρωγμή σε αυτό. Ω, τα δεινά που υφαίνουμε για τον εαυτό μας.

Το ίδιο θα μπορούσε να ειπωθεί όταν ζητάτε από κυνηγούς επικηρυγμένων να βρουν προκαταλήψεις στο AI σας.

Πρώτον, ίσως υπονοεί ότι ήδη πιστεύετε ή ακόμη και ξέρετε ξεκάθαρα ότι η τεχνητή νοημοσύνη σας έχει προκαταλήψεις. Αυτή είναι μια σοκαριστικά ειλικρινής υπονοούμενη παραδοχή που λίγοι θα φαινόταν διατεθειμένοι να κάνουν και θα μπορούσε ενδεχομένως να αποτύχει.

Δεύτερον, δεν ξέρετε με βεβαιότητα τι θα μπορούσαν να κάνουν αυτοί οι κυνηγοί επικηρυγμένων. Θα μπορούσαν να επιλέξουν να πουν σε όλο τον κόσμο ότι βρήκαν προκαταλήψεις στο AI σας. Κάποιος υποθέτει ότι αυτό μπορεί να χάσει το μπόνους, αν και κάποιοι μπορεί να απολαμβάνουν την προσοχή ή να στοχεύουν να ενισχύσουν την κατάστασή τους να λαμβάνουν συμβουλευτικές συναυλίες και άλλες δυνατότητες δημιουργίας εσόδων. Θα μπορούσε ίσως να είναι εντελώς αλτρουιστικό. Μπορεί να είναι μια μορφή ακτιβισμού AI. Μπορώ να συνεχίσω.

Τρίτον, θα μπορούσε να υπάρξει μια ύπουλη ανατροπή στην όλη υπόθεση. Ένας κυνηγός επικηρυγμένων που ισχυρίζεται ότι ψάχνει για προκαταλήψεις τεχνητής νοημοσύνης μπορεί να περιφέρεται διαβολικά για να βρει τρόπους να επιτεθεί στο σύστημά σας AI. Το όλο θέμα είναι μια παρωδία για να αναλάβουμε τελικά μια σοβαρή κυβερνοεπίθεση. Ίσως να υποθέσατε ότι προσπαθούσαν να βοηθήσουν, ενώ έχουν κακές πράξεις στην καρδιά τους. Θλιβερό, αλλά πιθανό.

Τέταρτον, μπορούμε να παρασυρθούμε ακόμη πιο πονηρά σε αυτό το θέμα. Ένας κυνηγός επικηρυγμένων βρίσκει ορισμένες ενοχλητικές και πιθανώς υποκινούμενες αγωγές τεχνητής νοημοσύνης. Το bounty είναι κάποιο ποσό δολαρίων που θα ονομάσουμε X. Αντί να διεκδικήσει το bounty, ο κυνηγός επικηρυγμένων κάνει ένα είδος παράξενης πρόκλησης ransomware. Εάν πληρώσετε στον κυνηγό επικηρυγμένων ένα ποσό δέκα φορές το X ή ίσως το όριο του ουρανού, θα σας πουν για τις προκαταλήψεις της τεχνητής νοημοσύνης. Έχετε περιθώριο μέχρι την Κυριακή το βράδυ τα μεσάνυχτα για να απαντήσετε. Μετά από αυτό το χρονικό σημείο, οι προκαταλήψεις AI θα αποκαλυφθούν για να τις δουν όλοι. Ναι, μια τρομερή δύσκολη θέση.

Πέμπτον, οι πιο πρόσφατοι είναι εκείνοι οι λεγόμενοι διαδικτυακοί απατεώνες «hack to return» που αφού έκλεψαν ένα σωρό διαδικτυακή ζύμη, αποφασίζουν να μετανοήσουν και να επιστρέψουν μερικά από τα παράνομα λάφυρα που άρπαξαν. Η εταιρεία που λαμβάνει μερικώς επιστροφή των χρημάτων της είναι στη συνέχεια πρόθυμη να θεωρήσει το υπόλοιπο κλεμμένο ποσό ως εκ των υστέρων επιβράβευση στους κλέφτες. Φαίνεται ότι όλοι «κερδίζουν» καθώς το μεγαλύτερο μέρος των κεφαλαίων επιστρέφεται και, εν τω μεταξύ, οι απατεώνες του κυβερνοχώρου δεν καταδιώκονται νομικά, συν το ότι παίρνουν το μπόνους των πειρατών. Είναι αυτό συνετές ή ύπουλα διαιωνίζοντας παράνομες πράξεις;

Αντιλαμβάνομαι ότι κάποιοι από εσάς μπορεί να λέτε ότι κανείς δεν πρέπει να κυκλοφορεί τεχνητή νοημοσύνη που έχει προκαταλήψεις σε αυτό. Αυτό φαίνεται να λύνει όλο αυτό το δίλημμα σχετικά με το αν θα χρησιμοποιηθούν οι κυνηγοί επικηρυγμένων με προκαταλήψεις AI ή όχι. Απλώς μην μπείτε σε μια κατάσταση επιβράβευσης. Βεβαιωθείτε ότι οι προγραμματιστές τεχνητής νοημοσύνης σας κάνουν το σωστό και δεν επιτρέπουν προκαταλήψεις AI στα συστήματά τους AI. Ίσως χρησιμοποιήστε συμβούλους για να κάνετε διπλό έλεγχο. Στην ουσία, κάντε ό,τι χρειάζεται για να αποφύγετε να σκεφτείτε ή να ζητήσετε από αυτούς τους κυνηγούς επικηρυγμένων μεροληψίας AI να έρθουν στο τραπέζι.

Ναι, αυτό θα φαινόταν απολύτως λογικό. Το πρόβλημα είναι ότι είναι και λίγο ονειρικό. Η πολυπλοκότητα πολλών συστημάτων τεχνητής νοημοσύνης είναι τόσο μεγάλη που η προσπάθεια να διασφαλιστεί ότι δεν θα εμφανιστεί ούτε μια ουγγιά προκαταλήψεων τεχνητής νοημοσύνης θα είναι επίπονη. Επιπλέον, ορισμένα συστήματα τεχνητής νοημοσύνης έχουν επινοηθεί σκόπιμα για να προσαρμόζονται και να «μαθαίνουν» καθώς προχωρούν. Αυτό σημαίνει ότι σε κάποια μελλοντική χρονική στιγμή η τεχνητή νοημοσύνη που επινοήσατε, η οποία ας προσποιηθούμε στην αρχή ήταν καθαρά καθαρή και χωρίς προκαταλήψεις, μπορεί να έλκεται προς την ενσωμάτωση προκαταλήψεων (δεν το εννοώ αυτό με ανθρωπόμορφο τρόπο, όπως θα εξηγήσω περαιτέρω καθώς εμείς προχωρήστε σε αυτό το θέμα).

Εκείνοι που ευνοούν το κυνήγι επικηρυγμένων για σφάλματα λογισμικού είναι επιρρεπείς στο να υποστηρίξουν ότι είναι λογικό να προσφέρουμε τέτοια κτερίσματα. Μπορούμε να εξετάσουμε το σκεπτικό τους και να δούμε αν ισχύει και για τον τομέα των προκαταλήψεων AI.

Οι υποστηρικτές των bug bounties τονίζουν ότι αντί να προσπαθείτε να προσποιηθείτε ότι δεν υπάρχουν τρύπες στο σύστημά σας, γιατί να μην ενθαρρύνετε να βρεθούν τρύπες, κάνοντάς το με «ελεγχόμενο» τρόπο; Αντίθετα, χωρίς μια τέτοια προσπάθεια γενναιοδωρίας, θα μπορούσατε απλώς να ελπίζετε και να προσευχηθείτε ότι τυχαία κανείς δεν θα βρει μια τρύπα, αλλά αν αντ 'αυτού προσφέρετε μια γενναιοδωρία και λέτε σε αυτούς που βρίσκουν μια τρύπα ότι θα ανταμειφθούν, προσφέρει μια ευκαιρία να στηρίξετε την τρύπα μόνοι σας και στη συνέχεια να αποτρέψετε άλλους από το να τη βρουν κρυφά σε κάποια μεταγενέστερη χρονική στιγμή.

Το ίδιο θα μπορούσε να ειπωθεί στην περίπτωση χρήσης προκαταλήψεων AI. Εάν προσφέρετε μια επαρκή επιβράβευση, ελπίζουμε ότι οι κυνηγοί επικηρυγμένων θα φέρουν την προσοχή σας στην ανακάλυψη των προκαταλήψεων της τεχνητής νοημοσύνης. Στη συνέχεια, μπορείτε να αντιμετωπίσετε τις προκαταλήψεις της τεχνητής νοημοσύνης με σχετικά ήσυχο και μετρημένο τρόπο. Αυτό μπορεί να αποτρέψει ένα πολύ μεγαλύτερο και πιο τρομακτικό πρόβλημα αργότερα, δηλαδή ότι κάποιος άλλος βρίσκει προκαταλήψεις τεχνητής νοημοσύνης στην τεχνητή νοημοσύνη σας και ουρλιάζει γι' αυτό στους ψηλούς ουρανούς.

Γενικά, μια εταιρεία που επιθυμεί να ενεργοποιήσει την προσπάθεια κυνηγιού επικηρυγμένων σφαλμάτων θα εφαρμόσει μια Πολιτική αποκάλυψης ευπάθειας (VDP). Το VDP υποδεικνύει πώς πρέπει να βρεθούν τα σφάλματα και να αναφερθούν στην εταιρεία, μαζί με τον τρόπο με τον οποίο θα δοθεί η ανταμοιβή ή η επιβράβευση στον κυνηγό. Συνήθως, το VDP θα απαιτήσει από τον κυνηγό να καταλήξει να υπογράψει μια συμφωνία μη αποκάλυψης (NDA) έτσι ώστε να μην αποκαλύπτει σε άλλους τι βρήκαν.

Η έννοια της χρήσης ενός NDA με κυνηγούς επικηρυγμένων έχει κάποια διαμάχη. Αν και ίσως είναι λογικό για την εταιρεία που προσφέρει το μπόνους να θέλει να κρατήσει στη μαμά τις εκθέσεις που βρέθηκαν, λέγεται επίσης ότι καταπνίγει τη συνολική ευαισθητοποίηση σχετικά με τέτοια σφάλματα. Προφανώς, εάν επιτρέπεται να γίνεται λόγος για σφάλματα λογισμικού, θα βοηθούσε ενδεχομένως την ασφάλεια άλλων συστημάτων σε άλλες εταιρείες που στη συνέχεια θα ενίσχυαν την έκθεσή τους. Μερικοί κυνηγοί επικηρυγμένων δεν θα υπογράψουν NDA, εν μέρει λόγω της επιθυμίας του κοινού και εν μέρει λόγω της προσπάθειας να κρατήσουν κρυφή τη δική τους ταυτότητα. Λάβετε επίσης υπόψη ότι η πτυχή NDA δεν εμφανίζεται συνήθως παρά μόνο αφού ο κυνηγός ισχυριστεί ότι έχει βρει ένα σφάλμα, αντί να το απαιτήσει εκ των προτέρων.

Ορισμένα VDP ορίζουν ότι η NDA είναι μόνο για περιορισμένη χρονική περίοδο, επιτρέποντας στην εταιρεία να βρει πρώτα μια λύση για την εμφανή τρύπα και στη συνέχεια να επιτρέψει την ευρύτερη αποκάλυψη σχετικά με αυτό. Μόλις βουλώσει η τρύπα, η εταιρεία επιτρέπει στη συνέχεια να χαλαρώσει το NDA έτσι ώστε ο υπόλοιπος κόσμος να μπορεί να μάθει για το σφάλμα. Ο τυπικός χρόνος επίλυσης για τα σφάλματα που κυνηγούνται επικηρυγμένα είναι περίπου 15-20 ημέρες όταν μια εταιρεία θέλει να το συνδέσει αμέσως, ενώ σε άλλες περιπτώσεις μπορεί να εκτείνεται σε 60-80 ημέρες. Όσον αφορά την πληρωμή του κυνηγού επικηρυγμένων, το λεγόμενο time-to-pay, αφού η τρύπα έχει επαληθευτεί ότι υπάρχει στην πραγματικότητα, οι πληρωμές επικηρυγμένων τείνουν να είναι εντός περίπου 15-20 ημερών για τις μικρότερες περιπτώσεις και περίπου 50-60 ημέρες για τις μεγαλύτερες περιπτώσεις (αυτές αλλάζουν συνεχώς ενδείξεις του κλάδου και αναφέρονται μόνο ως ενδεικτικά).

Θα πρέπει επίσης να ζητηθεί από τους κυνηγούς επικηρύξεων να συμμετάσχουν σε ένα VDP και να αντιμετωπίσουν ένα NDA;

Μπορείτε να πάρετε ένα ναι και ένα όχι σε αυτήν την ερώτηση. Ναι, ορισμένες εταιρείες θα πρέπει να ακολουθήσουν αυτόν τον δρόμο. Όχι, μπορεί να μην επιλέξετε απαραίτητα να ακολουθήσετε αυτή τη διαδρομή. Παράγοντες περιλαμβάνουν το μέγεθος και τη φύση της τεχνητής νοημοσύνης, τη δυνατότητα τυχόν προκαταλήψεων της τεχνητής νοημοσύνης που εμπλέκονται, καθώς και μια σειρά άλλων ηθικών, νομικών και επιχειρηματικών εκτιμήσεων που ισχύουν.

Θα μπορούσα να προσθέσω ότι η καθιέρωση μιας προσπάθειας κυνηγιού επικηρυγμένων για προκαταλήψεις AI της τεχνητής νοημοσύνης σας είναι πολύ μεγαλύτερη από ό,τι θα μπορούσατε να υποθέσετε με μια πρώτη ματιά.

Θα ξεκινήσουμε με την τρομερή πιθανότητα να σας κατακλύσουν οι κυνηγοί επικηρυγμένων με προκαταλήψεις AI.

Αυτήν τη στιγμή, θα δυσκολευτείτε να βρείτε πολλούς που θα είχαν μια τέτοια τηλεκάρτα. Δεν υπάρχουν πολλοί τριγύρω. Είναι οι μέρες της Άγριας Δύσης από αυτή την άποψη. Αλλά αν η ιδέα των προκαταλήψεων της τεχνητής νοημοσύνης στο κυνήγι επικηρυγμένων συνεχιστεί, ειδικά όταν τα κτερίσματα είναι άφθονα και πλούσια σε ανταμοιβή, μπορείτε να στοιχηματίσετε ότι όλοι θα βουτήξουν στην πισίνα κυνηγιού με προκαταλήψεις.

Θέλετε κάθε είδους riffraff να επιδιώκει προκαταλήψεις AI στο σύστημά σας AI; Θα βρείτε μερικούς ιδιοκτήτες που είναι πραγματικά ειδικοί σε αυτό το είδος. Θα βρεις άλλους παίκτες που είναι ερασιτέχνες και μπορεί να κάνουν ένα χάος ή να κλάψουν λύκο. Το επόμενο πράγμα που γνωρίζετε, οποιοσδήποτε μπορεί να γράψει "Τεχνητή Νοημοσύνη" θα έρθει να σκάψει στο χρυσωρυχείο σας ενός συστήματος τεχνητής νοημοσύνης για αυτά τα πολύτιμα ψήγματα χρυσού με προκαταλήψεις AI. Ο πυρετός του χρυσού είναι σε εξέλιξη. Αυτό μπορεί να μην είναι καλό για εσάς.

Θα χρειαστεί να ελέγξετε εξονυχιστικά τις υποβολές κυνηγών επικηρυγμένων. Θα υπάρχει πολύς «θόρυβος» στις αναφερόμενες αξιώσεις, με την έννοια ότι πολλές από τις ισχυριζόμενες προκαταλήψεις τεχνητής νοημοσύνης δεν υπάρχουν, αν και ο κυνηγός επικηρυγμένων επιμένει ότι βρήκαν κάποιες. Φανταστείτε πόση εργασία θα απαιτηθεί από τις δικές σας ομάδες τεχνητής νοημοσύνης για να εξετάσουν τις αξιώσεις επιχορηγήσεων, να εξερευνήσουν την εγκυρότητα της καθεμιάς και, στη συνέχεια, ενδεχομένως να πηγαίνουν πέρα ​​δώθε με τον κυνηγό επικηρυγμένων σχετικά με το αν ανακαλύφθηκε χρυσός ή όχι.

Κάποιοι θα υποστήριζαν ότι αυτός είναι ένας άλλος λόγος για να το κάνετε ολόκληρο μόνοι σας. Μπορεί αναπόφευκτα να ανακαλύψετε ότι το θέμα της γενναιοδωρίας είναι περισσότερο πρόβλημα από ό,τι άξιζε.

Εδώ είναι μια άλλη ερώτηση για να συλλογιστούμε. Πώς θα ξέρουν οι κυνηγοί επικηρυγμένων πώς φαίνεται μια προκατάληψη AI; Ουσιαστικά, χωρίς κάποια εμφάνιση του τι πρέπει να αναζητήσετε, οποιοσδήποτε γυαλιστερός βράχος θα μπορούσε να υποστηριχθεί ότι επιδεικνύει μια προκατάληψη της τεχνητής νοημοσύνης στο αντιληπτό χρυσωρυχείο τεχνητής νοημοσύνης που ανασκάπτεται.

Στις μέρες της Παλιάς Δύσης, ας υποθέσουμε ότι προσφέρατε μια ανταμοιβή για τη σύλληψη του Billy the Kid (έναν διάσημο παράνομο). Αν το κάνατε και δεν συμπεριλάβατε μια εικόνα για το πώς ήταν ο Μπίλι, φανταστείτε τον αριθμό των κυνηγών επικηρυγμένων που θα μπορούσαν να σύρουν στο γραφείο του σερίφη κάποιον που ήλπιζαν ή πίστευαν ότι ήταν ο Μπίλι το Παιδί. Μπορεί να πλημμυρίσετε από ψεύτικο Μπίλι. Αυτό είναι κακό, καθώς θα έπρεπε πιθανώς να κοιτάξετε το καθένα, να κάνετε διερευνητικές ερωτήσεις και να προσπαθήσετε να εξακριβώσετε αν το άτομο ήταν πραγματικά ο Μπίλι ή όχι.

Το θέμα είναι ότι για να ρυθμίσετε την προσπάθεια επιβράβευσης προκαταλήψεων AI, θα ήταν φρόνιμο να προσπαθήσετε να διευκρινίσετε σε τι θεωρείτε ότι αποτελούνται οι προκαταλήψεις AI. Αυτό απαιτεί ένα είδος βαθμονόμησης Goldilocks. Δεν θέλετε να είστε τόσο περιορισμένοι ώστε οι κυνηγοί επικηρυγμένων να παραβλέπουν τις προκαταλήψεις της τεχνητής νοημοσύνης απλώς και μόνο επειδή δεν ταιριάζουν στον καθορισμένο ορισμό σας και ούτε θέλετε να φωνάζουν «Εύρηκα!». σε κάθε μεροληψία AI που βρίσκουν πιθανώς.

Θα χρειαστείτε ακριβώς τη σωστή ισορροπία Goldilocks από το τι αποτελούνται οι προκαταλήψεις AI και, επομένως, να παρέχετε κατά προτίμηση σαφείς κατευθύνσεις για αυτό.

Ένα μεγάλο μέρος αυτού του κυνηγιού επικηρυγμένων μεροληψίας AI θα επικεντρωθεί σε συστήματα Machine Learning (ML) και Deep Learning (DL) που βασίζονται σε AI. Αυτό είναι λογικό δεδομένου ότι η έλευση της διεισδυτικότητας ML/DL αυξάνεται, καθώς και ότι φαίνεται να έχει μερικές από τις πιο πιθανές προκλήσεις του να συμπεριλάβει αδικαιολόγητες προκαταλήψεις AI.

Αυτοί οι ερευνητές εντοπίζουν πόσο σημαντική μπορεί να είναι μια προσπάθεια κυνηγιού επικηρύξεων με προκαταλήψεις AI, ιδιαίτερα στο πλαίσιο ML/DL: «Με την πάροδο του χρόνου, οι κοινότητες λογισμικού και ασφάλειας ανέπτυξαν «χαρίσματα σφαλμάτων» σε μια προσπάθεια να μετατρέψουν παρόμοια δυναμική μεταξύ των προγραμματιστών συστημάτων και των επικριτών τους (ή χάκερ) προς πιο διαδραστικούς και παραγωγικούς σκοπούς. Η ελπίδα είναι ότι προσκαλώντας σκόπιμα εξωτερικά μέρη να βρουν σφάλματα λογισμικού ή υλικού στα συστήματά τους και συχνά παρέχοντας χρηματικά κίνητρα για να το κάνουν, θα εξελιχθεί ένα πιο υγιές και ταχύτερα ανταποκρινόμενο οικοσύστημα. Είναι φυσικό για την κοινότητα της ML να εξετάσει μια παρόμοια προσέγγιση «bias bounty» για την έγκαιρη ανακάλυψη και επιδιόρθωση μοντέλων και συστημάτων με προκατάληψη ή άλλες ανεπιθύμητες συμπεριφορές. Αντί να βρίσκουν σφάλματα στο λογισμικό, τα εξωτερικά μέρη καλούνται να βρουν προκαταλήψεις — για παράδειγμα, (δημογραφικές ή άλλες) υποομάδες εισροών στις οποίες ένα εκπαιδευμένο μοντέλο δεν έχει αποδόσεις — και ανταμείβονται για αυτό» (στο άρθρο «An Algorithmic Framework for Bias Bounties» των Ira Globus-Harris, Michael Kearns και Aaron Roth).

Στην ερευνητική εργασία, οι συγγραφείς σκιαγραφούν μια προτεινόμενη προσέγγιση για το τι είδους προκαταλήψεις μπορούν να αναζητηθούν από τους κυνηγούς επικηρυγμένων. Υπάρχει επίσης μια ένδειξη σχετικά με τον τρόπο αξιολόγησης των αξιώσεων κυνηγών επικηρυγμένων που σχετίζονται με τις υποτιθέμενες προκαταλήψεις τεχνητής νοημοσύνης που ανακαλύφθηκαν έτσι. Σύμφωνα με τις προηγούμενες παρατηρήσεις μου εδώ, οι πιθανότητες είναι ότι θα λάβετε παράλογες αξιώσεις και θα πρέπει να διαχωρίσετε το σιτάρι μεροληψίας AI από την ήρα.

Προτού ασχοληθούμε με μερικά ακόμη κρέατα και πατάτες σχετικά με τις άγριες και μάλλινες σκέψεις που διέπουν το κυνήγι της προκατάληψης της τεχνητής νοημοσύνης, ας δημιουργήσουμε μερικές πρόσθετες βασικές αρχές σε βαθιά αναπόσπαστα θέματα. Πρέπει να κάνουμε μια σύντομη βουτιά στην ηθική της τεχνητής νοημοσύνης και ιδιαίτερα στην εμφάνιση της Μηχανικής Μάθησης (ML) και της Βαθιάς Μάθησης (DL).

Μπορεί να γνωρίζετε αόριστα ότι μια από τις πιο δυνατές φωνές αυτές τις μέρες στον τομέα της τεχνητής νοημοσύνης και ακόμη και εκτός του πεδίου της τεχνητής νοημοσύνης αποτελείται από φωνές για μια μεγαλύτερη ομοιότητα ηθικής τεχνητής νοημοσύνης. Ας ρίξουμε μια ματιά στο τι σημαίνει να αναφερόμαστε στο AI Ethics και στο Ethical AI. Επιπλέον, θα διερευνήσουμε τι εννοώ όταν μιλάω για Μηχανική Μάθηση και Βαθιά Μάθηση.

Ένα συγκεκριμένο τμήμα ή τμήμα της ηθικής τεχνητής νοημοσύνης που έχει τραβήξει πολύ την προσοχή των μέσων ενημέρωσης αποτελείται από την τεχνητή νοημοσύνη που εμφανίζει αβλαβείς προκαταλήψεις και ανισότητες. Ίσως γνωρίζετε ότι όταν ξεκίνησε η τελευταία εποχή της τεχνητής νοημοσύνης υπήρξε μια τεράστια έκρηξη ενθουσιασμού για αυτό που ορισμένοι αποκαλούν τώρα AI για καλό. Δυστυχώς, μετά από αυτόν τον ενθουσιασμό, αρχίσαμε να γινόμαστε μάρτυρες AI για κακό. Για παράδειγμα, διάφορα συστήματα αναγνώρισης προσώπου που βασίζονται σε τεχνητή νοημοσύνη έχουν αποκαλυφθεί ότι περιέχουν φυλετικές προκαταλήψεις και προκαταλήψεις φύλου, τις οποίες έχω συζητήσει στο ο σύνδεσμος εδώ.

Προσπάθειες για αντιπολίτευση AI για κακό βρίσκονται σε εξέλιξη ενεργά. Εκτός από ηχηρή νομικός επιδιώξεις περιορισμού του αδικήματος, υπάρχει επίσης μια ουσιαστική ώθηση προς την αποδοχή της ηθικής της τεχνητής νοημοσύνης για να διορθωθεί η κακία της τεχνητής νοημοσύνης. Η ιδέα είναι ότι πρέπει να υιοθετήσουμε και να εγκρίνουμε βασικές αρχές ηθικής τεχνητής νοημοσύνης για την ανάπτυξη και την εφαρμογή της τεχνητής νοημοσύνης, πράττοντας έτσι για να υπονομεύσουμε την AI για κακό και ταυτόχρονα προαναγγέλλοντας και προάγοντας το προτιμότερο AI για καλό.

Σε μια σχετική έννοια, είμαι υπέρμαχος της προσπάθειας χρήσης της τεχνητής νοημοσύνης ως μέρος της λύσης στα δεινά της τεχνητής νοημοσύνης, καταπολεμώντας τη φωτιά με τη φωτιά με αυτόν τον τρόπο σκέψης. Μπορούμε, για παράδειγμα, να ενσωματώσουμε στοιχεία ηθικής τεχνητής νοημοσύνης σε ένα σύστημα τεχνητής νοημοσύνης που θα παρακολουθεί τον τρόπο με τον οποίο το υπόλοιπο της τεχνητής νοημοσύνης κάνει τα πράγματα και, ως εκ τούτου, μπορεί να συλλάβει σε πραγματικό χρόνο τυχόν προσπάθειες που εισάγουν διακρίσεις, δείτε τη συζήτησή μου στο ο σύνδεσμος εδώ. Θα μπορούσαμε επίσης να έχουμε ένα ξεχωριστό σύστημα AI που λειτουργεί ως ένας τύπος οθόνης AI Ethics. Το σύστημα τεχνητής νοημοσύνης χρησιμεύει ως επόπτης για να παρακολουθεί και να ανιχνεύει πότε μια άλλη τεχνητή νοημοσύνη πηγαίνει στην ανήθικη άβυσσο (δείτε την ανάλυσή μου για τέτοιες δυνατότητες στο ο σύνδεσμος εδώ).

Σε λίγο, θα μοιραστώ μαζί σας ορισμένες βασικές αρχές που διέπουν την ηθική της τεχνητής νοημοσύνης. Υπάρχουν πολλές από αυτού του είδους τις λίστες που επιπλέουν εδώ και εκεί. Θα μπορούσατε να πείτε ότι δεν υπάρχει ακόμη μια μοναδική λίστα καθολικής απήχησης και σύμφωνης γνώμης. Αυτά είναι τα δυσάρεστα νέα. Τα καλά νέα είναι ότι τουλάχιστον υπάρχουν άμεσα διαθέσιμες λίστες AI Ethics και τείνουν να είναι αρκετά παρόμοιες. Συνολικά, αυτό υποδηλώνει ότι με μια μορφή αιτιολογημένης σύγκλισης βρίσκουμε τον δρόμο μας προς μια γενική κοινότητα του τι συνίσταται η Ηθική AI.

Αρχικά, ας καλύψουμε εν συντομία μερικές από τις συνολικές αρχές ηθικής τεχνητής νοημοσύνης για να δείξουμε τι θα έπρεπε να είναι ζωτικής σημασίας για οποιονδήποτε κατασκευάζει, ασχολείται με το πεδίο ή χρησιμοποιεί AI.

Για παράδειγμα, όπως αναφέρει το Βατικανό στο Έκκληση της Ρώμης για ηθική τεχνητή νοημοσύνη και όπως έχω καλύψει σε βάθος στο ο σύνδεσμος εδώ, αυτές είναι οι έξι βασικές αρχές ηθικής της τεχνητής νοημοσύνης που έχουν προσδιορίσει:

• Διαφάνεια: Κατ' αρχήν, τα συστήματα τεχνητής νοημοσύνης πρέπει να είναι εξηγήσιμα
• Συμπερίληψη: Οι ανάγκες όλων των ανθρώπινων όντων πρέπει να λαμβάνονται υπόψη ώστε όλοι να μπορούν να επωφεληθούν και να προσφερθούν σε όλα τα άτομα οι καλύτερες δυνατές συνθήκες για να εκφραστούν και να αναπτυχθούν
• Ευθύνη: Όσοι σχεδιάζουν και αναπτύσσουν τη χρήση της τεχνητής νοημοσύνης πρέπει να προχωρήσουν με υπευθυνότητα και διαφάνεια
• Αμεροληψία: Μην δημιουργείτε ή ενεργείτε σύμφωνα με προκαταλήψεις, διασφαλίζοντας έτσι τη δικαιοσύνη και την ανθρώπινη αξιοπρέπεια
• Αξιοπιστία: Τα συστήματα AI πρέπει να μπορούν να λειτουργούν αξιόπιστα
• Ασφάλεια και απόρρητο: Τα συστήματα AI πρέπει να λειτουργούν με ασφάλεια και να σέβονται το απόρρητο των χρηστών.

Όπως αναφέρεται από το Υπουργείο Άμυνας των ΗΠΑ (DoD) σε τους Ηθικές αρχές για τη χρήση της τεχνητής νοημοσύνης και όπως έχω καλύψει σε βάθος στο ο σύνδεσμος εδώ, αυτές είναι οι έξι βασικές αρχές ηθικής της τεχνητής νοημοσύνης:

• Υπεύθυνος: Το προσωπικό του Υπουργείου Άμυνας θα ασκεί τα κατάλληλα επίπεδα κρίσης και φροντίδας, ενώ θα παραμένει υπεύθυνο για την ανάπτυξη, την ανάπτυξη και τη χρήση των δυνατοτήτων AI.
• Δίκαιος: Το Τμήμα θα λάβει σκόπιμα μέτρα για να ελαχιστοποιήσει την ακούσια μεροληψία στις δυνατότητες τεχνητής νοημοσύνης.
• Ανιχνεύσιμος: Οι ικανότητες τεχνητής νοημοσύνης του Τμήματος θα αναπτυχθούν και θα αναπτυχθούν έτσι ώστε το σχετικό προσωπικό να έχει κατάλληλη κατανόηση της τεχνολογίας, των διαδικασιών ανάπτυξης και των λειτουργικών μεθόδων που ισχύουν για τις δυνατότητες τεχνητής νοημοσύνης, συμπεριλαμβανομένων διαφανών και ελεγχόμενων μεθοδολογιών, πηγών δεδομένων και διαδικασίας σχεδιασμού και τεκμηρίωσης.
• Αξιόπιστος: Οι δυνατότητες τεχνητής νοημοσύνης του Τμήματος θα έχουν σαφείς, καλά καθορισμένες χρήσεις και η ασφάλεια, η ασφάλεια και η αποτελεσματικότητα αυτών των δυνατοτήτων θα υπόκεινται σε δοκιμές και διασφάλιση εντός αυτών των καθορισμένων χρήσεων σε ολόκληρο τον κύκλο ζωής τους.
• Ρυθμιστός: Το Τμήμα θα σχεδιάσει και θα κατασκευάσει τις ικανότητες τεχνητής νοημοσύνης για να εκπληρώσει τις επιδιωκόμενες λειτουργίες τους, ενώ θα έχει την ικανότητα να ανιχνεύει και να αποφεύγει ακούσιες συνέπειες, καθώς και την ικανότητα να αποδεσμεύει ή να απενεργοποιεί αναπτυγμένα συστήματα που επιδεικνύουν ακούσια συμπεριφορά.

Έχω επίσης συζητήσει διάφορες συλλογικές αναλύσεις των αρχών δεοντολογίας της τεχνητής νοημοσύνης, συμπεριλαμβανομένης της κάλυψης ενός συνόλου που επινοήθηκε από ερευνητές που εξέτασαν και συμπύκνωσαν την ουσία πολλών εθνικών και διεθνών αρχών ηθικής τεχνητής νοημοσύνης σε μια εργασία με τίτλο «The Global Landscape Of AI Ethics Guidelines» (δημοσιευμένο σε Φύση), και ότι η κάλυψή μου διερευνά σε ο σύνδεσμος εδώ, που οδήγησε σε αυτήν τη βασική λίστα:

• Διαφάνεια
• Δικαιοσύνη και Δικαιοσύνη
• Μη κακοήθεια
• Αρμοδιότητα
• Προστασία προσωπικών δεδομένων
• Αγαθοεργία
• Ελευθερία & Αυτονομία
• Εμπιστευθείτε
• Βιωσιμότητα
• Αξιοπρέπεια
• Αλληλεγγύη

Όπως μπορείτε να μαντέψετε ευθέως, η προσπάθεια να εντοπίσετε τις λεπτομέρειες στις οποίες βασίζονται αυτές οι αρχές μπορεί να είναι εξαιρετικά δύσκολο να γίνει. Ακόμη περισσότερο, η προσπάθεια να μετατραπούν αυτές οι γενικές αρχές σε κάτι εντελώς απτό και αρκετά λεπτομερές για να χρησιμοποιηθεί κατά τη δημιουργία συστημάτων τεχνητής νοημοσύνης είναι επίσης ένα δύσκολο καρύδι. Γενικά, είναι εύκολο να κάνουμε λίγο χειραψία σχετικά με το τι είναι οι αρχές ηθικής τεχνητής νοημοσύνης και πώς θα πρέπει να τηρούνται γενικά, ενώ είναι μια πολύ πιο περίπλοκη κατάσταση στην κωδικοποίηση AI που πρέπει να είναι το πραγματικό λάστιχο που συναντά το δρόμο.

Οι αρχές της δεοντολογίας της τεχνητής νοημοσύνης πρέπει να χρησιμοποιούνται από τους προγραμματιστές τεχνητής νοημοσύνης, μαζί με εκείνους που διαχειρίζονται τις προσπάθειες ανάπτυξης της τεχνητής νοημοσύνης, ακόμη και εκείνους που τελικά τοποθετούν και εκτελούν συντήρηση σε συστήματα τεχνητής νοημοσύνης. Όλοι οι ενδιαφερόμενοι καθ' όλη τη διάρκεια του κύκλου ζωής ανάπτυξης και χρήσης της τεχνητής νοημοσύνης θεωρούνται εντός του πεδίου εφαρμογής της τήρησης των καθιερωμένων κανόνων της ηθικής τεχνητής νοημοσύνης. Αυτό είναι ένα σημαντικό σημείο, καθώς η συνήθης υπόθεση είναι ότι «μόνο οι κωδικοποιητές» ή αυτοί που προγραμματίζουν την τεχνητή νοημοσύνη υπόκεινται στην τήρηση των αντιλήψεων της ηθικής της τεχνητής νοημοσύνης. Όπως αναφέρθηκε προηγουμένως, χρειάζεται ένα χωριό για να επινοήσει και να καλλιεργήσει την τεχνητή νοημοσύνη, και για το οποίο ολόκληρο το χωριό πρέπει να γνωρίζει και να συμμορφώνεται με τις ηθικές αρχές της ΑΙ.

Ας βεβαιωθούμε επίσης ότι είμαστε στην ίδια σελίδα σχετικά με τη φύση της σημερινής τεχνητής νοημοσύνης.

Δεν υπάρχει καμία τεχνητή νοημοσύνη σήμερα που να είναι ευαίσθητη. Δεν το έχουμε αυτό. Δεν γνωρίζουμε αν θα είναι δυνατή η αισθητή τεχνητή νοημοσύνη. Κανείς δεν μπορεί εύστοχα να προβλέψει εάν θα επιτύχουμε αισθανόμενη τεχνητή νοημοσύνη, ούτε εάν η αισθανόμενη τεχνητή νοημοσύνη θα προκύψει με κάποιο θαύμα αυθόρμητα σε μια μορφή υπολογιστικού γνωστικού σουπερνόβα (συνήθως αναφέρεται ως η μοναδικότητα, δείτε την κάλυψή μου στο ο σύνδεσμος εδώ).

Ο τύπος τεχνητής νοημοσύνης στον οποίο εστιάζω αποτελείται από τη μη ευαίσθητη τεχνητή νοημοσύνη που έχουμε σήμερα. Αν θέλαμε να κάνουμε τρελά εικασίες για αισθητικός AI, αυτή η συζήτηση θα μπορούσε να πάει σε μια ριζικά διαφορετική κατεύθυνση. Μια αισθανόμενη τεχνητή νοημοσύνη θα ήταν υποτίθεται ανθρώπινης ποιότητας. Θα πρέπει να λάβετε υπόψη ότι το αισθανόμενο AI είναι το γνωστικό ισοδύναμο ενός ανθρώπου. Επιπλέον, δεδομένου ότι ορισμένοι εικάζουν ότι μπορεί να έχουμε υπερ-έξυπνη τεχνητή νοημοσύνη, είναι κατανοητό ότι μια τέτοια τεχνητή νοημοσύνη θα μπορούσε να καταλήξει να είναι πιο έξυπνη από τους ανθρώπους (για την εξερεύνηση της υπερ-έξυπνης τεχνητής νοημοσύνης ως πιθανότητα, βλ. την κάλυψη εδώ).

Ας κρατήσουμε τα πράγματα πιο προσγειωμένα και ας εξετάσουμε τη σημερινή υπολογιστική μη ευαίσθητη τεχνητή νοημοσύνη.

Συνειδητοποιήστε ότι η σημερινή τεχνητή νοημοσύνη δεν είναι σε θέση να «σκέφτεται» με κανένα τρόπο στο ίδιο επίπεδο με την ανθρώπινη σκέψη. Όταν αλληλεπιδράτε με την Alexa ή τη Siri, οι ικανότητες συνομιλίας μπορεί να φαίνονται παρόμοιες με τις ανθρώπινες ικανότητες, αλλά η πραγματικότητα είναι ότι είναι υπολογιστική και στερείται ανθρώπινης γνώσης. Η τελευταία εποχή της τεχνητής νοημοσύνης έχει κάνει εκτεταμένη χρήση της Μηχανικής Μάθησης (ML) και της Βαθιάς Μάθησης (DL), τα οποία αξιοποιούν την αντιστοίχιση υπολογιστικών προτύπων. Αυτό οδήγησε σε συστήματα τεχνητής νοημοσύνης που έχουν την εμφάνιση ανθρώπινων τάσεων. Εν τω μεταξύ, δεν υπάρχει καμία τεχνητή νοημοσύνη σήμερα που να έχει μια ομοιότητα κοινής λογικής και ούτε να έχει κάποιο από το γνωστικό θαύμα της εύρωστης ανθρώπινης σκέψης.

Το ML/DL είναι μια μορφή υπολογιστικής αντιστοίχισης προτύπων. Η συνήθης προσέγγιση είναι ότι συγκεντρώνετε δεδομένα σχετικά με μια εργασία λήψης αποφάσεων. Τροφοδοτείτε τα δεδομένα στα μοντέλα υπολογιστών ML/DL. Αυτά τα μοντέλα επιδιώκουν να βρουν μαθηματικά μοτίβα. Μετά την εύρεση τέτοιων μοτίβων, εάν βρεθούν, το σύστημα AI θα χρησιμοποιήσει αυτά τα μοτίβα όταν συναντήσει νέα δεδομένα. Κατά την παρουσίαση νέων δεδομένων, τα μοτίβα που βασίζονται στα «παλιά» ή ιστορικά δεδομένα εφαρμόζονται για την απόδοση μιας τρέχουσας απόφασης.

Νομίζω ότι μπορείτε να μαντέψετε πού οδηγεί αυτό. Εάν οι άνθρωποι που έπαιρναν τις αποφάσεις τους έχουν ενσωματώσει ανεπιθύμητες προκαταλήψεις, οι πιθανότητες είναι ότι τα δεδομένα αντικατοπτρίζουν αυτό με λεπτούς αλλά σημαντικούς τρόπους. Η υπολογιστική αντιστοίχιση προτύπων Machine Learning ή Deep Learning απλώς θα προσπαθήσει να μιμηθεί μαθηματικά τα δεδομένα ανάλογα. Δεν υπάρχει καμία ομοιότητα της κοινής λογικής ή άλλων ευαίσθητων πτυχών της μοντελοποίησης που έχει δημιουργηθεί από AI αυτή καθαυτή.

Επιπλέον, οι προγραμματιστές τεχνητής νοημοσύνης μπορεί να μην συνειδητοποιούν τι συμβαίνει. Τα απόκρυφα μαθηματικά στο ML/DL μπορεί να δυσκολέψουν τον εντοπισμό των κρυμμένων τώρα προκαταλήψεων. Δικαίως θα ελπίζατε και θα περιμένατε ότι οι προγραμματιστές τεχνητής νοημοσύνης θα δοκιμάσουν τις δυνητικά θαμμένες προκαταλήψεις, αν και αυτό είναι πιο δύσκολο από ό,τι φαίνεται. Υπάρχει μια ισχυρή πιθανότητα ακόμη και με σχετικά εκτεταμένες δοκιμές να εξακολουθούν να υπάρχουν προκαταλήψεις ενσωματωμένες στα μοντέλα αντιστοίχισης προτύπων του ML/DL.

Θα μπορούσατε να χρησιμοποιήσετε κάπως τη διάσημη ή διαβόητη παροιμία του garbage-in garbage-out. Το θέμα είναι ότι αυτό μοιάζει περισσότερο με προκαταλήψεις που ύπουλα εγχέονται ως προκαταλήψεις που βυθίζονται στο AI. Ο αλγόριθμος λήψης αποφάσεων (ADM) του AI γίνεται αξιωματικά φορτωμένος με ανισότητες.

ΟΧΙ καλα.

Ας επιστρέψουμε τώρα στο θέμα του κυνηγιού μεροληψίας AI.

Για όσους από εσάς σκέφτεστε μια προσπάθεια κυνηγιού επικηρυγμένων με προκατάληψη AI, ακολουθούν τα προτεινόμενα επτά βασικά βήματα για το πώς να προχωρήσετε καλύτερα:

1) Αξιολόγηση. Αξιολογήστε την καταλληλότητα μιας προσπάθειας κυνηγιού επικηρυγμένων με προκατάληψη AI για τις περιστάσεις σας και σύμφωνα με τα συστήματά σας AI

2) Υπηρεσίες. Σχεδιάστε μια κατάλληλη προσέγγιση κυνηγιού επικηρυγμένων μεροληψίας AI

3) Εφαρμογή. Εφαρμόστε και δημοσιοποιήστε τις προσπάθειές σας για κυνήγι επικηρυγμένων μεροληψίας AI

4) Πεδίο. Καταχωρίστε τις αξιώσεις επιβράβευσης μεροληψίας AI και επεξεργαστείτε ανάλογα

5) σταθερός. Διορθώστε ή προσαρμόστε το AI σας ανάλογα με αυτές τις ανακαλυφθείσες εκθέσεις μεροληψίας AI

6) Προσαρμόζω. Προσαρμόστε το κυνήγι επικηρυγμένων μεροληψίες AI όπως χρειάζεται

7) Διακόπτω. Διακόψτε το κυνήγι επικηρυγμένων μεροληψίας AI όταν δεν είναι πλέον απαραίτητο

Στη σειρά των παραπάνω βημάτων μου, σημειώστε ότι αναφέρω ότι πιθανώς θα θέλετε να διορθώσετε ή να προσαρμόσετε την τεχνητή νοημοσύνη σας, όπως βασίζεται στη διαπίστωση ότι όντως υπάρχει μια ισχυριζόμενη μεροληψία AI στο σύστημά σας AI. Αυτό είναι πολύ λογικό. Σχεδόν σίγουρα θα θέλατε να υποστηρίξετε τυχόν προκαταλήψεις AI που βρέθηκαν. Σκεφτείτε τις νομικές (και ηθικές) προεκτάσεις αν δεν το κάνετε. Είναι ένα πράγμα να ισχυριστείς ότι δεν γνώριζες ότι υπήρχε προκατάληψη AI και, επομένως, επέτρεψες να υπάρχει, ενώ είναι πολύ πιο τρανταχτό να έχεις καταγεγραμμένο ότι ενημερώθηκες για προκατάληψη AI και δεν έκανες τίποτα γι' αυτό.

Η φύση και ο βαθμός της επιδιόρθωσης ή της προσαρμογής της τεχνητής νοημοσύνης θα εξαρτηθεί φυσικά από το πόσο σημαντικές ήταν οι προκαταλήψεις της τεχνητής νοημοσύνης και πόσο βαθιά ενσωματωμένα είναι τα ζητήματα. Εάν είστε τυχεροί, ίσως μια μικρή ποσότητα αλλαγών στο AI θα διορθώσει τα πράγματα. Το άλλο ενδεχόμενο είναι ότι ίσως χρειαστεί να κάνετε μια ολόκληρη επανεγγραφή του AI. Για τον τύπο τεχνητής νοημοσύνης ML/DL, αυτό θα μπορούσε να απαιτήσει την επιστροφή στον πίνακα σχεδίασης και την αρχή με ένα εντελώς νέο σύνολο δεδομένων και ένα καθαρό μοντέλο ML/DL. Έχω συζητήσει την εμφάνιση της απομάκρυνσης της τεχνητής νοημοσύνης ή της καταστροφής της τεχνητής νοημοσύνης ως πιθανής νομικής θεραπείας κατά της δυσάρεστης τεχνητής νοημοσύνης, βλ. ο σύνδεσμος εδώ.

Μια ερώτηση που πρέπει να σκεφτείτε είναι αν θα θέλατε οι κυνηγοί επικηρυγμένων να κάνουν πιθανώς περισσότερα από το να προσδιορίσουν απλώς την ύπαρξη προκαταλήψεων AI. Για παράδειγμα, μπορείτε να γλυκάνετε τη γενναιοδωρία υποδεικνύοντας ότι οι προτεινόμενες διορθώσεις είναι επίσης ευπρόσδεκτες. Μια προκατάληψη AI Βρέθηκαν από έναν κυνηγό επικηρυγμένων μπορεί να πληρωθεί μια υποδεικνυόμενη ανταμοιβή ή βραβείο. Εάν ο κυνηγός επικηρυγμένων μπορεί επίσης να προσφέρει βιώσιμο σταθερός για την προκατάληψη της τεχνητής νοημοσύνης μπορεί στη συνέχεια να τους χορηγηθεί μια πρόσθετη ανταμοιβή.

Κάποιοι υποστηρίζουν ότι αυτή είναι μια γέφυρα πολύ μακριά. Λένε ότι θα πρέπει να κρατήσετε τους κυνηγούς επικηρυγμένων μεροληψίας AI αποκλειστικά εστιασμένους στην εύρεση προκαταλήψεων AI. Θα δημιουργήσετε ένα σωρό ανεπιθύμητες αρνητικές συνέπειες προσκαλώντας τους να προτείνουν επίσης διορθώσεις. Κρατήστε τα πράγματα απλά. Ο στόχος είναι να προσελκύσετε όσο το δυνατόν περισσότερα μάτια στην ανακάλυψη προκαταλήψεων τεχνητής νοημοσύνης, ώστε να μπορείτε να αποφασίσετε τι θα κάνετε στη συνέχεια. Μην λασπώνετε τα νερά.

Μια ακανθώδης πτυχή που πρέπει να διερευνηθεί συνεπάγεται το μέγεθος της ανταμοιβής ή του βραβείου για τους κυνηγούς επικηρυγμένων που ανακαλύπτουν πραγματικά προκαταλήψεις AI. Θέλετε η ανταμοιβή να είναι αποδεικτική. Χωρίς αρκετά υψηλή ανταμοιβή, δεν θα λάβετε πολλούς κυνηγούς επικηρυγμένων ή δεν θα είναι ιδιαίτερα πρόθυμοι να αναζητήσουν τις προκαταλήψεις AI στα συστήματά σας AI. Αντίθετα, θα μπορούσαν να επικεντρωθούν σε άλλες προσπάθειες επιβράβευσης μεροληψίας AI.

Επιπλέον, όπως αναφέρθηκε, θέλετε να προσπαθήσετε να καταστείλετε την παρόρμηση των κυνηγών επικηρυγμένων να μετατρέψουν τις ανακαλύψεις τους για την προκατάληψη της τεχνητής νοημοσύνης σε άλλες μορφές χρυσού. Εάν η ανταμοιβή φαίνεται άθλια, θα μπορούσε να ενοχλήσει τους κυνηγούς επικηρυγμένων να αναζητήσουν άλλες υψηλότερες απολαβές. Θα μπορούσαν να ακολουθήσουν μια προσέγγιση ransomware απέναντί ​​σας. Μπορεί να δηλώσουν ότι έχουν μια ζουμερή προκατάληψη τεχνητής νοημοσύνης για την οποία θα ήθελε πολύ να γνωρίζει ένας ανταγωνιστής και θα μπορούσε να χρησιμοποιήσει εναντίον της εταιρείας σας διαφημίζοντας ότι η προκατάληψη AI υπάρχει στην τεχνητή νοημοσύνη σας. Έτσι, πωλούν την προκατάληψη AI που ανακαλύφθηκε στον πλειοδότη. Και ούτω καθεξής.

Κάποιος υποθέτει ότι εάν ορίσετε την ανταμοιβή σε ένα εξαιρετικά υψηλό εύρος, ζητάτε επίσης πιθανά προβλήματα. Αυτό θα μπορούσε να προσελκύσει κάθε είδους κυνηγούς επικηρυγμένων. Θα μπορούσαν με τη σειρά τους να κατακλύσουν τα μέσα κοινωνικής δικτύωσης με θολούς ισχυρισμούς ότι βρήκαν μια πληθώρα προκαταλήψεων τεχνητής νοημοσύνης, πράττοντάς το για τη δική τους αυτοπροώθηση και χωρίς στην πραγματικότητα να έχουν υποστηρίξει οποιεσδήποτε προκαταλήψεις τεχνητής νοημοσύνης. Κατά μία έννοια, η αυξημένη ανταμοιβή σας ρίχνει άθελά σας ένα φως στην τεχνητή νοημοσύνη σας και αναγκάζει έναν πλήθος ακατάλληλων σκόρων να έλκονται αντίστοιχα καταστροφικά από τη λαμπερή δέσμη φωτός.

Μια άλλη σκέψη αφορά την προσβασιμότητα στο AI σας.

Για να ενεργοποιηθεί μια δυνατότητα κυνηγιού επικηρυγμένων AI, οι κυνηγοί επικηρυγμένων πρέπει να έχουν επαρκή πρόσβαση στο AI σας. Δεν πρόκειται να έχουν μεγάλη τύχη να βρουν προκαταλήψεις AI εάν είναι εντελώς αποκλεισμένοι. Αλλά δεν θέλετε να εγκαταλείψετε τις προστασίες σας στον κυβερνοχώρο, καθώς κάτι τέτοιο θα μπορούσε να θέσει σε κίνδυνο το σύστημά σας AI.

Μπορεί να προσπαθήσετε να ζητήσετε από τους κυνηγούς επικηρυγμένων να υπογράψουν διάφορες νομικά δεσμευτικές δηλώσεις και στη συνέχεια να τους παρέχετε την απαραίτητη πρόσβαση. Σε ορισμένους κυνηγούς επικηρυγμένων δεν θα αρέσει αυτός ο τύπος προσέγγισης. Η άποψή τους είναι ότι θα κάνουν μόνο ό,τι επιτρέπει οποιαδήποτε δημόσια διαθέσιμη και ανοιχτή διαδρομή. Είναι ελεύθεροι, σαν να λέγαμε, και δεν τους αρέσει να τους σαμαρώνουν, όπως λες. Εάν τους ζητήσετε να υπογράψουν σε εκφοβιστικά νομικά έγγραφα, πολλοί από αυτούς θα αποφύγουν την αναζήτηση προκαταλήψεων τεχνητής νοημοσύνης στο AI σας. Ή μπορεί να παρασυρθούν από το νομικό σας γάντι και να αποφασίσουν ότι θα δουν τι μπορούν να βρουν με δημόσια μέσα, κάνοντάς το με την ίσως έντονη παρόρμηση να σας δείξουν πόσο ευάλωτοι είστε πραγματικά.

Έχω άλλη μια γωνία που μπορεί να κάνει το κεφάλι σου να γυρίζει.

Ένας κυνηγός επικηρυγμένων με γνώσεις τεχνητής νοημοσύνης μπορεί να αποφασίσει να επινοήσει ένα σύστημα τεχνητής νοημοσύνης που μπορεί να ελέγξει εξονυχιστικά την τεχνητή νοημοσύνη σας και πιθανώς να ανακαλύψει προκαταλήψεις τεχνητής νοημοσύνης στην τεχνητή νοημοσύνη σας. Αυτός είναι ο κατασκευαστής εργαλείων που επιλέγει να φτιάξει ένα εργαλείο για να κάνει τη δουλειά αντί να εκτελεί ο ίδιος χειρωνακτική εργασία. Αντί να εξετάζει επίπονα την τεχνητή νοημοσύνη σας, ο γνώστης της τεχνητής νοημοσύνης κυνηγός επικηρυγμένων ξοδεύει το χρόνο του κατασκευάζοντας ένα εργαλείο τεχνητής νοημοσύνης που κάνει το ίδιο πράγμα. Στη συνέχεια χρησιμοποιούν το εργαλείο AI στο AI σας. Η ομορφιά επίσης είναι ότι μπορούν πιθανώς να επαναχρησιμοποιήσουν το εργαλείο AI σε οποιονδήποτε άλλον που προσφέρει επίσης μια ευκαιρία κυνηγιού επικηρυγμένων και στο αντίστοιχο AI τους.

Ξέρω τι σκέφτεσαι πιθανώς. Εάν μπορεί να επινοηθεί ένα εργαλείο τεχνητής νοημοσύνης για να εξετάσει την τεχνητή νοημοσύνη για προκαταλήψεις, ο κατασκευαστής της τεχνητής νοημοσύνης που ελέγχεται για προκαταλήψεις τεχνητής νοημοσύνης θα πρέπει είτε να δημιουργήσει ένα τέτοιο εργαλείο τεχνητής νοημοσύνης είτε να αγοράσει ένα για δική του χρήση. Θεωρητικά, τότε δεν χρειάζεται να παλέψουν με ολόκληρο το καρναβάλι κυνηγών επικηρυγμένων, για αρχή. Απλώς χρησιμοποιήστε την τεχνητή νοημοσύνη για να βρείτε τις προκαταλήψεις της τεχνητής νοημοσύνης τους.

Ναι, αυτό είναι κάτι που μπορείτε να περιμένετε ότι θα προκύψει σταδιακά. Εν τω μεταξύ, ο βασικός άξονας αυτών των προσπαθειών πιθανότατα θα αποτελείται από προγραμματιστές τεχνητής νοημοσύνης που θα κάνουν κυνήγι επικηρυγμένων. Μπορεί να χρησιμοποιήσουν διάφορα εργαλεία για να βοηθήσουν τις προσπάθειές τους, αλλά βραχυπρόθεσμα, είναι απίθανο να θέσουν απλά το εργαλείο τεχνητής νοημοσύνης σε αυτόματη λειτουργία και να πάρουν έναν υπνάκο έτσι ώστε το εργαλείο να κάνει το σύνολο της προκατάληψης της τεχνητής νοημοσύνης για αυτούς.

Δεν είμαστε ακόμα εκεί.

Σε αυτή τη συγκυρία αυτής της βαριάς συζήτησης, θα στοιχηματίζω ότι επιθυμείτε μερικά ενδεικτικά παραδείγματα που θα μπορούσαν να παρουσιάσουν αυτό το θέμα. Υπάρχει ένα ιδιαίτερο και σίγουρα δημοφιλές σύνολο παραδειγμάτων που είναι κοντά στην καρδιά μου. Βλέπετε, με την ιδιότητά μου ως εμπειρογνώμονα σε θέματα τεχνητής νοημοσύνης, συμπεριλαμβανομένων των ηθικών και νομικών προεκτάσεων, μου ζητείται συχνά να εντοπίσω ρεαλιστικά παραδείγματα που παρουσιάζουν διλήμματα Ηθικής AI, έτσι ώστε η κάπως θεωρητική φύση του θέματος να γίνει πιο εύκολα κατανοητή. Ένας από τους πιο υποβλητικούς τομείς που παρουσιάζει έντονα αυτό το ηθικό δίλημμα της τεχνητής νοημοσύνης είναι η εμφάνιση αληθινών αυτοοδηγούμενων αυτοκινήτων που βασίζονται σε τεχνητή νοημοσύνη. Αυτό θα χρησιμεύσει ως εύχρηστη περίπτωση χρήσης ή υπόδειγμα για άφθονη συζήτηση σχετικά με το θέμα.

Ακολουθεί μια αξιοσημείωτη ερώτηση που αξίζει να σκεφτούμε: Η έλευση των αληθινών αυτοοδηγούμενων αυτοκινήτων που βασίζονται σε τεχνητή νοημοσύνη φωτίζει κάτι σχετικά με τη χρήση του κυνηγιού επικηρυγμένων με προκατάληψη της τεχνητής νοημοσύνης και αν ναι, τι δείχνει αυτό;

Επιτρέψτε μου μια στιγμή να ξεκαθαρίσω την ερώτηση.

Πρώτον, σημειώστε ότι δεν υπάρχει άνθρωπος οδηγός που να εμπλέκεται σε ένα αληθινό αυτό-οδηγούμενο αυτοκίνητο. Λάβετε υπόψη ότι τα πραγματικά αυτοοδηγούμενα αυτοκίνητα οδηγούνται μέσω συστήματος οδήγησης AI. Δεν υπάρχει ανάγκη για ανθρώπινο οδηγό στο τιμόνι, ούτε προβλέπεται να οδηγεί το όχημα από άνθρωπο. Για την εκτενή και συνεχή κάλυψη των Αυτόνομων Οχημάτων (AV) και ιδιαίτερα των αυτοοδηγούμενων αυτοκινήτων, βλ. ο σύνδεσμος εδώ.

Θα ήθελα να διευκρινίσω περαιτέρω τι εννοεί όταν αναφέρομαι σε αληθινά αυτοκίνητα αυτο-οδήγησης.

Κατανόηση των επιπέδων Αυτοκινήτων Αυτοκινήτων

Ως διευκρίνιση, τα αληθινά αυτοκινούμενα αυτοκίνητα είναι εκείνα όπου το AI οδηγεί το αυτοκίνητο εξ ολοκλήρου μόνο του και δεν υπάρχει ανθρώπινη βοήθεια κατά τη διάρκεια της οδήγησης.

Αυτά τα οχήματα χωρίς οδηγό θεωρούνται Επίπεδο 4 και Επίπεδο 5 (δείτε την εξήγησή μου στο αυτό το σύνδεσμο εδώ), ενώ ένα αυτοκίνητο που απαιτεί από έναν άνθρωπο οδηγό να συμμεριστεί την προσπάθεια οδήγησης θεωρείται συνήθως στο Επίπεδο 2 ή στο Επίπεδο 3. Τα αυτοκίνητα που μοιράζονται από κοινού την εργασία οδήγησης περιγράφονται ως ημιαυτόνομα και συνήθως περιέχουν μια ποικιλία αυτοματοποιημένα πρόσθετα που αναφέρονται ως ADAADA
S (Advanced Driver-Assistance Systems).

Δεν υπάρχει ακόμα ένα αληθινό αυτόνομο αυτοκίνητο στο Επίπεδο 5 και δεν γνωρίζουμε ακόμη αν αυτό θα είναι δυνατό να επιτευχθεί, ούτε πόσος χρόνος θα χρειαστεί για να φτάσουμε εκεί.

Εν τω μεταξύ, οι προσπάθειες του Επιπέδου 4 προσπαθούν σταδιακά να αποκτήσουν κάποια έλξη υποβάλλοντας σε πολύ στενές και επιλεκτικές δοκιμές σε δημόσιους δρόμους, αν και υπάρχει διαμάχη σχετικά με το εάν αυτή η δοκιμή πρέπει να επιτρέπεται αυτή καθαυτή (είμαστε όλοι πειραματόζωα ζωής ή θανάτου σε ένα πείραμα που λαμβάνουν χώρα στους αυτοκινητόδρομους και στις παρακάμψεις μας, κάποιοι ισχυρίζονται, δείτε την κάλυψή μου στο αυτό το σύνδεσμο εδώ).

Δεδομένου ότι τα ημι-αυτόνομα αυτοκίνητα απαιτούν ανθρώπινο οδηγό, η υιοθέτηση αυτών των τύπων αυτοκινήτων δεν θα είναι σημαντικά διαφορετική από την οδήγηση συμβατικών οχημάτων, οπότε δεν υπάρχουν πολλά νέα για να καλύψουν σχετικά με αυτό το θέμα (ωστόσο, όπως θα δείτε σε λίγο, τα επόμενα σημεία είναι γενικά εφαρμόσιμα).

Για τα ημι-αυτόνομα αυτοκίνητα, είναι σημαντικό το κοινό να προειδοποιείται για μια ενοχλητική πτυχή που έχει προκύψει πρόσφατα, συγκεκριμένα ότι παρά τους ανθρώπους που συνεχίζουν να δημοσιεύουν βίντεο που κοιμούνται στο τιμόνι ενός αυτοκινήτου Level 2 ή Level 3 , όλοι πρέπει να αποφύγουμε να παραπλανηθούμε στο να πιστεύουμε ότι ο οδηγός μπορεί να αφαιρέσει την προσοχή του από το καθήκον οδήγησης κατά την οδήγηση ενός ημι-αυτόνομου αυτοκινήτου.

Είστε ο υπεύθυνος για τις ενέργειες οδήγησης του οχήματος, ανεξάρτητα από το πόσο αυτοματοποίηση μπορεί να πεταχτεί σε Επίπεδο 2 ή Επίπεδο 3.

Αυτοοδηγούμενα αυτοκίνητα και AI Bias Bounty Hunting

Για τα πραγματικά οχήματα επιπέδου 4 και επιπέδου 5, δεν θα υπάρχει ανθρώπινος οδηγός που θα εμπλέκεται στο καθήκον οδήγησης.

Όλοι οι επιβάτες θα είναι επιβάτες.

Το AI κάνει την οδήγηση.

Μία πτυχή για άμεση συζήτηση συνεπάγεται το γεγονός ότι η AI που εμπλέκεται στα σημερινά συστήματα οδήγησης AI δεν είναι αισιόδοξη. Με άλλα λόγια, η τεχνητή νοημοσύνη είναι συνολικά μια ομάδα προγραμματισμού και αλγορίθμων που βασίζονται σε υπολογιστή και σίγουρα δεν είναι σε θέση να αιτιολογήσει με τον ίδιο τρόπο που οι άνθρωποι μπορούν.

Γιατί αυτή η πρόσθετη έμφαση στο ότι η AI δεν είναι αισθαντική;

Επειδή θέλω να υπογραμμίσω ότι κατά τη συζήτηση του ρόλου του συστήματος οδήγησης AI, δεν αποδίδω ανθρώπινες ιδιότητες στο AI. Λάβετε υπόψη ότι υπάρχει μια συνεχιζόμενη και επικίνδυνη τάση αυτές τις μέρες να ανθρωπομορφώνεται η AI. Ουσιαστικά, οι άνθρωποι αποδίδουν ανθρώπινη αίσθηση στη σημερινή AI, παρά το αναμφισβήτητο και αναμφισβήτητο γεγονός ότι δεν υπάρχει τέτοια AI.

Με αυτήν την αποσαφήνιση, μπορείτε να φανταστείτε ότι το σύστημα οδήγησης AI δεν θα “ξέρει” εγγενώς για τις πτυχές της οδήγησης. Η οδήγηση και όλα όσα συνεπάγεται θα πρέπει να προγραμματιστούν ως μέρος του υλικού και του λογισμικού του αυτοκινούμενου αυτοκινήτου.

Ας ρίξουμε μια ματιά σε πολλές πτυχές που έρχονται να παίξουν σε αυτό το θέμα.

Πρώτον, είναι σημαντικό να συνειδητοποιήσουμε ότι δεν είναι όλα τα αυτοοδηγούμενα αυτοκίνητα AI. Κάθε αυτοκινητοβιομηχανία και εταιρεία τεχνολογίας αυτόνομης οδήγησης υιοθετεί την προσέγγισή της στην επινόηση αυτοκινούμενων αυτοκινήτων. Ως εκ τούτου, είναι δύσκολο να γίνουν σαρωτικές δηλώσεις σχετικά με το τι θα κάνουν ή τι δεν θα κάνουν τα συστήματα οδήγησης τεχνητής νοημοσύνης.

Επιπλέον, όποτε δηλώνεται ότι ένα σύστημα οδήγησης AI δεν κάνει κάτι συγκεκριμένο, αυτό μπορεί, αργότερα, να ξεπεραστεί από προγραμματιστές που στην πραγματικότητα προγραμματίζουν τον υπολογιστή να κάνει ακριβώς αυτό. Βήμα προς βήμα, τα συστήματα οδήγησης AI βελτιώνονται και επεκτείνονται σταδιακά. Ένας υπάρχων περιορισμός σήμερα μπορεί να μην υπάρχει πλέον σε μελλοντική επανάληψη ή έκδοση του συστήματος.

Ελπίζω ότι αυτό παρέχει μια αρκετή λιτανεία προειδοποιήσεων για να υποστηρίξω αυτό που πρόκειται να αναφέρω.

Στις στήλες μου, έχω ήδη συζητήσει εκτενώς τη χρήση κυνηγών επικηρυγμένων προσανατολισμένων στα σφάλματα στη σφαίρα των αυτόνομων οχημάτων και των αυτοοδηγούμενων αυτοκινήτων. Αυτή η προσέγγιση έχει όντως λάβει χώρα σε αυτή τη θέση. Υπάρχουν οι συνήθεις συζητήσεις για το αν είναι καλή ιδέα ή όχι. Οι προσπάθειες ήταν συνήθως περιορισμένης φύσης, συχνά κρατήθηκαν σχετικά σιωπηρές.

Μια παρόμοια συζήτηση μπορεί να προκύψει όταν η εστίαση μετατοπίζεται προς το κυνήγι προκαταλήψεων της τεχνητής νοημοσύνης αντί για την αναζήτηση σφαλμάτων του συστήματος καθαυτά. Κάποιοι προτείνουν ότι είναι καταραμένο αν το κάνετε, καταραμένο αν δεν μπερδεύεστε.

Εδώ γιατί.

Πρώτον, για να είμαστε σαφείς, υπάρχουν πολλοί τρόποι με τους οποίους τα αυτόνομα οχήματα και τα αυτόνομα αυτοκίνητα υπόκεινται σε προκαταλήψεις που περιέχουν τεχνητή νοημοσύνη, δείτε την κάλυψή μου στο ο σύνδεσμος εδώ και ο σύνδεσμος εδώ, για να αναφέρουμε μόνο μερικά. Οι αυτοκινητοβιομηχανίες και οι εταιρείες αυτοοδηγούμενων αυτοκινήτων θα φαινόταν σοφό να προσπαθήσουν να αποτρέψουν αυτές τις προκαταλήψεις τεχνητής νοημοσύνης από το να εμφανιστούν στα συστήματά τους AI. Η νομική και ηθική καταιγίδα εναντίον τέτοιων εταιρειών θα είναι αναμφίβολα έντονη.

Είναι η χρήση μιας προσπάθειας κυνηγιού επικηρυγμένων με προκαταλήψεις AI μια κατάλληλη προσέγγιση σε αυτό το συγκεκριμένο πλαίσιο;

Μια απάντηση είναι ότι ναι, αυτό θα είναι βολικό και θα παρέχει μια πληθώρα «δωρεάν» σετ νέων ματιών για να προσπαθήσετε να πιάσετε τυχόν ενσωματωμένες προκαταλήψεις AI ενός αυτοοδηγούμενου αυτοκινήτου τεχνητής νοημοσύνης ή κάτι παρόμοιο. Οι περισσότεροι από τους προγραμματιστές τεχνητής νοημοσύνης που κατασκευάζουν αυτοοδηγούμενα αυτοκίνητα είναι απασχολημένοι με τη δημιουργία τεχνητής νοημοσύνης που μπορεί να οδηγήσει με ασφάλεια ένα αυτοκίνητο από το σημείο Α στο σημείο Β. Είναι απασχολημένοι με αυτή την βασική ικανότητα και δεν έχουν ούτε χρόνο ούτε προσοχή σε τυχόν προκαταλήψεις AI που μπορεί να υπάρχουν κάπου AI τους.

Η άλλη απάντηση είναι ότι όχι, το να επιτρέπεται το κυνήγι επικηρυγμένων για αυτόνομα οχήματα και αυτοκίνητα αυτόνομης οδήγησης σε οποιαδήποτε βάση, είτε για σφάλματα είτε για προκαταλήψεις τεχνητής νοημοσύνης, θα πρέπει απλώς να αποφεύγεται αυστηρά. Το επιχείρημα είναι ότι αυτά τα οχήματα και η τεχνητή νοημοσύνη τους είναι διαμετρήματος ζωής ή θανάτου. Το να μπλέξεις με την τεχνητή νοημοσύνη με οποιονδήποτε τρόπο θα μπορούσε να είναι κατά κάποιο τρόπο καταστροφικό για την τεχνητή νοημοσύνη και να επηρεάσει το τι κάνει το σύστημα οδήγησης AI.

Ένα αντεπιχείρημα σε αυτό το τελευταίο σημείο είναι ότι οι κυνηγοί επικηρυγμένων υποτίθεται ότι δεν μπορούν να αλλάξουν την τεχνητή νοημοσύνη που εξετάζουν. Έτσι, δεν υπάρχει κανένας κίνδυνος να μπλέξουν με το AI και να αναγκάσουν το AI σε αυτό το πλαίσιο να γίνει ξαφνικά ένα τρελό σύστημα οδήγησης AI. Οι κυνηγοί επικηρυγμένων έχουν πρόσβαση μόνο για ανάγνωση. Το να τους επιτρέψουμε να πάνε παραπέρα θα ήταν πολύ ανόητο και τεράστιο λάθος.

Το αντεπιχείρημα σε αυτό το αντεπιχείρημα είναι ότι επιτρέποντας και ενθαρρύνοντας τους κυνηγούς επικηρυγμένων να εξετάσουν την τεχνητή νοημοσύνη σας, το όλο θέμα γίνεται δυσάρεστο. Αυτοί οι κυνηγοί επικηρυγμένων μπορεί να βρουν τρόπους να εκμεταλλευτούν τυχόν σφάλματα ή προκαταλήψεις που βρέθηκαν. Αυτές οι εκμεταλλεύσεις με τη σειρά τους μπορεί να είναι για δόλιους σκοπούς. Θα ήταν καλύτερα να μην προσκαλείτε «διαρρήκτες» στο σπίτι σας, ας πούμε έτσι. Μόλις βάλουν την άρθρωση, θα βρεθείτε τελικά σε ένα σωρό προβλήματα.

Για εκείνους που διαθέτουν συστήματα τεχνητής νοημοσύνης μικρότερου μεγέθους από τη ζωή ή τον θάνατο, η πεποίθηση είναι ότι οι επιπτώσεις μιας επιδρομής κυνηγιού επικηρυγμένων που πάει στραβά είναι πολύ λιγότερο επικίνδυνες. Ισως. Από την άλλη πλευρά, εάν μια εταιρεία έχει ρίξει τα χρήματά της σε ένα σύστημα τεχνητής νοημοσύνης που οι κυνηγοί επικηρυγμένων καταφέρνουν να σφετεριστούν, μπορείτε να υποθέσετε ότι οι ζημιές στη φήμη και άλλες πιθανές ζημιές θα εξακολουθήσουν να βλάπτουν.

Δεν υπάρχει δωρεάν μεσημεριανό γεύμα όταν πρόκειται για κυνήγι επικηρυγμένων μεροληψίας AI.

Μια γρήγορη παρατήρηση κλεισίματος προς το παρόν.

Όταν αναζητήθηκε ο διαβόητος παράνομος Τζέσι Τζέιμς κατά τη διάρκεια της Παλιάς Δύσης, τυπώθηκε μια αφίσα «Καταζητούμενος» που πρόσφερε επιβράβευση 5,000 δολαρίων για τη σύλληψή του (αναφέροντας «νεκρό ή ζωντανό»). Ήταν ένα αρκετά τεράστιο χρηματικό ποσό εκείνη την εποχή. Ένα από τα μέλη της συμμορίας του επέλεξε να πυροβολήσει τον Jesse και να εισπράξει την ανταμοιβή. Υποθέτω ότι αυτό δείχνει πόσο αποτελεσματικό μπορεί να είναι ένα μπόνους.

Η χρήση κυνηγών επικηρυγμένων μεροληπτικής τεχνητής νοημοσύνης θα είναι καλό πράγμα ή θα είναι κακό;

Εάν επιλέξετε να ξεκινήσετε μια προσπάθεια κυνηγού επικηρυγμένων με προκατάληψη AI, θα σας πρότεινα να έχετε τα μάτια σας ορθάνοιχτα και να κοιτάτε πάνω από τον ώμο σας ανά πάσα στιγμή. Αυτό είναι συνετό για εσάς και το AI σας. Ποτέ δεν ξέρεις τι μπορεί να συμβεί, συμπεριλαμβανομένου του ότι ένας επικηρυγμένος κυνηγός επικηρυγμένων εισάγει με κάποιο τρόπο κρυφά μια προκατάληψη AI στο AI σας και φωνάζει στον κόσμο ότι βρήκαν μια αδίστακτη μεροληψία AI στην AI σας. Ίσως να το κάνουν σε μια θρασύδειλη και μεγάλη προσπάθεια να αναζητήσουν την ανταμοιβή της γενναιοδωρίας, καθώς και να ανακηρύξουν τον εαυτό τους ήρωα που ουσιαστικά απέκτησε τον περίφημο Jesse James.

Αν το σκεφτείτε, σε μια αισθανόμενη τεχνητή νοημοσύνη πιθανότατα δεν θα αρέσει αυτή η ιδέα μιας ανησυχητικής παροχής νεκρού ή ζωντανού, θα μπορούσε κανείς να υποθέσει τόσο βαρετά.