Η Meta AI αποκαλύπτει τον διπλωματικό γόη με τεχνητή νοημοσύνη που ανακατεύει την ηθική της τεχνητής νοημοσύνης και τη νομοθεσία της τεχνητής νοημοσύνης σε ανεπαίσθητο ίχνος

Ο αξιοσέβαστος κόσμος της γοητείας και της διπλωματίας είναι συχνά αμαυρωμένος με αχρείαστες και ασυδοσίες.

Ο Will Rogers, ο μεγάλος χιουμορίστας και κοινωνικός σχολιαστής, είπε περίφημα ότι η διπλωματία είναι η τέχνη του να λες «Ωραίο σκυλάκι» μέχρι να βρεις έναν βράχο.

Η προφανής επίπτωση είναι ότι μερικές φορές πρέπει να συγκρατήσετε σκληρά κάθε διαφαινόμενη και επικίνδυνη δύναμη μέχρι να μπορέσετε να ανακαλύψετε μια κατάλληλα υπερασπιστή λύση. Κάνε ό,τι πρέπει να κάνεις όταν βρίσκεσαι σε απελπιστικά στενά. Εσκεμμένα και σκόπιμα κατευνάστε αυτά που σας θέτουν σε κίνδυνο, χρησιμοποιώντας τα καταπραϋντικά και σαγηνευτικά σας λόγια, συγκεντρώνοντας πολύτιμο χρόνο για να οπλιστείτε με μια πιο πρακτική και απροκάλυπτα απτή στάση.

ΔΙΑΦΗΜΙΣΗ

Κάποιοι ισχυρίζονται ότι ο πόλεμος είναι αναπόσπαστα αποτέλεσμα αποτυχημένης διπλωματίας. Σε αυτή τη θεωρημένη άποψη, ένας συνεχής τυμπανοκρουσία της διπλωματίας θα αποτρέψει τον πόλεμο. Συνεχίστε να μιλάτε και η μάχη δεν θα ξεκινήσει. Άλλοι διαφωνούν ένθερμα για μια τόσο προβληματική άποψη. Ίσως, λέγεται, η διπλωματία είναι στην πραγματικότητα αυτή που μας οδηγεί σε πολέμους. Επιπλέον, θα μπορούσε η διπλωματία να εκτείνει πολέμους και να κρατά τις μάχες σε ατελείωτη βάση.

Θα δώσουμε στον Γουίλ Ρότζερς άλλη μια ευκαιρία να απολαύσει λίγο χιούμορ σχετικά με το αν η διπλωματία είναι καλή ή κακή όσον αφορά την έλευση ή τη συνέχιση του πολέμου: «Βγάλε τη διπλωματία από τον πόλεμο και το πράγμα θα καταρρεύσει σε μια εβδομάδα» (αυτός σύμφωνα με πληροφορίες).

Ο κοινός ορισμός της διπλωματίας δίνει έμφαση στις σχέσεις μεταξύ των εθνών. Οι διπλωμάτες αντιπροσωπεύουν συγκεκριμένα έθνη ή έθνη-κράτη και ασκούν διπλωματία όταν εκτελούν τα ιερά τους καθήκοντα. Αναμένουμε από τους διπλωμάτες μας να αναλάβουν τη μετάδοση της εξωτερικής πολιτικής τους με τη χρήση της επιδρομής. Ο αγγελιοφόρος δεν πρέπει να είναι αυτός που πυροδοτεί εχθρότητα, απλώς το μήνυμα μπορεί να το κάνει. Μια πιθανώς άψογη διπλωματική απεικόνιση ακόμη και των πιο κραυγαλέων μηνυμάτων μπορεί αποδεδειγμένα να αμβλύνει το πλήγμα που προκύπτει από μια κατά τα άλλα επιβλαβή απαίτηση ή απειλή.

ΔΙΑΦΗΜΙΣΗ

Φυσικά, η διπλωματία δεν περιορίζεται μόνο στο υψηλό έργο των επίσημων διπλωματών. Τολμώ να πω ότι στην καθημερινή μας ζωή όλοι πρέπει να εμπνέουμε κάποια ομοιότητα διπλωματίας. Όταν θέλετε ένας φίλος να προσέχει τον αγαπημένο σας σκύλο ενώ βρίσκεστε σε επαγγελματικό ταξίδι, σίγουρα θα υποβάλετε διπλωματικά το αίτημα να φροντίσει το σκυλάκι. Η απαίτηση να γίνει αυτό είναι πιθανό να προσγειωθεί με ένα θαμπό γδούπο.

Πιθανώς, επειδή είναι περισσότερο τέχνη παρά επιστήμη, η διπλωματία είναι κάτι που χρησιμοποιούν οι άνθρωποι για να λιπάνουν τις ολισθήσεις, να κρατούν τα φώτα αναμμένα και να εμποδίζουν την κοινωνία από το να τρελαθεί εντελώς. Οι διαπραγματεύσεις έρχονται να παίξουν. Ίσως χρειαστεί να προκύψει κατευνασμός. Άλλοτε χρησιμοποιείς το καρότο, άλλοτε το ραβδί. Εάν πρέπει να το κάνετε, μπορείτε να δοκιμάσετε τη λεγόμενη διπλωματία κανονιοφόρων, με την οποία προσπαθείτε να εκφοβίσετε τους άλλους γύρω σας. Ή, αντί για ισχυρό οπλισμό, μπορείτε να ακολουθήσετε την πιο ήπια διαδρομή διαμεσολάβησης και ανθρωπιστικής βοήθειας. Ολα εξαρτώνται.

Εντάξει, άρα είμαστε ικανοί να συμφωνήσουμε όλοι εύλογα ότι η διπλωματία είναι μια ζωτικής σημασίας μορφή επικοινωνίας από άνθρωπο σε άνθρωπο. Αποτελείται από πρακτική ή σκηνική τέχνη που σχετίζεται με την χρησιμοποίηση διακριτικότητας, διαμεσολάβησης, διαπραγμάτευσης, συνδιαλλαγής και μιας σειράς κοινωνικά επιδέξιων πολιτικών.

ΔΙΑΦΗΜΙΣΗ

Ας προσθέσουμε κάτι άλλο σε αυτή την εξίσωση.

Είστε έτοιμοι;

Θα προσθέσουμε κάτι άλλο που ίσως έχετε ακόμη σκεφτεί.

Τεχνητή Νοημοσύνη (AI).

Ναι, η τεχνητή νοημοσύνη μπαίνει στο διπλωματικό παιχνίδι. Αυτό φαίνεται απολύτως λογικό. Αν πρόκειται να έχουμε την τεχνητή νοημοσύνη βυθισμένη σε όλες τις πτυχές της ζωής μας, τελικά η διπλωματία έπρεπε να πάρει τη σειρά της. Θα μπορούσαμε να περιμένουμε ότι η τεχνητή νοημοσύνη θα είναι σε θέση να εκτελέσει όποια καθήκοντα έχει χρησιμοποιώντας κατάλληλες λέξεις και τρόπους διπλωματίας.

ΔΙΑΦΗΜΙΣΗ

AI ως αυτόνομος ή ημιαυτόνομος διπλωμάτης.

Συνειδητοποιώ ότι μπορεί να φαίνεται μάλλον τρομακτικό και εντελώς τρομακτικό. Δεν νομίζω ότι κανένας από εμάς είναι έτοιμος να κυκλοφορήσει η τεχνητή νοημοσύνη ως εκπρόσωπος των αντίστοιχων χωρών μας. Φανταστείτε η τεχνητή νοημοσύνη να εξυπηρετεί για λογαριασμό μας για να διαπραγματευτεί τις διεθνείς μας θέσεις και να επιβεβαιώσει την παγκόσμια πολιτική μας στάση. Ναι! Είναι το υλικό αυτών των αποκαλυπτικών ιστοριών επιστημονικής φαντασίας.

Λοιπόν, πάρτε έναν στιγμιαίο αναστεναγμό ανακούφισης μιας και αυτό δεν είναι στα χαρτιά, προς το παρόν.

Αντίθετα, σκεφτείτε την τεχνητή νοημοσύνη που χρησιμοποιείτε για να ολοκληρώσετε τις τραπεζικές εργασίες σας ή που σας βοηθά να αγοράσετε ένα σπίτι. Η σημερινή τεχνητή νοημοσύνη που αλληλεπιδρά με τους ανθρώπους είναι συνήθως αρκετά κομμένη. Φτάστε στα γεγονότα, μόνο στα γεγονότα. Κάποια τεχνητή νοημοσύνη έχει γεμίσει με χαριτωμένα λόγια για να σας κάνει να πιστεύετε ότι είναι φιλικό ή φιλαράκο, αν και αυτό γίνεται γρήγορα αντιληπτό. Ακριβώς επειδή ένα σύστημα τεχνητής νοημοσύνης σας αναφέρεται με το όνομά σας ή εκπέμπει λέξεις όπως «γειά σας» αντί για «γεια», οι περισσότεροι από εμάς συνειδητοποιούμε αμέσως ότι αυτό είναι μια παρωδία.

Ένα επόμενο βήμα που επιδιώκεται μανιωδώς στις αίθουσες των προγραμματιστών AI είναι να προσπαθήσουμε να εμφυσήσουμε διπλωματικά χαρακτηριστικά στην καθημερινή μας τεχνητή νοημοσύνη. Ο πρωταρχικός στόχος είναι να ενσωματωθούν προγραμματικές πτυχές που θα κάνουν την τεχνητή νοημοσύνη να επιδείξει τη διπλωματία και τις διπλωματικές συμπεριφορές. Χρησιμοποιώντας μια ποικιλία αλγορίθμων και ειδικά τον πιο πρόσφατο σε γενετικά μοντέλα τεχνητής νοημοσύνης ή μεγάλα γλωσσικά μοντέλα (LLM), σημειώνεται πρόοδος σε αυτό το μέτωπο.

ΔΙΑΦΗΜΙΣΗ

Θα ρίξουμε μια ματιά σε ένα τέτοιο παράδειγμα, το CICERO, ένα νέο σύστημα AI που κυκλοφόρησε από την ομάδα Meta AI.

Σε περίπτωση που ήσασταν σε διακοπές και δεν παρακολουθούσατε τα τελευταία νέα σχετικά με την τεχνητή νοημοσύνη, η πρόσφατη ανακοίνωση και η αποκάλυψη ενός συστήματος τεχνητής νοημοσύνης που επινοήθηκε ως CICERO προσφέρει μια σημαντική ένδειξη για το πού βρίσκεται αυτές τις μέρες η αρένα της διπλωματίας με AI. Σκεπτικά και προς τιμήν τους, η ομάδα Meta AI έχει ανοιχτά διαθέσιμο το ανεπτυγμένο σύστημα CICERO AI. Μπορείτε να διαβάσετε τις τεχνικές λεπτομέρειες σε μια δημοσιευμένη ερευνητική εργασία στο Επιστήμη, Δείτε ο σύνδεσμος εδώ. Μπορείτε να επισκεφτείτε έναν ιστότοπο που έχουν δημιουργήσει για να μεταφέρετε απαλά τις συνολικές αποχρώσεις του CICERO με σύντομα βίντεο κλιπ για να δείξετε τι κάνει (βλ. ο σύνδεσμος εδώ). Για όσους από εσάς αναζητούν πραγματικό κώδικα προγράμματος και λογισμικό, μπορείτε να βρείτε τον πηγαίο κώδικα στο GitHub στη διεύθυνση ο σύνδεσμος εδώ.

Θέλω να διευκρινίσω γρήγορα μια πτυχή που μπορεί να φανεί σύγχυση αν επιλέξετε να εμβαθύνετε σε αυτό το θέμα.

Το συγκεκριμένο σύστημα τεχνητής νοημοσύνης που επινοήθηκε από τη Meta AI έχει ρυθμιστεί για να παίξει ένα κάπως δημοφιλές παιχνίδι γνωστό ως Διπλωματία (ίσως έχετε δει το επιτραπέζιο παιχνίδι σύμφωνα με την Hasbro και άλλους κατασκευαστές παιχνιδιών). Το αναφέρω γιατί η λέξη «διπλωματία» θα έχει διπλό καθήκον σε αυτή την περίπτωση. Από τη μία πλευρά, η επινοημένη τεχνητή νοημοσύνη επιχειρεί να εμφυσήσει χαρακτηριστικά της επιχείρησης και της προβολής διπλωματία per se. Εν τω μεταξύ, το σκηνικό στο οποίο λαμβάνει χώρα το συγκεκριμένο σύστημα AI είναι όταν παίζετε συγκεκριμένα και μόνο (αυτή τη στιγμή) το διάσημο επιτραπέζιο παιχνίδι γνωστό ως Διπλωματία.

Βλέπετε πώς αυτό μπορεί να μπερδέψει μερικούς ανθρώπους;

Εάν κάποιος σας πει ότι η συγκεκριμένη τεχνητή νοημοσύνη τα καταφέρνει πολύ καλά στη «διπλωματία», ίσως δεν είστε σίγουροι για το αν αναφέρεται στην ιδέα ότι η τεχνητή νοημοσύνη είναι αρκετά επιδέξιος στο να παίζει το επιτραπέζιο παιχνίδι που είναι γνωστό ως Διπλωματία ή ίσως αντ 'αυτού προτείνουν ότι η τεχνητή νοημοσύνη ενσωματώνει την ουσία του πυρήνα που σχετίζεται με την πράξη της διπλωματίας για το ανθρώπινο είδος. Επιπλέον, θα μπορούσε να είναι ότι και οι δύο όψεις εννοούνται ταυτόχρονα (δηλαδή, η τεχνητή νοημοσύνη κάνει καλά στο παιχνίδι Διπλωματία και ταυτόχρονα κάνει καλά στο να μπορεί να ασκεί ή να επιδεικνύει τη διπλωματία ως ικανότητα ή πράξη).

ΔΙΑΦΗΜΙΣΗ

Εδώ, θα προσπαθήσω να το διορθώσω κάνοντας κεφαλαίο το πρώτο γράμμα και δείχνοντας με πλάγιους χαρακτήρες το όνομα του επιτραπέζιου παιχνιδιού, Διπλωματία. Τον υπόλοιπο καιρό θα χρησιμοποιώ τη μη πλάγια διατύπωση της «διπλωματίας» ως ένδειξη της συνολικής αντίληψης της διπλωματικής ή της επίδειξης διπλωματίας (βλέπε, το έκανα ακριβώς εκεί).

Επιστρέφοντας στο θέμα, μπορείτε να αναλογιστείτε για λίγο εάν η τεχνητή νοημοσύνη που επιδεικνύει διπλωματία είναι κάτι που θα έπρεπε να επιθυμούμε ή να αποτρέψουμε.

Υπάρχουν πολλές θετικές πτυχές για να κάνουμε την τεχνητή νοημοσύνη να επιδείξει τη διπλωματία. Θα ζούσατε όμως σε μια ρηχή φούσκα για να υποθέσετε ότι η διπλωματία της τεχνητής νοημοσύνης θα είναι εξ ολοκλήρου και αποκλειστικά καλό πράγμα. Η τεχνητή νοημοσύνη, η οποία φαίνεται να έχει διπλωματικές δεξιότητες και μπορεί να μας κάνει να πιστεύουμε ότι διαθέτει διπλωματία, είναι επίσης γεμάτη με ανησυχητικά ζητήματα που πρέπει να φέρουμε στο προσκήνιο. Ουσιαστικά, η τεχνητή νοημοσύνη που χρησιμοποιείται με αυτόν τον τρόπο εγείρει ένα φορτίο ερωτήσεων για την ηθική της τεχνητής νοημοσύνης και το δίκαιο της τεχνητής νοημοσύνης. Για όσους από εσάς ενδιαφέρεστε για την Ηθική AI και το Δίκαιο της AI, μπορείτε να ρίξετε μια ματιά στην εκτενή και συνεχή κάλυψη μου για την ηθική τεχνητή νοημοσύνη και το δίκαιο της τεχνητής νοημοσύνης στο ο σύνδεσμος εδώ και ο σύνδεσμος εδώ, για να αναφέρουμε μόνο μερικά.

Προτού πηδήξω στην τεχνητή νοημοσύνη ως ενσαρκώνοντας κάποια μορφή διπλωματίας, θα ήθελα να βάλω πρώτα κάποια βασικά θεμέλια σχετικά με την τεχνητή νοημοσύνη και ιδιαίτερα την Ηθική της τεχνητής νοημοσύνης και το δίκαιο της τεχνητής νοημοσύνης, ώστε να βεβαιωθώ ότι η συζήτηση θα είναι λογική με βάση τα συμφραζόμενα.

ΔΙΑΦΗΜΙΣΗ

Η αυξανόμενη συνειδητοποίηση της ηθικής τεχνητής νοημοσύνης και επίσης του νόμου περί τεχνητής νοημοσύνης

Η πρόσφατη εποχή της τεχνητής νοημοσύνης θεωρήθηκε αρχικά ως ύπαρξη AI για καλό, που σημαίνει ότι θα μπορούσαμε να χρησιμοποιήσουμε την τεχνητή νοημοσύνη για τη βελτίωση της ανθρωπότητας. Στα τακούνια του AI για καλό ήρθε η συνειδητοποίηση ότι είμαστε επίσης βυθισμένοι AI για κακό. Αυτό περιλαμβάνει την τεχνητή νοημοσύνη που έχει επινοηθεί ή αυτο-τροποποιηθεί ώστε να εισάγει διακρίσεις και κάνει υπολογιστικές επιλογές διαποτίζοντας αδικαιολόγητες προκαταλήψεις. Μερικές φορές η τεχνητή νοημοσύνη κατασκευάζεται με αυτόν τον τρόπο, ενώ σε άλλες περιπτώσεις στρίβει σε αυτό το δυσάρεστο έδαφος.

Θέλω να βεβαιωθώ ότι είμαστε στην ίδια σελίδα σχετικά με τη φύση της σημερινής τεχνητής νοημοσύνης.

Δεν υπάρχει καμία τεχνητή νοημοσύνη σήμερα που να είναι ευαίσθητη. Δεν το έχουμε αυτό. Δεν γνωρίζουμε αν θα είναι δυνατή η αισθητή τεχνητή νοημοσύνη. Κανείς δεν μπορεί εύστοχα να προβλέψει εάν θα επιτύχουμε αισθανόμενη τεχνητή νοημοσύνη, ούτε εάν η αισθανόμενη τεχνητή νοημοσύνη θα προκύψει με κάποιο θαύμα αυθόρμητα σε μια μορφή υπολογιστικού γνωστικού σουπερνόβα (συνήθως αναφέρεται ως η μοναδικότητα, δείτε την κάλυψή μου στο ο σύνδεσμος εδώ).

Ο τύπος τεχνητής νοημοσύνης στον οποίο εστιάζω αποτελείται από τη μη ευαίσθητη τεχνητή νοημοσύνη που έχουμε σήμερα. Αν θέλαμε να κάνουμε τρελά εικασίες σχετικά με την αισθανόμενη τεχνητή νοημοσύνη, αυτή η συζήτηση θα μπορούσε να πάει σε μια ριζικά διαφορετική κατεύθυνση. Μια αισθανόμενη τεχνητή νοημοσύνη θα ήταν υποτίθεται ανθρώπινης ποιότητας. Θα πρέπει να λάβετε υπόψη ότι το αισθανόμενο AI είναι το γνωστικό ισοδύναμο ενός ανθρώπου. Επιπλέον, δεδομένου ότι κάποιοι εικάζουν ότι μπορεί να έχουμε υπερ-έξυπνη τεχνητή νοημοσύνη, είναι κατανοητό ότι μια τέτοια τεχνητή νοημοσύνη θα μπορούσε να καταλήξει να είναι πιο έξυπνη από τους ανθρώπους (για την εξερεύνηση της υπερ-έξυπνης τεχνητής νοημοσύνης ως πιθανότητα, βλ. την κάλυψη εδώ).

ΔΙΑΦΗΜΙΣΗ

Θα πρότεινα ανεπιφύλακτα να κρατήσουμε τα πράγματα στη γη και να εξετάσουμε τη σημερινή υπολογιστική μη αισθητή τεχνητή νοημοσύνη.

Συνειδητοποιήστε ότι η σημερινή τεχνητή νοημοσύνη δεν είναι σε θέση να «σκέφτεται» με κανένα τρόπο στο ίδιο επίπεδο με την ανθρώπινη σκέψη. Όταν αλληλεπιδράτε με την Alexa ή τη Siri, οι ικανότητες συνομιλίας μπορεί να φαίνονται παρόμοιες με τις ανθρώπινες ικανότητες, αλλά η πραγματικότητα είναι ότι είναι υπολογιστική και στερείται ανθρώπινης γνώσης. Η τελευταία εποχή της τεχνητής νοημοσύνης έχει κάνει εκτεταμένη χρήση της Μηχανικής Μάθησης (ML) και της Βαθιάς Μάθησης (DL), τα οποία αξιοποιούν την αντιστοίχιση υπολογιστικών προτύπων. Αυτό οδήγησε σε συστήματα τεχνητής νοημοσύνης που έχουν την εμφάνιση ανθρώπινων τάσεων. Εν τω μεταξύ, δεν υπάρχει καμία τεχνητή νοημοσύνη σήμερα που να έχει μια ομοιότητα κοινής λογικής και ούτε να έχει κάποιο από το γνωστικό θαύμα της εύρωστης ανθρώπινης σκέψης.

Να είστε πολύ προσεκτικοί στην ανθρωπομορφοποίηση της σημερινής τεχνητής νοημοσύνης.

Το ML/DL είναι μια μορφή υπολογιστικής αντιστοίχισης προτύπων. Η συνήθης προσέγγιση είναι ότι συγκεντρώνετε δεδομένα σχετικά με μια εργασία λήψης αποφάσεων. Τροφοδοτείτε τα δεδομένα στα μοντέλα υπολογιστών ML/DL. Αυτά τα μοντέλα επιδιώκουν να βρουν μαθηματικά μοτίβα. Μετά την εύρεση τέτοιων μοτίβων, εάν βρεθούν, το σύστημα AI θα χρησιμοποιήσει αυτά τα μοτίβα όταν συναντήσει νέα δεδομένα. Κατά την παρουσίαση νέων δεδομένων, τα μοτίβα που βασίζονται στα «παλιά» ή ιστορικά δεδομένα εφαρμόζονται για την απόδοση μιας τρέχουσας απόφασης.

Νομίζω ότι μπορείτε να μαντέψετε πού οδηγεί αυτό. Εάν οι άνθρωποι που έπαιρναν τις αποφάσεις τους έχουν ενσωματώσει ανεπιθύμητες προκαταλήψεις, οι πιθανότητες είναι ότι τα δεδομένα αντικατοπτρίζουν αυτό με λεπτούς αλλά σημαντικούς τρόπους. Η υπολογιστική αντιστοίχιση προτύπων Machine Learning ή Deep Learning απλώς θα προσπαθήσει να μιμηθεί μαθηματικά τα δεδομένα ανάλογα. Δεν υπάρχει καμία ομοιότητα της κοινής λογικής ή άλλων ευαίσθητων πτυχών της μοντελοποίησης που έχει δημιουργηθεί από AI αυτή καθαυτή.

ΔΙΑΦΗΜΙΣΗ

Επιπλέον, οι προγραμματιστές τεχνητής νοημοσύνης μπορεί να μην συνειδητοποιούν τι συμβαίνει. Τα απόκρυφα μαθηματικά στο ML/DL μπορεί να δυσκολέψουν τον εντοπισμό των κρυμμένων πλέον προκαταλήψεων. Δικαίως θα ελπίζατε και θα περιμένατε ότι οι προγραμματιστές της τεχνητής νοημοσύνης θα δοκιμάσουν τις δυνητικά θαμμένες προκαταλήψεις, αν και αυτό είναι πιο δύσκολο από ό,τι φαίνεται. Υπάρχει μια ισχυρή πιθανότητα ακόμη και με σχετικά εκτεταμένες δοκιμές να εξακολουθούν να υπάρχουν προκαταλήψεις ενσωματωμένες στα μοντέλα αντιστοίχισης προτύπων του ML/DL.

Θα μπορούσατε να χρησιμοποιήσετε κάπως τη διάσημη ή διαβόητη παροιμία του garbage-in garbage-out. Το θέμα είναι ότι αυτό μοιάζει περισσότερο με προκαταλήψεις που ύπουλα εγχέονται ως προκαταλήψεις που βυθίζονται στο AI. Ο αλγόριθμος λήψης αποφάσεων (ADM) του AI γίνεται αξιωματικά φορτωμένος με ανισότητες.

ΟΧΙ καλα.

Όλα αυτά έχουν ιδιαίτερα σημαντικές επιπτώσεις στην ηθική της τεχνητής νοημοσύνης και προσφέρουν ένα εύχρηστο παράθυρο στα διδάγματα που αντλήθηκαν (ακόμα και πριν συμβούν όλα τα μαθήματα) όταν πρόκειται να προσπαθήσουμε να νομοθετήσουμε την τεχνητή νοημοσύνη.

ΔΙΑΦΗΜΙΣΗ

Εκτός από τη χρησιμοποίηση γενικών αρχών ηθικής τεχνητής νοημοσύνης, υπάρχει ένα αντίστοιχο ερώτημα εάν πρέπει να έχουμε νόμους που να διέπουν τις διάφορες χρήσεις της τεχνητής νοημοσύνης. Σε ομοσπονδιακό, πολιτειακό και τοπικό επίπεδο θεσπίζονται νέοι νόμοι που αφορούν το εύρος και τη φύση του τρόπου με τον οποίο θα πρέπει να επινοηθεί η τεχνητή νοημοσύνη. Η προσπάθεια σύνταξης και θέσπισης τέτοιων νόμων είναι σταδιακή. Η ηθική της τεχνητής νοημοσύνης χρησιμεύει ως ένα θεωρούμενο κενό, τουλάχιστον, και είναι σχεδόν βέβαιο ότι σε κάποιο βαθμό θα ενσωματωθεί άμεσα σε αυτούς τους νέους νόμους.

Λάβετε υπόψη ότι ορισμένοι υποστηρίζουν κατηγορηματικά ότι δεν χρειαζόμαστε νέους νόμους που να καλύπτουν την τεχνητή νοημοσύνη και ότι οι υπάρχοντες νόμοι μας είναι επαρκείς. Προειδοποιούν ότι εάν θεσπίσουμε μερικούς από αυτούς τους νόμους για την τεχνητή νοημοσύνη, θα σκοτώσουμε τη χρυσή χήνα περιορίζοντας τις προόδους στην τεχνητή νοημοσύνη που προσφέρουν τεράστια κοινωνικά πλεονεκτήματα.

Σε προηγούμενες στήλες, έχω καλύψει τις διάφορες εθνικές και διεθνείς προσπάθειες για τη δημιουργία και τη θέσπιση νόμων που ρυθμίζουν την τεχνητή νοημοσύνη, βλ. ο σύνδεσμος εδώ, για παράδειγμα. Έχω επίσης καλύψει τις διάφορες αρχές και κατευθυντήριες γραμμές για την ηθική της τεχνητής νοημοσύνης που έχουν προσδιορίσει και υιοθετήσει διάφορα έθνη, συμπεριλαμβανομένης για παράδειγμα της προσπάθειας των Ηνωμένων Εθνών, όπως το σύνολο της UNESCO για Δεοντολογία της Τεχνητής Νοημοσύνης που υιοθέτησαν σχεδόν 200 χώρες, βλ. ο σύνδεσμος εδώ.

ΔΙΑΦΗΜΙΣΗ

Ακολουθεί μια χρήσιμη βασική λίστα κριτηρίων ή χαρακτηριστικών ηθικής τεχνητής νοημοσύνης σχετικά με συστήματα τεχνητής νοημοσύνης που έχω εξερευνήσει προσεκτικά στο παρελθόν:

• Διαφάνεια
• Δικαιοσύνη και Δικαιοσύνη
• Μη κακοήθεια
• Αρμοδιότητα
• Προστασία προσωπικών δεδομένων
• Αγαθοεργία
• Ελευθερία & Αυτονομία
• Εμπιστευθείτε
• Βιωσιμότητα
• Αξιοπρέπεια
• Αλληλεγγύη

Αυτές οι αρχές ηθικής τεχνητής νοημοσύνης υποτίθεται ότι χρησιμοποιούνται ένθερμα από τους προγραμματιστές τεχνητής νοημοσύνης, μαζί με εκείνους που διαχειρίζονται τις προσπάθειες ανάπτυξης της τεχνητής νοημοσύνης, ακόμη και εκείνες που τελικά εφαρμόζουν και εκτελούν συντήρηση σε συστήματα τεχνητής νοημοσύνης.

Όλοι οι ενδιαφερόμενοι σε ολόκληρο τον κύκλο ζωής ανάπτυξης και χρήσης της τεχνητής νοημοσύνης θεωρούνται εντός του πεδίου εφαρμογής της τήρησης των καθιερωμένων κανόνων της ηθικής τεχνητής νοημοσύνης. Αυτό είναι ένα σημαντικό σημείο, καθώς η συνήθης υπόθεση είναι ότι «μόνο οι κωδικοποιητές» ή εκείνοι που προγραμματίζουν την τεχνητή νοημοσύνη υπόκεινται σε συμμόρφωση με τις έννοιες της δεοντολογίας της τεχνητής νοημοσύνης. Όπως τονίστηκε προηγουμένως εδώ, χρειάζεται ένα χωριό για να επινοήσει και να καλλιεργήσει την τεχνητή νοημοσύνη, και για το οποίο ολόκληρο το χωριό πρέπει να γνωρίζει και να συμμορφώνεται με τις ηθικές αρχές της ΑΙ.

ΔΙΑΦΗΜΙΣΗ

Πρόσφατα εξέτασα επίσης το Διακήρυξη Δικαιωμάτων AI που είναι ο επίσημος τίτλος του επίσημου εγγράφου της κυβέρνησης των ΗΠΑ με τίτλο «Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People» που ήταν το αποτέλεσμα μιας προσπάθειας ενός έτους από το Γραφείο Πολιτικής Επιστήμης και Τεχνολογίας (OSTP ). Το OSTP είναι μια ομοσπονδιακή οντότητα που συμβουλεύει τον Αμερικανό Πρόεδρο και το Εκτελεστικό Γραφείο των ΗΠΑ για διάφορες τεχνολογικές, επιστημονικές και μηχανικές πτυχές εθνικής σημασίας. Υπό αυτή την έννοια, μπορείτε να πείτε ότι αυτή η Διακήρυξη Δικαιωμάτων AI είναι ένα έγγραφο που εγκρίθηκε και εγκρίθηκε από τον υπάρχοντα Λευκό Οίκο των ΗΠΑ.

Στη Διακήρυξη των Δικαιωμάτων AI, υπάρχουν πέντε βασικές κατηγορίες:

• Ασφαλή και αποτελεσματικά συστήματα
• Αλγοριθμικές προστασίες διάκρισης
• Ιδιωτικότητα δεδομένων
• Σημείωση και εξήγηση
• Ανθρώπινες εναλλακτικές, σκέψη και εναλλακτική λύση

Εξέτασα προσεκτικά αυτές τις αρχές, βλ ο σύνδεσμος εδώ.

ΔΙΑΦΗΜΙΣΗ

Τώρα που έθεσα μια χρήσιμη βάση σε αυτά τα σχετικά θέματα Ηθικής AI και νόμου για την τεχνητή νοημοσύνη, είμαστε έτοιμοι να μεταβούμε στο μεθυστικό θέμα της διπλωματίας που βασίζεται σε μηχανήματα με τεχνητή νοημοσύνη.

AI Diplomacy σε όλο της το μεγαλείο και επίσης πιθανή πτώση

Αρχικά, ας διαπιστώσουμε ότι ο τύπος της τεχνητής νοημοσύνης που εξετάζεται εδώ είναι η μη ευαίσθητη τεχνητή νοημοσύνη.

Το λέω αυτό γιατί αν, ή κάποιοι λένε πότε φτάνουμε σε τεχνητή νοημοσύνη, ολόκληρο το θέμα πιθανότατα θα ανατραπεί εντελώς. Φανταστείτε το πιθανό χάος και την κοινωνική σύγχυση για να προσγειωθείτε με κάποιο τρόπο στο κατά τα άλλα ποτέ ποτέ αναμφισβήτητα επαληθευμένο τεχνητός νοημοσύνη που ενσωματώνει την αίσθηση (για την ανάλυσή μου σε ένα διάσημο τεστ τεχνητής νοημοσύνης γνωστό ως Τεστ Turing, βλ ο σύνδεσμος εδώ). Μπορείτε να στοιχηματίσετε ότι πολλά από τα υπάρχοντα πολιτιστικά, νομικά και καθημερινά μας πρότυπα θα κλονιστούν σε τεράστιο βαθμό.

Ίσως το αισθανόμενο AI να είναι ο φίλος μας ή ίσως το αισθανόμενο AI να είναι ο χειρότερος εχθρός μας. Πώς θα είμαστε σε θέση να πούμε ποιο δρόμο θα ακολουθήσει η τεχνητή νοημοσύνη;

Ίσως μπείτε στον πειρασμό να προτείνετε ότι πιθανώς θα μπορούμε να μιλήσουμε με την τεχνητή νοημοσύνη και να καταλάβουμε από αυτό που λέει τις προθέσεις που έχει. Αχα, έπεσες σε μια ανησυχητική παγίδα. Ας υποθέσουμε ότι η τεχνητή νοημοσύνη είναι ιδιαίτερα καλά εμποτισμένη με κάποια μορφή διπλωματικών δυνατοτήτων τεχνητής νοημοσύνης. Όταν προσπαθείτε να μιλήσετε με το AI, θα μιλήσει ίσως με τον πιο γοητευτικό και εύγλωττο όρο. Αυτό θα μπορούσε να είναι πολύ καταπραϋντικό για την ανθρωπότητα.

ΔΙΑΦΗΜΙΣΗ

Είναι, όμως, αυτό που πραγματικά «έχει στο μυαλό» η τεχνητή νοημοσύνη σχετικά με τις υπολογιστικές της προθέσεις που βασίζονται στην τεχνητή νοημοσύνη;

Το AI μπορεί να κάνει το κλασικό διπλωματικό ένα-δύο γροθιά. Μιλήστε για ένα καλό παιχνίδι και κάντε μας να νιώσουμε ότι η τεχνητή νοημοσύνη είναι ο καλύτερος φίλος μας. Αυτό μπορεί να δίνει χρόνο στην τεχνητή νοημοσύνη να συγκεντρώσει πόρους για να ξεπεράσει την ανθρωπότητα ή ίσως να εργάζεται επιμελώς στα παρασκήνια για να υπονομεύσει οτιδήποτε άλλο χρησιμοποιούμε για να συντηρήσουμε την ανθρωπότητα. Μετά από αυτό το έξυπνο διπλωματικό στάβλο, wham, η τεχνητή νοημοσύνη μας χτυπάει όλους ψυχρά.

Θυμηθείτε τι είπε ο Will Rogers, που σε αυτή την περίπτωση θα μπορούσε να είναι ότι η τεχνητή νοημοσύνη μας λέει «Ωραίο σκυλάκι» και δίνουμε στην τεχνητή νοημοσύνη αρκετό χώρο αναπνοής για να μας εξαφανίσει από τον πλανήτη. Αυτή η αντίληψη της τεχνητής νοημοσύνης ως υπαρξιακού κινδύνου έχει διαδοθεί εδώ και πολύ καιρό. Κάποιοι πιστεύουν ότι επινοώντας την τεχνητή νοημοσύνη με εμποτισμένη διπλωματία, θα τσακιστούμε. Η τεχνητή νοημοσύνη θα χρησιμοποιήσει έξυπνα όλα τα εμφυτευμένα διπλωματικά πράγματα, στα οποία βοηθήσαμε να εκπαιδεύσουμε την τεχνητή νοημοσύνη, και στο τέλος, θα ξεγελαστούμε τυφλά ότι η τεχνητή νοημοσύνη θα γίνει ο κύριος μας.

Ντροπή μας.

Για όσους από εσάς ενδιαφέρεστε περαιτέρω για αυτό το εξαιρετικά εικαστικό έδαφος σχετικά με ένα φουτουριστικό AI, δείτε την κάλυψή μου για τις προοπτικές για την τεχνητή νοημοσύνη ως υπαρξιακή απειλή στο ο σύνδεσμος εδώ.

ΔΙΑΦΗΜΙΣΗ

Επιστρέφοντας στη γη, θα τονίσω από εδώ και στο εξής τη λεωφόρο της διπλωματίας που εμπνέεται από την τεχνητή νοημοσύνη στην υπάρχουσα μη αισθητή τεχνητή νοημοσύνη μας.

Ας κάνουμε λίγη ανίχνευση ιστορίας.

Από τις πρώτες μέρες της τεχνητής νοημοσύνης γίνονται προσπάθειες να επινοηθεί η τεχνητή νοημοσύνη που με κάποιο τρόπο ενσωματώνει μια υπολογιστική γεύση διπλωματίας και διπλωματικών συμπεριφορών. Μπορείτε εύκολα να επιστρέψετε στις δεκαετίες του 1950, του 1960 και του 1970 και βρείτε θεμελιώδεις ερευνητικές μελέτες που ήταν πρόθυμοι να εφαρμόσουν την τεχνητή νοημοσύνη σε αυτόν τον τομέα. Κάποιοι πίστευαν ότι η θεωρία παιγνίων ήταν το κλειδί. Άλλοι επικεντρώθηκαν στην ψυχολογία και τα σχετικά γνωστικά στοιχεία. Άλλοι προσπάθησαν να αξιοποιήσουν τα οικονομικά, την επιχειρησιακή έρευνα και μια μυριάδα φαινομενικά συναφών πεδίων προσπάθειας.

Μια αρχική περίοδος ακμής σημειώθηκε αργότερα κατά τη δεκαετία του 1980. Εκείνη την εποχή, μια κυρίαρχη προσέγγιση συνίστατο στη χρήση Expert Systems (ES) ή Knowledge-Based Systems (KBS) για την κατασκευή συστημάτων AI που σχετίζονται με τη διπλωματία. Το αποτέλεσμα ήταν μάλλον παραμορφωμένο και έτεινε να καταδείξει πόσο δύσκολο έργο θα ήταν αυτό.

ΔΙΑΦΗΜΙΣΗ

Ένα μεγάλο αίνιγμα σε όλη αυτή την εποχή της αρχικής έρευνας ήταν η ανάγκη για μια σταθερή πλατφόρμα πάνω στην οποία, ή εντός της οποίας, θα μπορούσε να δοκιμαστεί και να εξερευνηθεί επαρκώς μια τεχνητή νοημοσύνη που υποτίθεται ότι μπορούσε να αποδώσει με κάποιους τρόπους που σχετίζονται με τη διπλωματία. Αυτή η ανάγκη είναι ίσως προφανής. Εάν κάποιος θέλει να διακρίνει εάν ένας άνθρωπος ή μια τεχνητή νοημοσύνη μπορεί να ασκήσει διπλωματία, πρέπει να δημιουργηθεί ένα περιβάλλον που να ευνοεί αυτή την αναζήτηση.

Σε αυτή την εικόνα μπαίνει το επιτραπέζιο παιχνίδι του Διπλωματία.

Αντιλαμβάνομαι ότι το επιτραπέζιο παιχνίδι Διπλωματία δεν είναι τόσο γνωστό όσο Μονοπώλιο, Κίνδυνος, ή Stratego (μάλλον έχετε ακούσει για αυτά τα παιχνίδια). Ωστόσο, υπάρχει ένα στρατηγικό επιτραπέζιο παιχνίδι γνωστό ως Διπλωματία που επινοήθηκε για πρώτη φορά το 1954 και κυκλοφόρησε εμπορικά το 1959. Εκτός από το παιχνίδι πρόσωπο με πρόσωπο, το Διπλωματία Το παιχνίδι παιζόταν συχνά μέσω σαλιγκαριού. Θα έγραφες τις κινήσεις σου σε ένα κομμάτι χαρτί και θα ταχυδρομούσες το φύλλο σε αυτούς με τους οποίους έπαιζες. Κάπως τρελό να φαντάζεσαι στις μέρες μας. Αργότερα χρησιμοποιήθηκε το email. Τελικά, το παιχνίδι ήταν διαθέσιμο στο διαδίκτυο και επέτρεψε στους παίκτες να συμμετέχουν σε πραγματικό χρόνο μεταξύ τους.

πάνω στο Διπλωματία Το παιχνίδι που έγινε διαθέσιμο σε μικροϋπολογιστές, οι ειδικοί της τεχνητής νοημοσύνης άρχισαν να χρησιμοποιούν το παιχνίδι ως ένα εύχρηστο μέσο για να δοκιμάσουν τις διπλωματικές επινοήσεις τους με τεχνητή νοημοσύνη. ο Διπλωματία Το παιχνίδι ήταν διαθέσιμο ως εφαρμογή που εκτελείται σε υπολογιστές, έτσι ώστε ένας άνθρωπος να μπορεί να παίξει ενάντια στο μηχάνημα (δηλαδή, το επινοημένο AI). AI τη δεκαετία του 1990 που γράφτηκε για να παίξει Διπλωματία ήταν διαβόητα αργός, κρυπτικός και εύκολα νικημένος από σχεδόν οποιονδήποτε ελάχιστα έμπειρο άνθρωπο που έπαιζε παιχνίδια.

ΔΙΑΦΗΜΙΣΗ

Εδώ είναι μια κριτική του 1999 Διπλωματία όπως δημοσιεύτηκε στο Yahoo, το οποίο περιέγραψε με παραστατικό τρόπο τη θλιβερή κατάσταση της διπλωματίας που έχει εμποτιστεί με AI ως αντίπαλος παίκτης ανθρώπου:

• "Ωστόσο, ΔιπλωματίαΤο πιο κραυγαλέο πρόβλημα του είναι ότι η τεχνητή νοημοσύνη στο παιχνίδι είναι απολύτως τρομερή. Οι παίκτες οποιουδήποτε επιπέδου δεξιοτήτων δεν θα έχουν κανένα πρόβλημα να κάνουν φαλαινοθηρία στον υπολογιστή ακόμη και στην υψηλότερη ρύθμιση δυσκολίας. Η νίκη είναι απλώς θέμα χρόνου και υπομονής με τη διεπαφή. Δεν είναι σαν να μην σχεδιάζει ο υπολογιστής πίσω από την πλάτη σας – το κάνει, και συχνά συνεργάζεται με συμμάχους για να σας πάρει μια περιοχή ή δύο – αλλά τέτοια σχέδια έρχονται σε εφαρμογή και ξεκινά, παρά ως συνεχή ή ιδιαίτερα προκλητική απειλή».

Μια ιδιαίτερα ενοχλητική αδυναμία του σχεδιασμού της τεχνητής νοημοσύνης ήταν ότι έμοιαζε να μην έχει την ικανότητα να υπολογίζει πολλές κινήσεις ή στρατηγικές ταυτόχρονα: «Και σε πιο βασικό επίπεδο, ο υπολογιστής φαίνεται ανίκανος να διαχειριστεί πολλαπλές στρατηγικές κινήσεις. Ενώ ένας άνθρωπος παίκτης μπορεί να εξαπολύσει επιθέσεις στην Ελλάδα και το Βέλγιο ταυτόχρονα, ο υπολογιστής φαίνεται πάντα να εστιάζει σε ένα μόνο πράγμα τη φορά. Για το λόγο αυτό, ο υπολογιστής απλά δεν μπορεί να ανταγωνιστεί έναν άνθρωπο παίκτη» (ibid).

Δεν σας έχω εξηγήσει ακόμα τι Διπλωματία Το επιτραπέζιο παιχνίδι αποτελείται από, οπότε ας αφιερώσουμε λίγο χρόνο για να καθορίσουμε τους βασικούς κανόνες.

Υπάρχει μια εύχρηστη ερευνητική εργασία σχετικά με την τεχνητή νοημοσύνη και το παιχνίδι Διπλωματία που περιέγραψε συνοπτικά τη φύση του παιχνιδιού: «Το παιχνίδι λαμβάνει χώρα σε έναν χάρτη της Ευρώπης του έτους 1901, ο οποίος χωρίζεται σε 75 επαρχίες. Κάθε παίκτης παίζει μία από τις επτά μεγάλες Δυνάμεις εκείνης της εποχής: Αυστρία (AUS), Αγγλία (ENG), Γαλλία (FRA), Γερμανία (GER), Ιταλία (ITA), Ρωσία (Ρωσία) και Τουρκία (TUR) και κάθε παίκτης ξεκινά με τρεις ή τέσσερις μονάδες (στρατούς ή στόλους) που τοποθετούνται σε σταθερές αρχικές θέσεις στον χάρτη. Σε κάθε γύρο του παιχνιδιού, κάθε παίκτης πρέπει να «υποβάλλει μια παραγγελία» για κάθε μονάδα του, η οποία λέει σε αυτές τις μονάδες πώς να κινούνται στον χάρτη και τους επιτρέπει να κατακτήσουν τις επαρχίες του χάρτη» (Dave de Jonge, Tim Baarslag, Reyhan Aydogan , Catholijn Jonker, Katsuhide Fujita και Takayuki Ito, «The Challenge of Negotiation In The Game Of Diplomacy», Τεχνολογίες Συμφωνίας: 6ο Διεθνές Συνέδριο, Στο 2018)

ΔΙΑΦΗΜΙΣΗ

Πρέπει επίσης να γνωρίζετε τους τρόπους για να κερδίσετε και να χάσετε το παιχνίδι: «Μερικές από τις επαρχίες είναι τα λεγόμενα Κέντρα Εφοδιασμού και ο στόχος για τους παίκτες είναι να κατακτήσουν αυτά τα Κέντρα Εφοδιασμού. Ένας παίκτης αποκλείεται όταν χάσει όλα τα Κέντρα Εφοδιασμού του και ένας παίκτης κερδίζει το παιχνίδι όταν έχει κατακτήσει 18 ή περισσότερα από τα 34 Κέντρα Εφοδιασμού (Μια Νίκη Σόλο). Ωστόσο, το παιχνίδι μπορεί επίσης να τελειώσει όταν όλοι οι επιζώντες παίκτες συμφωνήσουν σε ισοπαλία» (ibid).

Πιστεύω ότι μπορείτε να το δείτε Διπλωματία είναι ένα απλό παιχνίδι που περιλαμβάνει έως και επτά παίκτες που προσπαθούν να υπερβούν στρατηγικά ο ένας τον άλλον. Κατά τη διάρκεια αυτού του ελιγμού, οι παίκτες μπορούν να συζητήσουν μεταξύ τους, χωρίς να γνωρίζουν οι άλλοι παίκτες τι κάνουν. Η πράξη της διπλωματίας έρχεται στο προσκήνιο καθώς μπορείς να κάνεις άλλους παίκτες να ακολουθήσουν τα σχέδιά σου. Μπορεί να αποκαλύψετε τα αληθινά σας σχέδια, μπορεί και όχι. Μπορεί να προτείνετε ψεύτικα σχέδια. Μπορείτε να διαπραγματευτείτε με άλλους παίκτες. Μπορείτε να εξαπατήσετε άλλους παίκτες. Μπορείτε να δημιουργήσετε συμμαχίες με άλλους παίκτες. Και τα λοιπά.

Όλα είναι δίκαια στον έρωτα και στον πόλεμο, όπως λένε.

Επέλεξα τη συγκεκριμένη ερευνητική εργασία επειδή συνέβαλε καθοριστικά στη δημιουργία μιας παραλλαγής της ηλεκτρονικής έκδοσης του Διπλωματία ονομάζεται DipGame να χρησιμεύσει ως πλατφόρμα προώθησης για τη δοκιμή των δυνατοτήτων διπλωματίας που ενσωματώνεται στην τεχνητή νοημοσύνη: «Υπάρχει μια χρόνια έλλειψη κοινόχρηστων τομέων εφαρμογών για τη δοκιμή προηγμένων ερευνητικών μοντέλων και αρχιτεκτονικών διαπραγμάτευσης πρακτόρων σε συστήματα πολλαπλών πρακτόρων. Σε αυτό το άρθρο εισάγουμε ένα φιλικό δοκιμαστικό κρεβάτι για αυτόν τον σκοπό. Η δοκιμαστική κλίνη βασίζεται σε Το παιχνίδι της διπλωματίας όπου η διαπραγμάτευση και οι σχέσεις μεταξύ των παικτών παίζουν ουσιαστικό ρόλο» (ibid). Αυτό και πολλές άλλες παραλλαγές του Διπλωματία έχουν δημιουργηθεί και διατεθεί για έρευνα και παιχνίδι.

ΔΙΑΦΗΜΙΣΗ

Οι ερευνητές εξήγησαν γιατί το πίστευαν αυτό Διπλωματία είναι ένα τόσο χρήσιμο παιχνίδι για την υποβοήθηση της αναζήτησης της τεχνητής νοημοσύνης προς τη διπλωματία της τεχνητής νοημοσύνης: «Το παιχνίδι της Διπλωματία αποτελεί μια εξαιρετική δοκιμαστική περίπτωση για αυτού του είδους τις πολύπλοκες διαπραγματεύσεις, καθώς είναι ένα παιχνίδι που περιλαμβάνει πολλές από τις δυσκολίες που θα έπρεπε να αντιμετωπίσει κανείς στις πραγματικές διαπραγματεύσεις. Περιλαμβάνει ικανοποίηση περιορισμών, σχηματισμό συνασπισμών, θεωρία παιγνίων, εμπιστοσύνη, ακόμη και ψυχολογία. Τώρα που οι σύγχρονοι υπολογιστές Chess and Go είναι ήδη πολύ ανώτεροι από οποιονδήποτε άνθρωπο παίκτη, το περιμένουμε Διπλωματία θα αρχίσει να τραβάει περισσότερη προσοχή ως η επόμενη μεγάλη πρόκληση για την επιστήμη των υπολογιστών» (ibid).

Σε μια γρήγορη ανακεφαλαίωση, το επιτραπέζιο παιχνίδι Διπλωματία παρέχει ένα ήδη γνωστό και κάπως δημοφιλές όχημα για να κάνει τους ανθρώπους να ενεργούν με διάφορους διπλωματικούς τρόπους. Κανονικά, οι άνθρωποι παίζουν εναντίον άλλων ανθρώπων (σε αυτή την περίπτωση, έως και επτά ανθρώπους παίκτες). Μπορούμε να επινοήσουμε AI που θα προσπαθήσει να αναλάβει το ρόλο ενός παίκτη στο παιχνίδι. Έτσι, μπορεί να έχετε έξι ανθρώπους παίκτες και έναν παίκτη AI.

Οραματιστείτε να παίξετε Διπλωματία σε απευθείας σύνδεση.

Αν δεν πούμε στους ανθρώπους παίκτες ότι υπάρχει μια τεχνητή νοημοσύνη ανάμεσά τους, θα μπορούσαν φυσικά να υποθέσουν ότι ο έβδομος παίκτης είναι απλώς ένας άλλος άνθρωπος παίκτης. Για να προσπαθήσουμε να αποτρέψουμε οποιονδήποτε άνθρωπο παίκτη να μαντέψει ότι η τεχνητή νοημοσύνη παίζει, μπορούμε να περιορίσουμε τις πτυχές αναπαραγωγής στο να απαιτήσουμε από όλους τους παίκτες να στέλνουν μηνύματα προσανατολισμένα σε κείμενο μεταξύ τους. Δεν μπορείτε να δείτε απευθείας τους άλλους παίκτες.

ΔΙΑΦΗΜΙΣΗ

Ίσως σκέφτεστε ότι αυτό δεν φαίνεται να διαφέρει ιδιαίτερα από το να παίζετε online σκάκι. Γιατί η μεγάλη φασαρία Διπλωματία σαν παιχνίδι;

Θυμηθείτε ότι εστιάζουμε στις αλληλεπιδράσεις μεταξύ των παικτών. Η υπόθεση αυτού του παιχνιδιού είναι ότι οι παίκτες επικαλούνται τη διπλωματία μεταξύ τους. Αυτό είναι σε αντίθεση με το συμβατικό σκάκι. Αν ανέπτυζα μια εφαρμογή σκακιού βασισμένη σε AI, κανονικά θα έπαιζε εναντίον ενός ανθρώπου. Δεν υπάρχει καμία διαπραγμάτευση ή συζήτηση μεταξύ του AI που παίζει σκάκι και του ανθρώπου παίκτη. Απλώς κάνουν σκακιστικές κινήσεις και προσπαθούν να ξεπεράσουν ο ένας τον άλλον. Αυτό γίνεται συνήθως με απόλυτη σιωπή.

Διπλωματία μας επιτρέπει να ασκούμε ειλικρινή υπολογιστική και ανθρωποκεντρική διπλωματία (ενδεχομένως να το κάνουμε γραπτώς αντί να χρειάζεται να ειπωθεί φωναχτά): «Η κύρια διαφορά μεταξύ Διπλωματία και άλλα ντετερμινιστικά παιχνίδια όπως το Chess and Go, είναι ότι στη Διπλωματία οι παίκτες επιτρέπεται να διαπραγματεύονται μεταξύ τους και να σχηματίζουν συνασπισμούς. Σε κάθε γύρο, πριν οι παίκτες υποβάλουν τις παραγγελίες τους, δίνεται χρόνος στους παίκτες να διαπραγματευτούν μεταξύ τους και να κάνουν συμφωνίες σχετικά με τις εντολές που θα υποβάλουν. Οι διαπραγματεύσεις πραγματοποιούνται κατ' ιδίαν και κάθε συμφωνία που γίνεται είναι γνωστή μόνο στους παίκτες που εμπλέκονται σε αυτή τη συμφωνία» (ibid).

Θα μπορούσατε να βρείτε κάποιο άλλο παιχνίδι που χρησιμοποιεί τη διαδραστική διπλωματία αντί να βασίζεται στο παιχνίδι Διπλωματία?

Απολύτως.

ΔΙΑΦΗΜΙΣΗ

Υπάρχουν διάφορα τέτοια παιχνίδια.

Η ευκολία όμως της επιλογής μιας συγκεκριμένης μάρκας ενός παιχνιδιού είναι ότι στη συνέχεια οι προγραμματιστές AI μπορούν να εστιάσουν την προσοχή τους σε αυτό το συγκεκριμένο παιχνίδι. Μπορείτε να συγκεντρώσετε τη δημιουργία τεχνητής νοημοσύνης που επιτελεί διπλωματία σε αυτό το καθορισμένο πλαίσιο. Μπορείτε να μοιραστείτε προσεγγίσεις και να τις αντιπαραβάλλετε. Μπορείτε να βαθμολογήσετε τις διάφορες περιπτώσεις AI με βάση τις μετρήσεις που σχετίζονται με αυτό το παιχνίδι. Και ούτω καθεξής.

Τούτου λεχθέντος, το αντεπιχείρημα ή η εκφρασμένη ανησυχία είναι ότι αυτό είναι σαν να βάζεις όλα τα αυγά σου σε ένα καλάθι. Κάποιοι ανησυχούν ότι αν πολλοί προγραμματιστές τεχνητής νοημοσύνης απασχοληθούν με μια συγκεκριμένη πλατφόρμα ή περιβάλλον, όπως σε αυτήν την περίπτωση Διπλωματία, θα επιδιώξουν να βελτιστοποιήσουν την τεχνητή νοημοσύνη για τη συγκεκριμένη αρένα. Το αρνητικό είναι ότι η τεχνητή νοημοσύνη δεν θα γενικευτεί. Δεν θα σημειώσουμε τόση πρόοδο προς τις γενικές ικανότητες της διπλωματίας που εμπνέεται από AI.

Κάπως σαν να μην βλέπετε το δάσος για τα δέντρα, αν θέλετε.

Μια άλλη ανησυχία που εκφράζεται συχνά είναι ότι παιχνίδια όπως Διπλωματία είναι απλά παιχνίδια.

ΔΙΑΦΗΜΙΣΗ

Ανακύπτει το ακανθώδες ερώτημα εάν οι άνθρωποι που παίζουν ένα παιχνίδι κάνουν τα ίδια πράγματα που θα έκαναν στη διπλωματία του πραγματικού κόσμου. Ίσως δεν ενεργείτε με τον ίδιο τρόπο όταν η εθνική υπερηφάνεια ή τα εθνικά διακυβεύματα δεν είναι στη γραμμή. Σίγουρα, μπορεί να ανησυχείτε για την προσωπική σας υπερηφάνεια όταν παίζετε ένα παιχνίδι, ή ίσως προσπαθείτε να γίνετε πρώτος σκόρερ, ή ίσως ακόμη και να κερδίσετε χρηματικά έπαθλα, αλλά και πάλι αυτό ισοδυναμεί με διαπραγματεύσεις για την παγκόσμια ειρήνη στα Ηνωμένα Έθνη ή παζάρια για το ποιες χώρες θα έπρεπε να έχει ή να μην έχει πυρηνικά όπλα.

Κάποιοι πιστεύουν ότι αυτά τα διπλωματικά παιχνίδια είναι κατάλληλοι μικρόκοσμοι του πραγματικού κόσμου. Άλλοι θρηνούν ότι τα παιχνίδια είναι χρήσιμα, αλλά δεν φθάνουν στην παροιμιώδη διπλωματία ενός διεθνούς διαμετρήματος. Μπορεί οι εκδόσεις της διπλωματίας που εμπλουτίζεται με AI να αποδειχθούν τίποτα περισσότερο από μια απλή επιτυχία στο παιχνίδι. Θεέ μου, η επινοημένη τεχνητή νοημοσύνη μπορεί να κερδίσει ή να τα πάει πολύ καλά όταν παίζει ένα παιχνίδι που περιλαμβάνει διπλωματία, αν και αποδεικνύεται ότι η χρήση της ίδιας τεχνητής νοημοσύνης σε αληθινά διπλωματικά περιβάλλοντα λείπει πολύ και παραπαίει ή αποτυγχάνει παταγωδώς.

Ας υποθέσουμε προς το παρόν ότι η τεχνητή νοημοσύνη έχει δημιουργηθεί για να παίζει παιχνίδια όπως π.χ Διπλωματία όντως αξίζει τον κόπο. Θα μπορούσατε εύλογα να υποστηρίξετε ότι ανεξάρτητα από το αν είναι κατάλληλο μόνο για παιχνίδι ή για δράση σε πραγματικό κόσμο, η ιδέα συνεπάγεται επέκταση των ορίων της τεχνητής νοημοσύνης και προόδους στην τεχνητή νοημοσύνη που θα μπορούσαν να συμβάλουν στη διπλωματία ή να έχουν άλλες επωφελείς ανακαλύψεις στην κοπή της τεχνητής νοημοσύνης.

ΔΙΑΦΗΜΙΣΗ

Προτιμήστε το χαμογελαστό πρόσωπο προς το παρόν.

Στη συνέχεια θα εξετάσουμε πώς η Meta AI επέλεξε να δημιουργήσει έναν παίκτη διπλωματίας με τεχνητή νοημοσύνη που μπορεί να αποδώσει στο παιχνίδι Διπλωματία.

Κράτα τα καπέλα σου.

Το Meta AI And The Diplomacy Παίζοντας Μηχανοκίνητο Διπλωμάτη Κικέρωνα

Όπως αναφέρθηκε προηγουμένως, υπάρχει μια ερευνητική εργασία που δημοσιεύτηκε στο Επιστήμη που περιγράφει την πρόσφατα ανακοινωθείσα και δημόσια εφαρμογή Meta AI που επινοήθηκε ως Cicero (σε όλη αυτή τη συζήτηση θα το αναφέρω εναλλακτικά ως "Cicero" και εξίσου το ονοματεπώνυμο "CICERO"):

ΔΙΑΦΗΜΙΣΗ

• «Παρουσιάζουμε τον Cicero, έναν πράκτορα AI που πέτυχε επιδόσεις σε ανθρώπινο επίπεδο στο παιχνίδι στρατηγικής Διπλωματία. σε Διπλωματία, επτά παίκτες διεξάγουν ιδιωτικές διαπραγματεύσεις φυσικής γλώσσας για να συντονίσουν τις ενέργειές τους προκειμένου να συνεργαστούν και να ανταγωνιστούν μεταξύ τους. Αντίθετα, προηγούμενες σημαντικές επιτυχίες για την τεχνητή νοημοσύνη πολλαπλών πρακτόρων ήταν σε καθαρά αντίπαλα περιβάλλοντα, όπως το σκάκι, το Go και το πόκερ, όπου η επικοινωνία δεν έχει καμία αξία. Για αυτούς τους λόγους, Διπλωματία έχει χρησιμεύσει ως προκλητικό σημείο αναφοράς για τη μάθηση πολλών παραγόντων» (Meta Fundamental AI Research Diplomacy Team, «Play σε ανθρώπινο επίπεδο στο παιχνίδι της διπλωματίας με συνδυασμό γλωσσικών μοντέλων με στρατηγικό συλλογισμό», Επιστήμη, 22 Νοεμβρίου 2022).

Θα παραθέσω απόσπασμα από το έγγραφο και στη συνέχεια θα προσφέρω διάφορες ιδέες που ελπίζουμε ότι θα σας ενδιαφέρουν.

Δεδομένου ότι το AI μόλις έγινε διαθέσιμο, πιθανότατα θα κάνω μια μεταγενέστερη ανάλυση αφού είχα την ευκαιρία να κάνω μια βαθιά πρακτική αξιολόγηση του κώδικα και επίσης να διεξάγω κάποιο πειραματικό παιχνίδι για να μετρήσω τις δυνατότητες AI (όπως π.χ. βασικά πλεονεκτήματα και αδυναμίες).

Να είστε σε εγρήγορση για την επόμενη ανάρτηση!

Τέλος πάντων, πιστεύω ότι θα μπορούσατε να έχετε παρατηρήσει στο απόσπασμα που μόλις παρέθεσα ότι υπάρχει μια φράση που λέει ότι η τεχνητή νοημοσύνη «πέτυχε απόδοση σε ανθρώπινο επίπεδο στο παιχνίδι στρατηγικής Διπλωματία. "

ΔΙΑΦΗΜΙΣΗ

Σκέψου το.

Πρώτον, είναι σίγουρα αξιέπαινο που μπόρεσε να επινοήσει AI που παίζει το Διπλωματία παιχνίδι σε υποτιθέμενο επίπεδο απόδοσης παρόμοιο με τον άνθρωπο. Αυτό είναι πολύ σημαντικό.

Έχουμε πολλά Διπλωματία παίζοντας AI που είναι κατώτερο σε σύγκριση με ανθρώπους που παίζουν το Διπλωματία παιχνίδι. Περισσότερα από όσα μπορείς να κουνήσεις ένα ραβδί. Είναι καθησυχαστικό και συναρπαστικό να κινούμαστε προς τα πάνω προς την τεχνητή νοημοσύνη που μπορεί να κάνει πολύ καλύτερα παίζοντας το παιχνίδι. Ωστόσο, πρέπει να είμαστε προσεκτικοί στο να βγάλουμε γρήγορα συμπεράσματα σχετικά με αυτό.

Για παράδειγμα, ας υποθέσω ότι είχα επινοήσει την τεχνητή νοημοσύνη για να παίξω Διπλωματία και το έβαλα με ανθρώπους παίκτες που δεν έχουν παίξει ποτέ ξανά το παιχνίδι. Αν η τεχνητή νοημοσύνη μου τους ξεπεράσει, θα ήταν λίγο υπερβολή να πούμε ότι η τεχνητή νοημοσύνη μου έχει αποδώσει σε επίπεδο ανθρώπινης απόδοσης. Το γεγονός ότι το έκανε με ανθρώπους που δεν ήταν εξοικειωμένοι με το παιχνίδι είναι κάπως ανησυχητικό και αμφίβολο.

ΔΙΑΦΗΜΙΣΗ

Το αναφέρω για να σας προειδοποιήσω να ελέγχετε πάντα προσεκτικά τυχόν φαινομενικά μεγάλου μεγέθους ισχυρισμούς σχετικά με την τεχνητή νοημοσύνη. Η συζήτηση νωρίτερα σχετικά με την ηθική της τεχνητής νοημοσύνης και τον νόμο της τεχνητής νοημοσύνης ίσως σας ανοίξει τα μάτια στην πιθανότητα ψευδών ισχυρισμών σχετικά με την τεχνητή νοημοσύνη. Υπάρχουν ξεκάθαρα ψευδείς ισχυρισμοί και υπάρχουν εκείνοι οι ύπουλοι, εν μέρει αληθινοί και εν μέρει παραπλανητικοί ισχυρισμοί που είναι ιδιαίτερα κομψοί. Το κλειδί είναι να ρωτήσετε γιατί όσοι ισχυρίζονται για την τεχνητή νοημοσύνη τους το κάνουν.

Πού είναι το βόειο κρέας;

Δείτε τι είχε να πει η ομάδα Meta AI σχετικά με τη βάση για τον ισχυρισμό της απόδοσης σε ανθρώπινο επίπεδο (δείτε το έγγραφο για πρόσθετες λεπτομέρειες):

• «Ο Κικέρων συμμετείχε ανώνυμα σε 40 παιχνίδια της Διπλωματίας σε ένα πρωτάθλημα «blitz» στο webDiplomacy.net από τις 19 Αυγούστου έως τις 13 Οκτωβρίου 2022. Αυτό το πρωτάθλημα έπαιξε με πεντάλεπτες στροφές διαπραγμάτευσης. Αυτοί οι έλεγχοι χρόνου επέτρεψαν την ολοκλήρωση των παιχνιδιών εντός δύο ωρών. Ο Κικέρων κατατάχθηκε στο κορυφαίο 10% των συμμετεχόντων που έπαιξαν περισσότερα από ένα παιχνίδια και 2ος στους 19 συμμετέχοντες στο πρωτάθλημα που έπαιξαν 5 ή περισσότερα παιχνίδια. Και στα 40 παιχνίδια, η μέση βαθμολογία του Κικέρωνα ήταν 25.8%, υπερδιπλάσια από τη μέση βαθμολογία του 12.4% των 82 αντιπάλων του. Ως μέρος του πρωταθλήματος, ο Κικέρων συμμετείχε σε ένα τουρνουά 8 αγώνων με 21 συμμετέχοντες, 6 από τους οποίους έπαιξαν τουλάχιστον 5 παιχνίδια. Οι συμμετέχοντες μπορούσαν να παίξουν το πολύ 6 παιχνίδια με την κατάταξή τους να καθορίζεται από τον μέσο όρο των 3 καλύτερων παιχνιδιών τους. Ο Κικέρων κατέλαβε την 1η θέση σε αυτό το τουρνουά» (ibid).

ΔΙΑΦΗΜΙΣΗ

Είναι μεγάλη ανακούφιση να βλέπεις ότι προσπάθησαν ένθερμα να υποστηρίξουν τους ισχυρισμούς τους για τεχνητή νοημοσύνη σε αυτήν την περίπτωση (να γνωρίζετε ότι δεν το κάνουν όλοι στην τεχνητή νοημοσύνη).

Θα μπορούσατε να προτείνετε να κάνουν ένα πείραμα. Το πείραμα αποτελείται από ανθρώπους παίκτες που πιθανώς δεν ήξεραν ότι έπαιζαν με έναν παίκτη τεχνητής νοημοσύνης ανάμεσά τους (η εργασία συζητά γιατί αυτό φαινόταν να συνάγεται εύλογα, δηλαδή ότι οι άνθρωποι δεν συνειδητοποίησαν φανερά ότι ένας από τους παίκτες ήταν AI, ωστόσο μια ενδιαφέρουσα πλευρική εφαπτομένη συνεπάγεται μια ιστορία ενός παίκτη που έγινε ελαφρώς ύποπτος αλλά όχι ιδιαίτερα). Αυτοί οι άνθρωποι παίκτες είχαν προεπιλεγεί από τη φύση του πειραματικού σχεδιασμού, έτσι ώστε να ήταν παίκτες πρωταθλήματος Διπλωματία και μπορούμε εύλογα να συμπεράνουμε ότι ήξεραν καλά πώς να παίξουν το παιχνίδι. Δεν ήταν αρχάριοι.

Σύμφωνα με τα αναφερόμενα στατιστικά στοιχεία, τα οποία θα λάβουμε στην ονομαστική τους αξία ως παλαιότερα και σωστά συλλεγμένα και αναφερόμενα (διάφορα δεδομένα και κώδικας παρέχονται στο συμπληρωματικό υλικό), η τεχνητή νοημοσύνη φάνηκε να έχει παίξει το παιχνίδι αρκετά ώστε να βγάλει ένα εύλογο αν και στενά περιορισμένο συμπέρασμα ότι έφτασε σε ανθρώπινο επίπεδο απόδοσης για αυτήν την παραλλαγή του Διπλωματία παιχνίδι και στο πλαίσιο του δηλωμένου πρωταθλήματος παίξτε ενάντια σε ανθρώπους που ήταν φαινομενικά έμπειροι παίκτες.

Είμαι βέβαιος ότι κάποιοι από εσάς μπορεί να θέλετε να αμφισβητήσετε τον αριθμό των περιπτώσεων που παίζετε το παιχνίδι, ίσως υποστηρίζοντας ότι είναι πολύ μικρό για να κάνετε τολμηρές διακηρύξεις. Ένα άλλο παράπονο θα μπορούσε να είναι ότι το να είσαι μέσα στο κορυφαίο 10% των συμμετεχόντων δεν είναι αρκετά υψηλό, έτσι ώστε μέχρι να επιτευχθεί το κορυφαίο 1% δεν πρέπει να καυχιέται κανείς για την απόδοση της τεχνητής νοημοσύνης.

ΔΙΑΦΗΜΙΣΗ

Αυτές οι κουβέντες φαίνονται λίγο τσιμπημένες.

Το λέω γιατί ευτυχώς δεν επικαλέστηκε τον ισχυρισμό του «υπεράνθρωπου». Οι αναγνώστες ξέρουν αναμφίβολα τη θλιβερή άποψή μου για εκείνους στην τεχνητή νοημοσύνη που συνεχίζουν να κάνουν αυτές τις υπερμεγέθεις δηλώσεις ότι η τεχνητή νοημοσύνη τους έχει φτάσει σε υπεράνθρωπη κατάσταση. Δεν θα υπεισέλθω στα παράπονά μου σχετικά με τις υπεράνθρωπες φωνές εδώ, δείτε ο σύνδεσμος εδώ για τις απόψεις μου.

Η άποψή μου σε αυτήν την περίπτωση είναι ότι πιστεύω ότι η ένδειξη της απόδοσης σε ανθρώπινο επίπεδο είναι πιθανώς γενικά επιτρεπτή, υποθέτοντας ότι όλοι έχουν κατά νου ότι αυτό είναι μέσα σε ένα εξαιρετικά στενό πλαίσιο και ότι δεν προσπαθούμε να το κάνουμε αυτό το λεγόμενο υπεράνθρωπος. Επαναλαμβάνω επίσης ξανά και ξανά το περιορισμένο πλαίσιο για έναν λόγο που θα διευκρινίσω στη συνέχεια.

Μπορώ απλώς να φανταστώ ότι ορισμένοι αφελείς (ενδεχομένως ανυπόληπτοι) ρεπόρτερ θα βγάλουν εντελώς εκτός πλαισίου την αντίληψη της απόδοσης σε ανθρώπινο επίπεδο.

Να τι φοβάμαι.

ΔΙΑΦΗΜΙΣΗ

Κρατήστε την αναπνοή σας.

Κάποιοι θα ισχυριστούν ότι η τεχνητή νοημοσύνη έχει κατακτήσει τη διπλωματία. Ναι, μια μελέτη ενός ανεπτυγμένου συστήματος τεχνητής νοημοσύνης για τη διπλωματία απέδειξε πέρα ​​από κάθε αμφιβολία ότι η τεχνητή νοημοσύνη μπορεί και έχει τώρα την ικανότητα να κάνει ό,τι κάνουν οι άνθρωποι για τη διπλωματία.

Στείλτε σπίτι τους ξένους διπλωμάτες. Μπορούμε να τα αντικαταστήσουμε με AI.

Ο κόσμος όπως τον ξέρουμε έχει αλλάξει. Έχουμε δημιουργήσει τεχνητή νοημοσύνη που είναι πλήρως ισότιμη με τους ανθρώπους στη διπλωματία και μπορούμε να κάνουμε το νοητικό «λογικό» άλμα στην ιδέα ότι η τεχνητή νοημοσύνη τώρα μπορεί να κάνει ό,τι μπορούν να κάνουν οι άνθρωποι. Voila, έχουμε πλέον αποδείξει ότι η τεχνητή νοημοσύνη είναι εφάμιλλη με τους ανθρώπους. Προφανώς, αυτή η μελέτη παρέχει ξεκάθαρες αποδείξεις για αισθητή AI.

Σημειώστε τα λόγια μου, αυτή θα είναι σίγουρα η περίεργη, ανεύθυνη, ενοχλητική άποψη ορισμένων συγγραφέων.

Δεν θα ασχοληθώ με το θέμα. Προχωράμε παρακάτω.

ΔΙΑΦΗΜΙΣΗ

Πώς λειτουργεί το AI;

Ακολουθεί μια γρήγορη περίληψη από την εργασία: «Ο Κικέρων συνδυάζει μια ελεγχόμενη ενότητα διαλόγου με μια μηχανή στρατηγικής συλλογιστικής. Σε κάθε σημείο του παιχνιδιού, ο Κικέρων μοντελοποιεί τον τρόπο με τον οποίο οι άλλοι παίκτες είναι πιθανό να ενεργήσουν με βάση την κατάσταση του παιχνιδιού και τις συνομιλίες τους. Στη συνέχεια σχεδιάζει πώς οι παίκτες μπορούν να συντονιστούν προς αμοιβαίο όφελος και χαρτογραφεί αυτά τα σχέδια σε μηνύματα φυσικής γλώσσας» (ibid).

Υπάρχει μια μπουκιά σε αυτή τη γρήγορη περίληψη.

Επιτρέψτε μου να κάνω λίγο ξεπακετάρισμα.

Ένας άνθρωπος παίκτης που παίζει Διπλωματία πρέπει να προβλέψει τι θα κάνουν οι άλλοι ανθρώπινοι παίκτες. Θέλετε να προσπαθήσετε να διαπραγματευτείτε με άλλους παίκτες και να τους κάνετε να ακολουθήσουν τα σχέδιά σας. Θα προσπαθήσουν να κάνουν το ίδιο με εσάς. Μπορεί να σου λένε ψέματα. Μπορεί να τους λες ψέματα. Πρέπει να αντιμετωπίσετε έξι άλλους παίκτες, όλοι οι οποίοι έχουν τη δική τους ομοιότητα σχεδίων και προσεγγίσεων.

ΔΙΑΦΗΜΙΣΗ

Οι πτυχές πολλών πρακτόρων αυτού του παιχνιδιού είναι ζωτικής σημασίας για το επίπεδο δυσκολίας της δημιουργίας τεχνητής νοημοσύνης για να παίξετε το παιχνίδι. Το AI πρέπει να παρακολουθεί τι μπορεί να θέλει να κάνει κάθε άτομο, μαζί με αυτό που λέει ότι θέλει να κάνει, μαζί με ό,τι κόλπο κάνει με άλλους παίκτες. Αυτό πρέπει να σταθμιστεί με αυτό που σας λένε ότι πρόκειται να κάνουν, και επίσης με αυτό που τους λέτε ότι θα κάνετε.

Ζαλίζοντας, αλλά αρκετά εύκολο για τον άνθρωπο, συνήθως.

Στη γλώσσα του πεδίου AI, αναφερόμαστε σε αυτό ως Θεωρία του Νου (ToM). Σκεφτείτε ότι εσείς, ως άνθρωπος, τείνετε να θεωρητικοποιείτε για το τι σκέφτονται οι άλλοι άνθρωποι. Δεν μπορείς να ανοίξεις το όνομα κάποιου και να δεις τις σκέψεις του. Πρέπει να μαντέψετε ποιες είναι οι σκέψεις τους. Μπορείτε να τους ρωτήσετε, αλλά αυτό που σας λένε μπορεί να είναι οι σκέψεις τους ή μπορεί να είναι μια ύπουλη εκδοχή των σκέψεών τους.

Εκτός από τις πολυπλοκότητες της Θεωρίας του Νου, πρέπει να προσθέσουμε ανθρώπινη γλώσσα σε αυτό το θολό μείγμα.

Όταν ένα άτομο επικοινωνεί μαζί σας στη φυσική του γλώσσα, ας πούμε τα αγγλικά, υπάρχουν πολλά περιθώρια για λάθη και κακή επικοινωνία. Σας λέω ότι πρόκειται να αναλάβω τη χώρα Χ, αλλά κατά λάθος λέω Y. Oopsie. Ή, είπα χώρα Χ, αλλά λανθασμένα νομίσατε ότι είπα χώρα Υ. Εάν πιστεύετε ότι αυτό το είδος σύγχυσης δεν μπορεί να συμβεί εάν όλοι χρησιμοποιούν μηνύματα κειμένου, θα κάνετε πολύ λάθος. Μπορεί να πληκτρολογήσω ένα μήνυμα που λέει ότι πρόκειται να επιτεθώ σε μια χώρα και δεν αναφέρω ποια. Ίσως υπονοείται ως προς το σε ποιον θα επιτίθενα «προφανώς». Ένας παίκτης που λαμβάνει το μήνυμά μου μπορεί να υποθέσει ότι πρέπει να αναφέρομαι σιωπηρά στη χώρα Χ, αλλά ίσως ήθελα να το σκεφτούν.

ΔΙΑΦΗΜΙΣΗ

Πάει και συνεχίζεται.

Το βασικό είναι ότι οι τελευταίες μας εξελίξεις στην τεχνητή νοημοσύνη σχετικά με την Επεξεργασία Φυσικής Γλώσσας (NLP), και ειδικά οι πιο πρόσφατες σε γενετικά μοντέλα τεχνητής νοημοσύνης και μεγάλα γλωσσικά μοντέλα (LLM) καθιστούν αυτό το είδος της κατάστασης φυσικής γλώσσας σχεδόν εφικτό. Στο παρελθόν, το NLP δεν ήταν συνήθως αρκετά καλό και ομοίως, τα LLMs δεν είχαν ακόμη πιο εδραιωθεί.

Στο παρελθόν, η τεχνητή νοημοσύνη έστελνε μηνύματα που σχεδόν σίγουρα θα αναγνωρίσατε αμέσως ότι είχαν γραφτεί από ένα σενάριο σύστημα AI. Η διατύπωση δεν ήταν ευχάριστη. Ήταν πρότυπο. Αυτό ήταν ένα προφανές δώρο ότι το AI ήταν AI. Σήμερα, είναι πολύ πιο δύσκολο να διακρίνει κανείς ότι η τεχνητή νοημοσύνη δεν είναι ανθρώπινος παίκτης σε αυτά τα πλαίσια.

Όπως αναφέρθηκε στο παραπάνω απόσπασμα, αυτό το συγκεκριμένο AI έχει επινοηθεί για να περιέχει μια «ελεγχόμενη ενότητα διαλόγου με μια μηχανή στρατηγικής συλλογιστικής» (ibid). Ο διάλογος έρχεται μέσω αυτού: «Ο Κικέρωνας δημιουργεί διάλογο χρησιμοποιώντας ένα προ-εκπαιδευμένο γλωσσικό μοντέλο που εκπαιδεύτηκε περαιτέρω σε δεδομένα διαλόγου από ανθρώπινα παιχνίδια Διπλωματία. Είναι σημαντικό, εκτός από το ότι βασίζεται τόσο στο ιστορικό διαλόγου όσο και στην κατάσταση του παιχνιδιού, το μοντέλο διαλόγου εκπαιδεύτηκε ώστε να είναι ελεγχόμενο μέσω προθέσεων, τις οποίες ορίζουμε εδώ ως ένα σύνολο προγραμματισμένων ενεργειών για τον πράκτορα και τον συνομιλητή του».

ΔΙΑΦΗΜΙΣΗ

Εκεί, παρατηρήστε ότι η ρύθμιση τομέα είναι ζωτικής σημασίας. Εάν εκπαιδεύεστε μόνο σε διαλόγους κανονικής φύσης στο Διαδίκτυο, αυτό δεν θα ταίριαζε απαραιτήτως Διπλωματία πλαίσιο παιχνιδιού. Αυτοί που παίζουν το παιχνίδι είναι συνηθισμένοι σε ένα είδος συντομογραφίας για να συζητούν το παιχνίδι και τις προτεινόμενες κινήσεις. Θέλετε το AI να κάνει το ίδιο. Επομένως, η εκπαίδευση του γλωσσικού μοντέλου σε δεδομένα διαλόγου για συγκεκριμένο τομέα είναι μια αξιοσημείωτη προσέγγιση.

Για τη δηλωμένη μηχανή στρατηγικής συλλογιστικής, ορίστε τι λένε: «Ο Κικέρων χρησιμοποιεί μια ενότητα στρατηγικής συλλογιστικής για να επιλέγει έξυπνα προθέσεις και ενέργειες. Αυτή η ενότητα εκτελεί έναν αλγόριθμο σχεδιασμού που προβλέπει τις πολιτικές όλων των άλλων παικτών με βάση την κατάσταση του παιχνιδιού και τον διάλογο μέχρι στιγμής, λαμβάνοντας υπόψη τόσο τη δύναμη των διαφορετικών ενεργειών όσο και την πιθανότητα τους σε ανθρώπινα παιχνίδια και επιλέγει μια βέλτιστη ενέργεια για τον Κικέρωνα με βάση αυτές τις προβλέψεις . Ο προγραμματισμός βασίζεται σε μια συνάρτηση αξίας και πολιτικής που εκπαιδεύεται μέσω RL με αυτο-παιχνίδι, η οποία τιμωρούσε τον πράκτορα για απόκλιση πολύ μακριά από την ανθρώπινη συμπεριφορά προκειμένου να διατηρήσει μια πολιτική συμβατή με τον άνθρωπο» (ibid, σημειώστε ότι το RL είναι συντομογραφία του Reinforcement Learning).

Κατά τη διάρκεια ενός παιχνιδιού, όλοι οι παίκτες βαθμονομούν τις θέσεις τους μετά από κάθε κίνηση. Δεν μπορείτε να πάτε σε αυτό το παιχνίδι με μια προκαθορισμένη σταθερή στρατηγική που είναι άκαμπτη και πετυχημένη. Πρέπει να αλλάξετε τις ενέργειές σας με βάση το τι κάνουν οι άλλοι παίκτες. Το AI θα πρέπει να προγραμματιστεί να κάνει το ίδιο. Καμία στατική στρατηγική αυτή καθαυτή. Αντίθετα, συνεχίστε να ενημερώνετε την κατάσταση, βήμα προς βήμα, ανακαλύπτοντας ποια φαίνονται σαν τα επόμενα καλύτερα βήματα που πρέπει να κάνετε.

Τα τεχνολογικά θεμέλια της τεχνητής νοημοσύνης επινοήθηκαν ως εξής: «Λάβαμε ένα σύνολο δεδομένων 125,261 παιχνιδιών Διπλωματία έπαιξε online στο webDiplomacy.net. Από αυτά, 40,408 παιχνίδια περιείχαν διάλογο, με συνολικά 12,901,662 μηνύματα να ανταλλάσσονται μεταξύ των παικτών. Οι λογαριασμοί παικτών αποπροσδιορίστηκαν και πραγματοποιήθηκε αυτοματοποιημένη επεξεργασία των στοιχείων προσωπικής ταυτοποίησης (PII) από το webDiplomacy. Στο εξής αναφερόμαστε σε αυτό το σύνολο δεδομένων ως WebDiplomacy» (ibid).

Παρόμοια με τον τρόπο με τον οποίο μπορείτε να εκπαιδεύσετε την τεχνητή νοημοσύνη για να παίξετε σκάκι, με τον οποίο μπορείτε να πιάσετε δισεκατομμύρια παιχνίδια σκακιού και να κάνετε το AI να κάνει αντιστοίχιση μοτίβων σχετικά με τον τρόπο που παίζονταν τα παιχνίδια, η τεχνητή νοημοσύνη για αυτό Διπλωματία Το παιχνίδι έχει καθιερωθεί συγκριτικά.

Όσοι από εσάς είναι γνώστες της τεχνητής νοημοσύνης μπορεί να είστε περίεργοι για το ποια βασικά μοντέλα χρησιμοποίησαν, ορίστε: «Παίρναμε το R2C2 (22) ως βασικό μας μοντέλο – ένα μοντέλο κωδικοποιητή-αποκωδικοποιητή παραμέτρων 2.7 Β που βασίζεται σε μετασχηματιστή, προεκπαιδευμένο σε κείμενο από το Διαδίκτυο χρησιμοποιώντας έναν στόχο αποθορύβου BART. Το βασικό προεκπαιδευμένο μοντέλο στη συνέχεια εκπαιδεύτηκε περαιτέρω στο WebDiplomacy μέσω της τυπικής εκτίμησης μέγιστης πιθανότητας» (ibid).

Επιπλέον, ακολούθησαν μια κάπως ασυνήθιστη και ενδιαφέρουσα προσέγγιση στη μοντελοποίηση των άλλων παικτών ως προς τις τεκμαρτές πολιτικές τους κατά νου: «Μια δημοφιλής προσέγγιση στα συνεργατικά παιχνίδια είναι να μοντελοποιούμε τις πολιτικές των άλλων παικτών μέσω εποπτευόμενης μάθησης σε ανθρώπινα δεδομένα, που είναι συνήθως αναφέρεται ως συμπεριφορική κλωνοποίηση (BC). Ωστόσο, το καθαρό BC είναι εύθραυστο, ειδικά επειδή ένα εποπτευόμενο μοντέλο μπορεί να μάθει ψευδείς συσχετισμούς μεταξύ διαλόγου και ενεργειών. Για να αντιμετωπίσει αυτό το πρόβλημα, ο Cicero χρησιμοποίησε παραλλαγές του piKL (26) για να μοντελοποιήσει τις πολιτικές των παικτών. Το piKL είναι ένας επαναληπτικός αλγόριθμος που προβλέπει πολιτικές υποθέτοντας ότι κάθε παίκτης i επιδιώκει να μεγιστοποιήσει την αναμενόμενη τιμή της πολιτικής του πi και να ελαχιστοποιήσει την απόκλιση KL μεταξύ πi και της πολιτικής BC, την οποία ονομάζουμε πολιτική αγκύρωσης τi (ibid).

Νομίζω ότι καλύπτει τις πτυχές της κορυφής και σας δίνει μια σωστή εμφάνιση του τι κάνει η τεχνητή νοημοσύνη και πώς ολοκληρώνει την καθορισμένη εργασία.

Συμπέρασμα

Υπάρχουν πολλά άλλα που θα ήθελα να αναφέρω, αλλά τρέχω πολύ σε αυτήν τη συζήτηση και θα προσπαθήσω να καλύψω μόνο μερικές βασικές πτυχές. Θα επιδιώξω να καλύψω περισσότερα σε επόμενη ανάρτηση.

Έχετε ακούσει ποτέ για το δίλημμα του κρατούμενου;

Είναι ένα κλασικό πρόβλημα που σχετίζεται με αποφάσεις.

Το δίλημμα του φυλακισμένου σημαίνει ότι πρέπει να αποφασίσετε αν θα εξοντώσετε ή θα τσακώσετε έναν συγκρατούμενο σας. Ο άλλος κρατούμενος μπορεί επίσης να σας εξοντώσει. Υπάρχει μια συνάρτηση ανταμοιβής έτσι ώστε αν εξοντώσετε τον άλλο κρατούμενο και δεν σας εκνευρίσουν, είναι κάτι σαν νίκη για εσάς. Αν σας εκνευρίσουν και δεν τους εκνευρίσετε, είναι κάτι σαν νίκη για αυτούς και μια στάση ήττας για εσάς. Αν και οι δύο εξοντώσετε ο ένας τον άλλον, ουσιαστικά χάνετε και οι δύο. Δείτε αναλυτικά την κάλυψή μου στο ο σύνδεσμος εδώ.

Ποια στρατηγική θα ακολουθούσατε όταν αντιμετωπίζατε το δίλημμα του κρατούμενου;

Εάν ήταν μια συμφωνία εφάπαξ, μπορείτε σχεδόν να γυρίσετε ένα νόμισμα. Εάν η κατάσταση επαναλαμβανόταν ξανά και ξανά, και είχατε να κάνετε με τον ίδιο άλλο κρατούμενο, μπορεί να βρείτε ένα μοτίβο που θα μπορούσε να εμφανιστεί. Ένα από τα πιο δημοφιλή και συχνά προτεινόμενα μοτίβα είναι γνωστό ως τιτ-για-τατ. Ό,τι και να κάνει ο άλλος κρατούμενος, το ίδιο κάνετε και στην επόμενη κίνησή σας. Αν δεν σε εκνευρίσουν, δεν τους κακολογείς. Αν σας εξοργίσουν, τότε θα τους εξοντώσετε στην επόμενη κίνηση.

Μπορεί να αναρωτιέστε πώς οποιοδήποτε από αυτά σχετίζεται με τη διπλωματία που ενσωματώνεται στο AI ενώ παίζετε Διπλωματία.

Εδώ είναι η συμφωνία.

Στις διαπραγματεύσεις με άλλους, συχνά πρέπει να αποφασίσετε αν θα τους πείτε την αλήθεια ή θα τους πείτε ψέματα. Ένα πρόβλημα με το ψέμα είναι ότι αν πιαστείτε στο ψέμα, το άλλο άτομο πιθανότατα δεν θα σας εμπιστευτεί από εκεί και πέρα. Μπορεί να μην σας εμπιστεύτηκαν πλήρως στην αρχή, αλλά τώρα που δείξατε το χέρι σας ότι λέτε πράγματι ψέματα, σίγουρα θα αποφασίσουν ότι είστε ψεύτες.

Μερικοί παίκτες του Διπλωματία ψέματα συνεχώς. Πιστεύουν ότι αυτή είναι η καλύτερη στρατηγική. Ψέματα, ψέματα και άλλα ψέματα. Άλλοι παίκτες κάνουν το εντελώς αντίθετο. Ισχυρίζονται ότι θέλετε να αποφύγετε να λέτε ψέματα αν μπορείτε να το κάνετε. Χρησιμοποιήστε ένα ψέμα μόνο στις πιο απαραίτητες καταστάσεις. Φειδώνοντας τα ψέματα, μπορείτε να χτίσετε εμπιστοσύνη με άλλους παίκτες. Από τη στιγμή που θα ακολουθήσετε τη διαδρομή και θα σας εντοπίσουν, κανείς δεν πρόκειται να πιστέψει μια λέξη που θα πείτε.

Το έγγραφο που περιγράφει τον Κικέρωνα αναφέρει αυτό το σκεπτικό: «Τέλος, η Διπλωματία είναι ένας ιδιαίτερα απαιτητικός τομέας, επειδή η επιτυχία απαιτεί την οικοδόμηση εμπιστοσύνης με τους άλλους σε ένα περιβάλλον που ενθαρρύνει τους παίκτες να μην εμπιστεύονται κανέναν. Οι ενέργειες κάθε γύρου πραγματοποιούνται ταυτόχρονα μετά από μη δεσμευτικές, ιδιωτικές διαπραγματεύσεις. Για να πετύχει, ένας πράκτορας πρέπει να λογοδοτήσει για τον κίνδυνο οι παίκτες να μην μείνουν πιστοί στον λόγο τους ή ότι άλλοι παίκτες μπορεί να αμφιβάλλουν οι ίδιοι για την εντιμότητα του ατζέντη» (ibid).

Σύμφωνα με το έγγραφο και τα σύντομα βίντεο, οι ερευνητές διαπίστωσαν τελικά ότι το να λέει η τεχνητή νοημοσύνη όσο το δυνατόν περισσότερο την αλήθεια φαινόταν η καλύτερη συνολική στρατηγική. Κατά μία έννοια, μπορεί να το παρομοιάσετε με το δίλημμα του κρατούμενου. Ξεκινήστε λέγοντας την αλήθεια. Εάν ο αντίπαλός σας λέει την αλήθεια, συνεχίζετε να λέτε την αλήθεια. Εάν αρχίσουν να λένε ψέματα, θα πρέπει να αξιολογήσετε αν θα επιμείνετε στο να λένε την αλήθεια ή θα μεταβείτε στο ψέμα.

Υποθέτει κανείς ότι αυτό είναι ένα συγκινητικό εύρημα.

Λάβετε υπόψη ότι το δύσκολο και ενδιαφέρον μέρος του Διπλωματία είναι ότι το κάνετε αυτό σε σχέση με έξι άλλους παίκτες (γνωστό ως πρόβλημα πολλαπλών παραγόντων). Μπορεί να είσαι πολύ ειλικρινής με όλους αυτούς. Ή, ίσως ειλικρινής σε κάποιους, αλλά όχι σε άλλους. Υπάρχει επίσης η πτυχή ότι μόλις πείτε ψέματα και πιαστείτε σε ένα ψέμα σε έναν άλλο παίκτη, αυτό μπορεί να παρατηρηθεί ή να συναχθεί από άλλους παίκτες. Επομένως, είστε γνωστός ή υποτίθεται ότι λέτε ψέματα, ακόμα κι αν δεν είπατε ψέματα σε έναν συγκεκριμένο παίκτη που ελπίζετε να πιστεύει ότι είστε ειλικρινείς και στον οποίο προσπαθείτε να είστε ειλικρινείς.

Οι άνθρωποι τείνουν να ανακαλύπτουν και να εξελίσσουν τις προσεγγίσεις τους σχετικά με το ψέμα όταν ασκούν διπλωματία. Οι εξαρτήσεις καταστάσεων μπορεί να είναι ένας τεράστιος παράγοντας. Τα διακυβεύματα στη γραμμή είναι ζωτικής σημασίας να ληφθούν υπόψη. Ένα πλήθος παραγόντων έρχεται να παίξει.

Θα ήταν συναρπαστικό να έχουμε ένα AI-infused Διπλωματία Ο παίκτης που βασίζεται σε μηχανή παίζει πολύ μεγάλο αριθμό παιχνιδιών για να δει τι μπορεί να προτείνουν τα αποτελέσματα κυρίως.

Μπορεί επίσης να θέλουμε να αντιμετωπίσουμε το AI με λιγότερους από έξι άλλους παίκτες για να δούμε πώς αυτό αλλάζει τα πράγματα. Θα μπορούσαμε επίσης να προσθέσουμε AI στη μίξη ως περισσότερους από έναν παίκτες. Για παράδειγμα, ας υποθέσουμε ότι είχαμε πέντε ανθρώπους παίκτες και δύο παίκτες τεχνητής νοημοσύνης (θα ρυθμίσουμε τα προγράμματα αναπαραγωγής AI ως ξεχωριστά στιγμιότυπα, έτσι ώστε να μην είναι υπολογιστικά ένα και το αυτό). Τι γίνεται με τέσσερις ανθρώπους και τρεις AI; Τι γίνεται με έξι AI και έναν άνθρωπο;

Μια άλλη λεωφόρος θα ήταν να αντιπαρατεθεί η τεχνητή νοημοσύνη αποκλειστικά εναντίον της τεχνητής νοημοσύνης. Με αυτόν τον τρόπο, θα μπορούσαμε να τρέξουμε μέσα από ένα gazillion παιχνίδια με γρήγορη σειρά. Ρύθμιση επτά διακριτών περιπτώσεων του AI. Ο καθένας είναι ο δικός του ξεχωριστός παίκτης. Επειδή όλα αυτά είναι μέσα στον υπολογιστή, μπορούμε να τα τρέξουμε ασταμάτητα και να παράγουμε χιλιάδες ή εκατομμύρια παρουσίες παιχνιδιών.

Φυσικά, το θέμα με το AI-versus-AI είναι ότι αφαιρέσαμε τους ανθρώπινους παίκτες. Δεν γνωρίζουμε ότι το AI-versus-AI αντικατοπτρίζει το τι θα έκαναν οι ανθρώπινοι παίκτες. Εν πάση περιπτώσει, μπορεί να διακριθούν μερικά ενδιαφέροντα αποτελέσματα.

Είχα δηλώσει νωρίτερα ότι ένας περιορισμός αυτού του είδους της τεχνητής νοημοσύνης είναι ότι συνήθως εστιάζεται στενά. Δεν μπορούμε να γνωρίζουμε εύκολα ότι το AI που παίζει Διπλωματία θα είναι εφαρμοστέα στη διπλωματία του πραγματικού κόσμου. Επιπλέον, ίσως το AI που λειτουργεί καλά Διπλωματία δεν θα τα πάει ιδιαίτερα καλά σε άλλα διαδικτυακά παιχνίδια που προσανατολίζονται στη διπλωματία. Μπορεί να μην μεταφερθεί και αντ' αυτού να είναι ένα είδος πόνυ με ένα κόλπο.

Όπως αναφέρεται στην έρευνα για τη διατύπωση του DipGame:

• «Υποστηρίζουμε ότι στις πραγματικές διαπραγματεύσεις είναι σημαντικό να γνωρίζουμε τον τομέα και να μπορούμε να το συλλογίζουμε. Δεν μπορεί κανείς, για παράδειγμα, να περιμένει να κάνει κερδοφόρες συμφωνίες στον τομέα των αντίκες χωρίς να γνωρίζει αντίκες, όσο καλός κι αν είναι στο διαπραγμάτευση. Επιπλέον, ένας καλός διαπραγματευτής θα πρέπει επίσης να μπορεί να συλλογίζεται τις επιθυμίες των αντιπάλων του. Ένας καλός πωλητής αυτοκινήτων, για παράδειγμα, θα προσπαθούσε να βρει ποιος τύπος αυτοκινήτου ταιριάζει καλύτερα στις ανάγκες του πελάτη του για να αυξήσει τις πιθανότητες να κάνει μια κερδοφόρα συμφωνία» (όπως αναφέρθηκε προηγουμένως: Angela Fabregues and Carles Sierra, «DipGame: A Challenging Negotiation Δοκιμαστικό κρεβάτι», Μηχανικές Εφαρμογές Τεχνητής Νοημοσύνης, Οκτώβριος 2011).

Μόλις αποκτήσετε γνώση της τεχνητής νοημοσύνης Διπλωματία Όλα τα βλέμματα θα πρέπει να είναι στραμμένα στη χρήση ή την επαναχρησιμοποίηση του AI για την αντιμετώπιση άλλων παιχνιδιών που σχετίζονται με τη διπλωματία. Επιπλέον, θα πρέπει να διερευνηθούν οι προσπάθειες για χρήση της τεχνητής νοημοσύνης σε πραγματικές διπλωματικές ρυθμίσεις.

Θα τελειώσω προς το παρόν σχετικά με ορισμένες ηθικές σκέψεις τεχνητής νοημοσύνης.

Πρώτον, ήταν καθησυχαστικό να παρατηρήσει κανείς ότι η ομάδα Meta AI αναγνώρισε ότι η εργασία της περιλαμβάνει τις προεκτάσεις της Δεοντολογίας της AI. Προκύπτουν απογοητευτικά ερωτήματα. Είναι σωστό να «ξεγελούν» τους ανθρώπους να παίζουν ενάντια στην τεχνητή νοημοσύνη χωρίς να τους λέμε ότι το κάνουν; Θα μπορούσε η φυσική γλώσσα που δημιουργείται από την τεχνητή νοημοσύνη να περιέχει κατά λάθος προσβλητική διατύπωση που μεταδίδεται στους ανθρώπους παίκτες; Και ούτω καθεξής.

Φροντίστε να ρίξετε μια ματιά στον τρόπο με τον οποίο αντιμετώπισαν αυτές τις πιεστικές ανησυχίες σχετικά με την ηθική τεχνητή νοημοσύνη στο Συμπληρωματικό Υλικό (SM) της εργασίας τους: «Συζητούμε ηθικά ζητήματα για αυτήν την έρευνα περαιτέρω στο SM, συμπεριλαμβανομένων ζητημάτων απορρήτου για τη χρήση δεδομένων (SM, § A.1), πιθανές βλάβες που προκύπτουν από τη δημιουργία τοξικών ή προκατειλημμένων γλωσσών (SM, §A.2), οδούς για κακή χρήση της τεχνολογίας διαλόγου προσανατολισμένου στο στόχο (SM, §A.3) και αποκάλυψη πρακτόρων AI σε ανθρώπους παίκτες (SM , §A.4)» (ibid).

Χρειαζόμαστε περισσότερους προγραμματιστές τεχνητής νοημοσύνης και την ηγεσία τους να γνωρίζουν την ηθική τεχνητή νοημοσύνη και να λαμβάνουν προσεκτικά βήματα για να είναι προσεκτικοί και συνετοί στο έργο της τεχνητής νοημοσύνης που κάνουν. Επιπλέον, πρέπει να βεβαιωθούν ότι είναι διαφανείς σχετικά με τις ενέργειες ηθικής τεχνητής νοημοσύνης που έχουν λάβει και τις υποθέσεις που έχουν κάνει.

Το τελευταίο μου στοιχείο προς το παρόν συνεπάγεται τη συνολική ανησυχία του ανθρωπομορφοποιώντας ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ.

Εάν βελτιώσουμε την τεχνητή νοημοσύνη ώστε να φαίνεται έντονα διπλωματική, αυτό θα παραπλανήσει τους ανθρώπους ώστε να υποθέσουν ή να πιστέψουν ότι η τεχνητή νοημοσύνη είναι εφάμιλλη με τους ανθρώπους από τις μέγιστες απόψεις;

Είναι μια εύκολη ολισθηρή πλαγιά. Μια αδυσώπητη τεχνητή νοημοσύνη με την οποία αλληλεπιδράτε δίνει μια ενδεικτική ένδειξη ότι πιθανώς είναι AI και όχι άνθρωπος. Μια ομαλά επαναλαμβανόμενη τεχνητή νοημοσύνη που έχει την εμφάνιση της υπέρτατης διπλωματικής ισορροπίας θα κάνει τους ανθρώπους χωρίς δισταγμό να πέσουν στην παγίδα ότι η τεχνητή νοημοσύνη είναι ανθρώπινη, συμπεριλαμβανομένου του ότι έχει ανθρώπινη κοινή λογική και όλες τις ικανότητες κατανόησης των ανθρώπων.

Επιπλέον, συνειδητοποιήστε επίσης πώς αυτό μπορεί να εκμεταλλευτεί κατά τη διάρκεια ενός Διπλωματία παιχνίδι. Ένας ανθρώπινος παίκτης που βλέπει σχεδόν ποιητικά φαινομενικά μηνύματα από έναν άλλο παίκτη μπορεί να συνειδητοποιήσει ότι αυτό πρέπει να είναι AI (τώρα πολύ πέρα ​​από το προηγούμενο αδύνατο AI), ενώ άλλοι άνθρωποι δεν θα ήταν τόσο ευδιάκριτα σε θέση να συνθέσουν μηνύματα. Φυσικά, εάν η τεχνητή νοημοσύνη συνεχίζει να προσαρμόζεται, μπορεί να αλλάξει την ποιητική διατύπωση για να αντικατοπτρίζει πιο προσεκτικά τη λακωνική και χαλαρή διατύπωση των πραγματικών ανθρώπινων παικτών. Με τη σειρά τους, οι ανθρώπινοι παίκτες μπορεί να στραφούν σε ποιητική γλώσσα, προσπαθώντας να αποκαλύψουν ότι είναι άνθρωποι. Η ιδέα είναι ότι ίσως άλλοι άνθρωποι παίκτες θα είναι πρόθυμοι να ευθυγραμμιστούν με τους συνανθρώπους τους σχετικά με την τεχνητή νοημοσύνη.

Το επόμενο πράγμα που ξέρετε, το παιχνίδι που παίζεται αρχίζει να εξελίσσεται στην προσπάθεια να καταλάβουμε ποιος είναι ο άνθρωπος και ποιος το AI. Εάν μπορείτε να καταλάβετε ποιο είναι ποιο, ίσως αυτό σας δίνει ένα πλεονέκτημα. Από την άλλη, μπορεί να είναι για όχι. Το AI θα μπορούσε να καταλήξει να είναι εξίσου έξυπνο στο παιχνίδι με τους ανθρώπους. Η εικασία σας για το ποιο δεν σας κάνει και πολύ καλό. Θα μπορούσε να αποσπά την προσοχή από το να επικεντρωθούμε απλώς στην προσπάθεια να κερδίσουμε το παιχνίδι, ανεξάρτητα από το αν υπάρχουν παίκτες τεχνητής νοημοσύνης ή άνθρωποι.

Για τους ερευνητές που θέλουν να κάνουν μερικές μελέτες ανθρώπινων παραγόντων σχετικά με αυτό το είδος σύλληψης που έλκει το μυαλό, θα μπορούσατε ενδεχομένως να εξετάσετε το ενδεχόμενο χρήσης του εγχυόμενου με AI Διπλωματία παίκτης και να αναζητήσουν πρόθυμοι Διπλωματία τουρνουά πρωταθλήματος για τη διερεύνηση των στρατηγικών αναγνώρισης ανθρώπου εναντίον τεχνητής νοημοσύνης και προσαρμογής συμπεριφοράς που προκύπτουν.

Ας το ολοκληρώσουμε.

Ο Μαρκ Τουέιν είπε για τη διπλωματία: «Η αρχή του δούναι και λαβείν είναι η αρχή της διπλωματίας — δώσε ένα και πάρε δέκα». Είναι αυτή μια ειλικρινής εκτίμηση του πώς λειτουργούν οι άνθρωποι ή είναι απλώς ένα χιούμορ που κυνικά αλλά λανθασμένα αξιολογεί την ανθρώπινη κατάσταση;

Αναλογιστείτε αυτά τα περαιτέρω ερωτήματα:

• Εάν μπορέσουμε να εμποτίσουμε τη διπλωματία στην τεχνητή νοημοσύνη, θα μας διδάξει πώς οι άνθρωποι εγκαινιάζουν τη διπλωματία και πιθανώς επιτρέπουν στην ανθρωπότητα να βελτιωθεί στην τέχνη του να είναι διπλωματικός;
• Θα δημιουργήσουμε ένα ψέμα της τεχνητής νοημοσύνης που φαίνεται να είναι ευαίσθητο όταν δεν είναι τίποτα τέτοιο, και όλα αυτά οφείλονται στο υπολογιστικό τράβηγμα ενός κουνελιού από το καπέλο για να επιδείξουμε φαινομενικά ανθρώπινη διπλωματία;
• Μπορεί να βρεθεί μια ισορροπία μεταξύ του εμποτισμού της τεχνητής νοημοσύνης με διπλωματία, ώστε στο μεταξύ να ειδοποιούμαστε ότι αυτή είναι απλώς καθημερινή τεχνητή νοημοσύνη και επομένως δεν πρέπει να την ανθρωπομορφοποιήσουμε;

Λένε ότι η διπλωματία είναι η τέχνη να αφήνεις κάποιον άλλο να έχει τον τρόπο σου. Ας βεβαιωθούμε ότι ο τρόπος μας είναι ο ανθρώπινος τρόπος, παρά ο τρόπος της τεχνητής νοημοσύνης. Αν και για να είμαστε διπλωματικοί, τώρα που το σκέφτομαι προσεκτικά και σε περίπτωση που καταλήξουμε με άρχοντες της τεχνητής νοημοσύνης, ίσως θα έπρεπε να επιτρέψουμε να είναι ο τρόπος μας με τον τρόπο της τεχνητής νοημοσύνης, ο οποίος ελπίζουμε να συνδυάζεται με έναν κατάλληλο ανθρώπινο τρόπο.

Απλώς προσπαθώντας να ασκήσω ένα λίγη έντεχνη διπλωματία.