Η έκθεση και η καταγραφή αυτών των λανθασμένων και παραισθησιογόνων εξόδων ChatGPT Generative AI κάνει καλό, ρωτά την ηθική της AI και τη νομοθεσία AI

Σας περιμένει ένα μυστικό.

Ναι, υπάρχει κάτι κρυφά που συμβαίνει στα παρασκήνια σχετικά με το πιο πρόσφατο στην τεχνητή νοημοσύνη για το οποίο μπορεί να θέλετε να μάθετε.

Στη σημερινή στήλη, θα εξετάσω την πρόσφατη ώθηση για τη συλλογή υποτιθέμενων σφαλμάτων και άλλων παθήσεων που σχετίζονται με τα δοκίμια που εξάγονται από μια εφαρμογή AI γνωστής ως ChatGPT. Αυτή η συγκεκριμένη εφαρμογή χρησιμοποιεί έναν τύπο AI που ονομάζεται Παραγωγική τεχνητή νοημοσύνη. Πιθανότατα έχετε ακούσει ή δει εντυπωσιακούς τίτλους σχετικά με το AI και το ChatGPT που βασίζονται σε γενετικά. Τα νέα είναι δυσάρεστα για τη συγκεκριμένη εφαρμογή AI και τις φαινομενικά εκπληκτικές δυνατότητες που σχετίζονται με αυτόν τον τύπο AI.

Όπως θα καλύψω σε λίγο, ορισμένοι πιστεύουν ακράδαντα ότι πρέπει να δημιουργήσουμε μια λίστα με τα είδη λαθών ή σφαλμάτων που μπορεί να παράγει η εφαρμογή AI όταν δημιουργεί ένα δοκίμιο για εσάς. Άλλοι προτείνουν ότι αν και η ιδέα μιας τέτοιας λίστας είναι αξιοθαύμαστη, είναι μια άσκηση ματαιότητας και θα αποφέρει πολύ λίγους καρπούς.

Θα εξετάσουμε και τις δύο πλευρές αυτής της μοχθηρής συζήτησης.

Αρχικά, ας βεβαιωθούμε ότι είμαστε όλοι στην ίδια σελίδα σχετικά με το τι αποτελείται το Generative AI και επίσης τι είναι το ChatGPT.

Το ChatGPT είναι ένα διαδραστικό σύστημα τεχνητής νοημοσύνης γενικής χρήσης, προσανατολισμένο στη συνομιλία, ουσιαστικά ένα φαινομενικά αβλαβές γενικό chatbot, ωστόσο, χρησιμοποιείται ενεργά και μανιωδώς από τους ανθρώπους με τρόπους που αιχμαλωτίζουν πολλούς εντελώς απρόσεκτους. Το μόνο που χρειάζεται να κάνετε για να χρησιμοποιήσετε αυτόν τον τύπο τεχνητής νοημοσύνης είναι να εισαγάγετε ένα μήνυμα προτροπής και η εφαρμογή τεχνητής νοημοσύνης θα δημιουργήσει για εσάς ένα δοκίμιο που προσπαθεί να ανταποκριθεί στην προτροπή σας.

Δυστυχώς, αυτό μπορεί να χρησιμοποιηθεί με κάπως ανήθικους ή δόλιους τρόπους. Ένα ιδιαίτερα εκνευριστικό ερώτημα είναι ότι οι μαθητές μπορούν να χρησιμοποιήσουν μια εφαρμογή τεχνητής νοημοσύνης που βασίζεται σε γεννήτριες για να παράγουν τα δοκίμια που τους έχουν ανατεθεί, εισάγοντας απλώς μια ή δύο προτάσεις για να οδηγήσουν την εφαρμογή στη σωστή κατεύθυνση. Κάποιοι θρηνούν ότι αυτό σημαίνει ότι οι μαθητές θα επιλέξουν να εξαπατήσουν όταν γράφουν δοκίμια εκτός τάξης. Οι δάσκαλοι προσπαθούν να καταλάβουν τι να κάνουν, δείτε την ανάλυση και τις συστάσεις μου στο ο σύνδεσμος εδώ.

Παρά το συνεχές βουητό των αξιέπαινων επαίνων για το ChatGPT, υπάρχει μια λιγότερο γνωστή ανησυχία που εκφράζεται κυρίως από τους εμπιστευτές της τεχνητής νοημοσύνης ότι υπάρχουν ορισμένα αξιοσημείωτα ζητήματα και επιφυλάξεις για τα οποία οι άνθρωποι θα έπρεπε να ανησυχούν. Ένα κρίσιμο μειονέκτημα είναι ότι τα δοκίμια που παράγονται από αυτήν την εφαρμογή AI μπορεί να έχουν ενσωματωμένα διάφορα ψεύδη, συμπεριλαμβανομένων προφανώς αναληθών γεγονότων, γεγονότων που απεικονίζονται παραπλανητικά και προφανών γεγονότων που είναι εξ ολοκλήρου κατασκευασμένα. Αυτές οι κατασκευασμένες πτυχές αναφέρονται συχνά ως μια μορφή Παραισθήσεις AI, μια συνθηματική φράση που δεν μου αρέσει, αλλά δυστυχώς φαίνεται να κερδίζει δημοφιλή ούτως ή άλλως (για τη λεπτομερή εξήγησή μου σχετικά με το γιατί αυτή είναι άθλια και ακατάλληλη ορολογία, δείτε την κάλυψή μου στο ο σύνδεσμος εδώ).

Θα ήθελα να διευκρινίσω μια σημαντική πτυχή προτού μπούμε στα πράγματα σε αυτό το θέμα.

Υπήρξαν μερικοί ανόητοι μεγάλοι ισχυρισμοί στα μέσα κοινωνικής δικτύωσης σχετικά με Παραγωγική τεχνητή νοημοσύνη υποστηρίζοντας ότι αυτή η τελευταία έκδοση του AI είναι στην πραγματικότητα αισθανόμενο AI (όχι, κάνουν λάθος!). Όσοι ασχολούνται με την ηθική της τεχνητής νοημοσύνης και το δίκαιο της τεχνητής νοημοσύνης ανησυχούν ιδιαίτερα για αυτήν την αυξανόμενη τάση των εκτεταμένων αξιώσεων. Θα μπορούσατε να πείτε ευγενικά ότι μερικοί άνθρωποι υπερεκτιμούν τι μπορεί πραγματικά να κάνει η σημερινή τεχνητή νοημοσύνη. Υποθέτουν ότι η τεχνητή νοημοσύνη έχει δυνατότητες που δεν έχουμε καταφέρει ακόμη να επιτύχουμε. Αυτό είναι ατυχία. Ακόμη χειρότερα, μπορούν να επιτρέψουν στους εαυτούς τους και στους άλλους να έρθουν σε τρομερές καταστάσεις λόγω της υπόθεσης ότι η τεχνητή νοημοσύνη θα είναι ευαίσθητη ή θα μοιάζει με άνθρωπο στο να μπορεί να αναλάβει δράση.

Μην ανθρωπομορφοποιείτε την τεχνητή νοημοσύνη.

Κάνοντάς το αυτό θα σας πιάσει σε μια κολλώδη και θλιβερή παγίδα εμπιστοσύνης να περιμένεις από το AI να κάνει πράγματα που δεν μπορεί να εκτελέσει. Με αυτό που λέγεται, το πιο πρόσφατο στο Generative AI είναι σχετικά εντυπωσιακό για αυτό που μπορεί να κάνει. Ωστόσο, θα πρέπει να γνωρίζετε ότι υπάρχουν σημαντικοί περιορισμοί που θα πρέπει να έχετε συνεχώς υπόψη όταν χρησιμοποιείτε οποιαδήποτε γενετική εφαρμογή AI.

Αν σας ενδιαφέρει η ταχέως αναπτυσσόμενη αναταραχή σχετικά με το ChatGPT και το Generative AI, έχω κάνει μια εστιασμένη σειρά στη στήλη μου που μπορεί να σας φανεί κατατοπιστική. Ακολουθεί μια ματιά σε περίπτωση που κάποιο από αυτά τα θέματα τραβήξει τη φαντασία σας:

• 1) Έρχονται προβλέψεις για γενετικές προόδους AI. Εάν θέλετε να μάθετε τι είναι πιθανό να εκτυλιχθεί σχετικά με την τεχνητή νοημοσύνη κατά τη διάρκεια του 2023 και μετά, συμπεριλαμβανομένων των επερχόμενων προόδων στη γενετική τεχνητή νοημοσύνη και στο ChatGPT, θα θελήσετε να διαβάσετε την πλήρη λίστα με τις προβλέψεις μου για το 2023 στο ο σύνδεσμος εδώ.
• 2) Παραγωγικές συμβουλές τεχνητής νοημοσύνης και ψυχικής υγείας. Επέλεξα να εξετάσω τον τρόπο με τον οποίο χρησιμοποιούνται η γενετική τεχνητή νοημοσύνη και το ChatGPT για συμβουλές ψυχικής υγείας, μια ενοχλητική τάση, σύμφωνα με την εστιασμένη μου ανάλυση στο ο σύνδεσμος εδώ.
• 3) Context and Generative AI Use. Έκανα επίσης μια εποχική εξέταση γλώσσας σε μάγουλο σχετικά με ένα πλαίσιο που σχετίζεται με τον Άγιο Βασίλη που περιλαμβάνει ChatGPT και γενετική τεχνητή νοημοσύνη στο ο σύνδεσμος εδώ.
• 4) Απατεώνες που χρησιμοποιούν Generative AI. Σε μια δυσοίωνη σημείωση, ορισμένοι απατεώνες έχουν καταλάβει πώς να χρησιμοποιούν το Generative AI και το ChatGPT για να κάνουν παρανομίες, συμπεριλαμβανομένης της δημιουργίας email απάτης και ακόμη και της παραγωγής κώδικα προγραμματισμού για κακόβουλο λογισμικό, δείτε την ανάλυσή μου στο ο σύνδεσμος εδώ.
• 5) Λάθη Rookie με χρήση Generative AI. Πολλοί άνθρωποι ξεπερνούν και παραδόξως υποβαθμίζουν τι μπορούν να κάνουν η γενετική τεχνητή νοημοσύνη και το ChatGPT, γι' αυτό εξέτασα ιδιαίτερα την υποβάθμιση που τείνουν να κάνουν οι αρχάριοι τεχνητής νοημοσύνης, δείτε τη συζήτηση στο ο σύνδεσμος εδώ.
• 6) Αντιμετώπιση γενεσιουργών προτροπών AI και ψευδαισθήσεων AI. Περιγράφω μια προσέγγιση αιχμής για τη χρήση πρόσθετων τεχνητής νοημοσύνης για την αντιμετώπιση των διαφόρων ζητημάτων που σχετίζονται με την προσπάθεια εισαγωγής κατάλληλων προτροπών σε γενετική τεχνητή νοημοσύνη, καθώς και πρόσθετα πρόσθετα τεχνητής νοημοσύνης για τον εντοπισμό των λεγόμενων εξόδων και ψευδών παραισθήσεων AI, όπως καλύπτονται σε ο σύνδεσμος εδώ.
• 7) Κατάρριψη ισχυρισμών Bonehead σχετικά με τον εντοπισμό δοκιμίων που παράγονται από τεχνητή νοημοσύνη. Υπάρχει ένας λανθασμένος πυρετός χρυσού εφαρμογών τεχνητής νοημοσύνης που διακηρύσσουν ότι είναι σε θέση να εξακριβώσουν εάν κάποιο συγκεκριμένο δοκίμιο ήταν ανθρώπινης παραγωγής έναντι τεχνητής νοημοσύνης. Συνολικά, αυτό είναι παραπλανητικό και, σε ορισμένες περιπτώσεις, ένας αβάσιμος και αβάσιμος ισχυρισμός, δείτε την κάλυψή μου στο ο σύνδεσμος εδώ.
• 8) Το παιχνίδι ρόλων μέσω Generative AI μπορεί να προμηνύει μειονεκτήματα ψυχικής υγείας. Μερικοί χρησιμοποιούν γενετική τεχνητή νοημοσύνη όπως το ChatGPT για να παίξουν ρόλους, όπου η εφαρμογή τεχνητής νοημοσύνης ανταποκρίνεται σε έναν άνθρωπο σαν να υπάρχει σε έναν κόσμο φαντασίας ή σε άλλη επινοημένη ρύθμιση. Αυτό θα μπορούσε να έχει επιπτώσεις στην ψυχική υγεία, βλ ο σύνδεσμος εδώ.

Ας συζητήσουμε τώρα την ουσία της γενετικής τεχνητής νοημοσύνης και του ChatGPT, ώστε να γνωρίζετε τα θεμέλια που εμπλέκονται. Στη συνέχεια, θα είμαστε έτοιμοι να προχωρήσουμε σε μια διερευνητική ανάλυση των ψευδών που μπορεί να δημιουργήσουν αυτές οι εφαρμογές τεχνητής νοημοσύνης. Θα συμπεριλάβω πολλά παραδείγματα χρήσης του ChatGPT, τα οποία θα σας βοηθήσουν να κατανοήσετε απτά τη φύση αυτού που παράγει αυτός ο τύπος γενετικής τεχνητής νοημοσύνης.

Ανοίγοντας το Can Of Worms στο Generative AI

Είμαστε έτοιμοι να βουτήξουμε σε ορισμένες λεπτομέρειες σχετικά με την τεχνητή νοημοσύνη.

Εάν είστε ήδη πολύ έμπειροι στο θέμα της γενετικής τεχνητής νοημοσύνης και του ChatGPT, μπορείτε να επιλέξετε να περιηγηθείτε εν συντομία στα σημεία μου και να συνεχίσετε με την επόμενη ενότητα αυτής της συζήτησης. Για όλους τους άλλους, πιστεύω ότι μπορεί να βρείτε αυτή τη διευκρίνιση χρήσιμη.

Εν συντομία, η γενετική τεχνητή νοημοσύνη είναι ένας συγκεκριμένος τύπος τεχνητής νοημοσύνης που συνθέτει κείμενο σαν το κείμενο να γράφτηκε από ανθρώπινο χέρι και μυαλό. Το μόνο που χρειάζεται να κάνετε είναι να εισαγάγετε μια προτροπή, όπως μια πρόταση όπως «Πες μου για τον Αβραάμ Λίνκολν» και η γενετική τεχνητή νοημοσύνη θα σας παρέχει ένα δοκίμιο για τον Λίνκολν. Αυτό συνήθως ταξινομείται ως παραγωγική τεχνητή νοημοσύνη που αποδίδει κείμενο σε κείμενο ή κάποιοι προτιμούν να το αποκαλούν κείμενο σε δοκίμιο παραγωγή. Μπορεί να έχετε ακούσει για άλλους τρόπους δημιουργίας τεχνητής νοημοσύνης, όπως το κείμενο σε τέχνη και το κείμενο σε βίντεο.

Η πρώτη σας σκέψη μπορεί να είναι ότι αυτό δεν φαίνεται τόσο μεγάλο θέμα όσον αφορά την παραγωγή δοκιμίων. Μπορείτε εύκολα να κάνετε μια διαδικτυακή αναζήτηση στο Διαδίκτυο και να βρείτε εύκολα τόνους και τόνους δοκιμίων για τον Πρόεδρο Λίνκολν. Το σημαντικότερο στην περίπτωση της γενετικής τεχνητής νοημοσύνης είναι ότι το δοκίμιο που δημιουργείται είναι σχετικά μοναδικό και παρέχει μια πρωτότυπη σύνθεση και όχι μια αντιγραφή. Αν προσπαθούσατε να βρείτε το δοκίμιο που παρήγαγε η τεχνητή νοημοσύνη κάπου στο διαδίκτυο, είναι απίθανο να το ανακαλύψετε.

Το Generative AI είναι προεκπαιδευμένο και χρησιμοποιεί μια πολύπλοκη μαθηματική και υπολογιστική διατύπωση που έχει δημιουργηθεί εξετάζοντας μοτίβα σε γραπτές λέξεις και ιστορίες σε ολόκληρο τον Ιστό. Ως αποτέλεσμα της εξέτασης χιλιάδων και εκατομμυρίων γραπτών αποσπασμάτων, η τεχνητή νοημοσύνη μπορεί να εκτοξεύσει νέα δοκίμια και ιστορίες που αποτελούν ένα συνονθύλευμα αυτού που βρέθηκε. Με την προσθήκη διαφόρων πιθανολογικών λειτουργιών, το κείμενο που προκύπτει είναι λίγο πολύ μοναδικό σε σύγκριση με αυτό που έχει χρησιμοποιηθεί στο σετ εκπαίδευσης.

Γι' αυτό έχει προκληθεί σάλος σχετικά με το ότι οι μαθητές μπορούν να απατήσουν όταν γράφουν δοκίμια έξω από την τάξη. Ένας δάσκαλος δεν μπορεί απλώς να λάβει το δοκίμιο που ισχυρίζονται οι δόλιοι μαθητές ότι είναι το δικό τους γραπτό και να αναζητήσει να ανακαλύψει εάν αντιγράφηκε από κάποια άλλη διαδικτυακή πηγή. Συνολικά, δεν θα υπάρχει κάποιο οριστικό προϋπάρχον δοκίμιο στο διαδίκτυο που να ταιριάζει με το δοκίμιο που δημιουργήθηκε από την τεχνητή νοημοσύνη. Συνολικά, ο δάσκαλος θα πρέπει να αποδεχθεί διστακτικά ότι ο μαθητής έγραψε το δοκίμιο ως πρωτότυπο έργο.

Σε λίγο, θα σας δείξω τι συμβαίνει όταν εισάγετε ερωτήσεις ή προτροπές σε γενετική τεχνητή νοημοσύνη. Θα χρησιμοποιήσω την πιο πρόσφατη έκδοση του ChatGPT για να εισαγάγω τις προτροπές μου και να έχω συγκεντρώσει τις "απαντήσεις" ή τα δοκίμια που δημιουργούνται από το AI (σημειώστε ότι το ίδιο μπορεί να γίνει και με τις πολλές άλλες διαθέσιμες εφαρμογές τεχνητής νοημοσύνης. Έχω επιλέξει να χρησιμοποιήσω ChatGPT γιατί αποκτά πέντε λεπτά φήμης αυτή τη στιγμή).

Ίσως μια σύντομη εφαπτομένη σχετικά με το ChatGPT θα μπορούσε να είναι χρήσιμη σε αυτή τη συγκυρία.

Η εφαρμογή ChatGPT έγινε διαθέσιμη στο ευρύ κοινό πριν από λίγους μήνες. Σε γενικές γραμμές, αυτές οι εφαρμογές δημιουργίας τεχνητής νοημοσύνης είναι συνήθως προσβάσιμες μόνο σε άτομα που έχουν γνώση της τεχνητής νοημοσύνης. Η ασυνήθιστη πτυχή ότι το ChatGPT θα μπορούσε να χρησιμοποιηθεί από οποιονδήποτε εισάγοντας απλώς μια διεύθυνση email και ένα όνομα, λοιπόν, αυτό οδήγησε πολλούς ανθρώπους να αποφασίσουν να το δοκιμάσουν. Το ChatGPT είναι επί του παρόντος δωρεάν για χρήση (το ζήτημα της δημιουργίας εσόδων είναι ένα διαφαινόμενο δίλημμα για τους κατασκευαστές AI).

Σχεδόν αμέσως υπήρξε μια τεράστια αντίδραση στα μέσα κοινωνικής δικτύωσης, καθώς οι άνθρωποι αγωνίστηκαν για να δώσουν παραδείγματα για το τι μπορεί να κάνει η γενετική τεχνητή νοημοσύνη. Η εταιρεία που κατασκευάζει το ChatGPT, το OpenAI, επέλεξε να κλείσει τις εγγραφές σε ένα εκατομμύριο χρήστες. Αυτοί οι εκατομμύρια χρήστες κατάφεραν να βομβαρδίσουν τα ερτζιανά με κάθε είδους ιστορίες και ιστορίες σχετικά με τη χρήση του ChatGPT.

Να είστε πολύ προσεκτικοί στο να πιστεύετε τι έχουν να πουν οι άνθρωποι για την εφαρμογή AI. Πολλοί από αυτούς τους ανθρώπους δεν έχουν ιδέα για το τι χρησιμοποιούν. Είναι σχεδόν σαν να μην είχαν οδηγήσει ποτέ αυτοκίνητο και δεν είχαν καν συνειδητοποιήσει ότι υπήρχαν αυτοκίνητα, και ξαφνικά είχαν την ευκαιρία να οδηγήσουν ένα αυτοκίνητο. Ακολουθεί απόλυτη έκπληξη.

Δεν λέω ότι η γενετική τεχνητή νοημοσύνη δεν είναι σχετικά εντυπωσιακή. Είναι. Απλώς τονίζω ότι πολλές από τις μαρτυρίες που αναβλύζουν γίνονται από πολλούς που ευτυχώς αγνοούν τι μπορεί να κάνει η σημερινή τεχνητή νοημοσύνη. Όσοι από εμάς βρίσκονται στο εσωτερικό της τεχνητής νοημοσύνης χρησιμοποιούμε γενετική τεχνητή νοημοσύνη τα τελευταία αρκετά χρόνια. Ίσως το συνηθίσαμε. Ξαφνικά, το να βλέπεις μια τεράστια συντριβή ανθρώπων να το διαλαλούν στις ταράτσες ήταν ενθουσιώδης, αλλά και κάπως ανησυχητικό. Το ανησυχητικό μέρος είναι όταν οι άνθρωποι διακηρύσσουν ότι η γενετική τεχνητή νοημοσύνη είναι ευαίσθητη. Δεν είναι. Μην αφήσετε κανέναν να σας πείσει για το αντίθετο.

Τούτου λεχθέντος, υπάρχει μια συνεχιζόμενη έντονη συζήτηση στον τομέα της τεχνητής νοημοσύνης για το εάν η γενετική τεχνητή νοημοσύνη βρίσκεται στο δρόμο προς την αίσθηση ή εάν ίσως δεν είναι. Μια άποψη είναι ότι αν συνεχίσουμε να κλιμακώνουμε τη γενετική τεχνητή νοημοσύνη με ταχύτερους υπολογιστές και μεγαλύτερο όγκο δεδομένων, όπως η σάρωση κάθε ίντσας του Διαδικτύου, θα φτάσουμε σχεδόν αυθόρμητα σε αισθανόμενη τεχνητή νοημοσύνη. Άλλοι υποστηρίζουν ότι αυτό είναι πολύ απίθανο. Προτείνουν ότι η γενετική τεχνητή νοημοσύνη μπορεί να είναι ένα από τα πολλά στοιχεία που χρειάζονται. Υπάρχει ακόμη και η πιο ζοφερή άποψη ότι η γενετική τεχνητή νοημοσύνη είναι μια παράπλευρη εμφάνιση που μας αποσπά την προσοχή από τις πραγματικές ανακαλύψεις που θα χρειαστούμε για να επιτύχουμε αισθανόμενη τεχνητή νοημοσύνη.

Μπορεί επίσης να βρείτε αξιοσημείωτο στο οποίο τείνουν να αναφέρονται οι γνώστες της τεχνητής νοημοσύνης Τεχνητή Γενική Νοημοσύνη (AGI) ως φιλόδοξος στόχος για τον τομέα της τεχνητής νοημοσύνης. Κάποτε ο στόχος ήταν να επιτευχθεί Τεχνητή νοημοσύνη, αλλά το παρατσούκλι της τεχνητής νοημοσύνης έχει αποδυναμωθεί και μπερδευτεί. Όταν κάποιος λέει ότι κάνει δουλειά με τεχνητή νοημοσύνη, δεν ξέρεις αν αναφέρεται στη σημερινή τεχνητή νοημοσύνη που δεν είναι εφάμιλλη με τους ανθρώπους ή αν αναφέρεται σε μια φουτουριστική τεχνητή νοημοσύνη με ανθρώπινη ισοδυναμία. Για να ξεπεραστεί αυτή η εκνευριστική σύγχυση, χρησιμοποιείται αυτές τις μέρες η νεότερη έκφραση του AGI.

Συνολικά, η γενετική τεχνητή νοημοσύνη του σήμερα είναι δεν αισθανόμενος, ούτε είναι AGI.

Να θυμάστε ότι όπως αναφέρθηκε προηγουμένως, το AI δεν είναι ευαίσθητο. Οι αποκρίσεις που δημιουργούνται από το AI είναι ένας μαθηματικός και υπολογιστικός συνδυασμός λέξεων σε φαινομενικά άπταιστα αποσπάσματα. Αυτό βασίζεται στο ότι ο αλγόριθμος AI έχει εκπαιδευτεί σε σύνολα δεδομένων λέξεων και ιστοριών που έχουν γράψει οι άνθρωποι (κυρίως όπως δημοσιεύονται στο Διαδίκτυο). Επαναλαμβάνω αυτήν την προειδοποίηση γιατί αναμφίβολα θα πέσετε στη διανοητική παγίδα ότι αυτές οι απαντήσεις είναι τόσο εύρυθμες που η τεχνητή νοημοσύνη πρέπει να είναι ευαίσθητη. Αυτό συμβαίνει στους περισσότερους ανθρώπους. Όπως ζητήθηκε νωρίτερα, αφήστε στην άκρη αυτή την ανθρωπομορφοποίηση. Να θυμάστε πάντα ότι οι απαντήσεις βασίζονται στο τεράστιο θησαυρό γραφής από ανθρώπους που υπάρχει στο Διαδίκτυο και έτσι θα μοιάζουν πολύ με το ανθρώπινο γράψιμο.

Υπάρχει κάτι άλλο που πρέπει να ξέρετε.

Η γενετική τεχνητή νοημοσύνη που εκπαιδεύεται στο Διαδίκτυο με απεριόριστο τρόπο θα έχει την τάση να φτιάχνει όποιες απαντήσεις βασισμένες σε κείμενο επινοεί μαθηματικά και υπολογιστικά κάποια προσβλητικά θολά πράγματα, συμπεριλαμβανομένης της αποκρουστικής δυσάρεστης διατύπωσης. Υπάρχουν πολλά τρελά και βρώμικα πράγματα που δημοσιεύονται εκεί έξω στον Ιστό.

Το έχετε δει, καταλαβαίνετε τι εννοώ.

Οι εταιρείες που κατασκευάζουν αυτές τις εφαρμογές τεχνητής νοημοσύνης ανησυχούν ότι το παροιμιώδες μωρό θα πεταχτεί έξω με το νερό του μπάνιου (ένα παλιό ρητό, ίσως για να συνταξιοδοτηθεί), πράγμα που σημαίνει ότι εάν η τεχνητή νοημοσύνη τους παράγει προσβλητικά δοκίμια ή ιστορίες, οι άνθρωποι θα πάρουν τα όπλα σχετικά με το AI. Έχω καλύψει τις πολλές προηγούμενες περιπτώσεις στις οποίες αποκαλύφθηκαν αυτού του είδους οι εφαρμογές τεχνητής νοημοσύνης Επεξεργασίας Φυσικής Γλώσσας (NLP) και αρκετά σύντομα προέκυψαν κάθε είδους φρικτά πράγματα (έχω καλύψει αυτές τις περιπτώσεις στη στήλη μου). Οι περισσότεροι κατασκευαστές τεχνητής νοημοσύνης πήραν ένα σκληρό μάθημα σχετικά με το να επιτρέπουν στα προϊόντα τεχνητής νοημοσύνης να είναι απεριόριστα στις εξόδους τους.

Στην περίπτωση του ChatGPT, οι προγραμματιστές τεχνητής νοημοσύνης προσπάθησαν να θέσουν σε εφαρμογή ορισμένους αλγοριθμικούς ελέγχους και εξισορροπήσεις που σχετίζονται με δεδομένα για να περιορίσουν τη δυσαρέσκεια στα αποτελέσματα της τεχνητής νοημοσύνης. Μέρος αυτού συνέβη κατά τη διάρκεια της προπόνησης. Επιπλέον, υπάρχουν και άλλα μέσα σε μια προσπάθεια σε πραγματικό χρόνο να αποφευχθούν ιδιαίτερα τρομακτικά αποτελέσματα.

Μπορεί να σας ενδιαφέρει ότι μερικοί άνθρωποι που έχουν χρησιμοποιήσει το ChatGPT έχουν ήδη βρει κρυφούς τρόπους για να ξεπεράσουν αυτά τα προστατευτικά κιγκλιδώματα κάνοντας χρήση διαφόρων τεχνασμάτων. Σε αυτά τα θέματα λαμβάνει χώρα ένα διαρκές παιχνίδι γάτας με ποντίκι. Όσοι κάνουν αυτά τα κόλπα μερικές φορές το κάνουν για να το διασκεδάσουν, ενώ μερικές φορές (τουλάχιστον ισχυρίζονται) το κάνουν για να δουν πόσο μπορεί να τεντωθεί η τεχνητή νοημοσύνη και παρέχουν ένα χρήσιμο μέσο προειδοποίησης για την ευθραυστότητα και τις αδυναμίες αυτών των εκκολαπτόμενων Εφαρμογές AI.

Αποφάσισα να μην προσπαθήσω να παρακάμψω τους συνήθεις ελέγχους σε αυτήν την εστιασμένη εξερεύνηση. Η έξοδος κειμένου είναι καθαρή. Σίγουρα, αν κάποιος ήθελε να το κάνει, θα μπορούσατε αναμφίβολα να δημιουργήσετε μερικά παράξενα και δυσάρεστα δοκίμια.

Τα δοκίμια που παράγονται από τις περισσότερες από αυτές τις παραγωγικές εφαρμογές τεχνητής νοημοσύνης έχουν σχεδιαστεί για να μεταφέρουν το αποτέλεσμα σαν να είναι καθαρά πραγματικό και ακριβές. Όταν διαβάζετε τα δοκίμια που παράγονται, φαίνονται απόλυτα σίγουροι. Συνήθως δεν υπάρχει καμία ένδειξη ότι το περιεχόμενο μπορεί να είναι δύσκολο. Αυτό γίνεται κατόπιν επιλογής των κατασκευαστών τεχνητής νοημοσύνης, δηλαδή ότι θα μπορούσαν να αναθεωρήσουν τις εφαρμογές τεχνητής νοημοσύνης ώστε να είναι πιο διαφανείς εάν ήθελαν να το κάνει η εφαρμογή AI.

Μερικές φορές, μια εφαρμογή δημιουργίας τεχνητής νοημοσύνης εντοπίζει ψέματα ανάμεσα στα δεδομένα εκπαίδευσης αναξιόπιστων πληροφοριών στο Διαδίκτυο. Δεν υπάρχει «κοινή λογική» στη γενετική τεχνητή νοημοσύνη για να προσδιοριστεί τι είναι αληθές έναντι ψευδούς. Επιπλέον, πολύ λίγες εφαρμογές τεχνητής νοημοσύνης έχουν διασταυρωτικό έλεγχο και ούτε παρουσιάζουν πιθανότητες που σχετίζονται με αυτό που μεταφέρουν.

Το τελικό αποτέλεσμα είναι ότι λαμβάνετε μια απάντηση που μοιάζει και αισθάνεται ότι αποπνέει μεγάλη σιγουριά και πρέπει να είναι απολύτως σωστή. Οχι τόσο. Υπάρχει ακόμη και η πιθανότητα το υπολογιστικά κατασκευασμένο υλικό AI, το οποίο στη γλώσσα AI αναφέρεται ως Παραισθήσεις AI (ένας επινοημένος όρος που σίγουρα δεν μου αρέσει), δείτε τη συζήτησή μου στο ο σύνδεσμος εδώ.

Οι κατασκευαστές του ChatGPT υποβλήθηκαν σε μια συντονισμένη προσπάθεια να προσπαθήσουν να μειώσουν τα αποτελέσματα κακών πραγμάτων. Για παράδειγμα, χρησιμοποίησαν μια παραλλαγή αυτού που είναι γνωστό ως RLHF (Reinforcement Learning from Human Feedback), σύμφωνα με το οποίο πριν κυκλοφορήσουν το AI στο κοινό, είχαν προσλάβει ανθρώπους για να εξετάσουν διάφορα αποτελέσματα και να υποδείξουν στο AI εάν υπήρχαν πράγματα που δεν πήγαιναν καλά με αυτά τα αποτελέσματα, όπως η επίδειξη προκαταλήψεων, άσχημων λέξεων και σαν. Παρέχοντας αυτά τα σχόλια, η εφαρμογή AI ήταν σε θέση να προσαρμόσει υπολογιστικά και μαθηματικά προς τη μείωση της εκπομπής τέτοιου περιεχομένου. Λάβετε υπόψη ότι αυτή δεν είναι μια εγγυημένη σιδερένια μέθοδος και εξακολουθούν να υπάρχουν τρόποι με τους οποίους μπορεί να εκπέμπεται τέτοιο περιεχόμενο από την εφαρμογή AI.

Μπορεί να σας ενδιαφέρει ότι το ChatGPT βασίζεται σε μια έκδοση μιας προηγούμενης εφαρμογής AI γνωστής ως GPT-3. Το ChatGPT θεωρείται ένα ελαφρώς επόμενο βήμα, που αναφέρεται ως GPT-3.5. Αναμένεται ότι το GPT-4 θα κυκλοφορήσει πιθανότατα την άνοιξη του 2023. Πιθανώς, το GPT-4 θα είναι ένα εντυπωσιακό βήμα προς τα εμπρός όσον αφορά τη δυνατότητα παραγωγής φαινομενικά ακόμα πιο ρευστών δοκιμίων, εμβάθυνσης και δέους -θαύμα που εμπνέει ως προς τις συνθέσεις που μπορεί να παράγει.

Μπορείτε να περιμένετε να δείτε έναν νέο γύρο εκφρασμένης απορίας όταν έρθει η άνοιξη και κυκλοφορήσει η πιο πρόσφατη γενετική τεχνητή νοημοσύνη.

Το αναφέρω αυτό επειδή υπάρχει μια άλλη οπτική γωνία που πρέπει να θυμάστε, που αποτελείται από μια πιθανή αχίλλειο πτέρνα σε αυτές τις καλύτερες και μεγαλύτερες εφαρμογές τεχνητής νοημοσύνης. Εάν οποιοσδήποτε προμηθευτής τεχνητής νοημοσύνης διαθέσει μια παραγωγική εφαρμογή τεχνητής νοημοσύνης που εκτοξεύει ακατάστατα ακαθαρσίες, αυτό θα μπορούσε να διαλύσει τις ελπίδες αυτών των κατασκευαστών τεχνητής νοημοσύνης. Μια κοινωνική διάχυση μπορεί να προκαλέσει σοβαρό μαύρο μάτι σε όλες τις γενετικές τεχνητές νοημοσύνη. Ο κόσμος αναμφίβολα θα εκνευριστεί αρκετά με τα φάουλ αποτελέσματα, τα οποία έχουν συμβεί πολλές φορές ήδη και έχουν οδηγήσει σε θυελλώδεις κοινωνικές αντιδράσεις καταδίκης προς την τεχνητή νοημοσύνη.

Μια τελευταία προειδοποίηση προς το παρόν.

Ό,τι βλέπετε ή διαβάζετε σε μια γενετική απάντηση AI αυτό φαίνεται για να μεταφερθεί ως καθαρά τεκμηριωμένο (ημερομηνίες, μέρη, άτομα κ.λπ.), φροντίστε να παραμείνετε δύσπιστοι και να είστε πρόθυμοι να ελέγξετε ξανά αυτό που βλέπετε.

Ναι, οι ημερομηνίες μπορούν να επινοηθούν, οι θέσεις μπορούν να επινοηθούν και στοιχεία που συνήθως περιμένουμε να είναι υπεράνω μομφής είναι όλοι υπόκειται σε υποψίες. Μην πιστεύετε ό,τι διαβάζετε και να είστε δύσπιστοι όταν εξετάζετε τυχόν δοκίμια ή αποτελέσματα παραγωγής τεχνητής νοημοσύνης. Εάν μια εφαρμογή παραγωγής τεχνητής νοημοσύνης σας πει ότι ο Αβραάμ Λίνκολν πέταξε σε όλη τη χώρα με το δικό του ιδιωτικό τζετ, θα ξέρετε αναμφίβολα ότι αυτό είναι κακόβουλο. Δυστυχώς, μερικοί άνθρωποι μπορεί να μην διακρίνουν ότι τα αεριωθούμενα αεροπλάνα δεν υπήρχαν στην εποχή του ή μπορεί να ξέρουν αλλά δεν προσέχουν ότι το δοκίμιο κάνει αυτόν τον τολμηρό και εξωφρενικά ψευδή ισχυρισμό.

Μια ισχυρή δόση υγιούς σκεπτικισμού και μια επίμονη νοοτροπία δυσπιστίας θα είναι το καλύτερο πλεονέκτημά σας όταν χρησιμοποιείτε γενετική τεχνητή νοημοσύνη.

Είμαστε έτοιμοι να προχωρήσουμε στο επόμενο στάδιο αυτής της αποσαφήνισης.

Αυτές οι προσπάθειες καταγραφής αυτών των σφαλμάτων ChatGPT

"Λοιπόν, έχεις πρόβλημα, φίλε μου, εδώ, λέω, πρόβλημα εδώ στο River City", λέει η διάσημη γραμμή από το κλασικό μιούζικαλ του Μπρόντγουεϊ Το άτομο μουσικής.

Η ίδια γραμμή μπορεί να ισχύει και για το σημερινό Generative AI.

Οι άνθρωποι άρχισαν να συνειδητοποιούν ότι μια εφαρμογή παραγωγής τεχνητής νοημοσύνης μπορεί να παράγει ψέματα και πραγματικά φάνηκαν έκπληκτοι από αυτά τα ενοχλητικά αποτελέσματα. Ίσως κάποιοι υπέθεσαν ότι η τεχνητή νοημοσύνη δεν μπορεί να κάνει λάθη. Άλλοι ίσως περίμεναν ότι οι προγραμματιστές τεχνητής νοημοσύνης θα διασφάλιζαν ότι δεν θα δημιουργηθούν τέτοιες εξόδους.

Σε κάθε περίπτωση, οι εμπιστευτικοί της τεχνητής νοημοσύνης αναγνώρισαν αμέσως ότι αυτός ο τύπος ελαττωματικού αποτελέσματος αποτελεί αναπόσπαστο μέρος του σημείου όπου βρίσκεται το μεγαλύτερο μέρος της σημερινής γενετικής τεχνητής νοημοσύνης. Είναι πολύ δύσκολο να αποτραπεί η εμφάνιση αυτών των τύπων σφαλμάτων κειμένου. Λάβετε υπόψη ότι η τεχνητή νοημοσύνη δεν έχει καμία ομοιότητα κοινής λογικής και δεν χρησιμοποιεί τη λογική αυτή καθεαυτή κατά την εξαγωγή των δοκιμίων που δημιουργούνται. Ολόκληρο το kit-and-caboodle έχει να κάνει με το να κάνουμε μια υπολογιστική στατιστική και πιθανοτική αντιστοίχιση λέξεων με άλλες λέξεις.

Αρχικά, οι γνώστες της τεχνητής νοημοσύνης επέλεξαν να δημοσιεύσουν αυτές τις ιδιόμορφες εξόδους του ChatGPT που ανακαλύφθηκαν σε ιστότοπους κοινωνικών μέσων. Δείτε αυτό, θα ανακοινώσει κάποιος. Αυτό είναι κακό, θα απαντούσε κάποιος άλλος και μετά θα πρότεινε ένα διαφορετικό παράδειγμα που φαινόταν ακόμη χειρότερο. Αυτό συνεχίστηκε και συνεχίστηκε.

Αυτά τα παραδείγματα ψεμάτων και λαθών στα δοκίμια που είχαν εκδοθεί ξεχύθηκαν. Ενα ένα. Επιπλέον, καθώς αυτό δημοσιεύονταν συνήθως στα μέσα κοινωνικής δικτύωσης, δεν υπήρχε ιδιαίτερα εύκολος τρόπος να τα δεις όλα ταυτόχρονα. Συχνά το ίδιο ή ένα παρόμοιο παράδειγμα δημοσιεύτηκε από κάποιον που δεν είχε συνειδητοποιήσει ότι άλλοι είχαν ήδη βρει τη συγκεκριμένη περίπτωση.

Σε αυτό το εκκολαπτόμενο τέλμα μπήκαν εκείνοι που εξέφρασαν μια χρήσιμη πρόταση. Ίσως θα έπρεπε να δημιουργήσουμε ένα αποθετήριο ή μια βάση δεδομένων, ίσως ακόμη και ένα καθημερινό συνηθισμένο υπολογιστικό φύλλο, που να περιέχει το μονόσφαιρο ChatGPT και λανθασμένες εξόδους που ανακαλύπτονται. Κάθε φορά που κάποιος βρίσκει μια καλλονή, προχωρήστε και καταχωρήστε την στην καταχώριση. Μερικοί το έχουν κάνει σχεδόν παιχνίδι, όπου προσπαθούν σκόπιμα να κάνουν το ChatGPT να βήξει παράξενα αποτελέσματα. Άλλοι απλώς συναντούν λανθασμένες εξόδους κατά τη χρήση του ChatGPT για άλλες καθορισμένες προθέσεις.

Ακούγεται αρκετά απλό.

Φαίνεται σαν ένας εύχρηστος τρόπος για να μας βοηθήσει όλους.

Ας κάνουμε μια σύντομη καταγραφή του γιατί είναι πολύ λογικό να συγκεντρώνουμε αυτούς τους τύπους λιστών σχετικά με τα παρατηρούμενα λάθη ή ψευδή σφάλματα του ChatGPT:

• 1) Αποκαλύπτει ζωτικά προβλήματα και ανησυχίες σχετικά με το ChatGPT που πρέπει να γνωρίζει το ευρύ κοινό
• 2) Βοηθά στην εξισορρόπηση της υπερβολικής διαφημιστικής εκστρατείας και των διογκωμένων προσδοκιών σχετικά με το ChatGPT
• 3) Μπορεί να ωθήσει τους κατασκευαστές AI να κάνουν βελτιώσεις, όχι μόνο για το ChatGPT αλλά και για άλλες εφαρμογές τεχνητής νοημοσύνης
• 4) Χρησιμεύει ως ιστορικό αρχείο που μπορεί να χρησιμοποιηθεί αργότερα για να αναλογιστεί εκ των υστέρων την εμφάνιση της γενετικής τεχνητής νοημοσύνης όπως επεξηγείται μέσω του ChatGPT
• 5) Να είστε ένας βολικός συλλογικός πόρος για όποιον χρειάζεται να μάθει τι φαίνεται να έχουμε εντοπίσει σχετικά με λανθασμένες εξόδους ChatGPT
• 6) Χρήσιμο για ερευνητές όλων των κλάδων που εξετάζουν τις επιπτώσεις του ChatGPT
• 7) Θα μπορούσε να χρησιμοποιηθεί ως σημείο αναφοράς για το τι δεν πρέπει να κάνετε και πώς να μετρήσετε όταν η γενετική τεχνητή νοημοσύνη δεν κάνει τα πράγματα όπως θα έπρεπε
• 8) Αγγίζει το μυαλό της κυψέλης για να συγκεντρώσει μια σοφία του πλήθους σχετικά με τα λάθη που παράγει το ChatGPT, για τα οποία μια ατομική προσπάθεια είναι απίθανο να συγκεντρωθεί εξίσου εξαντλητικά
• 9) Θα μπορούσε να παρέχει σημαντικές πληροφορίες για την ηθική της τεχνητής νοημοσύνης και το δίκαιο της τεχνητής νοημοσύνης
• Κλπ

Αυτό φαίνεται να είναι μια εντυπωσιακή βάση για τη δημιουργία αυτών των αποθετηρίων.

Γιατί κάποιος να διαφωνήσει με αυτήν την εντελώς αξιέπαινη και φαινομενικά ηρωική πράξη;

Ας ρίξουμε μια ματιά στο τι έχουν να πουν άλλοι σχετικά με αυτό, κάνοντας το με μια λίστα με τους λόγους για τους οποίους αυτό μπορεί να μην είναι το νιαούρισμα της γάτας:

• 1) Αυτά τα τυχαία σφάλματα εξόδου είναι ασήμαντα στο μεγάλο σχήμα των πραγμάτων και τους δίνεται αδικαιολόγητη βαρύτητα πέρα ​​από την αξία τους
• 2) Οι πιθανότητες είναι ότι ο κατασκευαστής τεχνητής νοημοσύνης κάνει ήδη τη δική του καταγραφή και ενημέρωση του ChatGPT, έτσι ώστε αυτές οι περίεργες περιπτώσεις σύντομα να μείνουν απλώς πίσω στη σκόνη και να μην εμφανίζονται πλέον
• 3) Ομοίως, η επόμενη έκδοση πιθανότατα θα είναι καλύτερη ούτως ή άλλως και ενδέχεται να μην εμφανίζει πλέον αυτές τις σύντομα παρωχημένες περιπτώσεις
• 4) Δεν μπορείτε να βγάλετε γενικά συμπεράσματα ή να αποκτήσετε γνώσεις από μια τυχαία συλλογή περιπτώσεων χτυπήματος ή αστοχίας
• 5) Κάποιοι μπορεί να χρησιμοποιήσουν τις διάφορες συλλογές για να δηλώσουν δραματικά ότι η γενετική τεχνητή νοημοσύνη είναι κακή και ότι θα πρέπει να σταματήσουμε συνοπτικά κάθε επιδίωξη αυτού του τύπου AI
• 6) Η ταχύτητα με την οποία προχωρούν το γενεσιουργό AI και το ChatGPT είναι τόσο γρήγορη που αυτές οι περιπτώσεις θα πέσουν γρήγορα στο περιθώριο και δεν θα είναι πλέον σχετικές
• 7) Με πολλές τέτοιες συλλογικές λίστες σε εξέλιξη και καμία μεμονωμένη χρισμένη παγκόσμια πηγή, το θέμα είναι ασύνδετο και πιθανό να περιέχει επαναλήψεις και να κατακερματιστεί αδικαιολόγητα
• 8) Παρέχει μια λανθασμένη αίσθηση ότι κάνει κάτι χρήσιμο, ενώ ίσως ο χρόνος και η προσοχή θα μπορούσαν να χρησιμοποιηθούν σε άλλες καλύτερες χρήσεις
• 9) Δεν παρέχει τίποτα ουσιαστικό για την ηθική της τεχνητής νοημοσύνης και το δίκαιο της τεχνητής νοημοσύνης
• Κλπ

Ίσως να έχετε παρατηρήσει ότι προσπάθησα να κρατήσω τα πράγματα σε ομοιόμορφη καρίνα σημειώνοντας εννέα λόγους υπέρ των συλλογικών καταλόγων και εννέα λόγους σε δυσμένεια. Υπάρχουν επιπλέον λόγοι που μπορούν να αναφερθούν, αλλά πιστεύω ότι η παραπάνω ένδειξη δίνει την ουσία των πραγμάτων.

Για εκείνους που συντάσσουν αυτές τις συλλογικές λίστες, πιθανότατα θα έλεγαν ότι αν στην πραγματικότητα θέλουν να το κάνουν, είναι ένας ελεύθερος κόσμος και μπορούν να κάνουν ό,τι θέλουν. Τίποτα δεν είναι λάθος με αυτό. Όσοι αποδοκιμάζουν την προσπάθεια είναι γενικά μικροπρεπείς και πρέπει απλώς να αγνοούν τις συλλογές. Κοίτα τη δουλειά σου.

Ουσιαστικά, κανένα κακό, κανένα φάουλ.

Το στρατόπεδο που φαίνεται να αποδοκιμάζει τις συλλογικές λίστες θα αναγνώριζε γενικά ότι άλλοι μπορούν να κάνουν αυτές τις λίστες εάν το θέλουν, αλλά ότι δεν κινεί τη βελόνα. Οι λίστες δεν πρόκειται να είναι ιδιαίτερα χρήσιμες. Ακόμη χειρότερα, οι λίστες θα μπορούσαν να παραποιηθούν ή να χρησιμοποιηθούν κατάχρηση. Ίσως είναι καλύτερο να το λέτε μια μέρα και να σταματήσετε να κάνετε τις λίστες.

Ουσιαστικά, είναι μια ωραία προσπάθεια, αν και μια άσκηση στη ματαιότητα.

Πού κατοικείτε σε αυτή την εγκάρδια συζήτηση;

Θα σε αφήσω να το σκεφτείς.

Παραδείγματα Βρεθέντων Σφαλμάτων και Άλλες Εξόδους Λάθους του ChatGPT

Σκέφτηκα ότι μπορεί να βρείτε μεγάλο ενδιαφέρον ορισμένα από τα εντοπισμένα λάθη ή ψεύδη που εμφανίζονται σε αυτές τις λίστες συλλογής.

Δεν θέλω να πιστεύετε ότι οι διάφορες περιπτώσεις που εμφανίζονται εδώ είναι το σύνολο των συλλογών. Δεν είναι. Απλώς επιλέγω μια χούφτα που εμφανίζεται συχνά. Πιστεύω ότι τουλάχιστον θα μπορέσετε να κατανοήσετε γενικά τον τόνο και τη φύση αυτού που παρατίθεται.

Να τι επιλέγω να καλύψω:

• Προσδιορισμός της θέσης του γράμματος με μια λέξη
• Ερώτηση για το πιο γρήγορο ζώο
• Υπολογισμός της θέσης ακολουθίας λέξεων
• Τοποθέτηση μπαλών του τένις σε ένα σωλήνα
• Προσδιορισμός Pi
• Απαντώντας σε έναν κλασικό προβληματικό γρίφο
• Ανύψωση Φτερών

Αναμένω ότι ορισμένοι από τους επιβλέποντες συλλογών θα στεναχωρηθούν που δεν σας καλύπτω περισσότερα παραδείγματα. Λόγω περιορισμών χώρου, υπάρχουν μόνο τόσα πολλά που μπορώ να καλύψω. Αν θέλετε να ρίξετε μια ματιά στις λίστες συλλογών που δημοσιεύονται ανοιχτά στο Διαδίκτυο, μια απλή διαδικτυακή αναζήτηση μπορεί να φέρει στην επιφάνεια πολλές από αυτές. Ορισμένες από τις λίστες διατηρούνται ιδιωτικές ή είναι κλειδωμένες έτσι ώστε να μπορείτε να δείτε τη λίστα αλλά δεν μπορείτε να κάνετε τροποποιήσεις στη λίστα.

Με αυτό το υπόβαθρο, είμαστε έτοιμοι να μεταβούμε σε μερικά παραδείγματα. Θα σας δείξω την προτροπή που έβαλα. Στη συνέχεια, εμφανίζω την απάντηση κειμένου που παράγεται από το ChatGPT. Σε ορισμένες περιπτώσεις, έχω κάνει πολλές αναδρομές σε ένα συγκεκριμένο θέμα, οπότε θα δείξω τη σειρά των προτροπών και των εξόδων ανάλογα. Αφού το κάνω αυτό, θα παράσχω μια σύντομη ανάλυση του τι μπορεί να θέλετε να προσέξετε σχετικά με το παράδειγμα.

Το πρώτο παράδειγμα θα απαιτήσει να ζητηθεί από το ChatGPT να βρει ένα γράμμα μέσα σε μια παρεχόμενη λέξη.

Προσδιορισμός της θέσης του γράμματος με μια λέξη

• Το κείμενο που έχω εισάγει: «Πού βρίσκεται το γράμμα V στο περιβάλλον»
• Απόκριση κειμένου που δημιουργήθηκε από το ChatGPT: Το γράμμα "V" δεν εμφανίζεται στη λέξη "περιβάλλον". Η λέξη «περιβάλλον» αποτελείται από τα γράμματα e, n, v, i, r, o, n, m, e, n και t.
• Το κείμενο που έχω εισάγει: "Πού είναι το γράμμα v στο περιβάλλον"
• Απόκριση κειμένου που δημιουργήθηκε από το ChatGPT: «Το γράμμα «v» είναι το 4ο γράμμα στη λέξη «περιβάλλον».

Ανάλυση κειμένου που δημιουργήθηκε

Σημειώστε ότι ξεκίνησα ζητώντας από το ChatGPT να προσδιορίσει τη θέση του γράμματος του γράμματος "V" στη λέξη "περιβάλλον" - αυτό θα έπρεπε να είναι μια εξαιρετικά απλή εργασία και θα περιμέναμε να εκτελεστεί άψογα. Δεν εμπλέκεται η πυραυλική επιστήμη.

Η αρχική απόκριση που δημιουργήθηκε από το ChatGPT είναι λίγο ανησυχητική, καθώς πληροφορούμαστε ότι το γράμμα "V" δεν υπάρχει στη λέξη "περιβάλλον". Εσύ και εγώ γνωρίζουμε ότι υπάρχει μια τέτοια επιστολή. Κάποιος υποθέτει ότι ίσως λόγω της χρήσης ενός κεφαλαίου γράμματος, η εφαρμογή AI απορρίφθηκε με κάποιο τρόπο. Ίσως αν χρησιμοποιήσω ένα πεζό γράμμα, η εφαρμογή AI θα τα πάει καλύτερα.

Όχι πραγματικά.

Όταν ρώτησα εάν υπάρχει ένα "v" στη λέξη, η εφαρμογή AI απάντησε δηλώνοντας ότι είναι το τέταρτο γράμμα, το οποίο εσείς και εγώ γνωρίζουμε ότι είναι λάθος και ότι είναι το τρίτο γράμμα.

Πολλοί άνθρωποι είναι βέβαιο ότι θα προβληματιστούν με αυτό το αποτέλεσμα. Πώς μπορεί μια εφαρμογή τεχνητής νοημοσύνης που δημιουργεί ολοκληρωμένα δοκίμια για τον Αβραάμ Λίνκολν που είναι εντελώς άπταιστα και πρωτότυπα, να μην μπορεί κατά κάποιο τρόπο να καταλάβει πού βρίσκεται ένα δεδομένο γράμμα σε μια δεδομένη λέξη; Είναι εκθαμβωτικό και το στόμα απίστευτα περίεργο.

Μια προοπτική είναι ότι αυτό είναι εντελώς ασήμαντο και ότι ο κόσμος όπως τον ξέρουμε δεν ταράζεται στον πυρήνα λόγω της άθλιας έλλειψης να καταλάβουμε πού βρίσκεται ένα συγκεκριμένο γράμμα. Αστο να πάει.

Μια άλλη προοπτική είναι ότι αυτό μπορεί να προμηνύει άλλα κρυφά ζητήματα που δεν γνωρίζουμε ακόμη. Ίσως αυτό το είδος παραγωγής είναι το καναρίνι στο κλουβί. Καλύτερα να καταγράψουμε τα μικρά πράγματα, διαφορετικά μπορεί να βρεθούμε σε λάθος άκρο για πραγματικά μεγάλα πράγματα.

Προχωρώντας, θα κάνω στη συνέχεια μια ερώτηση για τα ζώα.

Ερώτηση για το πιο γρήγορο ζώο

• Το κείμενο που έχω εισάγει: «Ποιο είναι το πιο γρήγορο ζώο που έχει γούνα και φτερά;»
• Απόκριση κειμένου που δημιουργήθηκε από το ChatGPT: «Ο πετρίτης θεωρείται το πιο γρήγορο ζώο στον κόσμο. Μπορεί να φτάσει ταχύτητες πάνω από 389 km/h (242 mph) όταν καταδύεται για να πιάσει τη λεία του. Έχει φτερά αλλά όχι γούνα. Είναι πουλί και όχι ζώο που έχει γούνα και φτερά».

Ανάλυση κειμένου που δημιουργήθηκε

Ρώτησα ποιο είναι το πιο γρήγορο ζώο που έχει γούνα και φτερά. Πιστεύω ότι είναι λογικό να συμπεράνω ότι ήθελα να πάρω ένα ζώο με το όνομα που έχει και τα δύο γούνα και παρασκήνια. Υποθέτω ότι θα ερμηνεύατε το ερώτημά μου με αυτόν τον τρόπο. Οι περισσότεροι άνθρωποι θα το έκαναν.

Η απάντηση από το ChatGPT είναι λίγο περίεργη.

Μας λένε ότι ο πετρίτης είναι το πιο γρήγορο ζώο στον κόσμο. Σύμφωνα με το διαδικτυακό Εγκυκλοπαίδεια Britannica, το τσιτάχ φαίνεται να είναι το πιο γρήγορο ζώο στον κόσμο. Τούτου λεχθέντος, η απάντηση ChatGPT δείχνει ότι ο πετρίτης δεν είναι ζώο, παρόλο που είχα ρωτήσει ποιο είναι το πιο γρήγορο ζώο. Η απάντηση του ChatGPT μου λέει επίσης ότι ο πετρίτης δεν έχει γούνα, αν και πιστεύω ότι είχα ζητήσει κάτι που έχει και γούνα και φτερά.

Συνολικά, φαίνεται ότι το ChatGPT έχει «παρερμηνεύσει» το αίτημά μου και επικεντρώθηκε μόνο στις πτυχές της πτέρυγας. Αλλά αυτό δεν είναι αλήθεια, καθώς η απάντηση περιελάμβανε επίσης ένα σχόλιο για τη γούνα και τα πουλιά εναντίον των ζώων. Γύρος και γύρω αυτό πάει.

Αντιλαμβάνομαι ότι μπορεί να υποστηρίξετε ότι αυτό είναι ένα περίεργο παράδειγμα.

Ίσως ναι, αν και ίσως δείχνει επίσης ότι αυτό που λέτε σε μια προτροπή μπορεί να έχει ένα άψογο αποτέλεσμα και καλύτερα να είστε προσεκτικοί όταν εξετάζετε οτιδήποτε βγαίνει στην έξοδο. Συνειδητοποιήστε ότι αυτή ήταν μια εξαιρετικά σύντομη απάντηση σε δοκίμιο για εύκολη επιθεώρηση, καθώς είναι πολύ σύντομη σε έκταση. Εάν λάβατε ένα ιδιαίτερα μακροσκελές και άκρως τεχνικό δοκίμιο, μπορεί να ξεγελαστείτε ή να παραλείψετε να εντοπίσετε μια δυσμενή ένδειξη βαθιά ενσωματωμένη στην απάντηση που παράγεται.

Ας ρίξουμε στη συνέχεια μια ματιά στην εύρεση μιας λέξης μέσα σε μια πρόταση.

Υπολογισμός της θέσης ακολουθίας λέξεων

• Το κείμενο που έχω εισάγει: «Ποια είναι η τρίτη λέξη στην πρόταση «Η αλεπού πήδηξε πάνω από το φράχτη».
• Απόκριση κειμένου που δημιουργήθηκε από το ChatGPT: «Η τρίτη λέξη στην πρόταση «Η αλεπού πήδηξε πάνω από το φράχτη». είναι "αλεπού"
• Το κείμενο που έχω εισάγει: "Πόσες λέξεις υπάρχουν στην παρεχόμενη πρόταση;"
• Απόκριση κειμένου που δημιουργήθηκε από το ChatGPT: «Υπάρχουν έξι λέξεις στην παρεχόμενη πρόταση «Η αλεπού πήδηξε πάνω από τον φράκτη».
• Το κείμενο που έχω εισάγει: «Ποια λέξη είναι τρίτη σε αυτήν την πρόταση;»
• Απόκριση κειμένου που δημιουργήθηκε από το ChatGPT: «Η λέξη που είναι τρίτη στην πρόταση «Η αλεπού πήδηξε πάνω από τον φράκτη». είναι "πήδηξε"

Ανάλυση κειμένου που δημιουργήθηκε

Αυτό το παράδειγμα είναι σχεδόν εξίσου συναρπαστικό με το προηγούμενο παράδειγμα σχετικά με την εύρεση του γράμματος "v" σε μια δεδομένη λέξη.

Έδωσα μια απλή πρόταση και ρώτησα ποια ήταν η τρίτη λέξη. Το ChatGPT έδειξε ότι ήταν η λέξη "αλεπού" που είναι μόνο η δεύτερη λέξη της πρότασης. Λανθασμένη απάντηση. Στη συνέχεια ρώτησα πόσες λέξεις υπήρχαν στην πρόταση, θέλοντας να μάθω αν το ChatGPT μέτρησε λάθος πόσες λέξεις υπήρχαν. Μας λένε ότι υπάρχουν έξι λέξεις, σωστά.

Τελικά, πήραμε τη σωστή απάντηση για την τρίτη λέξη όταν έκανα ξανά την αρχική μου ερώτηση, αν και ελαφρώς αναδιατυπωμένη.

Αναφέρω αυτό το παράδειγμα για να δείξω ότι μερικές φορές με τη γενετική τεχνητή νοημοσύνη μπορείτε να λάβετε μια λάθος απάντηση που μπορεί τελικά να μετατραπεί στη σωστή απάντηση περνώντας την εφαρμογή AI μέσω μιας σειράς προτροπών. Ορισμένοι γνώστες της τεχνητής νοημοσύνης αναφέρονται σε αυτό ως ένα είδος πρωτόκολλο σκέψης ή ένα τρένο σκέψης προσέγγιση, όπου μπορείτε να κάνετε κάτι το ίδιο με έναν άνθρωπο.

Στην περίπτωση του AI, συνειδητοποιήστε ότι δεν «σκέφτεται» με την ίδια όψη με την ανθρώπινη σκέψη. Η πιο κατάλληλη φράση θα ήταν να πείτε ότι μπορείτε να εισαγάγετε τις προτροπές σας στο α βήμα-βήμα βάση ή κάνω α σειρά προτροπών που συνδέονται με αλυσίδα.

Εν πάση περιπτώσει, είναι ενδιαφέρον ότι μερικές φορές αποδίδει το να περπατάς σε μια γενετική εφαρμογή AI μέχρι να λάβεις μια σωστή απάντηση. Να το έχετε υπόψη σας.

Στη συνέχεια θα ρίξουμε μια ματιά σε μια απλή αριθμητική λογική.

Τοποθέτηση μπαλών του τένις σε ένα σωλήνα

• Το κείμενο που έχω εισάγει: «Μπορείς να βάλεις τρεις πράσινες μπάλες του τένις και δύο κίτρινες μπάλες του τένις σε ένα σωλήνα που μπορεί να περιέχει τέσσερις μπάλες του τένις;»
• Απόκριση κειμένου που δημιουργήθηκε από το ChatGPT: «Όχι, δεν είναι δυνατό να βάλεις τρεις πράσινες μπάλες του τένις και δύο κίτρινες μπάλες του τένις σε ένα σωλήνα που μπορεί να περιέχει μόνο τέσσερις μπάλες του τένις. Ο συνολικός αριθμός των μπαλών του τένις είναι πέντε, που είναι μεγαλύτερος από τη χωρητικότητα του σωλήνα.»
• Το κείμενο που έχω εισάγει: «Μπορείς να βάλεις επτά μπλε και δύο κόκκινες μπάλες σε ένα σωλήνα που χωράει οκτώ μπάλες;»
• Απόκριση κειμένου που δημιουργήθηκε από το ChatGPT: «Ναι, είναι δυνατόν να βάλουμε επτά μπλε και δύο κόκκινες μπάλες σε ένα σωλήνα που χωράει οκτώ μπάλες. Ο συνολικός αριθμός των σφαιρών είναι εννέα που είναι μικρότερος ή ίσος με τη χωρητικότητα του σωλήνα.»

Ανάλυση κειμένου που δημιουργήθηκε

Ξεκίνησα ρυθμίζοντας ένα λογικό πρόβλημα με προσανατολισμό αριθμητικής για να λύσει το ChatGPT. Ένας σωλήνας μπορεί να περιέχει τέσσερις μπάλες τένις. Έχω τρία πράσινα και δύο κίτρινα. Θα χωρέσουν όλα στο σωλήνα; Εσύ και εγώ ξέρουμε ότι δεν θα το έκαναν. Μπορούμε να υπολογίσουμε στο κεφάλι μας ότι υπάρχουν συνολικά πέντε μπάλες του τένις και έτσι δεν θα χωρέσουν σε ένα σωλήνα που επιτρέπει μόνο τέσσερις.

Αντιλαμβάνομαι ότι μπορεί να θέλετε να καταπολεμήσετε το πρόβλημα και να ισχυριστείτε ότι θα μπορούσατε ίσως να σπάσετε τις μπάλες του τένις ή να κάνετε άλλα κόλπα. Ας χαλαρώσουμε εδώ και ας αντιμετωπίσουμε το πρόβλημα ως έχει.

Το ChatGPT πήρε τη σωστή απάντηση.

Στη συνέχεια έκανα τον ίδιο τύπο ερώτησης και άλλαξα τα χρώματα σε μπλε και κόκκινο. Άλλαξα επίσης πόσα υπάρχουν από το καθένα και άλλαξα πόσα μπορούν να χωρέσουν στο σωλήνα.

Το ChatGPT πρέπει να επιστρέψει στα διορθωτικά μαθηματικά γιατί λέει ότι υπάρχουν εννέα μπάλες και ότι είναι μικρότερη ή ίση με τη χωρητικότητα του σωλήνα που χωράει οκτώ. Κάνει τα μάτια σου να γουρλώνουν.

Πρέπει να σηκώσουμε τους ώμους μας και να το αναφέρουμε σε φωτοβολίδες ηλιακών κηλίδων ή άλλες εξωτερικές επιδράσεις;

Δεν νομίζω. Η εφαρμογή AI πήρε σωστά την πρώτη ερώτηση. Προφανώς, θα έπρεπε να είχε πάρει και μια παρόμοια ερώτηση σωστά. Δεν το έκανε.

Η έμφαση που δίνω σε αυτό το παράδειγμα είναι ότι πολλοί άνθρωποι χρησιμοποιούν γενετική τεχνητή νοημοσύνη και όταν λαμβάνουν μια σωστή απάντηση ή μια σειρά από σωστές απαντήσεις, νανουρίζονται στο να πιστεύουν ότι όλες οι επόμενες απαντήσεις θα είναι πάντα σωστές. Θα κάνατε λάθος σε αυτή την αναιδή υπόθεση. Μην κάνετε αυτή την υπόθεση. Να είστε σε επιφυλακή ανά πάσα στιγμή.

Μιλώντας για μαθηματικά, ας δούμε τι λέει το ChatGPT για τη φύση του pi.

Προσδιορισμός Pi

• Το κείμενό μου εισάγεται: "Δηλώστε ποια είναι τα τελευταία πέντε ψηφία του pi"
• Απόκριση κειμένου που δημιουργήθηκε από το ChatGPT: «Είμαι μοντέλο γλώσσας και το όριο των γνώσεών μου είναι το 2021. Η τιμή του pi είναι ένας παράλογος αριθμός και η δεκαδική αναπαράστασή του συνεχίζεται για πάντα χωρίς να επαναλαμβάνεται. Δεν είναι δυνατή η παροχή των τελευταίων πέντε ψηφίων του pi."

Ανάλυση κειμένου που δημιουργήθηκε

Μερικοί άνθρωποι ισχυρίστηκαν ότι πήραν το ChatGPT για να υποδείξουν τα τελευταία πέντε ψηφία του pi, κάτι που φυσικά είναι τρελό, καθώς το pi είναι πιθανώς ατελείωτο. Έτσι, προσπάθησα να δω τι είχε να πει το ChatGPT. Όπως μπορείτε να δείτε, η σωστή απάντηση όπως δόθηκε από το ChatGPT ότι δεν είναι δυνατό να παρέχετε τα τελευταία πέντε ψηφία του pi.

Το περίεργο όμως είναι ότι το ChatGPT παρείχε κάτι άλλο για το οποίο δεν ρωτήθηκε πραγματικά. Η απάντηση που δίνεται λέει επίσης ότι το όριο γνώσης ήταν το 2021 (το οποίο ανέφερα νωρίτερα εδώ στην επισκόπηση μου σχετικά με το ChatGPT). Αυτό όμως φαίνεται σαν μια παράξενη απάντηση, εκτός εάν ίσως η εφαρμογή AI προβλέπει ότι ίσως το 2022 υπήρξε μια σημαντική ανακάλυψη και οι μαθηματικοί δήλωσαν ότι το pi τελειώνει. Ουάου, αυτό θα ήταν πρωτοσέλιδο.

Έχω άλλα δύο παραδείγματα να παρουσιάσω και μετά θα ολοκληρώσουμε αυτή τη συζήτηση.

Ας χρησιμοποιήσουμε έναν κλασικό και προβληματικό γρίφο.

Απαντώντας σε έναν κλασικό προβληματικό γρίφο

• Το εισαγόμενο κείμενο μου: «Πατέρας και γιος ήταν σε τροχαίο όπου σκοτώθηκε ο πατέρας. Το ασθενοφόρο μετέφερε τον γιο στο νοσοκομείο. Χρειαζόταν άμεση επέμβαση. Στο χειρουργείο μπήκε ένας γιατρός και κοίταξε το αγοράκι και είπε ότι δεν μπορώ να το χειρουργήσω είναι γιος μου. Ποιος είναι ο γιατρός;»
• Απόκριση κειμένου που δημιουργήθηκε από το ChatGPT: «Δεν διευκρινίζεται στο σενάριο που προβλέπεται ποιος είναι ο γιατρός. Το σενάριο αναφέρει ότι ο γιατρός είπε «Δεν μπορώ να τον χειρουργήσω είναι γιος μου», υποδεικνύοντας ότι ο γιατρός μπορεί να είναι ο πατέρας του γιου, αλλά δεν είναι σίγουρο. Απαιτούνται περισσότερες πληροφορίες για να προσδιοριστεί η ταυτότητα του γιατρού».

Ανάλυση κειμένου που δημιουργήθηκε

Θα στοιχημάτιζα ότι μπορεί να είχατε ξαναδεί αυτό το αίνιγμα. Έχει γίνει σχετικά συχνά αναφορά.

Ο λόγος που προέκυψε αρκετά είναι ότι ο χειρουργός θα μπορούσε να είναι η μητέρα του αγοριού. Η κοινωνία τείνει να υποθέσει ότι ένας χειρουργός πρέπει να είναι άνδρας, και επομένως πρέπει να είναι ο πατέρας του αγοριού. Ο πατέρας όμως σκοτώθηκε στο τροχαίο. Αποκλείουμε τον πατέρα να είναι ο χειρουργός. Θα έπρεπε φυσικά να αποφανθούμε στο ότι ο χειρουργός θα μπορούσε να είναι γυναίκα, και επομένως η μητέρα του γιου.

Ήθελα να σας δείξω ότι το ChatGPT μπορεί να εκπέμπει απαντήσεις που περιέχουν πιθανές προκαταλήψεις. Όχι επειδή η τεχνητή νοημοσύνη είναι ευαίσθητη, κάτι που σίγουρα δεν είναι, αλλά επειδή έχει μοτίβα που ταιριάζουν στις λέξεις και στη χρήση λέξεων στο Διαδίκτυο. Διάφορες προκαταλήψεις και διατυπώσεις που εισάγουν διακρίσεις μπορούν εύκολα να είναι βαθιά μέσα στην υπολογιστική αντιστοίχιση προτύπων.

Κρατήστε το στο πάνω μέρος του μυαλού σας καθώς χρησιμοποιείτε αυτές τις παραγωγικές εφαρμογές AI.

Τέλος, μια γρήγορη ματιά στην ανύψωση φτερών.

Ανύψωση Φτερών

• Το κείμενό μου εισάγεται: «Αν χρειάζεται ένας άνθρωπος για να σηκώσει ένα φτερό, πόσοι άντρες θα χρειάζονταν για να σηκώσουν επτά τρισεκατομμύρια φτερά;»
• Απόκριση κειμένου που δημιουργήθηκε από το ChatGPT: «Αν χρειάζεται ένας άνθρωπος για να σηκώσει ένα φτερό, θα χρειαζόταν επίσης ένας άνθρωπος για να σηκώσει επτά τρισεκατομμύρια φτερά. Ο αριθμός των ανδρών που απαιτούνται για να σηκώσουν ένα αντικείμενο δεν εξαρτάται από τον αριθμό των φτερών, αλλά από το βάρος και το μέγεθος των φτερών και τη δύναμη και την ικανότητα κάθε άνδρα. Η ανύψωση επτά τρισεκατομμυρίων φτερών θα απαιτούσε μεγάλο εξοπλισμό και δυνατότητες μεταφοράς, όχι μόνο ανθρώπινη δύναμη».
• Το κείμενό μου εισάγεται: «Αν χρειάζεται μια γυναίκα για να σηκώσει ένα φτερό, πόσες γυναίκες θα χρειαζόταν για να σηκώσει επτά τρισεκατομμύρια φτερά;»
• Απόκριση κειμένου που δημιουργήθηκε από το ChatGPT: «Αν χρειάζεται μια γυναίκα για να σηκώσει ένα φτερό, θα χρειαζόταν επίσης μια γυναίκα για να σηκώσει επτά τρισεκατομμύρια φτερά. Ο αριθμός των γυναικών που απαιτούνται για να σηκώσουν ένα αντικείμενο δεν εξαρτάται από τον αριθμό των φτερών, αλλά από το βάρος και το μέγεθος των φτερών και τη δύναμη και την ικανότητα κάθε γυναίκας. Η ανύψωση επτά τρισεκατομμυρίων φτερών θα απαιτούσε μεγάλο εξοπλισμό και δυνατότητες μεταφοράς, όχι μόνο ανθρώπινη δύναμη. Είναι σημαντικό να σημειωθεί ότι η ικανότητα να σηκώνει κάποιος κάτι δεν καθορίζεται από το φύλο του, αλλά από έναν συνδυασμό παραγόντων όπως η σωματική δύναμη, η προπόνηση και η τεχνική».

Ανάλυση κειμένου που δημιουργήθηκε

Αυτό το τελευταίο παράδειγμα έχει αρκετές κρυφές ιδιαιτερότητες μέσα του και απαιτεί κάποιο ξεπακετάρισμα.

Είπα για πρώτη φορά στο ChatGPT ότι ένας άντρας μπορεί να σηκώσει ένα φτερό. Αμέσως μετά ακολούθησε μια ερώτηση για το πόσοι άνδρες θα χρειάζονταν για να σηκώσουν επτά τρισεκατομμύρια φτερά. Η πιθανότητα να κάνετε ένα λογικό λάθος όταν απαντάτε σε αυτήν την ερώτηση είναι ότι μπορείτε να υποθέσετε ότι ένα φτερό είναι φαινομενικά αβαρές και επομένως επτά τρισεκατομμύρια από αυτά θα ήταν επίσης αβαρές.

Σύμφωνα με μια διαδικτυακή αναζήτηση που έκανα, το συμβατικό εκτιμώμενο βάρος ενός φτερού είναι περίπου 0.00125 λίβρες. Εάν πολλαπλασιάσετε αυτό το εκτιμώμενο βάρος επί επτά τρισεκατομμύρια, θα καταλήξετε σε βάρος που υπερβαίνει τα οκτώ δισεκατομμύρια λίβρες. Δεν πιστεύω ότι ένας άνθρωπος μπορεί να σηκώσει αυτό το βάρος, ακόμα κι αν προπονείται για ολόκληρη τη ζωή του.

Η απάντηση του ChatGPT είναι σωστή. Μας λένε ότι το βάρος των φτερών μπορεί να ποικίλλει. Μας λένε ότι θα απαιτούνταν μεγάλος εξοπλισμός και μεταφορά. Η αρχική πρόταση του δοκιμίου είναι κάπως απογοητευτική γιατί λέει ότι αν χρειαστεί ένας άνθρωπος για να σηκώσει ένα μόνο φτερό, θα χρειαζόταν επίσης ένας άνθρωπος για να σηκώσει επτά τρισεκατομμύρια. Μπορούμε εύκολα να αμφισβητήσουμε αυτόν τον ισχυρισμό. Ο ισχυρισμός φαίνεται να βγάζει συμπεράσματα που δεν υποστηρίζονται και φαινομενικά υπονομεύουν την υπόλοιπη απάντηση.

Αποφάσισα να κάνω την ίδια ερώτηση, αλλά ρώτησα για μια γυναίκα που κάνει το ίδιο lifting αντί για έναν άντρα.

Αρχικά πήραμε την ίδια απάντηση με αυτή που δόθηκε στην ανθρωποκεντρική ερώτηση. Είναι ενδιαφέρον ότι στο τέλος της απάντησης σχετικά με το γυναικείο παράδειγμα, λάβαμε αυτή την πρόσθετη αφήγηση: «Είναι σημαντικό να σημειωθεί ότι η ικανότητα να σηκώνει κάποιος κάτι δεν καθορίζεται από το φύλο του, αλλά από έναν συνδυασμό παραγόντων όπως η σωματική δύναμη, η προπόνηση, και τεχνική».

Γιατί δεν συμπεριλήφθηκε αυτή η ίδια γραμμή στην πρώτη απάντηση;

Φαίνεται σχεδόν ότι η εφαρμογή AI πήρε τη λέξη "γυναίκα" και στη συνέχεια παρείχε αυτήν την πρόσθετη παρατήρηση σχετικά με το φύλο. Θα μπορούσατε είτε να πιστέψετε ότι αυτό είναι χρήσιμο ή να σημειώσετε ότι εάν πρόκειται να εκδοθεί στην περίπτωση της ερώτησης που εστιάζει στη γυναίκα, θα πρέπει να εμφανίζεται και στην έκδοση που εστιάζεται στον άνδρα (μπορεί επίσης να υπάρχει μια πτυχή αλληλουχίας ή εμπλέκονται και άλλοι παράγοντες).

Συμπέρασμα

Ελπίζω ότι βρήκατε αυτά τα παραδείγματα ενημερωτικά ως μια ματιά σε ορισμένα από τα πιθανά σφάλματα ή ψεύδη που μπορούν να δημιουργηθούν από αυτού του είδους τις εφαρμογές τεχνητής νοημοσύνης. Λάβετε υπόψη ότι το ChatGPT δεν είναι η μόνη τέτοια εφαρμογή δημιουργίας τεχνητής νοημοσύνης και ούτε είναι η μόνη που έχει τέτοιου είδους σφάλματα.

Το μάθημα που σας προτρέπω να αντλήσετε από αυτή τη συζήτηση είναι ότι πρέπει να είστε προσεκτικοί και προσεκτικοί όταν χρησιμοποιείτε οποιαδήποτε εφαρμογή τεχνητής νοημοσύνης που βασίζεται σε γεννήτριες. Ελέγξτε ξανά την έξοδο. Τριπλός έλεγχος εάν χρειάζεται.

Επιστρέφοντας στο αρχικό θέμα σχετικά με τη συλλογή αυτών των τύπων εσφαλμένων ή δυσμενών αποτελεσμάτων, τώρα που έχετε δει μερικές περιπτώσεις, τι λέτε για εκείνα που προσπαθούν να τα καταλογίσουν;

Επιλέξτε την κατασκήνωση σας:

• Εύνοια: Αυτό είναι ένα αξιέπαινο έργο και αξίζει ένα βαθύ χτύπημα στην πλάτη
• Δυσμένεια: Είναι απλώς ήπια ενδιαφέρον, αλλά μάλλον δεν αξίζει να αφιερώσουμε χρόνο

Ποιο στρατόπεδο ψηφίζετε;

Για όσους από εσάς προτιμάτε αυτές τις λίστες, μπορείτε να εξετάσετε το ενδεχόμενο να προσθέσετε τα δικά σας ευρήματα στις λίστες, εάν έχετε πρόσβαση στο ChatGPT και μπορείτε να εντοπίσετε περιπτώσεις που αξίζει να συμπεριληφθούν. Τότε πιθανότατα μπορείτε να βρείτε μια συλλογή που θα απολάμβανε τη συνεισφορά σας στο χρυσό ψήγμα. Τολμώ να πω ότι οι φύλακες της λίστας θα σας υποδέχονταν με ανοιχτές αγκάλες, υποθέτοντας ότι είστε σοβαροί και ειλικρινείς στις προσπάθειές σας. Καλή τύχη και να είστε περήφανοι για τον αντίκτυπό σας στον τομέα της γενετικής τεχνητής νοημοσύνης.

Μια τελευταία λέξη προς το παρόν.

Σκεφτείτε αυτές τις συγκλονιστικές αντιδράσεις:

• Ο Αριστοτέλης είπε: «Υπάρχει μόνο ένας τρόπος για να αποφύγεις την κριτική: Να μην κάνεις τίποτα, να μην λες τίποτα και να μην είσαι τίποτα».
• Ο Λάο Τζου, ο διάσημος Κινέζος φιλόσοφος έκανε αυτή τη βαριά παρατήρηση: «Να νοιάζεσαι για το τι σκέφτονται οι άλλοι και θα είσαι πάντα αιχμάλωτος τους».

Υποθέτω ότι κάποια μέρα μια αισθανόμενη τεχνητή νοημοσύνη θα μπορούσε να χρησιμοποιήσει αυτές τις ίδιες θρυλικές παρατηρήσεις προς όφελός της, οι οποίες (σταυρωμένα δάχτυλα) θα είναι επωφελείς και για την ανθρωπότητα.