Το FBI προειδοποιεί για απάτες εκβιασμού με AI Deepfake

Οι ικανότητες της γενετικής τεχνητής νοημοσύνης να δημιουργεί εικόνες που μοιάζουν με ζωντανές είναι εντυπωσιακές, αλλά το Ομοσπονδιακό Γραφείο Ερευνών των ΗΠΑ λέει ότι οι εγκληματίες χρησιμοποιούν deepfakes για να στοχεύουν θύματα για εκβιασμό.

«Το FBI συνεχίζει να λαμβάνει αναφορές από θύματα, συμπεριλαμβανομένων ανήλικων παιδιών και ενηλίκων που δεν συναινούν, των οποίων οι φωτογραφίες ή τα βίντεο μετατράπηκαν σε ρητό περιεχόμενο», ανέφερε η υπηρεσία σε προειδοποίηση PSA τη Δευτέρα.

Το FBI λέει ότι οι υπηρεσίες επιβολής του νόμου έλαβαν πάνω από 7,000 αναφορές πέρυσι για διαδικτυακούς εκβιασμούς που στόχευαν ανηλίκους, με αύξηση των θυμάτων των αποκαλούμενων «sextortion scams» που χρησιμοποιούν deepfakes από τον Απρίλιο.

Το deepfake είναι ένας ολοένα και πιο κοινός τύπος περιεχομένου βίντεο ή ήχου που δημιουργείται με τεχνητή νοημοσύνη και απεικονίζει ψευδή γεγονότα που είναι όλο και πιο δύσκολο να διακρίνει κανείς ως ψεύτικα, χάρη σε πλατφόρμες τεχνητής νοημοσύνης όπως το Midjourney 5.1 και το DALL-E 2 του OpenAI.

Τον Μάιο, έγινε viral ένα deepfake του CEO της Tesla και του Twitter, Elon Musk, που έκανε για να εξαπατήσει επενδυτές κρυπτογράφησης. Το βίντεο που κοινοποιήθηκε στα μέσα κοινωνικής δικτύωσης περιείχε πλάνα του Μασκ από προηγούμενες συνεντεύξεις, τα οποία ήταν επεξεργασμένα για να ταιριάζει στην απάτη.

Τα Deepfakes δεν είναι όλα κακόβουλα, ένα deepfake του Πάπα Φραγκίσκου που φοράει ένα λευκό σακάκι Balenciaga έγινε viral νωρίτερα φέτος και πιο πρόσφατα, τα deepfakes που δημιουργήθηκαν από AI έχουν επίσης χρησιμοποιηθεί για να επαναφέρουν στη ζωή θύματα δολοφονιών.

Στις συστάσεις του, το FBI προειδοποίησε να μην πληρώσει οποιαδήποτε λύτρα, επειδή κάτι τέτοιο δεν εγγυάται ότι οι εγκληματίες δεν θα δημοσιεύσουν το deepfake ούτως ή άλλως.

Το FBI συμβουλεύει επίσης να είστε προσεκτικοί όταν μοιράζεστε προσωπικές πληροφορίες και περιεχόμενο στο διαδίκτυο, συμπεριλαμβανομένης της χρήσης λειτουργιών απορρήτου όπως η δημιουργία ιδιωτικών λογαριασμών, η παρακολούθηση της διαδικτυακής δραστηριότητας των παιδιών και η παρακολούθηση για ασυνήθιστη συμπεριφορά από άτομα με τα οποία έχετε αλληλεπιδράσει στο παρελθόν. Ο οργανισμός συνιστά επίσης τη διενέργεια συχνών αναζητήσεων για προσωπικά στοιχεία και πληροφορίες μελών της οικογένειας στο διαδίκτυο.

Άλλες υπηρεσίες που κρούουν τον κώδωνα του κινδύνου είναι η Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ, η οποία προειδοποίησε ότι οι εγκληματίες χρησιμοποιούν deepfakes για να ξεγελάσουν ανυποψίαστα θύματα να στείλουν χρήματα αφού δημιούργησαν ένα ακουστικό deepfake ενός φίλου ή μέλους της οικογένειάς τους που λέει ότι έχουν απαχθεί.

«Η τεχνητή νοημοσύνη δεν είναι πλέον μια τραβηγμένη ιδέα από μια ταινία επιστημονικής φαντασίας. Ζούμε με αυτό, εδώ και τώρα. Ένας απατεώνας θα μπορούσε να χρησιμοποιήσει την τεχνητή νοημοσύνη για να κλωνοποιήσει τη φωνή του αγαπημένου σας προσώπου», ανέφερε η FTC σε μια προειδοποίηση καταναλωτή τον Μάρτιο, προσθέτοντας ότι όλες οι εγκληματικές ανάγκες είναι ένα σύντομο ηχητικό κλιπ της φωνής ενός μέλους της οικογένειας για να γίνει η ηχογράφηση αληθινή.

Το FBI δεν έχει ακόμη απαντήσει Αποκρυπτογράφηση αίτημα για σχόλιο.