Σκάνδαλο με deep fake επιλήψιμα video με την Emma Watson και την Scarlet Johansson

Πανικός το internet κυριάρχησε την περασμένη εβδομάδα με εκατοντάδες “επιλήψιμα” και “σκανδαλώδη” video που απεικόνιζαν διάσημες σταρ όπως την Emma Watson και τη Scarlet Johansson τα οποία αποδείχθηκε ότι αποτελούσαν μέρος προωθητικής καμπάνιας για app που αξιοποιεί Artificial Intelligence για τη δημιουργία deep fake video αλλαγής προσώπου. Το μάθαμε από το αμερικανικό NΒC. Το deep fake video με υποκατάσταση προσώπου δεν είναι κάτι άγνωστο και ήδη κυκλοφορούν στο διαδίκτυο αρκετά apps του είδους από εταιρίες όπως Movio, Icons8, FaceMega, Swapface, DeepSwap, MyHeritage κλπ. όπου το μόνο που έχει να κάνει ο χρήστης είναι να επιλέξει το πορτραίτο που θέλει, επώνυμο ή ανώνυμο.Το περιστατικό αφορά όχι λιγότερα από 230 διαφημιστικά spot σε Facebook, instagram και Messenger, που απεικόνιζαν τις παραπάνω σταρ σε προκλητικές πόζες που δεν θα χαρακτηρίζαμε πορνό αλλά σίγουρα είχαν κάποια σεξουαλικά υπονοούμενα. Οι διαφημίσεις αρχίζουν με μια γυναίκα που σταδιακά μεταμορφώνεται σε διάσημο πρόσωπο ενώ προκαλεί με τη στάση και την έκφραση του προσώπου. Μόλις έγινε πάταγος, το περιστατικό τέθηκε υπόψη των υπεύθυνων του Meta group που έσπευσαν να κατεβάσουν τα σποτάκια και να διαβεβαιώσουν ότι παραβιάστηκαν οι κανονισμοί και οι εταιρίες αυτές αποκλείονται πλέον από διαφημίσεις του group. H υπαίτια εταιρία αποκαλύφθηκε ότι ήταν η FaceMega που χρεώνει 8 δολ. την εβδομάδα για την υπηρεσία. Δεν προσφέρει κάτι περισσότερο ή λιγότερο από τα άλλα ομοειδή app που σημαίνει ότι εκεί έξω προσφέρονται άπειρες δυνατότητες παραποίησης και πλαστογράφησης video με ελάχιστες ή καθόλου απαιτούμενες εξειδικευμένες γνώσεις από το χρήστη. Το επίμαχο app προέρχεται από την κινέζικη εταιρία Ufoto που ανήκει στο group εταιριών Wondershare. Οι υπεύθυνοι της εταιρίας ισχυρίζονται ότι έχουν κινηθεί νομότυπα και βάσει των όρων χρήσης δεν επιτρέπεται η πλαστογράφηση προσώπων ούτε το ανέβασμα “ακατάλληλου” περιεχόμενου. Η πραγματικότητα όμως δείχνει προς την αντίθετη κατεύθυνση.Είναι πραγματικά επικίνδυνο να μπορεί να κανείς να εκθέσει οποιονδήποτε και οποιαδήποτε είτε απεικονίζοντάς τον σε δυσφημιστική σκηνή είτε βάζοντας στο στόμα του λέξεις, φράσεις και απόψεις που ουδέποτε εξέφρασε… Το νομικό πλαίσιο αυτή τη στιγμή είναι εξαιρετικά ασαφές και θολό διότι στους όρους χρήσεις αναφέρεται ότι η συγκεκριμένη δυνατότητα δίδεται για ιδιωτική αξιοποίηση από τον χρήστη. Βέβαια καθόλου δεν διασφαλίζεται ότι το επόμενο βήμα για κάποιον δεν θα είναι η δημόσια ανάρτηση με όλες τις πιθανές συνέπειες. Ήδη το revenge porn έχει πάρει AI χρώμα και μερικοί χρήστες το έχουν εκμεταλλευτεί για να εκθέσουν πρώην συντρόφους τους χωρίς ποτέ να έχουν καταγραφεί πραγματικά οι “ιδιωτικές στιγμές” που παρουσιάζονται.