Επιστήμονες βρήκαν τρόπο να εντοπίζουν τα fake videos
Eρευνητές από το κρατικό πανεπιστήμιο της Νέας Υόρκης ανέπτυξαν μια μέθοδο AI για να εντοπίζουν τη διαφορά μεταξύ βίντεο πραγματικών ανθρώπων που λένε πραγματικά πράγματα και ψεύτικων βίντεο των ίδιων ανθρώπων που παράγονται με χρήση έξυπνης τεχνολογίας
Η τεχνολογία που χρησιμοποιείται για τη δημιουργία των βίντεο DeepFake – οι ανταλλαγές προσώπων που παράγονται με AI για να δημιουργείται ψεύτικο περιεχόμενο – γίνεται όλο και πιο ρεαλιστική. Για να καταπολεμήσουν αυτόν τον κύκλο «ψεύτικων ειδήσεων», ερευνητές από το κρατικό πανεπιστήμιο της Νέας Υόρκης (SUNY) ανέπτυξαν μια μέθοδο AI για να εντοπίζουν τη διαφορά μεταξύ πραγματικών ανθρώπων που λένε πραγματικά πράγματα και εκείνων που παράγονται ψευδώς χρησιμοποιώντας έξυπνη τεχνολογία.
Για να εντοπίσουμε μια απάτη, πρέπει πρώτα να καταλάβουμε πώς λειτουργεί το DeepFake. Η εκπαίδευση του AI για τη δημιουργία ψεύτικων βίντεο περιλαμβάνει τη τροφοδότηση εικόνων και όχι βίντεο. Το AI βρίσκει το κοινό έδαφος μεταξύ των δύο χαρακτήρων, τις «ράβει» μαζί και βάζει από πάνω από το πρόσωπο του ηθοποιού που κάνει τη μίμηση, φωτογραφίες του προσώπου το οποίο υποτίθεται ότι πρωταγωνιστεί στο βίντεο. Κάποιοι μπορεί να θυμούνται την περίπτωση που ο Jordan Peele μιμήθηκε τον Ομπάμα (με σχεδόν τελειότητα) και αποκάλεσε τον Trump ένα «πλήρες και απόλυτο σκατό» ή τα διάφορα ψεύτικα πορνό διασημοτήτων.
Οπότε λοιπόν, πώς μπορούμε να εντοπίσουμε τη διαφορά; Μεταξύ άλλων, οι DeepFakers δεν ανοιγοκλείνουν τα μάτια τους όπως οι άνθρωποι.
Ο μέσος άνθρωπος ανοιγοκλείνει τα μάτια του 17 φορές ανά λεπτό. Οι φωτογραφίες δεν συνηθίζουν να καταγράφουν ένα άτομο όταν τα μάτια του είναι κλειστά. Έτσι φυσικά, ο αλγόριθμος δεν κληρονομεί ποτέ τη μαθησιακή συμπεριφορά του τρόπου με τον οποίο ένα άτομο ανοιγοκλείνει κανονικά τα μάτια του, γεγονός που παράγει ένα μάλλον αφύσικο αποτέλεσμα. Δεδομένου ότι το AI ανιχνεύει πόσο ανοιχτό είναι ένα μάτι σε κάθε πλαίσιο ενός βίντεο, είναι σε θέση να καταγράψει όταν ένα πρόσωπο ανοιγοκλείνει ή δεν ανοιγοκλείνει τα μάτια του.
Η δημιουργία βίντεο DeepFake δεν είναι τόσο εύκολη. Όπως σημειώνουν οι συγγραφείς στη μελέτη τους που δημοσιεύτηκε στο Cornell University Library, χρειάζεται πολύ περισσότερο χρόνο από το απλό photoshopping εικόνων. Για παράδειγμα, ένα βίντεο 20 δευτερολέπτων με 25 καρέ ανά δευτερόλεπτο απαιτεί την επεξεργασία 500 εικόνων μαζί. Στην πραγματικότητα το Buzzfeed χρειάστηκε συνολικά 56 ώρες για να δημιουργήσει το ψεύτικο βίντεο του Obama.
Όπως προαναφέρθηκε, η τεχνολογία συνεχίζει να προχωράει. Οι ερευνητές του Stanford βρήκαν πρόσφατα τον νέο αλγόριθμο που περιλαμβάνει το θέμα των ματιών και σχεδιάζουν να το παρουσιάσουν στο συνέδριο SIGGRAPH τον Αύγουστο.
Οι επιστήμονες του SUNY προσθέτουν στον New Scientist ότι «η εγκληματολογία των μέσων ενημέρωσης είναι παιχνίδι με γάτες και ποντίκια». Οι ψεύτικες ειδήσεις έχουν ήδη υποκινήσει τη βία, αλλά το στοιχείο των βίντεο προσθέτει ένα πολύ πιο βαθύ θέμα. Οι άνθρωποι τείνουν να επηρεάζονται ευκολότερα και παραπλανούνται περισσότερο από τα βίντεο παρά από τις εικόνες.
«Η ανίχνευση τέτοιων ψεύτικων βίντεο αποτελεί μια επιτακτική ανάγκη για την ερευνητική κοινότητα της εγκληματολογίας ψηφιακών μέσων», έγραψαν οι συγγραφείς, οι οποίοι αναγνωρίζουν ότι οι επιδέξιοι πλαστογράφοι μπορούν να προσθέσουν τον βλεφαρισμό κατά τη διάρκεια του post production. Η ομάδα σύντομα ελπίζει ότι θα μπορέσει να πάρει και άλλα στοιχεία, όπως η αναπνοή ή ο παλμός ενός ατόμου, που θα μπορούσε να υποδηλώνει απάτη.
