Λίγες ημέρες μετά την εισβολή της Ρωσίας στην Ουκρανία, εμφανίζεται στο διαδίκτυο βίντεο με τον πρόεδρο Ζελένσκι, να μιλά από το Προεδρικό Μέγαρο και να καλεί τους Ουκρανούς να παραδώσουν τα όπλα. Το βίντεο φυσικά ήταν ψεύτικο, κακοφτιαγμένο και έγινε αντικείμενο χλευασμού.
Τον Αύγουστο που μας πέρασε, η Δήμαρχος του Βερολίνου Φραντσίσκα Γκίφαϊ, δέχεται κλήση για τηλεδιάσκεψη με τον δήμαρχο του Κιέβου Βιτάλι Κλίτσκο. Στην αρχή της κλήσης, όλα μοιάζουν φυσιολογικά και ο «δήμαρχος του Κιέβου», ενδιαφέρεται για τους πρόσφυγες που εγκαταστάθηκαν στο Βερολίνο. Στη συνέχεια όμως οι ερωτήσεις του, κάνουν τη δήμαρχο του Βερολίνου να αναρωτηθεί, ποιος είναι ο άνθρωπος που της μιλά και της ζητά να ωθήσει τους Ουκρανούς πίσω στην πατρίδα τους για να πολεμήσουν. Ο άνθρωπος αυτός φυσικά δεν ήταν ο δήμαρχος του Κιέβου, αλλά κάποιος που εκμεταλλευόμενος την τεχνολογία deepfake, προσπάθησε να ξεγελάσει την κ. Γκίφαϊ.
Τι είναι τα deepfakes
Τι ακριβώς όμως είναι τα deepfakes και πως προέκυψαν, ως ένας από τους μεγαλύτερους κινδύνους, παραπληροφόρησης και fake news. Τα deepfakes είναι πλαστά βίντεο που δημιουργούνται από αλγόριθμους τεχνητής νοημοσύνης και εμφανίζουν τους εικονιζόμενους να κάνουν ή να λένε πράγματα που δεν συνέβησαν ποτέ. Τα deepfakes χρησιμοποιούν τεχνητή νοημοσύνη για να αντικαταστήσουν την ομοιότητα ενός ατόμου με ένα άλλο σε βίντεο και άλλα ψηφιακά μέσα.
Οι υπολογιστές γίνονται όλο και καλύτεροι στην προσομοίωση της πραγματικότητας. Ο σύγχρονος κινηματογράφος, για παράδειγμα, βασίζεται σε μεγάλο βαθμό σε σκηνικά και χαρακτήρες που δημιουργούνται από υπολογιστή, στη θέση των πρακτικών τοποθεσιών και των σκηνικών που ήταν κάποτε κοινά, και τις περισσότερες φορές αυτές οι σκηνές δεν διακρίνονται σε μεγάλο βαθμό από την πραγματικότητα.
Υπάρχουν πολλές μέθοδοι για τη δημιουργία deepfakes, αλλά η πιο κοινή βασίζεται στη χρήση νευρωνικών δικτύων που περιλαμβάνουν αυτοκωδικοποιητές που χρησιμοποιούν μια τεχνική εναλλαγής προσώπων. Χρειάζεται πρώτα ένα βίντεο-στόχος για να χρησιμοποιηθεί ως βάση του deepfake και, στη συνέχεια, μια συλλογή από βίντεο του ατόμου που θέλει κάποιος να εισαγάγει στον «στόχο».
Τα βίντεο μπορεί να είναι εντελώς άσχετα μεταξύ τους. ο στόχος μπορεί να είναι ένα απόσπασμα από μια ταινία του Χόλιγουντ, για παράδειγμα, και τα βίντεο του ατόμου που θέλετε να εισαγάγετε στην ταινία μπορεί να είναι τυχαία κλιπ, τα οποία έχουν ληφθεί από το YouTube. Ο αυτόματος κωδικοποιητής είναι ένα πρόγραμμα τεχνητής νοημοσύνης βαθιάς εκμάθησης που έχει ως αποστολή τη μελέτη των βίντεο κλιπ, για να κατανοήσει πώς μοιάζει το άτομο από διάφορες οπτικές γωνίες και περιβαλλοντικές συνθήκες και, στη συνέχεια, να χαρτογραφήσει αυτό το άτομο στο άτομο στο βίντεο-στόχο, βρίσκοντας κοινά χαρακτηριστικά.
Άμεσοι «αποδέκτες» των deepfakes είναι οι πολιτικοί και οι celebrities. Ειδικά για τους πολιτικούς, τα deepfakes αποτελούν έναν από τους σημαντικότερους και σοβαρότερους κινδύνους παραπληροφόρησης και ευθείας απειλής για την ομαλή λειτουργία της κοινωνίας και της δημοκρατίας.
Τα παραδείγματα που σοκάρουν
Το 2018, ένα βελγικό πολιτικό κόμμα δημοσίευσε βίντεο με τον Ντόναλντ Τραμπ να εκφωνεί ομιλία καλώντας το Βέλγιο να αποχωρήσει από τη συμφωνία του Παρισιού για το κλίμα. Ωστόσο, ο Τραμπ δεν έδωσε ποτέ αυτή την ομιλία – ήταν ένα deepfake. Αυτή δεν ήταν η πρώτη χρήση ενός deepfake για τη δημιουργία παραπλανητικών βίντεο. Πολιτικοί ειδικοί με γνώσεις τεχνολογίας προετοιμάζονται για ένα μελλοντικό κύμα ψεύτικων ειδήσεων που θα περιλαμβάνει πειστικά ρεαλιστικά deepfakes.
Η αποστολή του Apollo II... απέτυχε
Μπορούμε να θυμηθούμε ένα deepfake του Ρίτσαρντ Νίξον (γυρίστηκε το 2020) που πραγματικά, μπορεί να αποδείξει μέχρι ποιο σημείο μπορεί να φτάσει η παραπληροφόρηση και τι συνέπειες μπορεί να έχει.
Δείτε το παρακάτω βίντεο:
Στο βίντεο που παρακολουθήσατε, φαίνεται πόσο πειστικός είναι ο Πρόεδρος Νίξον, δηλώνοντας ότι η αποστολή του Apollo 11, απέτυχε και ότι οι αστροναύτες θα ...παραμείνουν στο φεγγάρι. Φυσικά, η ομιλία δεν είναι αληθινή. Η ομοιότητα όμως και η ουσία της δήλωσης, δείχνει τι πραγματικά μπορεί να προκαλέσει ένα τέτοιο deepfake.
Ας δούμε ένα άλλο βίντεο με «δηλώσεις» του Μπάρακ Ομπάμα.
Ο πρώην πρόεδρος των Ηνωμένων Πολιτειών, δεν θα μπορούσε ποτέ να έχει εκστομίσει τέτοιους χαρακτηρισμούς. Να όμως που ένα εξειδικευμένο πρόγραμμα, μπορεί να το κάνει και να προκαλέσει φυσικά χάος.
Deepfake δελτίο ειδήσεων
Πριν από μήνες, εκατομμύρια τηλεθεατές παρακολουθούσαν το κεντρικό δελτίο ειδήσεων του καναλιου ΜΝΒ στη Νότια Κορέα. Κατά τη διάρκεια του οποίου, η παρουσιάστρια, μετέδωσε τις σημαντικότερες ειδήσεις της ημέρας. Ωστόσο, τίποτα δεν ήταν αυτό που έδειχνε! Όλο το δελτίο ήταν ένα deepfake! Οι θεατές άκουγαν και έβλεπαν τη γνωστή δημοσιογράφο, αλλά εκείνη δεν ήταν στο στούντιο. Είχε αντικατασταθεί από μία deepfake εκδοχή της. Τα υπόλοιπα Μέσα Ενημέρωσης και πάρα πολλοί τηλεθεατές διαμαρτυρήθηκαν όταν έγινε γνωστό το τι συνέβη. Το κανάλι, αντίθετα, ανακοίνωσε ότι θα συνεχίσει να χρησιμοποιεί τεχνικές deepfake, για την παρουσίαση έκτακτων γεγονότων.
Η τεχνολογία των deepfakes έγινε ευρύτερα γνωστή από διάφορα βίντεο ηθοποιών και celebrities. Όπως τα βίντεο του Τομ Κρουζ, στα οποία εξηγείται και η τεχνολογία που χρησιμοποιείται. Μπορείτε να τα παρακολουθήσετε παρακάτω:
Πορνογραφία
Φυσικά, ένα τέτοιο «ψηφιακό εργαλείο», δεν θα μπορούσε να μην χρησιμοποιηθεί στην παράνομη πορνογραφία και «το revenge porn». Τα παραδείγματα είναι δεκάδες. Όσο δε η τεχνητή νοημοσύνη αναπτύσσεται περισσότερο, τα deepfake βίντεο, θα είναι όλο και πιο αληθοφανή. Καταλαβαίνει κανείς τι δύναμη μπορεί να «αποκτήσει», ένα deepfake βίντεο, που αποκτά κύρος και σημασία, από το πρόσωπο που απεικονίζει. Το 2017, ένας χρήστης του Reddit χρησιμοποίησε αρχικά την τεχνολογία για να δημιουργήσει ψηφιακά μη συναινετικό πορνό χρησιμοποιώντας πρόσωπα γυναικών, διασημοτήτων. Ενώ το subreddit απαγορεύτηκε το 2018, αυτός ο τύπος deepfake του Reddit και άλλες μορφές deepfakes διασημοτήτων έχουν εξαπλωθεί στο διαδίκτυο.
Μπορεί να εντοπιστεί ένα deepfake βίντεο;
Όπως βεβαιώνουν ειδικοί τεχνικοί αλλά και επιστήμονες, ο ανθρώπινος εγκέφαλος, οδηγείται στο συμπέρασμα ότι ένα βίντεο είναι «πλαστό», από την δυνατότητα που έχει στη μελέτη κατά 45%. Και παρά το ότι οι προσλαμβάνουσες που δέχεται είναι χαμηλές σε ποσοστό, καταφέρνει τελικά να έχει ένα ασφαλές συμπέρασμα για τη γνησιότητα αυτού που βλέπει. Αν προσπαθείτε να εντοπίσετε ένα «ψεύτικο» βίντεο, παρατηρείστε τον αφύσικο φωτισμό, το δέρμα του προσώπου και τα μαλλιά. Κάπου θα υπάρχει ένα ψεγάδι. Τα deepfake βίντεο, δεν έχουν, ακόμα τουλάχιστον, ρεαλιστική κίνηση στα πρόσωπα και ανάλογο του κινηματογραφικού, φωτισμό.
Ο εντοπισμός των deepfake βίντεο, απαιτεί σύγχρονα λογισμικά ασφάλειας. Ήδη αναπτύσσεται μία κοινή προσπάθεια, από τις Adobe, Microsoft και Intel, με στόχο την επαλήθευση αυτών των βίντεο.
Γιατί οποιοσδήποτε έχει πρόσβαση στην τεχνολογία deepfake μπορεί να κάνει οποιονδήποτε άλλον να μοιάζει σαν να λέει ή να κάνει σχεδόν οτιδήποτε.
Και αυτό δεν είναι πλέον κάτι που στο διαδίκτυο, «πρέπει να ψάξεις πολύ για να το βρεις». Υπάρχουν πλέον δεκάδες εφαρμογές, επί πληρωμή και μη, που οποιοσδήποτε, μπορεί να κάνει ένα από deepfake βίντεο. Άλλο όμως ένα χιουμοριστικό βίντεο και άλλο ένα βίντεο που προκαλεί σάλο και ντόμινο ανεξέλεγκτων γεγονότων.
Δείτε το παρακάτω βίντεο. Και εστιάστε την προσοχή σας στο πρόσωπο. Θα εκπλαγείτε με τον τρόπο που το πρόσωπο του ηθοποιού Μπίλ Χάντερ, «μεταλλάσσεται» σε αυτό του Άρνολντ Σβαρτσενέγκερ! Είναι πραγματικά τρομακτικό, που μπορεί να οδηγήσει αυτή η τεχνολογία.
Ένα τελευταίο παράδειγμα για να κατανοήσουμε τη «δύναμη», της τεχνητής νοημοσύνης και των αλγορίθμων των deepfake βίντεο. Σε μία από τις δημοφιλέστερες εκπομπές ταλέντων των Ηνωμένων Πολιτειών, το "America's Got Talent", παρουσιάστηκαν πριν λίγο καιρό τρεις διαγωνιζόμενοι. Ο ένας από αυτούς, τραγούδησε ένα τραγούδι ζωντανά, αλλά με τη μορφή ενός εκ των διάσημων κριτών του παιχνιδιού. Όλοι, έμειναν άφωνοι. Με ένα λογισμικό που εφαρμόστηκε σε μία κάμερα, η τεχνολογία των deepfake βίντεο, «έδειξε» τα δόντια της! Δείτε το βίντεο:
Τα deepfakes αυτά καθαυτά είναι νόμιμα σχεδόν παντού, αλλά η νομιμότητα συγκεκριμένων deepfakes εξαρτάται από το πλαίσιο και την πρόθεση. Στις ΗΠΑ, θεσπίζονται σταδιακά συγκεκριμένοι νόμοι για τη ρύθμιση των deepfakes. Οι περισσότερες πολιτείες των ΗΠΑ έχουν νόμους κατά της εκδικητικής πορνογραφίας, αλλά μόνο λίγες, προσδιορίζουν τα deepfakes ως παράνομο μέσο τέτοιων.
Τα deepfakes βίντεο, μπορούν να αποτελέσουν την πιο σύγχρονη μορφή προπαγάνδας. Η τεχνική τους συνεχώς εξελίσσεται. Και μπορεί κανείς να φανταστεί τι θα συμβεί, αν ο πολίτης, ο άνθρωπος, δεν μπορεί πλέον να εμπιστευτεί, αυτό που βλέπει με τα ίδια του τα μάτια. Και φυσικά μέσα σε όλα αυτά δεν έχουμε αναφερθεί, στους κανόνες ηθικής που πρέπει να διέπουν και αυτή την πλευρά του κυβερνοχώρου. Η ηθική πλευρά, είναι το πρώτο που θα έπρεπε να έχει προστατευτεί νομικά, αλλά το τελευταίο συχνά στη διευθέτηση τέτοιων θεμάτων. Και γίνεται σχεδόν πάντα, όταν «το κακό έχει συμβεί».
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου