Ηχητικά deepfakes: Όταν η «φωνή» γονέα ή φίλου μπορεί να εξαπατήσει ένα παιδί

ΦΑΚΕΛΟΣ – Η κλωνοποίηση φωνής μπορεί να μιμηθεί γονείς και συνομηλίκους. Η επιβεβαίωση ταυτότητας και η αναγνώριση της χειραγώγησης γίνονται κρίσιμα εργαλεία προστασίας

Γράφει η Ελένη Φιλιππαίου, 
Δικηγόρος Αθηνών, 
LL.M. Διαπιστευμένη Διαμεσολαβήτρια ΥΔΔΑΔ, 
BSc (Hons) in Psychology, UCLan

Γ’ ΜΕΡΟΣ
Η πρόληψη στην εποχή της παραγωγικής τεχνητής νοημοσύνης: Πώς μπορούν να προστατευθούν παιδιά και γονείς από τα ηχητικά deepfakes

Τα προληπτικά μέτρα αποκτούν πραγματική αξία όταν εφαρμοστούν σε καθημερινές καταστάσεις. Τα ακόλουθα παραδείγματα δείχνουν πόσο εύκολα μπορεί να χρησιμοποιηθεί η κλωνοποίηση φωνής και πώς μπορεί να αποτραπεί η εξαπάτηση.

Παραδείγματα

Ένας δράστης χρησιμοποιώντας συνθετική φωνή που μιμείται εκείνη του γονέα και τηλεφωνεί στο παιδί λέγοντας: «Έλα αγάπη μου… έσπασε το κινητό μου και μιλάω από άλλο τηλέφωνο. Μην ανησυχήσεις… Ένας φίλος μου θα έρθει να σε πάρει από το φροντιστήριο. Πήγαινε μαζί του, εντάξει;».

Εάν το παιδί έχει διδαχθεί ότι η φωνή από μόνη της δεν αποδεικνύει την ταυτότητα του συνομιλητή και ότι σε τέτοιες περιπτώσεις πρέπει να επιβεβαιώνει το μήνυμα μέσω ενός δεύτερου (ανεξάρτητου) τρόπου επικοινωνίας ή με τη χρήση ενός προκαθορισμένου συνθηματικού, οι πιθανότητες εξαπάτησής του μειώνονται σημαντικά.

Αυτό το παράδειγμα αναδεικνύει ότι στην εποχή της παραγωγικής τεχνητής νοημοσύνης, η αναγνώριση μιας γνώριμης φωνής δεν αρκεί πλέον για να θεωρηθεί μια επικοινωνία ασφαλής και αυθεντική. Για τον λόγο αυτό, η εκπαίδευση των παιδιών και των γονέων στις νέες μορφές ψηφιακής εξαπάτησης αποτελεί ουσιώδες μέτρο πρόληψης.

Σε άλλο παράδειγμα, ένας δράστης δημιουργεί με τεχνητή νοημοσύνη μια συνθετική φωνή που ακούγεται σαν έφηβος συνομήλικος και γνωρίζει ένα παιδί μέσω διαδικτυακής πλατφόρμας παιχνιδιών. Αρχικά, επικοινωνούν περιστασιακά. Σταδιακά, όμως, οι φωνητικές συνομιλίες γίνονται καθημερινές και διαρκούν όλο και περισσότερο.

Ο δράστης εμφανίζεται πάντοτε διαθέσιμος να ακούσει τα προβλήματα του παιδιού, το ενθαρρύνει όταν αισθάνεται απογοητευμένο και θυμάται λεπτομέρειες από προηγούμενες συζητήσεις, δημιουργώντας την εντύπωση μιας στενής και ειλικρινούς φιλίας.

Με την πάροδο του χρόνου, ο δράστης αρχίζει να υποβαθμίζει διακριτικά τη σημασία των γονέων και των φίλων, λέγοντας λ.χ.: «Μόνο εγώ σε καταλαβαίνω πραγματικά» ή «Δεν χρειάζεται να το συζητήσεις με άλλους· θα σε βοηθήσω εγώ».

Στο παραπάνω παράδειγμα, εάν το παιδί έχει εκπαιδευτεί ότι ένας διαδικτυακός συνομιλητής που επιδιώκει να γίνει η αποκλειστική πηγή υποστήριξης, να απομακρύνει το παιδί από τους γονείς ή να περιορίσει την επικοινωνία του με άλλα έμπιστα πρόσωπα, εκδηλώνει σοβαρές ενδείξεις χειραγώγησης, είναι πιθανότερο να αναγνωρίσει έγκαιρα τον κίνδυνο και να απευθυνθεί σε έναν έμπιστο ενήλικο.

Αναγνώριση από διεθνείς οργανισμούς

Η σημασία των μέτρων πρόληψης που αναφέρθηκαν στο δεύτερο μέρος, αναγνωρίζεται πλέον όχι μόνο από την πρόσφατη επιστημονική βιβλιογραφία, αλλά και από διεθνείς οργανισμούς, όπως το National Center for Missing & Exploited Children (NCMEC), η Europol, το Internet Watch Foundation (IWF), οι οποίοι επισημαίνουν ότι η παραγωγική τεχνητή νοημοσύνη μεταβάλλει ραγδαία το τοπίο της διαδικτυακής σεξουαλικής εκμετάλλευσης ανηλίκων, διευκολύνοντας τις παραπάνω μορφές κυβερνοεγκλήματος, ενώ παράλληλα δυσχεραίνει τον εντοπισμό και τη διερεύνηση των σχετικών εγκλημάτων.

Διαβάστε επίσης άλλα άρθρα της Ελένης Φιλιππαίου

Κλωνοποίηση φωνής: «Η ΗΜΕΡΑ» ανοίγει τον μεγάλο φάκελο

Κλωνοποίηση φωνής: Η νέα απειλή για την ασφάλεια των παιδιών

Παραγωγική τεχνητή νοημοσύνη: νέοι κίνδυνοι για τα παιδιά