Παραγωγική τεχνητή νοημοσύνη: νέοι κίνδυνοι για τα παιδιά

ΦΑΚΕΛΟΣ – Πώς η παραγωγική τεχνητή νοημοσύνη προκαλεί κινδύνους για σεξουαλική εκμετάλλευση παιδιών και ψηφιακή εξαπάτηση ανηλίκων

Γράφει η Ελένη Φιλιππαίου, 
Δικηγόρος Αθηνών, 
LL.M. Διαπιστευμένη Διαμεσολαβήτρια ΥΔΔΑΔ, 
BSc (Hons) in Psychology, UCLan

Β’ ΜΕΡΟΣ
Η παραγωγική τεχνητή νοημοσύνη ως εργαλείο
διαδικτυακής σεξουαλικής εκμετάλλευσης παιδιών

Στο πρώτο μέρος παρουσιάστηκε πώς η κλωνοποίηση φωνής και η φωνητική πλαστοπροσωπία μπορούν να χρησιμοποιηθούν για την οικοδόμηση σχέσης εμπιστοσύνης με ένα παιδί. Στο παρόν μέρος εξετάζεται γιατί η παραγωγική τεχνητή νοημοσύνη αναγνωρίζεται ως σημαντικός παράγοντας κινδύνου για τη διαδικτυακή σεξουαλική εκμετάλλευση ανηλίκων.

Η διαδικτυακή αποπλάνηση με τη χρήση τεχνητής νοημοσύνης (AI-enabled grooming) και ευρύτερα, η σεξουαλική εκμετάλλευση παιδιών που διευκολύνεται από την παραγωγική τεχνητή νοημοσύνη (Generative AI-facilitated child sexual exploitation), αναδεικνύονται σε νέες μορφές τεχνολογικά υποβοηθούμενου κυβερνοεγκλήματος.

Πρόσφατες σχετικές έρευνες (Demeocq et al., 2026; Porcelli et al., 2026) επισημαίνουν ότι οι εφαρμογές παραγωγικής τεχνητής νοημοσύνης (GenAI), όπως τα συνθετικά παραποιημένα μέσα (deepfakes), συμπεριλαμβανομένων ηχητικών και οπτικοακουστικών εφαρμογών, μπορούν να ενισχύσουν την πλαστοπροσωπία, την οικοδόμηση εμπιστοσύνης και τη συναισθηματική χειραγώγηση των ανηλίκων, λειτουργώντας ως πολλαπλασιαστές κινδύνου και δημιουργώντας νέες προκλήσεις για την πρόληψη και τη διερεύνηση της διαδικτυακής σεξουαλικής εκμετάλλευσης παιδιών.

Συνθετικά παραποιημένο περιεχόμενο (deepfake) είναι το ψηφιακό οπτικοακουστικό υλικό (βίντεο, εικόνα ή ήχος) που δημιουργείται ή τροποποιείται με τη χρήση τεχνητής νοημοσύνης, ούτως ώστε να παρουσιάζει ψευδώς ένα πρόσωπο να λέει ή να κάνει κάτι που στην πραγματικότητα δεν είπε ή δεν έκανε.

Ηχητικά παραποιημένο περιεχόμενο (audio deepfake) είναι κάθε ηχητικό περιεχόμενο που παράγεται ή τροποποιείται με τεχνικές βαθιάς μάθησης, έτσι ώστε να φαίνεται αυθεντικό, ενώ στην πραγματικότητα είναι συνθετικό ή παραποιημένο.

Η αλματώδης εξέλιξη της τεχνολογίας

Οι συστηματικές ανασκοπήσεις για την διαδικτυακή αποπλάνηση παιδιών (online grooming), δείχνουν ότι οι δράστες προσαρμόζουν διαρκώς τις στρατηγικές τους στις νέες τεχνολογικές δυνατότητες, ενώ οι ανασκοπήσεις που αφορούν το (ακουστικά) συνθετικό παραποιημένο περιεχόμενο (audio deepfakes) επισημαίνουν ότι η ποιότητα των συνθετικών φωνών εξελίσσεται με ρυθμό ταχύτερο από τις τεχνολογίες ανίχνευσής τους (Porcelli et al., 2026; Zhang et al., 2025).

Τρόποι αντιμετώπισης

Η αντιμετώπιση των κινδύνων που απορρέουν από την αξιοποίηση της τεχνητής νοημοσύνης στη διαδικτυακή αποπλάνηση παιδιών, προϋποθέτει την προσαρμογή των υφιστάμενων στρατηγικών πρόληψης στις νέες τεχνολογικές δυνατότητες.

Δεδομένου ότι οι συνθετικές φωνές μπορούν πλέον να αναπαράγουν με ιδιαίτερα υψηλό βαθμό πιστότητας τη φωνή γονέων, συγγενών ή συνομηλίκων, τα παιδιά θα πρέπει να εκπαιδεύονται ότι η φωνή ενός προσώπου δεν αποτελεί πλέον αξιόπιστο αποδεικτικό στοιχείο της ταυτότητάς του.

Η συστηματική εκπαίδευση γονέων, φροντιστών, εκπαιδευτικών και άλλων επαγγελματιών επιφορτισμένων με την παιδική προστασία σχετικά με τις δυνατότητες των ηχητικών deepfakes και των τεχνικών φωνητικής πλαστοπροσωπίας, αποτελεί, πλέον, αναγκαία προϋπόθεση για την αποτελεσματική πρόληψη και έγκαιρη αναγνώριση των νέων μορφών διαδικτυακής σεξουαλικής εκμετάλλευσης παιδιών.

Παράλληλα, η καθιέρωση ενός μοναδικού κωδικού ή οικογενειακού συνθηματικού γνωστού μόνο στα μέλη της οικογένειας, μπορεί να λειτουργήσει ως πρόσθετος μηχανισμός επαλήθευσης της ταυτότητας σε επείγουσες ή ύποπτες επικοινωνίες.

Σε περιπτώσεις κατά τις οποίες ζητείται η αποκάλυψη προσωπικών πληροφοριών, η αποστολή φωτογραφιών ή η πραγματοποίηση οποιασδήποτε ενέργειας που προκαλεί αμφιβολία ή πίεση, είναι σκόπιμο να επιβεβαιώνεται η ταυτότητα, μέσω δεύτερου ανεξάρτητου διαύλου επικοινωνίας, όπως άμεση επικοινωνία με τον γονέα ή άλλο έμπιστο ενήλικο, βιντεοκλήση / γραπτό μήνυμα κτλ.

Τέλος, ιδιαίτερη σημασία έχει, επίσης, ο περιορισμός της δημόσιας ανάρτησης και οπτικοακουστικού υλικού στα μέσα κοινωνικής δικτύωσης, καθώς ακόμη και λίγα δευτερόλεπτα καθαρής ομιλίας είναι δυνατόν να επαρκούν για την εκπαίδευση συστημάτων κλωνοποίησης φωνής.

Στο τρίτο και τελευταίο μέρος παρουσιάζονται ορισμένα πρακτικά μέτρα πρόληψης καθώς και παραδείγματα για την προστασία παιδιών και γονέων απέναντι στις νέες μορφές ψηφιακής εξαπάτησης.

Διαβάστε επίσης άλλα άρθρα της Ελένης Φιλιππαίου

Το Α’ Μέρος της έρευνας είναι διαθέσιμο εδώ και ακολουθεί το editorial της «ΗΜΕΡΑΣ»:

Κλωνοποίηση φωνής: Η νέα απειλή για την ασφάλεια των παιδιών

Κλωνοποίηση φωνής: «Η ΗΜΕΡΑ» ανοίγει τον μεγάλο φάκελο

Διαβάστε ακόμα: 

Κράτος Δικαίου 2.0: Η ψηφιακή ανθεκτικότητα και η Δημοκρατία