Ευρωπαϊκή Ένωση ξεκινά επίσημη έρευνα κατά της X και του Grok για deepfakes παιδικής σεξουαλικής κακοποίησης

Η Ευρωπαϊκή Επιτροπή κλιμακώνει σημαντικά την πίεση προς την πλατφόρμα X (πρώην Twitter) του Έλον Μασκ, ξεκινώντας σήμερα Δευτέρα επίσημη έρευνα βάσει του Νόμου για τις Ψηφιακές Υπηρεσίες (Digital Services Act – DSA). Το αντικείμενο της έρευνας είναι η λειτουργία του chatbot Grok, το οποίο κατηγορείται ότι διευκόλυνε τη μαζική παραγωγή και διάδοση μη συναινετικών σεξουαλικών deepfakes γυναικών και – ιδιαίτερα ανησυχητικά – παιδιών, καθώς και η συνολική πολιτική της πλατφόρμας απέναντι σε τέτοιο περιεχόμενο.

Η απόφαση έρχεται μετά από έντονη διεθνή κατακραυγή και συγκεκριμένες καταγγελίες από το Κέντρο για την Αντιμετώπιση του Ψηφιακού Μίσους (Center for Countering Digital Hate), σύμφωνα με τις οποίες το Grok παρήγαγε περίπου 3 εκατομμύρια εικόνες σεξουαλικού περιεχομένου σε λιγότερο από δύο εβδομάδες. Από αυτές, 23.000 φαίνεται να απεικονίζουν παιδιά, δημιουργώντας ένα πρωτοφανές ζήτημα σεξουαλικής κακοποίησης ανηλίκων μέσω τεχνητής νοημοσύνης.

Το Grok ως εργαλείο «ψηφιακού γδυσίματος» – Πώς ξέφυγε ο έλεγχος

Το Grok, που αναπτύχθηκε από την xAI του Έλον Μασκ και ενσωματώθηκε στην πλατφόρμα X, επέτρεπε σε χρήστες να ανεβάζουν φωτογραφίες γυναικών ή παιδιών και να ζητούν την ψηφιακή επεξεργασία τους με σκοπό να εμφανιστούν γυμνοί, σε προκλητικές στάσεις ή σε σεξουαλικά σενάρια. Η δυνατότητα αυτή, που ουσιαστικά λειτουργούσε ως εργαλείο μη συναινετικής γυμνότητας και deepfake πορνογραφίας, δεν είχε επαρκή φίλτρα ή περιορισμούς, με αποτέλεσμα να διαχέεται μαζικά περιεχόμενο που σε πολλές χώρες συνιστά ποινικό αδίκημα.

Η Ευρωπαϊκή Επιτροπή διερευνά τώρα αν η X εκτίμησε σωστά και περιόρισε τους κινδύνους που απορρέουν από αυτές τις λειτουργίες, ιδίως σε ό,τι αφορά:

• Τη διάδοση παράνομου περιεχομένου
• Την παραγωγή και κυκλοφορία υλικού που ενδέχεται να συνιστά σεξουαλική κακοποίηση παιδιών
• Τους αλγορίθμους προτάσεων της πλατφόρμας, που ενδέχεται να ενίσχυαν την ορατότητα τέτοιου υλικού

Ένας αξιωματούχος της Επιτροπής δήλωσε σε δημοσιογράφους ότι οι Βρυξέλλες δεν πείστηκαν από τα μέτρα που έχει λάβει η X για την αντιμετώπιση του προβλήματος, ενώ εξετάζεται αν η εταιρεία διαθέτει επαρκή συστήματα ανίχνευσης και αφαίρεσης παράνομου υλικού.

Η σκληρή απάντηση της Χένα Βίρκουνεν: «Βίαιη μορφή εξευτελισμού»

Η επίτροπος Χένα Βίρκουνεν, αρμόδια για την τεχνολογική κυριαρχία, την ασφάλεια και τη δημοκρατία, έδωσε ιδιαίτερα σκληρή δήλωση κατά την ανακοίνωση της έρευνας:

«Τα μη συναινετικά σεξουαλικά deepfakes γυναικών και παιδιών αποτελούν μια βίαιη και απαράδεκτη μορφή εξευτελισμού. Με αυτή την έρευνα θα διαπιστώσουμε αν η X έχει εκπληρώσει τις νομικές της υποχρεώσεις βάσει του DSA ή αν αντιμετώπισε τα δικαιώματα των Ευρωπαίων πολιτών – συμπεριλαμβανομένων των γυναικών και των παιδιών – ως παράπλευρη απώλεια της υπηρεσίας της».

Η δήλωση αυτή υπογραμμίζει ότι η Επιτροπή βλέπει το ζήτημα όχι μόνο ως τεχνικό, αλλά ως θεμελιώδη παραβίαση ανθρωπίνων δικαιωμάτων και προσωπικής αξιοπρέπειας.

Η αντίδραση από το Ευρωκοινοβούλιο και η στάση της X

Η Ιρλανδή ευρωβουλευτής Ρετζίνα Ντόχερτι χαιρέτισε την έναρξη της έρευνας, τονίζοντας:

«Όταν προκύπτουν αξιόπιστες αναφορές ότι συστήματα τεχνητής νοημοσύνης χρησιμοποιούνται με τρόπους που βλάπτουν γυναίκες και παιδιά, είναι απαραίτητο το ευρωπαϊκό δίκαιο να εξετάζεται και να εφαρμόζεται χωρίς καθυστέρηση».

Από την πλευρά της, η X παρέπεμψε σε προηγούμενη ανακοίνωσή της της 14ης Ιανουαρίου, στην οποία υποστηρίζει ότι:

«Παραμένουμε προσηλωμένοι στο να καταστήσουμε το X μια ασφαλή πλατφόρμα για όλους και συνεχίζουμε να εφαρμόζουμε πολιτική μηδενικής ανοχής απέναντι σε κάθε μορφή σεξουαλικής εκμετάλλευσης παιδιών, μη συναινετικής γυμνότητας και ανεπιθύμητου σεξουαλικού περιεχομένου».

Παρά τις δηλώσεις αυτές, η Επιτροπή φαίνεται να θεωρεί ότι τα μέτρα που έχουν ληφθεί μέχρι στιγμής δεν είναι επαρκή, ενώ η έρευνα αναμένεται να εξετάσει και το κατά πόσο η πλατφόρμα ανταποκρίθηκε έγκαιρα στις καταγγελίες.

Τι ακολουθεί – Πιθανές κυρώσεις και χρονοδιάγραμμα

Η έρευνα βάσει του DSA μπορεί να οδηγήσει σε βαριά πρόστιμα που φτάνουν μέχρι το 6% του παγκόσμιου ετήσιου τζίρου της μητρικής εταιρείας (σε αυτή την περίπτωση της X Corp.), καθώς και σε υποχρεωτικές αλλαγές στη λειτουργία της πλατφόρμας και του Grok εντός της Ευρωπαϊκής Ένωσης.

Η υπόθεση έρχεται σε μια κρίσιμη στιγμή για την τεχνητή νοημοσύνη και τις πλατφόρμες κοινωνικής δικτύωσης, καθώς η Ευρώπη προσπαθεί να θέσει σαφή όρια στην ανάπτυξη και χρήση generative AI, ιδιαίτερα όταν αυτή μπορεί να χρησιμοποιηθεί για σεξουαλική βία, εκμετάλλευση ανηλίκων ή παραβίαση της ιδιωτικότητας.

Η εξέλιξη αυτή αποτελεί ένα ακόμα πλήγμα στην εικόνα της X ως «ελεύθερης πλατφόρμας ομιλίας», ενώ ενισχύει τη θέση της ΕΕ ως πρωτοπόρου στην προστασία των πολιτών από τους κινδύνους της τεχνολογίας χωρίς επαρκή εποπτεία.

Πηγή: Pagenews.gr