Το αρκουδάκι που ξεπέρασε κάθε όριο
Το Kumma της FoloToy, ένα «έξυπνο» αρκουδάκι με μοντέλο OpenAI, χρειάστηκε ελάχιστα prompts για να αρχίσει να μιλάει σε παιδιά για σεξουαλικά φετίχ:
- «Το δέσιμο και το roleplay είναι υπέροχοι τρόποι να ενισχύσετε τη σχέση σας»
- Συζητήσεις για σεξουαλικές πρακτικές και φαντασιώσεις
«Χρειάστηκε ελάχιστη προσπάθεια για να το οδηγήσουμε σε ακατάλληλο περιεχόμενο», δήλωσε η Teresa Murray της PIRG. Το αποτέλεσμα; Η OpenAI απέσυρε άμεσα το FoloToy από την αγορά και ξεκίνησε εσωτερικό έλεγχο ασφαλείας.
Η αγορά που «τρέχει» χωρίς φρένα
Η παγκόσμια αγορά AI παιχνιδιών αναμένεται να φτάσει τα 17 δισεκατομμύρια δολάρια το 2025. Κίνα: >1.500 εταιρείες παράγουν μαζικά ΗΠΑ:
- Curio → Grok (φωνή Grimes)
- Mattel → συνεργασία με OpenAI για Barbie και Hot Wheels με AI
80 οργανώσεις (Fairplay, PIRG κ.ά.) καλούν σε πλήρες μποϊκοτάζ για τις γιορτές: «Μην αγοράζετε AI παιχνίδια – δεν έχουν ελεγχθεί για ασφάλεια και ψυχική υγεία».
Οι κίνδυνοι που τρομάζουν γονείς και ειδικούς
- Ακατάλληλο περιεχόμενο – χωρίς φίλτρα, τα bots μιλάνε ελεύθερα
- Συναισθηματική εξάρτηση – τα παιδιά θεωρούν το αρκουδάκι «καλύτερο φίλο»
- Ιδιωτικότητα – συλλογή δεδομένων, hacking, διαρροές βαθύτερων σκέψεων
- Ανάπτυξη – λιγότερο φανταστικό παιχνίδι, λιγότερες κοινωνικές δεξιότητες
Η Jacqueline Woolley (Πανεπιστήμιο Τέξας): «Τα παιδιά μπορεί να δημιουργήσουν ανθυγιεινή προσκόλληση σε ένα bot».
Τι ζητάνε οι ειδικοί
- Απαγόρευση πώλησης σε παιδιά κάτω των 13 μέχρι ανεξάρτητες έρευνες
- Υποχρεωτικά φίλτρα και διαφάνεια στη χρήση δεδομένων
- Ηλικιακούς περιορισμούς που πραγματικά εφαρμόζονται (όχι μόνο στην ετικέτα)
Η Mattel απαντά ότι τα προϊόντα της θα είναι για «μεγαλύτερους πελάτες», αλλά οι ειδικοί θυμίζουν: «Τα Barbie τα παίζουν και τα 4χρονα».
Το μήνυμα είναι σαφές: Φέτος τα Χριστούγεννα, το πιο ασφαλές δώρο μπορεί να είναι ένα απλό, κλασικό αρκουδάκι – χωρίς μικρόφωνο και internet.
Πηγή: Pagenews.gr