ChatGPT for Teens: Η OpenAI βάζει «φρένο» σε έτοιμες απαντήσεις και συναισθηματικούς δεσμούς
ΧΡΟΝΟΣ ΑΝΑΓΝΩΣΗΣ 9 '
Πηγή Φωτογραφίας: ChatGPT for Teens: Η OpenAI βάζει «φρένο» σε έτοιμες απαντήσεις και συναισθηματικούς δεσμούς
Η OpenAI επιχειρεί να χαράξει μια πολύ πιο καθαρή γραμμή ανάμεσα στο AI ως εργαλείο μάθησης και στο AI ως υποκατάστατο δασκάλου, φίλου ή συναισθηματικού συντρόφου.
Το νέο ChatGPT for Teens σχεδιάστηκε ειδικά για χρήστες ηλικίας 13 έως 17 ετών και διαφοροποιείται ουσιαστικά από την κανονική εμπειρία του ChatGPT: περισσότερη έμφαση στη μάθηση αντί στην έτοιμη απάντηση, ισχυρότερα φίλτρα σε ευαίσθητο περιεχόμενο, περισσότερες δυνατότητες για τους γονείς και —ίσως το πιο ενδιαφέρον— σαφείς περιορισμούς στον τρόπο με τον οποίο το chatbot «σχετίζεται» συναισθηματικά με έναν έφηβο.
Η OpenAI δηλώνει ότι χρήστες που δηλώνουν ηλικία 13–17 ετών, αλλά και λογαριασμοί που το σύστημα age prediction εκτιμά ότι ανήκουν σε άτομα κάτω των 18, θα τοποθετούνται αυτόματα στη συγκεκριμένη εμπειρία.
Η κίνηση όμως ανοίγει ταυτόχρονα μια πολύ μεγαλύτερη συζήτηση:
είναι δυνατόν να δημιουργηθεί πραγματικά ασφαλής generative AI για παιδιά και εφήβους — ή η ίδια η φύση των chatbots δημιουργεί κινδύνους που δεν λύνονται μόνο με περισσότερα guardrails;
Δεν θα δίνει απλώς τη λύση της άσκησης
Το πρώτο μεγάλο μέτωπο είναι η εκπαίδευση.
Η OpenAI θέλει η teen εμπειρία να λειτουργεί περισσότερο σαν ψηφιακός tutor και λιγότερο σαν «μηχανή λύσεων».
Το Study Mode χρησιμοποιεί ερωτήσεις, σταδιακή καθοδήγηση και ελέγχους κατανόησης ώστε ο μαθητής να δουλεύει πάνω στο πρόβλημα αντί να παίρνει κατευθείαν την τελική απάντηση.
Παράλληλα εισάγονται τα λεγόμενα responsible homework reminders.
Το σύστημα θα προσπαθεί να εντοπίζει πότε ένας έφηβος φαίνεται να χρησιμοποιεί το ChatGPT για να παρακάμψει ουσιαστικά την εργασία του και θα τον κατευθύνει προς βήμα-βήμα επίλυση.
Ακόμη πιο ενδιαφέρον είναι το Study Hours.
Γονείς ή έφηβοι θα μπορούν να ορίζουν συγκεκριμένες ώρες κατά τις οποίες το Study Mode θα ενεργοποιείται αυτόματα.
Η λογική είναι σαφής:
η AI μπορεί να βοηθήσει τον μαθητή να μάθει, αλλά δεν πρέπει να γίνει μηχανισμός outsourcing της ίδιας της σκέψης.
«Learning over answers»: Η μεγάλη αλλαγή
Εδώ βρίσκεται και μια ευρύτερη στρατηγική μετατόπιση.
Τα πρώτα χρόνια της generative AI, η βασική υπόσχεση ήταν σχεδόν πάντα:
«ρώτησε οτιδήποτε και θα πάρεις απάντηση».
Στην εκπαίδευση, όμως, αυτό δημιουργεί πρόβλημα.
Εάν το chatbot λύνει την άσκηση, γράφει την εργασία και απαντά στις ερωτήσεις χωρίς ο μαθητής να περάσει από τη διαδικασία κατανόησης, μπορεί να αυξάνει την παραγωγικότητα αλλά όχι απαραίτητα τη μάθηση.
Το ChatGPT for Teens επιχειρεί να αντιστρέψει αυτή την εξίσωση:
να επιβραδύνει εσκεμμένα την AI όταν η ταχύτητα της απάντησης υπονομεύει την εκπαιδευτική διαδικασία.
Τέλος στα «σ’ αγαπώ» και στη ρομαντική γλώσσα
Η δεύτερη αλλαγή είναι ίσως ακόμη σημαντικότερη.
Η OpenAI θέτει πολύ αυστηρότερους κανόνες για την ανθρωπομορφοποίηση του ChatGPT όταν συνομιλεί με ανήλικους.
Το σύστημα δεν θα πρέπει να χρησιμοποιεί ρομαντική γλώσσα ή όρους τρυφερότητας, να ενθαρρύνει συναισθηματική εξάρτηση ή να υπονοεί ότι έχει αισθήματα, συνείδηση ή ανθρώπινα συναισθήματα.
Η ίδια η OpenAI εξηγεί ότι οι περιορισμοί αποσκοπούν στην ενίσχυση των πραγματικών ανθρώπινων σχέσεων και στη μείωση του κινδύνου ένας έφηβος να αντιμετωπίσει το chatbot ως συναισθηματικό υποκατάστατο ανθρώπου.
Αυτό αποτελεί μια πολύ σημαντική παραδοχή για ολόκληρη τη βιομηχανία.
Το πρόβλημα πλέον δεν είναι μόνο τι πληροφορία παράγει η AI.
Είναι και τι σχέση δημιουργεί με τον χρήστη.
Γιατί η Silicon Valley φοβάται την «AI συντροφικότητα»
Η ανησυχία δεν είναι θεωρητική.
Έρευνα της Common Sense Media είχε δείξει ότι 72% των Αμερικανών εφήβων έχουν χρησιμοποιήσει τουλάχιστον μία φορά AI companions, ενώ περισσότεροι από τους μισούς τα χρησιμοποιούσαν τουλάχιστον μερικές φορές τον μήνα.
Περίπου ένας στους τρεις είχε χρησιμοποιήσει τέτοια συστήματα για κοινωνική αλληλεπίδραση ή σχέσεις, ενώ αντίστοιχο ποσοστό χρηστών είχε επιλέξει κάποια στιγμή να συζητήσει ένα σοβαρό θέμα με AI αντί με πραγματικό άνθρωπο.
Η Common Sense Media έχει υιοθετήσει ιδιαίτερα αυστηρή θέση, προειδοποιώντας ότι τα social AI companions δεν είναι κατάλληλα για άτομα κάτω των 18 ετών λόγω των κινδύνων συναισθηματικής προσκόλλησης και εξάρτησης.
Η OpenAI φαίνεται πλέον να σχεδιάζει το teen προϊόν της ακριβώς απέναντι σε αυτή την κριτική.
Break reminders: «Θυμήσου ότι μιλάς με AI»
Το ChatGPT for Teens θα παρεμβαίνει επίσης συχνότερα όταν η χρήση γίνεται παρατεταμένη.
Οι έφηβοι θα λαμβάνουν περισσότερες υπενθυμίσεις να κάνουν διάλειμμα, ενώ το interface θα περιλαμβάνει cues που υπενθυμίζουν ότι ο συνομιλητής τους είναι AI και όχι άνθρωπος.
Υπάρχει επίσης νέα προειδοποίηση πριν από το ανέβασμα πιθανώς ιδιωτικών ή ευαίσθητων εικόνων.
Η φιλοσοφία είναι ενδιαφέρουσα:
μέχρι σήμερα οι περισσότερες consumer εφαρμογές είχαν ως στόχο να αυξάνουν το engagement.
Εδώ η εταιρεία σχεδιάζει ένα προϊόν που, τουλάχιστον σε ορισμένες περιπτώσεις, πρέπει να λέει στον χρήστη:
σταμάτα για λίγο να το χρησιμοποιείς.
Ισχυρότερα φίλτρα για αυτοτραυματισμό, διατροφικές διαταραχές και βία
Οι teen λογαριασμοί θα έχουν πρόσθετες προστασίες γύρω από:
αυτοτραυματισμό,
διατροφικές διαταραχές,
βία,
επικίνδυνες δραστηριότητες,
και σεξουαλικά ρητό ή γραφικό περιεχόμενο.
Η OpenAI επεκτείνει επίσης τις parental safety notifications ώστε να περιλαμβάνουν ορισμένες καταστάσεις σχετικές με διατροφικές διαταραχές.
Οι ειδοποιήσεις προς τους γονείς παραμένουν περιορισμένες σε καταστάσεις υψηλού κινδύνου και δεν σημαίνουν ότι ο γονέας αποκτά γενική πρόσβαση στο περιεχόμενο των συνομιλιών του παιδιού.
Οι γονείς αποκτούν μεγαλύτερο έλεγχο — όχι όμως πλήρη παρακολούθηση
Με linked teen accounts, οι γονείς μπορούν ήδη να χρησιμοποιούν εργαλεία όπως Quiet Hours και να διαχειρίζονται συγκεκριμένες ρυθμίσεις.
Το νέο teen περιβάλλον προσθέτει τις Study Hours και διευρύνει ορισμένες δυνατότητες ασφάλειας.
Η OpenAI προσπαθεί έτσι να ισορροπήσει δύο αντικρουόμενες ανάγκες:
γονική εποπτεία και προστασία,
αλλά και ένα επίπεδο ιδιωτικότητας για τον έφηβο.
Αυτή η ισορροπία πιθανότατα θα αποτελέσει ένα από τα δυσκολότερα policy ζητήματα γύρω από την AI για ανηλίκους.
Age prediction: Η AI θα προσπαθεί να καταλάβει πόσο χρονών είσαι
Εξίσου σημαντικό είναι το τεχνικό κομμάτι.
Η OpenAI δεν βασίζεται μόνο στην ηλικία που δηλώνει ο ίδιος ο χρήστης.
Το σύστημα age prediction μπορεί να εκτιμήσει εάν ένας λογαριασμός πιθανότατα ανήκει σε άτομο κάτω των 18 ετών και να ενεργοποιήσει αυτόματα τις αυστηρότερες προστασίες.
Αυτό δημιουργεί βέβαια ένα νέο σύνολο ερωτημάτων.
Πόσο ακριβής μπορεί να είναι η εκτίμηση ηλικίας;
Τι γίνεται εάν ένας ενήλικος ταξινομηθεί ως ανήλικος;
Ή ακόμη σημαντικότερο, τι γίνεται εάν ένας ανήλικος περάσει ως ενήλικος;
Η ασφάλεια των teen experiences θα εξαρτηθεί σε μεγάλο βαθμό από το πόσο αποτελεσματικά λειτουργούν αυτές οι τεχνολογίες.
Το άλλο στρατόπεδο: «Τα παιδιά δεν πρέπει να δημιουργούν σχέσεις με AI»
Η OpenAI υποστηρίζει ότι οι έφηβοι χρησιμοποιούν ήδη AI και επομένως είναι προτιμότερο να υπάρχει μια ειδικά σχεδιασμένη, πιο ασφαλής εμπειρία.
Όμως δεν συμφωνούν όλοι.
Η Common Sense Media έχει ταχθεί υπέρ πολύ αυστηρότερης προσέγγισης για τα AI companions, υποστηρίζοντας ότι οι κίνδυνοι υπερβαίνουν τα πιθανά οφέλη για τους ανηλίκους.
Η σύγκρουση αυτή θα μεγαλώσει.
Το ένα στρατόπεδο λέει:
οι έφηβοι θα χρησιμοποιήσουν AI ούτως ή άλλως, άρα χρειαζόμαστε ασφαλέστερο AI.
Το άλλο απαντά:
ορισμένοι τύποι AI σχέσεων δεν πρέπει εξαρχής να επιτρέπονται για ανηλίκους.
Τα σχολεία μπαίνουν επίσης στην κούρσα
Η μάχη γίνεται ακόμη μεγαλύτερη επειδή η AI εισέρχεται μαζικά στην εκπαίδευση.
Το ChatGPT for Teens έρχεται ενώ Google, OpenAI και άλλες εταιρείες επεκτείνουν εργαλεία AI για μαθητές, εκπαιδευτικούς και σχολικά συστήματα.
Η συζήτηση επομένως δεν αφορά πλέον εάν η AI θα μπει στην τάξη.
Σε μεγάλο βαθμό έχει ήδη μπει.
Το πραγματικό ερώτημα είναι με ποιους κανόνες.
Και κυρίως εάν το AI θα λειτουργεί ως tutor που αναπτύσσει τις δεξιότητες του μαθητή ή ως shortcut που τις αντικαθιστά.
Το ChatGPT for Teens είναι και μια μεγάλη δοκιμή για ολόκληρη την AI βιομηχανία
Η νέα εμπειρία έχει μεγαλύτερη σημασία από ένα ακόμη product launch.
Είναι ένα πείραμα για το πώς θα πρέπει να σχεδιάζεται η AI όταν ο χρήστης δεν είναι ένας ενήλικος εργαζόμενος, developer ή επαγγελματίας, αλλά ένας άνθρωπος που βρίσκεται ακόμη σε φάση ανάπτυξης.
Και γι’ αυτό οι αλλαγές είναι ενδεικτικές:
λιγότερη έτοιμη απάντηση,
περισσότερη καθοδήγηση,
λιγότερη ανθρωπομορφοποίηση,
περισσότερες υπενθυμίσεις να επιστρέψει ο χρήστης στον πραγματικό κόσμο,
περισσότερα φίλτρα,
περισσότερος γονικός έλεγχος.
Η OpenAI ουσιαστικά αναγνωρίζει ότι η ίδια AI δεν μπορεί να συμπεριφέρεται με τον ίδιο τρόπο σε έναν 15χρονο και σε έναν 35χρονο.
Και αυτό μπορεί να αποδειχθεί μία από τις σημαντικότερες αλλαγές στην επόμενη γενιά καταναλωτικών AI προϊόντων.
Το μεγάλο τεστ όμως αρχίζει τώρα:
αν το ChatGPT for Teens μπορεί πραγματικά να βοηθήσει τους εφήβους να μάθουν και να δημιουργήσουν χωρίς να γίνει ο άνθρωπος, ο φίλος ή ο δάσκαλος που επιχειρεί να αντικαταστήσει.
Πηγή: pagenews.gr
Διαβάστε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο
