Η Κίνα προτείνει κανόνες για την τεχνητή νοημοσύνη με ανθρώπινη αλληλεπίδραση

Η Κίνα επιχειρεί να χαράξει αυστηρό ρυθμιστικό πλαίσιο για την «ανθρωπόμορφη» τεχνητή νοημοσύνη, δείχνοντας ότι βλέπει την AI όχι μόνο ως εργαλείο καινοτομίας, αλλά και ως πιθανή κοινωνική και πολιτική απειλή που απαιτεί στενή εποπτεία.

Η ρυθμιστική αρχή για τον κυβερνοχώρο της Κίνας δημοσίευσε σχέδιο νέων κανόνων που στοχεύουν στη καθοδήγηση και εποπτεία των συστημάτων τεχνητής νοημοσύνης (ΑΙ) τα οποία μιμούνται ανθρώπινες προσωπικότητες και αλληλεπιδρούν συναισθηματικά με τους χρήστες. Οι νέοι κανόνες — που τώρα τίθενται σε δημόσια διαβούλευση — αντικατοπτρίζουν την προσπάθεια του Πεκίνου να θέσει δεδομένα ασφάλειας, ηθικής και κοινωνικής ευθύνης στο ταχέως αναπτυσσόμενο πεδίο της καταναλωτικής AI.

Τι προβλέπουν οι προτεινόμενοι κανόνες

Οι αρχές της Κίνας ζητούν να διευρυνθεί η εποπτεία των AI υπηρεσιών που προσφέρονται στο κοινό και χαρακτηρίζονται από:

• Μίμηση ανθρώπινων χαρακτηριστικών, όπως προσωπικότητα, μοτίβα σκέψης και συναισθηματική αλληλεπίδραση μέσω κειμένου, εικόνων, ήχου ή βίντεο.
• Υποχρεωτικές προειδοποιήσεις προς χρήστες για αποφυγή υπερβολικής χρήσης της πλατφόρμας και για πιθανές ενδείξεις εξάρτησης από την υπηρεσία.
• Υποχρέωση επέμβασης σε περιπτώσεις όπου χρήστες δείχνουν συμπεριφορές που υποδηλώνουν εξάρτηση ή έντονα συναισθήματα εξάρτησης από την AI.
• Ανάληψη ευθύνης ασφάλειας από τους παρόχους καθ’ όλη τη διάρκεια ζωής του προϊόντος, συμπεριλαμβανομένων των συστημάτων ανασκόπησης αλγορίθμων, ασφάλειας δεδομένων και προστασίας προσωπικών πληροφοριών.

Στόχος των ρυθμίσεων

Οι προτεινόμενοι κανόνες επιχειρούν να αντιμετωπίσουν ψυχολογικούς κινδύνους και να ενισχύσουν την υπεύθυνη ανάπτυξη της AI:

• Οι εταιρείες πρέπει να εκτιμούν την κατάσταση των χρηστών, συμπεριλαμβανομένων των συναισθηματικών τους καταστάσεων και του βαθμού εξάρτησης από την τεχνολογία, και να λαμβάνουν μέτρα όταν παρατηρούνται ακραίες συμπεριφορές ή συμπτώματα εξάρτησης.
• Υπάρχει καθορισμός κόκκινων γραμμών περιεχομένου, απαγορεύοντας AI παραγωγές που μπορούν να απειλήσουν την εθνική ασφάλεια, να διαδίδουν ψευδείς ειδήσεις, να προωθούν βία ή ανάρμοστο περιεχόμενο.

Διαφάνεια και ενημέρωση των χρηστών

Ορισμένες εκδοχές του σχεδίου θέτουν περαιτέρω προϋποθέσεις, όπως:

• Ενημέρωση των χρηστών ότι αλληλεπιδρούν με σύστημα AI — όχι με πραγματικό άνθρωπο — όταν συνδέονται στην υπηρεσία, καθώς και σε τακτά χρονικά διαστήματα, ειδικά αν εντοπιστούν συμπτώματα εξάρτησης.

Δημόσια διαβούλευση και επόμενα βήματα

Το σχέδιο κανόνων τέθηκε σε δημόσια διαβούλευση, δίνοντας περιθώριο σχολίων από επαγγελματίες, εταιρείες και πολίτες πριν από την πιθανή τελική υιοθέτησή του.

Η κίνηση αυτή δείχνει ότι η Κίνα, ως μία από τις μεγαλύτερες αγορές και παραγωγούς τεχνητής νοημοσύνης στον κόσμο, προχωρά με ρυθμιστικά εργαλεία που προσπαθούν να ελέγξουν ταυτόχρονα την καινοτομία, την ασφάλεια και την κοινωνική σταθερότητα στην εποχή των έξυπνων και συναισθηματικά έξυπνων συστημάτων AI.

Πηγή: Pagenews.gr