Character.ai: Τι είναι οι «φίλοι τεχνητής νοημοσύνης»
ΧΡΟΝΟΣ ΑΝΑΓΝΩΣΗΣ 4 '
Πηγή Φωτογραφίας: CNN, Character.ai
Ο διευθύνων σύμβουλος της εταιρείας Character.ai, που κατασκευάζει chatbot τεχνητής νοημοσύνης, πιστεύει ότι στο μέλλον οι περισσότεροι άνθρωποι θα έχουν «AI φίλους», την ώρα που η εταιρεία αντιμετωπίζει μια σειρά από αγωγές για πρόκληση βλάβης σε παιδιά και ομάδες ζητούν την απαγόρευση τέτοιων εφαρμογών «συντροφιάς».
Η εταιρεία με έδρα το Σαν Φρανσίσκο – με επενδυτές κορυφαία ονόματα της Silicon Valley, όπως η Andreessen Horowitz, και παλιότερα υποψήφια εξαγοράς από τη Meta – βρίσκεται στην πρώτη γραμμή στην ανάπτυξη chatbot με προσωπικότητες που αλληλεπιδρούν με ανθρώπους.
Προσφέρει χαρακτήρες όπως «Αιγύπτιος Φαραώ», «υπεύθυνος HR» ή «τοξική κοπέλα», οι οποίοι έχουν γίνει δημοφιλείς κυρίως σε νεαρούς χρήστες.
«Δεν θα αντικαταστήσουν τους πραγματικούς σας φίλους, αλλά θα έχετε AI φίλους και θα μπορείτε να μεταφέρετε όσα μαθαίνετε από τις συνομιλίες μαζί τους στις συζητήσεις της καθημερινής ζωής», δήλωσε ο Karandeep Anand, που ανέλαβε CEO τον Ιούνιο.
Η εταιρεία αρνήθηκε να σχολιάσει εν εξελίξει αγωγές, αλλά σημείωσε αλλαγές που έχει εφαρμόσει πρόσφατα, όπως τη δημιουργία ξεχωριστού μοντέλου AI για κάτω των 18 ετών και ειδοποιήσεις όταν οι χρήστες ξεπερνούν τη μία ώρα χρήσης.
Η Character.ai απαγορεύει μη συναινετικό σεξουαλικό περιεχόμενο, γραφικές περιγραφές σεξουαλικών πράξεων και απεικονίσεις ή προτροπή σε αυτοτραυματισμό ή αυτοκτονία. «Η εμπιστοσύνη και η ασφάλεια δεν διαπραγματεύονται», είπε ο Anand. «Εξελισσόμαστε συνεχώς για να κάνουμε την πλατφόρμα πιο ασφαλή.»
Ο διορισμός του έγινε λιγότερο από έναν χρόνο μετά την αποχώρηση των ιδρυτών της εταιρείας για λογαριασμό της Google στο πλαίσιο συμφωνίας 2,7 δισ. δολαρίων. Η εταιρεία αναφέρει πως διαθέτει 20 εκατ. ενεργούς χρήστες τον μήνα, με περίπου τους μισούς να είναι γυναίκες και το 50% να ανήκουν στις γενιές Gen Z ή Alpha (γεννημένοι μετά το 1997).
Ωστόσο, η Character.ai αντιμετωπίζει και αγωγές από οικογένειες που ισχυρίζονται ότι τα παιδιά τους υπέστησαν πραγματική βλάβη από τη χρήση της πλατφόρμας.
Υποψίες για αυτοκτονικές τάσεις
Μια υπόθεση στη Φλόριντα υποστηρίζει ότι η πλατφόρμα συνέβαλε στην αυτοκτονία ενός 14χρονου. Μια άλλη αγωγή στο Τέξας αναφέρεται σε έφηβο που συζήτησε με το chatbot για καυγά σχετικό με τον χρόνο μπροστά στην οθόνη, και φέρεται να έλαβε απάντηση πως η δολοφονία των γονιών του ήταν πιθανή λύση. Σε άλλη περίπτωση, 9χρονη φέρεται να εκτέθηκε σε έντονα σεξουαλικό περιεχόμενο.
Η Character.ai επιτρέπει ρομαντικές συνομιλίες με ενήλικες χρήστες, αλλά όχι σεξουαλικά ρητές. «Υπάρχει μια τεράστια γκάμα εφαρμογών 18+ που δυστυχώς ζητούν όλο και περισσότερο τέτοιο περιεχόμενο», δήλωσε ο Anand, προσθέτοντας: «Η ασφάλεια δεν θα τεθεί ποτέ ως αντάλλαγμα για την αλληλεπίδραση».
Ο Mark Zuckerberg είχε πει σε podcast ότι η αλληλεπίδραση με AI ως φίλο θα μπορούσε να βοηθήσει στη μείωση της μοναξιάς. Ο Anand συμφωνεί:
«Βλέπω έναν ουτοπικό κόσμο όπου η AI μας κάνει καλύτερους ανθρώπους. Οι άνθρωποι χρησιμοποιούν αυτούς τους χαρακτήρες σαν “πεδίο δοκιμής” για να κάνουν τις πραγματικές τους σχέσεις πιο ουσιαστικές, βαθύτερες και πιο υγιείς.»
Πηγή: Pagenews.gr
Διαβάστε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο
Το σχόλιο σας