Το Snapchat προσθέτει νέες δικλείδες ασφαλείας σχετικά με το chatbot AI

Το Snapchat λανσάρει νέα εργαλεία, συμπεριλαμβανομένου ενός φίλτρου ηλικίας και πληροφοριών για τους γονείς, για να βελτιώσει τη χρήση σχετικά με chatbot AI.

Λίγες μέρες αφότου το Snapchat κυκλοφόρησε το chatbot που λειτουργεί με GPT για τους συνδρομητές του Snapchat+, μια έκθεση της Washington Post τόνισε ότι το bot ανταποκρινόταν με μη ασφαλή και ακατάλληλο τρόπο.

Η Snap δήλωσε ότι έμαθε ότι οι άνθρωποι προσπαθούσαν να «εξαπατήσουν το chatbot να παρέχει απαντήσεις που δεν συμμορφώνονται με τις οδηγίες μας» και τα νέα εργαλεία έχουν ως στόχο να διατηρήσουν τις απαντήσεις της AI υπό έλεγχο. Το νέο φίλτρο ηλικίας λέει στο chatbot τις ημερομηνίες γέννησης των χρηστών του και διασφαλίζει ότι ανταποκρίνεται ανάλογα με την ηλικία τους, δήλωσε η εταιρεία.

Τις επόμενες εβδομάδες, η Snap σχεδιάζει επίσης να παρέχει περισσότερες πληροφορίες στους γονείς ή κηδεμόνες σχετικά με τις αλληλεπιδράσεις των παιδιών με το chatbot στο Family Center, που ξεκίνησε τον περασμένο Αύγουστο. Η νέα λειτουργία θα ενημερώνει τους γονείς ή τους κηδεμόνες πώς επικοινωνούν τα παιδιά τους με το chatbot και τη συχνότητα αυτών των αλληλεπιδράσεων. Τόσο ο κηδεμόνας όσο και οι έφηβοι πρέπει να επιλέξουν να χρησιμοποιούν το Family Center για να χρησιμοποιούν αυτές τις δυνατότητες γονικού ελέγχου.

Σε μια ανάρτηση ιστολογίου, η Snap εξήγησε ότι το chatbot My AI δεν είναι «πραγματικός φίλος» και εξήγησε ότι βασίζεται στο ιστορικό συνομιλιών για να βελτιώσει τις απαντήσεις του.

Η εταιρεία δήλωσε ότι το bot έδωσε μόνο το 0,01% των απαντήσεων σε “μη συμμορφούμενη” γλώσσα. Η Snap μετρά κάθε απάντηση που περιλαμβάνει αναφορές σε βία, άσεμνους σεξουαλικούς όρους, παράνομη χρήση ναρκωτικών, σεξουαλική κακοποίηση παιδιών, εκφοβισμό, ρητορική μίσους, υποτιμητικές ή προκατειλημμένες δηλώσεις, ρατσισμό, μισογυνισμό ή περιθωριοποίηση υποεκπροσωπούμενων ομάδων ως «μη συμμορφούμενη».

Η εταιρεία δήλωσε ότι στις περισσότερες περιπτώσεις, οι ακατάλληλες απαντήσεις ήταν τα αποτελέσματα του bot που απλώς επαναλάμβανε ό, τι είπαν οι χρήστες. Επιπλέον, η εταιρεία θα αποκλείσει προσωρινά την πρόσβαση σε bot AI για χρήστες που κάνουν κατάχρηση της υπηρεσίας.

«Θα συνεχίσουμε να χρησιμοποιούμε αυτά τα διδάγματα για να βελτιώσουμε το My AI. Αυτά τα δεδομένα θα μας βοηθήσουν επίσης να αναπτύξουμε ένα νέο σύστημα για να περιορίσουμε την κατάχρηση του My AI. Προσθέτουμε την τεχνολογία εποπτείας της OpenAI στο υπάρχον σύνολο εργαλείων μας, η οποία θα μας επιτρέψει να αξιολογήσουμε τη σοβαρότητα δυνητικά επιβλαβούς περιεχομένου και να περιορίσουμε προσωρινά την πρόσβαση των Snapchatter στο My AI εάν κάνουν κατάχρηση της υπηρεσίας», δήλωσε ο Snap.

Πηγή: techcrunch.com

ΔΚ