My AΙ – Το εργαλείο τεχνητής νοημοσύνης του Snapchat και τι κινδύνους «κρύβει» για τα παιδιά

saferinternet4kids

Ένα νέο chatbot τεχνητής νοημοσύνης με την ονομασία «Μy AI» είναι πλέον διαθέσιμο στους χρήστες του Snapchap.

Θεραπευτικό video game για παιδιά με διαταραχή ελλειμματικής προσοχής (ΔΕΠΥ)

Οι χρήστες του «My AI» μπορούν να το προσθέτουν σε ομαδικές συνομιλίες και να απευθύνονται στον εικονικό βοηθό προκειμένου να τους λύσει οποιαδήποτε απορία προκύπτει. Όπως έχει ήδη ανακοινωθεί μάλιστα, οι χρήστες θα μπορούν επί πληρωμή, στο άμεσο μέλλον να στέλνουν φωτογραφίες στον εικονικό βοηθό και εκείνος να τους στέλνει πίσω εικόνες που έχουν δημιουργηθεί πλήρως ή μερικώς από αυτό το εργαλείο τεχνητής νοημοσύνης. Παρόμοια με το ChatGPT, οι χρήστες μπορούν να κάνουν πραγματικές ερωτήσεις, να ζητούν δημιουργικό περιεχόμενο και να έχουν συνεχείς συνομιλίες με την υπηρεσία.

Όπως σημειώνει η ίδια η εταιρεία, σε μια συνομιλία η τεχνητή νοημοσύνη μπορεί να απαντήσει σε οποιαδήποτε ερώτηση όπως π.χ. ποιο είναι το τέλειο δώρο για τα γενέθλια του αγοριού σας ή τι να μαγειρέψετε για ένα ρομαντικό δείπνο αλλά είναι πιθανό οι απαντήσεις του My AI να περιλαμβάνουν προκατειλημμένο, εσφαλμένο, επιβλαβές ή παραπλανητικό περιεχόμενο. «Επειδή το My AI είναι μια εξελισσόμενη λειτουργία, θα πρέπει πάντα να ελέγχετε ανεξάρτητα τις απαντήσεις που παρέχονται από το My AI πριν βασιστείτε σε οποιαδήποτε συμβουλή και δεν θα πρέπει να μοιράζεστε εμπιστευτικές ή ευαίσθητες πληροφορίες» τονίζει η ίδια η εταιρεία και προτρέπει τους χρήστες – αν συμβεί κάτι τέτοιο – να αναφέρουν αμέσως το γεγονός πατώντας παρατεταμένα σε οποιαδήποτε απάντηση του My AI για την υποβολή σχολίων.

Μια άλλη συμβουλή που δίνει η εταιρεία προς τους χρήστες της είναι να το κοινοποιούν στους φίλους του όταν στην δημιουργία περιεχομένου εμπλέκονται εργαλεία τεχνητής νοημοσύνης. Νέα εφαρμογή COSMOTE CHRONOS / Τα σπουδαιότερα μνημεία της πολιτιστικής μας κληρονομιάς ζωντανεύουν ξανά στο κινητό σας!

Τι προσωπικά δεδομένα χρησιμοποιεί το My AΙ;

Το περιεχόμενο που μοιράζεστε με το My AΙ, συμπεριλαμβανομένης της τοποθεσίας σας μπορεί να χρησιμοποιηθεί από το εργαλείο για να παρέχει σχετικές απαντήσεις στα αιτήματά σας. Τα δεδομένα σας ενδέχεται επίσης να χρησιμοποιηθούν για την προβολή εξατομικευμένων διαφημίσεων.  Μπορείτε να διαγράψετε περιεχόμενο που αποστέλλεται στη «Συζήτησή» σας στο My AI εντός 24 ωρών. Μπορείτε επίσης να διαγράψετε προηγούμενο περιεχόμενο που είχατε μοιραστεί με το My AI ακολουθώντας τα παρακάτω βήματα:

• Πάτα πάνω στο εικονίδιο του προφίλ και άνοιξε τις ρυθμίσες (settings)
• Πήγαινε στο “Privacy control” και πάτα “clear data”

Πώς χειρίζεται το «My AΙ»  ευαίσθητα θέματα συνομιλίας;

Η εταιρεία αναφέρει:

• Το Μy AΙ έχει προγραμματιστεί να συμμορφώνεται με ορισμένες οδηγίες για να διασφαλίσει ότι οι πληροφορίες που παρέχει δεν είναι ακατάλληλες ή επιβλαβείς. Αυτό περιλαμβάνει την αποφυγή απαντήσεων που είναι βίαιες, περιέχουν ρητορική μίσους, είναι προσβλητικές κ.α.
• Το My AI είναι έτσι προγραμματισμένο ώστε να κατανοεί ζητήματα ασφάλειας που σχετίζονται με το Snapchat και έχει εξοικειωθεί με τους όρους αυτόματης ανίχνευσης γλώσσας. Η εταιρεία δηλώνει πως σε όλο το Snapchat αποκλείονται τα αποτελέσματα αναζήτησης για λέξεις-κλειδιά όπως ναρκωτικά και αργκό και αντίθετα προβάλλεται στο χρήστη εκπαιδευτικό περιεχόμενο από ειδικούς σχετικά με τους κινδύνους των ουσιών, του εθισμού και άλλων -το ίδιο ισχύει και για το My AI.

Ποια ήταν η βάση για την εκπαίδευση του My AΙ σε παραπληροφόρηση και διχαστικά θέματα;

Η υποκείμενη τεχνολογία του Μy AΙ, όπως δηλώνει η εταιρεία βασίζεται επί του παρόντος στην τεχνολογία του OpenAI που εκπαιδεύτηκε σε ένα μεγάλο και ποικίλο σώμα κειμένου, συμπεριλαμβανομένων διαφόρων τύπων κειμένων, όπως βιβλία, άρθρα και ιστοσελίδες. Αυτό το σώμα αντανακλά την ποικιλία των πληροφοριών που είναι διαθέσιμες στο διαδίκτυο, συμπεριλαμβανομένης της παραπληροφόρησης και διχαστικών θεμάτων.  Η εκπαίδευση του My AI σχεδιάστηκε για να αποφευχθεί η ενίσχυση επιβλαβών ή ανακριβών πληροφοριών και το μοντέλο είναι επίσης βελτιστοποιημένο ώστε να μειωθούν οι προκαταλήψεις στη γλώσσα και να δοθεί προτεραιότητα στις πραγματικές πληροφορίες. Παρόλα αυτά, το chatGPT στο οποίο στηρίζεται, δεν είναι συνδεδεμένο στο διαδίκτυο και μπορεί περιστασιακά να παράγει εσφαλμένες απαντήσεις. Έχει περιορισμένες γνώσεις για τον κόσμο και τα γεγονότα μετά το 2021 και μπορεί επίσης να παράγει περιστασιακά επιβλαβείς οδηγίες ή μεροληπτικό περιεχόμενο. Project Tailwind / Σημειωματάριο Τεχνητής Νοημοσύνης – Για φοιτητές, συγγραφείς και αναλυτές!

Πόσο ασφαλής είναι η χρήση του My AΙ για τα παιδιά;

Η ίδια η εταιρεία αναγνωρίζει κάποιους από τους κινδύνους που υπάρχουν. Αναφέρει χαρακτηριστικά ότι «το My AΙ μπορεί να περιλαμβάνει μεροληπτικό, εσφαλμένο, επιβλαβές ή παραπλανητικό περιεχόμενο». Ένα παιδί πως μπορεί να αναγνωρίσει το λάθος περιεχόμενο; Έχει την κατάλληλη εκπαίδευση; Και η κατανάλωση εσφαλμένου, παραπλανητικού ή μεροληπτικού περιεχομένου από ένα παιδί τι συνέπειες μπορεί να έχει;

Όταν ενσωματώνεται μια τέτοια τεχνολογία σε μια εφαρμογή που χρησιμοποιείται ευρέως από τα παιδιά θα πρέπει να διασφαλίζεται ότι οι χρήστες πληρούν τουλάχιστον τα επιτρεπόμενα ηλικιακά όρια. Γνωρίζουμε όμως πολύ καλά ότι τα παιδιά δηλώνουν ψεύτικη ηλικία και εγγράφονται σε εφαρμογές που δεν απευθύνονται στην πραγματική τους ηλικία χωρίς κανείς να μπορεί να ελέγξει ουσιαστικά αυτήν την πρακτική. Ένα μικρό παιδί λοιπόν είναι ακόμα πιο ευάλωτο όταν εκτίθεται σε μη ελεγμένο και κατάλληλο περιεχόμενο.

Επίσης, όπως αποκαλύπτει η ίδια η εταιρεία, το My AΙ συλλέγει προσωπικά στοιχεία. Όπως το περιεχόμενο των συζητήσεων και την τοποθεσία. Πόσο εξοικειωμένα είναι τα παιδιά στο να προστατεύουν τα προσωπικά τους δεδομένα;

Ένα άλλο σημείο στο οποίο θα πρέπει να δοθεί έμφαση είναι το γεγονός ότι το My AΙ δεν μπορεί να απενεργοποιηθεί. Εμφανίζεται στην κορυφή της ροής των φίλων είτε το θέλουμε είτε όχι.

Και φυσικά το μεγάλο ερώτημα είναι τι χρήση θα κάνουν τα παιδιά σε αυτόν το νέο εικονικό τους φίλο. Εδώ οι κίνδυνοι είναι πολλοί και καινούριοι… Από το αν θα αντικαταστήσει αυτός ο νέος φίλος την κριτική τους σκέψη, αν θα επέμβει στη διαδικασία μάθησης γράφοντας τις εργασίες τους ή αν θα μάθουν να ακούν τυφλά τις «συμβουλές» του.

H γονική επίβλεψη δεν είναι απλά επιθυμητή στο χειρισμό αυτής της νέας τεχνολογίας από τα παιδιά… Είναι επιβεβλημένη!

Πηγές:

Snapchat Support

Ηow do I report a chat received from my AI?

How my AI uses location data?

Staying safe with my AI

Προσοχή! Επιτρέπεται η αναδημοσίευση των πληροφοριών του παραπάνω άρθρου (όχι αυτολεξεί) ή μέρους αυτών μόνο αν:
– Αναφέρεται ως πηγή το e-wall.net στο σημείο όπου γίνεται η αναφορά.
– Στο τέλος του άρθρου ως Πηγή.
– Σε ένα από τα δύο σημεία να υπάρχει ενεργός σύνδεσμος.