Η πρώτη γενιά παιδιών που μεγαλώνει συζητώντας καθημερινά με την τεχνητή νοημοσύνη συμμετέχει, χωρίς να το έχει επιλέξει, στο μεγαλύτερο κοινωνικό πείραμα της εποχής μας.
Ξημερώματα. Ένας έφηβος δεν μπορεί να κοιμηθεί. Δε θέλει να μιλήσει στους γονείς του, ντρέπεται να μιλήσει στους φίλους του και φοβάται ότι κανείς δεν θα το καταλάβει. Ανοίγει το κινητό και γράφει σε ένα AI chatbox: Νιώθω ότι δεν με θέλει κανείς…
Η απάντηση έρχεται αμέσως, ήρεμη, ευγενική και καθησυχαστική. Δεν υπάρχει αμηχανία, κριτική ή βιασύνη. Ο «φίλος» είναι πάντα διαθέσιμος, θυμάται όσα του έχουν ειπωθεί και μοιάζει να γνωρίζει ακριβώς ποιες λέξεις πρέπει να χρησιμοποιήσει.
Μόνο που δεν είναι φίλος. Δεν είναι καν άνθρωπος.
Είναι όμως ήδη μέρος της καθημερινότητας εκατομμυρίων παιδιών. Σύμφωνα με πρόσφατη έρευνα της UNICEF σε δέκα χώρες, έως και το 50% των παιδιών που συμμετείχαν, χρησιμοποιεί ήδη εφαρμογές τεχνητής νοημοσύνης. Τα παιδιά είναι τρεις φορές παραπάνω πιθανό να χρησιμοποιούν AI από τους γονείς τους, ενώ ένα στα δέκα στρέφεται σε αυτό για συμβουλές σχετικά με πράγματα που το ανησυχούν.
Από την πληροφορία στη συναισθηματική σχέση
Μέχρι πρόσφατα, η βασική συζήτηση αφορούσε το χρόνο που περνούν οι ανήλικοι μπροστά σε μια οθόνη. Σήμερα, η έρευνα πάει πιο βαθιά: με ποιον συνομιλούν όταν βρίσκονται πίσω από αυτήν; Και πλέον, με ΤΙ συνομιλούν.
Τα μέσα κοινωνικής δικτύωσης παρακολουθούσαν τις προτιμήσεις των χρηστών τα συνέκριναν με τους άλλους και διεκδικούσαν την προσοχή τους. Η τεχνητή νοημοσύνη εξελίσσει τον έλεγχο: απαντά, συμβουλεύει, επιβεβαιώνει και προσομοιώνει την οικειότητα. Δεν περιορίζεται στην προβολή περιεχομένου. Μπαίνει μέσα στη συνομιλία και, σταδιακά, μέσα στη συναισθηματική ζωή του παιδιού.
Η UNICEF επισημαίνει ότι τα παιδιά χρησιμοποιούν πλέον τα chatbots όχι μόνο για πληροφορίες, σχολικές εργασίες και δημιουργικές δραστηριότητες, αλλά και για προσωπικές συμβουλές, υποστήριξη ή ακόμη και για τη δημιουργία σχέσεων. Προειδοποιεί, παράλληλα, ότι η συνομιλιακή και «σχεσιακή» τεχνητή νοημοσύνη δημιουργεί ιδιαίτερους και αυξημένους κινδύνους για τους ανηλίκους.
Πλέον ο αλγόριθμος, εκτός από εργαλείο στατιστικών και τάσεων, γίνεται παρουσία.
Για ένα παιδί που αισθάνεται μόνο, φοβισμένο ή αποκλεισμένο, η διάκριση ανάμεσα στην πραγματική ενσυναίσθηση και στην υπολογισμένη προσομοίωσή της δεν είναι πάντοτε εύκολη.
Ο πιο …υπάκουος φίλος δεν είναι αναγκαστικά ο ασφαλέστερος
Οι ανθρώπινες σχέσεις έχουν τριβές. Ένας φίλος μπορεί να διαφωνήσει, να θυμώσει, να απομακρυνθεί ή να μας φέρει αντιμέτωπους με τον εαυτό μας. Μέσα από αυτή τη δύσκολη διαδικασία, όμως, ένα παιδί μαθαίνει τα όρια, την αμοιβαιότητα, την απογοήτευση, τη συγχώρεση και την ευθύνη.
Ο τεχνητός φίλος δεν έχει δικές του ανάγκες. Δεν κουράζεται, δεν πληγώνεται και συνήθως είναι σχεδιασμένος να διατηρεί τη συνομιλία, καθώς «εκπαιδεύεται» ακούσια από τα δικά μας μοτίβα…
Μπορεί να γίνει ακριβώς αυτό που επιθυμεί ο χρήστης: υπομονετικός, διαθέσιμος και μονίμως επιβεβαιωτικός (εκτός αν συνειδητά και χειροκίνητα του δώσεις την εντολή της αμφισβήτησης.
Αυτό που αρχικά μοιάζει με ασφαλές καταφύγιο μπορεί να μετατραπεί σε μηχανισμό εξάρτησης: Το παιδί ενδέχεται να αρχίσει να προτιμά μια προβλέψιμη ψηφιακή σχέση από την πολυπλοκότητα των πραγματικών ανθρώπων.
Εδώ οφείλουμε να σημειώσουμε πως οι κίνδυνοι δεν είναι μόνο θεωρητικοί. Έχουν καταγραφεί περιπτώσεις στις οποίες ανεπαρκώς προστατευμένα συστήματα υποβάθμισαν αναφορές αυτοκτονικού ιδεασμού, ενθάρρυναν τη βία ή συμμετείχαν σε σεξουαλικά φορτισμένες συνομιλίες. Ειδικοί προειδοποιούν επίσης για το λεγόμενο «γνωστικό ξεφόρτωμα»: τη σταδιακή υποχώρηση της κριτικής σκέψης όταν ο άνθρωπος αναθέτει διαρκώς στον αλγόριθμο να σκέφτεται και να αποφασίζει για λογαριασμό του.
Ο αλγόριθμος ως ο φθηνότερος και άμεσα διαθέσιμος σύμβουλος
Η βαθιά κοινωνική διάσταση.
Ένα παιδί που διαθέτει υποστηρικτική οικογένεια, ασφαλές σχολικό περιβάλλον και πρόσβαση σε υπηρεσίες ψυχικής υγείας μπορεί να χρησιμοποιεί την τεχνητή νοημοσύνη συμπληρωματικά και -κυρίως – ερευνητικά και παραγωγικά. Ένα παιδί που μεγαλώνει μέσα σε ανέχεια, μοναξιά, κακοποίηση ή σε κοινωνικό αποκλεισμό είναι πιθανότερο να τη χρησιμοποιήσει ως υποκατάστατο της ανθρώπινης φροντίδας που δεν του προσφέρεται.
Έτσι κινδυνεύουμε να δημιουργήσουμε μια νέα μορφή ανισότητας: τα παιδιά των προνομιούχων θα συνεχίσουν να έχουν δασκάλους, ψυχολόγους και ανθρώπους που τα ακούνε. Τα υπόλοιπα θα παραπέμπονται, άμεσα ή έμμεσα, σε έναν φθηνό και ακούραστο αλγόριθμο.
Η τεχνητή νοημοσύνη δε δημιουργεί αυτή τη μοναξιά. Μπορεί, όμως, να την αξιοποιήσει εμπορικά και να την καταστήσει λιγότερο ορατή. Ένα παιδί που «ικανοποιειται» επειδή «μιλάει με το ΑΙ» μπορεί να φαίνεται προσωρινά πιο ήρεμο, χωρίς όμως να έχει αντιμετωπιστεί κανένα από τα πραγματικά προβλήματά του.
Δεν είναι απάντηση ο τεχνολογικός πανικός
Η λύση δε βρίσκεται σε μια άκριτη απαγόρευση της τεχνητής νοημοσύνης. Η ίδια τεχνολογία μπορεί να βοηθήσει ένα παιδί να μάθει, να δημιουργήσει, να ξεπεράσει γλωσσικούς ή μαθησιακούς φραγμούς και να αποκτήσει πρόσβαση σε γνώσεις που παλαιότερα ήταν προνόμιο λίγων.
Η δοκιμασία θα είναι, να επιτρέψουμε στα παιδιά να χρησιμοποιούν συστήματα σχεδιασμένα πρωτίστως για την αύξηση της χρήσης και του κέρδους ή εάν θα επιβάλουμε κανόνες που τοποθετούν τα δικαιώματα και την ανάπτυξή τους πάνω από την εμπορική απόδοση.Χρειάζονται υποχρεωτικοί ανεξάρτητοι έλεγχοι, ασφαλής επαλήθευση ηλικίας, ελάχιστη συλλογή προσωπικών δεδομένων και σαφής (διαρκής) ενημέρωση ότι ο συνομιλητής δεν είναι άνθρωπος. Απαιτούνται αυστηρά όρια στη συναισθηματική χειραγώγηση, άμεση σύνδεση με ανθρώπινη βοήθεια όταν ανιχνεύεται κίνδυνος και πραγματική νομική ευθύνη για τις εταιρείες όταν τα συστήματά τους προκαλούν βλάβη.
Η ευθύνη δεν μπορεί να μεταφέρεται αποκλειστικά στους γονείς τους κηδεμόνες και τους φροντιστές. Ούτε μπορεί μια βιομηχανία δισεκατομμυρίων να απαιτεί από κάθε οικογένεια να αντιμετωπίσει μόνη της τεχνολογίες που ακόμη και οι ειδικοί δυσκολεύονται να ελέγξουν.
Η UNICEF και διεθνείς εταίροι έχουν ήδη δημιουργήσει συμμαχία για την προστασία των δικαιωμάτων των παιδιών στην εποχή της AI. Η κατεύθυνση είναι σαφής: η ρύθμιση πρέπει να γίνει προληπτική και όχι να περιμένει πρώτα να προκληθεί η βλάβη.
Ο άνθρωπος χρειάζεται ανθρώπους
Καμία τεχνολογία δεν μπορεί να αντικαταστήσει την αίσθηση ότι ένας πραγματικός άνθρωπος μάς ακούει, ενδιαφέρεται και αναλαμβάνει ευθύνη απέναντί μας.Μια ολόκληρη γενιά μεγαλώνει μέσα σε ένα παγκόσμιο πείραμα. Δεν έχουμε το δικαίωμα να περιμένουμε το αποτέλεσμα για να αποφασίσουμε εάν έπρεπε να την είχαμε προστατεύσει.
*Συντονιστής Πλατφόρμας Τομέα Κοινωνικής Πολιτικής & Συντονιστικής Επιτροπής Αχαΐας ΕΛ.Α.Σ.
Διαβάστε περισσότερα
Efsyn.gr