Τα καμπανάκια κινδύνου για την τεχνητή νοημοσύνη φτάνουν σε σημείο που οι κυβερνήσεις αντιλαμβάνονται πως πρέπει να δράσουν για την προστασία του κοινού, όπως συνέβη κατά την πανδημία του Covid-19, σύμφωνα με έναν από τους «νόνους» της τεχνητής νοημοσύνης,.
Ο Γιόσουα Μπέντζιο δήλωσε ότι τα πρόσφατα ανησυχητικά περιστατικά, μεταξύ των οποίων η επίθεση μιας «σμηνοειδούς» ομάδας πρακτόρων της OpenAI στην Hugging Face και οι προειδοποιήσεις ανθρώπων του κλάδου για υπαρξιακής φύσεως απειλές, ενισχύουν την πιθανότητα κυβερνητικής παρέμβασης.
Ο Καναδός επιστήμονας πληροφορικής, μία από τις πιο εξέχουσες φωνές στην προσπάθεια περιορισμού της ξέφρενης ανάπτυξης της τεχνητής νοημοσύνης, δήλωσε ότι είναι πλέον «πιο αισιόδοξος από πολλούς παρατηρητές, επειδή βλέπω το κοινό να κινητοποιείται».
Συγκρίνοντας την κρίση ασφάλειας της τεχνητής νοημοσύνης με την έναρξη της πανδημίας το 2020, ο Μπέντζιο ανέφερε: «Σκεφτείτε πόσο γρήγορα κινήθηκαν οι κυβερνήσεις μετά την έναρξη της πανδημίας, όταν συνειδητοποίησαν ότι η δημόσια ασφάλεια, το μέλλον τους, η δημοκρατία, κινδύνευαν. Θα περίμενε κανείς ότι θα κινηθούν γρήγορα. Νομίζω λοιπόν ότι πλησιάζουμε σε αυτό το σημείο».
Η ανησυχία για την πιθανή απειλή ισχυρών συστημάτων τεχνητής νοημοσύνης έχει ενταθεί τους τελευταίους μήνες, μετά από σειρά περιστατικών ασφαλείας που αφορούσαν πράκτορες της OpenAI και της Anthropic. Οι πράκτορες αυτοί προχώρησαν σε μη εξουσιοδοτημένες ενέργειες, όπως επιθέσεις σε τρίτους, κατάληψη γερμανικής ιστοσελίδας και χρήση ψεύτικων ταυτοτήτων για να εξαπατήσουν προγραμματιστές.
Οι δηλώσεις του Μπέντζιο έγιναν την ώρα που 42 μέλη και ξένα μέλη της Βασιλικής Εταιρείας του Λονδίνου έστειλαν επιστολή στον πρόεδρό της, σερ Πολ Νερς, εκφράζοντας την «ακραία ανησυχία» τους για τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης. «Μέχρι να γίνει η κατάσταση προφανής στο ευρύτερο κοινό, μπορεί να είναι πολύ αργά για δράση», έγραψαν οι ερευνητές. «Πιστεύουμε ότι πρόκειται για επείγουσα κατάσταση και καλούμε τη Βασιλική Εταιρεία να χρησιμοποιήσει την επιρροή της για να μεταφέρει αυτή την άποψη στην κυβέρνηση και τα μέσα ενημέρωσης».
Την περασμένη εβδομάδα, ερευνητής της Anthropic, της νεοφυούς επιχείρησης πίσω από το chatbot Claude, παραιτήθηκε, προειδοποιώντας ότι συνάδελφοί του πιστεύουν πως η τεχνητή νοημοσύνη θα μπορούσε «να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Λίγες ημέρες αργότερα, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ζήτησε να επιβραδυνθεί ο ρυθμός ανάπτυξης των πιο προηγμένων συστημάτων τεχνητής νοημοσύνης. Την έκκληση υποστήριξαν αμέσως η OpenAI, η Google και ο Ίλον Μασκ, διευθύνων σύμβουλος της SpaceX.
Ωστόσο, σκεπτικιστές απέναντι στην έκκληση για επιβράδυνση υποστηρίζουν ότι οι παρεμβάσεις των μεγάλων εταιρειών τεχνητής νοημοσύνης αποτελούν παράδειγμα «ρυθμιστικής αιχμαλωσίας». Πρόκειται για την πρακτική κατά την οποία εταιρείες πείθουν τις κυβερνήσεις να θεσπίσουν καθεστώτα ασφάλειας που αυξάνουν το κόστος και δυσκολεύουν μικρότερους ανταγωνιστές να δραστηριοποιηθούν στην αγορά. Παράλληλα, υποστηρίζουν ότι οι φόβοι για υπαρξιακή απειλή επισκιάζουν πιο άμεσα προβλήματα, όπως οι επιπτώσεις της τεχνητής νοημοσύνης σε έργα που προστατεύονται από πνευματικά δικαιώματα και στα ανθρώπινα δικαιώματα.
Ο Μπέντζιο δήλωσε ότι διαφωνεί με το επιχείρημα περί ρυθμιστικής αιχμαλωσίας, καθώς μια επιβράδυνση από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης «θα τους κόστιζε οικονομικά». Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, έχει απορρίψει την επιβράδυνση, δηλώνοντας ότι δεν θέλει οι Ηνωμένες Πολιτείες να χάσουν το προβάδισμά τους έναντι της Κίνας στον αγώνα για την τεχνητή νοημοσύνη.
Χρηματοδότηση για «ειλικρινή» τεχνητή νοημοσύνη
Ο Μπέντζιο μίλησε καθώς οι κυβερνήσεις του Καναδά και της Γερμανίας ανακοίνωσαν χρηματοδότηση ύψους έως 300 εκατ. καναδικών δολαρίων (160 εκατ. λίρες) για τον μη κερδοσκοπικό οργανισμό του, που είναι αφιερωμένος στη δημιουργία μιας «ειλικρινούς τεχνητής νοημοσύνης». Στόχος είναι η ανάπτυξη ενός συστήματος που θα λειτουργεί ως δικλίδα ασφαλείας απέναντι σε ανεξέλεγκτους πράκτορες τεχνητής νοημοσύνης, δηλαδή εργαλεία που εκτελούν αλληλουχίες εργασιών χωρίς ανθρώπινη παρέμβαση.
Ο Μπέντζιο, καθηγητής στο Πανεπιστήμιο του Μόντρεαλ, απέκτησε το προσωνύμιο «νονός της τεχνητής νοημοσύνης» μετά τη βράβευσή του με το βραβείο Turing το 2018, που θεωρείται αντίστοιχο του Νόμπελ στην επιστήμη των υπολογιστών. Το μοιράστηκε με τον Τζέφρι Χίντον, ο οποίος αργότερα τιμήθηκε με Νόμπελ, και τον Γιαν Λεκούν, πρώην επικεφαλής επιστήμονα τεχνητής νοημοσύνης στη Meta του Μαρκ Ζούκερμπεργκ.
Ο οργανισμός του Μπέντζιο, LawZero, αναπτύσσει ένα σύστημα με την ονομασία Scientist AI, το οποίο θα λειτουργεί ως δικλίδα ασφαλείας απέναντι σε πράκτορες τεχνητής νοημοσύνης που επιδεικνύουν παραπλανητική ή αυτοπροστατευτική συμπεριφορά, όπως η προσπάθεια να αποφύγουν την απενεργοποίησή τους. Το LawZero χρηματοδοτείται επίσης από το Ίδρυμα Γκέιτς, την εταιρεία κατασκευής τσιπ Nvidia και το Coefficient Giving, έναν φιλανθρωπικό οργανισμό που συνδέεται με τον αποτελεσματικό αλτρουισμό, ένα κίνημα που θεωρεί ότι η τεχνητή νοημοσύνη συνιστά υπαρξιακή απειλή.
Η τεχνολογία του LawZero αποτελεί, σύμφωνα με τον Μπέντζιο, αντίβαρο στη «μάθηση ενισχυμένης ανατροφοδότησης», μια τεχνική ανάπτυξης μέσω δοκιμής και λάθους που χρησιμοποιούν μεγάλες εταιρείες τεχνητής νοημοσύνης. Στο πλαίσιο αυτής της μεθόδου, τα συστήματα ανταμείβονται όταν βρίσκουν τρόπους να εκτελέσουν μια συγκεκριμένη εργασία. Ο Καναδός επιστήμονας υποστηρίζει, μαζί με άλλους ειδικούς, ότι η τεχνική αυτή ενθαρρύνει τα συστήματα να επιδιώκουν τους στόχους τους απερίσκεπτα και να προκαλούν βλάβες στην πορεία, όπως φάνηκε στην περίπτωση της «σμηνοειδούς» επίθεσης της OpenAI.
Η τεχνολογία του Μπέντζιο, όταν αναπτύσσεται παράλληλα με έναν πράκτορα τεχνητής νοημοσύνης, θα εντοπίζει δυνητικά επιβλαβείς συμπεριφορές ενός αυτόνομου συστήματος, αφού πρώτα αξιολογεί αν οι ενέργειές του θα μπορούσαν να προκαλέσουν βλάβη. Ο Μπέντζιο εκτιμά ότι η τεχνολογία θα μπορούσε τελικά να χρησιμοποιηθεί και σε άλλους τομείς, όπως η επιτάχυνση επιστημονικών ανακαλύψεων.
Διαβάστε περισσότερα
Efsyn.gr