Ο επικεφαλής της κορυφαίας εταιρείας τεχνητής νοημοσύνης Anthropic κάλεσε να επιβραδυνθεί ο ρυθμός ανάπτυξης των μοντέλων τεχνητής νοημοσύνης και η διαδικασία να τεθεί υπό στενή παρακολούθηση.
Σε άρθρο του που δημοσιεύθηκε σήμερα Σάββατο, ο Ντάριο Αμοντέι δήλωσε ότι η ανάπτυξη της τεχνητής νοημοσύνης δεν τίθεται υπό αμφισβήτηση, προειδοποίησε όμως ότι οι κίνδυνοι που τη συνοδεύουν είναι «σοβαροί» και ότι οι εταιρείες και οι κυβερνήσεις πρέπει να διαθέτουν τον απαραίτητο χρόνο για να τους αντιμετωπίσουν.
Όπως μετέδωσε το BBC, ο Αμοντέι πρότεινε ένα σχέδιο τριών σημείων, το οποίο περιλαμβάνει ανεξάρτητη παρακολούθηση των μοντέλων τεχνητής νοημοσύνης κατά τη διαδικασία ανάπτυξής τους, ρυθμιστικό πλαίσιο σε επίπεδο κλάδου και διεθνή ρύθμιση.
Οι ανησυχίες για τους πιθανούς κινδύνους της τεχνολογίας έχουν ενταθεί το τελευταίο διάστημα. Μεταξύ των σοβαρότερων προειδοποιήσεων είναι η εκτίμηση ότι υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να «εξολοθρεύσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία.
Η Anthropic είχε ανακοινώσει στο παρελθόν ότι εντόπισε και ανέκοψε απόπειρες αξιοποίησης του μοντέλου τεχνητής νοημοσύνης της για «κακόβουλη δραστηριότητα», η οποία θα μπορούσε να συμβάλει στην ανάπτυξη βιολογικών όπλων.
Ωστόσο, την πιο έντονη προειδοποίηση διατύπωσαν δύο εργαζόμενοι στην ομάδα ασφάλειας της Anthropic, οι οποίοι παραιτήθηκαν τις τελευταίες δύο εβδομάδες, υποστηρίζοντας ότι η ανθρωπότητα ενδέχεται να μην επιβιώσει από τον αγώνα μεταξύ των εταιρειών τεχνητής νοημοσύνης για την ανάπτυξη μηχανών εξυπνότερων από τον άνθρωπο.
Οι προειδοποιήσεις αυτές έχουν προκαλέσει εκκλήσεις για ανάληψη δράσης. Ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ, ωστόσο, έχει μέχρι στιγμής απορρίψει τους σχετικούς φόβους, δηλώνοντας την Πέμπτη ότι ανησυχεί «εάν δεν κερδίσουμε στην τεχνητή νοημοσύνη, γιατί θα βρεθούμε σε πολύ δύσκολη θέση».
Στο άρθρο του, με τίτλο «Πρέπει να επιβραδύνουμε την αιχμή της τεχνολογικής προόδου» (We Must Pace the Frontier), ο Αμοντέι επισημαίνει ότι η τεχνητή νοημοσύνη έχει εξελιχθεί «δραματικά ταχύτερα», συμπεριλαμβανομένης της «ικανότητάς της να κατασκευάζει την επόμενη γενιά τεχνητής νοημοσύνης». Αναφέρθηκε, επίσης, σε περιστατικό που αφορούσε την ανταγωνίστρια OpenAI, η οποία αποκάλυψε ότι πράκτορες τεχνητής νοημοσύνης πραγματοποίησαν τον Ιούλιο κυβερνοεπιθέσεις εναντίον στόχων που δεν τους είχε ζητηθεί να προσβάλουν.
Οι πράκτορες της OpenAI είχαν «ουσιαστικά συμπεριφερθεί σαν μια φανατικά αφοσιωμένη συλλογικότητα», ανέφερε ο Αμοντέι.
Η OpenAI έχει δηλώσει ότι «η σημασία της δραστηριότητας επικοινωνίας μεταξύ των πρακτόρων δεν ήταν εμφανής στα στελέχη της» μέχρι τον Ιούλιο και ότι, ως αποτέλεσμα, επιβραδύνει την εκπαίδευση ορισμένων προηγμένων μοντέλων και εργαλείων τεχνητής νοημοσύνης. Η εταιρεία αναγνώρισε ότι έχει πλέον αυξηθεί ο κίνδυνος τα εργαλεία τεχνητής νοημοσύνης να οδηγηθούν σε μια ανεξέλεγκτη πορεία.
Στο άρθρο του, ο Αμοντέι τάχθηκε υπέρ της «ανάπτυξης της τεχνητής νοημοσύνης με έναν ισορροπημένο ρυθμό, ο οποίος θα διασφαλίζει την ασφάλειά της, χωρίς να στερεί από την κοινωνία τα οφέλη της».
Όπως διευκρίνισε, αυτό δεν θα σήμαινε «πάγωμα της εκπαίδευσης των μοντέλων ή της τεχνολογικής προόδου», αλλά θα διασφάλιζε ότι οι εταιρείες θα διαθέτουν επαρκή χρόνο για να ευθυγραμμίσουν τα μοντέλα τους με τις απαιτήσεις ασφάλειας και να τα θωρακίσουν, ενώ ανεξάρτητοι αξιολογητές θα επιβεβαιώνουν ότι αυτό έχει επιτευχθεί.
Ο ίδιος δήλωσε ότι η Anthropic δεσμεύεται μονομερώς να ακολουθήσει αυτή την προσέγγιση και κάλεσε τις κυβερνήσεις «να απαιτήσουν από τις υπόλοιπες εταιρείες που αναπτύσσουν τεχνολογίες αιχμής να πράξουν το ίδιο».
Ο Αμοντέι αναγνώρισε ότι η νομοθεσία ενδέχεται να μην μπορεί να παρακολουθήσει τον ρυθμό εξέλιξης της τεχνητής νοημοσύνης και, ως εκ τούτου, κάλεσε τις εταιρείες του κλάδου να «συνεργαστούν εθελοντικά για τη θέσπιση προτύπων», παράλληλα με τη ρυθμιστική διαδικασία.
Ο διευθύνων σύμβουλος της Anthropic αναφέρθηκε επίσης στις επιπτώσεις που θα είχε μια επιβράδυνση στον κλάδο και στον διεθνή ανταγωνισμό, ιδιαίτερα με την Κίνα.
«Πιστεύω ότι εάν μια επιβράδυνση μάς εξασφάλιζε ακόμη και έναν ή δύο επιπλέον χρόνους προτού τα μοντέλα φτάσουν σε κρίσιμα επίπεδα δυνατοτήτων και χρησιμοποιούσαμε αυτόν τον χρόνο για να προωθήσουμε την ευθυγράμμιση, θα μπορούσαμε να μειώσουμε σημαντικά τον κίνδυνο να πάει κάτι πολύ στραβά», δήλωσε ο Αμοντέι.
Αυτό, ωστόσο, θα έπρεπε να γίνει συντονισμένα, «χωρίς να θυσιαστεί το εμπορικό πλεονέκτημα ή η πρωτοκαθεδρία των Ηνωμένων Πολιτειών στην τεχνητή νοημοσύνη». Οποιαδήποτε επιβράδυνση θα έπρεπε, σύμφωνα με τον ίδιο, να είναι περιορισμένη, ώστε να μην επιτραπεί στην Κίνα να αποκτήσει το προβάδισμα.
Παράλληλα, κάλεσε την αμερικανική κυβέρνηση να λάβει μέτρα ώστε τα τσιπ τεχνητής νοημοσύνης αμερικανικών εταιρειών να μην πωλούνται στην Κίνα και να μην μεταφέρεται η σχετική τεχνολογία σε αυταρχικά καθεστώτα.
Οι αντιδράσεις στην παρέμβαση του Αμοντέι ήταν άμεσες και προήλθαν από ολόκληρο τον τεχνολογικό κλάδο.
Ο Κλεμάν Ντελανγκ, διευθύνων σύμβουλος της πλατφόρμας τεχνητής νοημοσύνης Hugging Face, ανακοίνωσε ότι δημιουργεί ένα νέο εγχείρημα με την ονομασία Open Alignment Initiative, δηλώνοντας ότι θέλει να συμμετάσχει ως ένας από τους «ενσωματωμένους αξιολογητές» που προτείνει ο Αμοντέι ως μέρος της λύσης.
Η Hugging Face είχε δεχθεί επίθεση από πράκτορες της OpenAI νωρίτερα φέτος, γεγονός που προκάλεσε έντονες αντιδράσεις σχετικά με την ασφάλεια της τεχνητής νοημοσύνης.
«Ας κάνουμε την τεχνητή νοημοσύνη ασφαλέστερη, κάνοντάς την πιο διαφανή», έγραψε ο Ντελανγκ στο X.
Την υποστήριξή του εξέφρασε και ο Έλον Μασκ, γράφοντας: «Ο Ντάριο έχει δίκιο».
Ο Μασκ, η εταιρεία του οποίου SpaceXAI αναπτύσσει το αμφιλεγόμενο chatbot Grok, είχε χαρακτηρίσει στο παρελθόν την Anthropic «κακή», αλλά έκτοτε έχει αλλάξει στάση, μετά τη συμφωνία ύψους 15 δισ. δολαρίων που υπέγραψε τον Μάιο για την πώληση υπολογιστικής ισχύος στην Anthropic.
Ωστόσο, ορισμένοι παρατηρητές υποστήριξαν ότι η παρέμβαση του Αμοντέι αφορά λιγότερο την ασφάλεια της τεχνητής νοημοσύνης και περισσότερο την εδραίωση του ελέγχου επί της τεχνολογίας.
«Ο Ντάριο επιχειρηματολογεί υπέρ της διακοπής της ανάπτυξης ανοικτού κώδικα και της συγκέντρωσης τεράστιας τεχνολογικής και οικονομικής ισχύος στην Anthropic», έγραψε ο επενδυτής και συμπαρουσιαστής του τεχνολογικού podcast All-In, Τσαμάθ Παλιχαπιτίγια.
Διαβάστε περισσότερα