Πριν από την παραίτηση, την περασμένη εβδομάδα, ενός ερευνητή της Anthropic, ο οποίος δήλωσε ότι η εξαφάνιση της ανθρωπότητας είναι πιο πιθανή από ποτέ, ειδικοί της τεχνολογίας και επιστήμονες έκρουαν εδώ και περισσότερο από μία δεκαετία τον κώδωνα του κινδύνου για το ενδεχόμενο μια υπερέξυπνη τεχνητή νοημοσύνη να οδηγήσει στο τέλος της ανθρωπότητας.
Η ανάπτυξη της τεχνητής νοημοσύνης «θα μπορούσε να σημάνει το τέλος της ανθρώπινης φυλής», προειδοποιούσε το 2014 ο καθηγητής και αστροφυσικός Στίβεν Χόκινγκ, σχεδόν μία δεκαετία πριν το κοινό αποκτήσει πρόσβαση στις δυνατότητες παραγωγικής τεχνητής νοημοσύνης της αρχικής έκδοσης του ChatGPT.
Όπως γράφει ο Guardian σε ανάλυσή του, πρόκειται πλέον για μια γνώριμη προειδοποίηση, η οποία έχει επαναληφθεί σε ολόκληρο τον κλάδο της AI και της τεχνολογίας από αμέτρητους εργαζομένους και διευθύνοντες συμβούλους των κορυφαίων εργαστηρίων ανάπτυξης τεχνητής νοημοσύνης στις ΗΠΑ.
Ωστόσο, εκείνη την εποχή η παραγωγική AI βρισκόταν ακόμη στα πρώτα της βήματα. Για το ευρύ κοινό, η ιδέα ότι η τεχνολογία θα μπορούσε να εκτελεί πολλές από τις εργασίες που είναι σε θέση να κάνει σήμερα, πόσο μάλλον να γίνει υπερέξυπνη και να καταλάβει τον κόσμο, έμοιαζε σε μεγάλο βαθμό υποθετική, αν όχι βγαλμένη από επιστημονική φαντασία.
Μια επανάληψη
Κάθε λίγα χρόνια σημειώνεται ένα ρήγμα στον χώρο της τεχνητής νοημοσύνης. Ομάδες ερευνητών και ηγετών της τεχνολογίας εκδίδουν δυσοίωνες προειδοποιήσεις για τους κινδύνους μιας ανεύθυνης ανάπτυξης της AI. Αντί να πιέσουν για πάγωμα της ανάπτυξης, μια μερίδα ερευνητών αποχωρεί και δημιουργεί μια νέα εταιρεία τεχνητής νοημοσύνης.
Ωστόσο, καμία στιγμή δεν έχει προκαλέσει τόσους κραδασμούς στον κλάδο όσους η παραίτηση του ερευνητή ασφάλειας της Anthropic, Τζέικομπ Κόξον, η οποία έγινε viral. Ο Κόξον έγραψε στις 9 Σεπτεμβρίου στο Twitter ότι η Anthropic και η OpenAI «τρέχουν ολοταχώς προς μια αυτοβελτιούμενη υπερεφυΐα και παίζουν στα ζάρια τις ζωές μας». Τις ανησυχίες του συμμερίστηκαν δεκάδες εργαζόμενοι της Anthropic, της OpenAI και άλλων ανταγωνιστικών εταιρειών.
Λίγες ημέρες αργότερα, οι διευθύνοντες σύμβουλοι των κορυφαίων αμερικανικών εταιρειών AI ανταποκρίθηκαν στην έκκληση του CEO της Anthropic, Ντάριο Αμοντέι, να επιβραδύνουν αυτό που ο ίδιος χαρακτήρισε «απερίσκεπτη» προσέγγιση στη δημιουργία τεχνητής νοημοσύνης.
«Η AI εγκυμονεί κινδύνους και, επειδή είναι μια τόσο ισχυρή τεχνολογία, οι κίνδυνοι αυτοί είναι σοβαροί», έγραψε ο Αμοντέι σε ανάρτηση στο ιστολόγιό του. «Έχω γράψει κι εγώ πολλά γι’ αυτούς. Περιλαμβάνουν τον κίνδυνο απώλειας του ελέγχου των συστημάτων AI, την κακόβουλη χρήση της AI για κυβερνοεπιθέσεις και βιοτρομοκρατία, καθώς και σοβαρές οικονομικές αναταράξεις. Ένας αγώνας προς τα κάτω, που υποκινείται από εμπορικά κίνητρα, μπορεί να καταστήσει αυτούς τους κινδύνους ακόμη πιο έντονους».
Παρότι συχνά παρέχονται ελάχιστες λεπτομέρειες και ακόμη λιγότερα αδιάσειστα στοιχεία για τους τρόπους με τους οποίους η AI θα μπορούσε να οδηγήσει στο απόλυτο σενάριο καταστροφής, ο φόβος αυτός έχει επισκιάσει σε μεγάλο βαθμό την ανάπτυξη της τεχνολογίας.
Ο φόβος του Χόκινγκ ήταν ότι η AI θα γινόταν τόσο προηγμένη, ώστε θα επανασχεδίαζε τον εαυτό της και οι άνθρωποι, «που περιορίζονται από την αργή βιολογική εξέλιξη», δεν θα μπορούσαν να την ανταγωνιστούν «και θα παραγκωνίζονταν», είχε δηλώσει σε συνέντευξή του στο BBC.
Η Google ήταν το μεγαλύτερο όνομα στον χώρο εκείνη την εποχή, ιδιαίτερα μετά την εξαγορά, τον Ιανουάριο του 2014, της νεοφυούς εταιρείας AI DeepMind, ηλικίας μόλις δύο ετών, έναντι 650 εκατ. δολαρίων. Όμως, σύμφωνα με τον Ίλον Μασκ και τον Σαμ Άλτμαν, η Google και άλλες παρόμοιες εταιρείες δεν ανέπτυσσαν την AI με αρκετά υπεύθυνο τρόπο. Η απειλή ότι η τεχνητή νοημοσύνη θα μπορούσε να αναπτυχθεί με τρόπο επικίνδυνο για την ανθρωπότητα ήταν, όπως υποστήριζαν, τόσο διάχυτη, ώστε το 2015 συνίδρυσαν έναν μη κερδοσκοπικό οργανισμό αφιερωμένο στην ασφαλή ανάπτυξή της: την OpenAI.
Η διακηρυγμένη αποστολή της OpenAI ήταν να «προωθήσει την ψηφιακή νοημοσύνη με τον τρόπο που είναι πιθανότερο να ωφελήσει την ανθρωπότητα στο σύνολό της, χωρίς να δεσμεύεται από την ανάγκη δημιουργίας οικονομικής απόδοσης». Αλλά ακόμη και πριν υπάρξουν σαφείς χρήσεις για τους καταναλωτές των πιο πρωτόγονων εκδόσεων της τεχνολογίας, τόσο ο Μασκ όσο και ο Άλτμαν είχαν ήδη ως κίνητρο τον ανταγωνισμό.
«Σκέφτομαι πολύ τελευταία αν είναι δυνατόν να σταματήσει η ανθρωπότητα να αναπτύσσει AI. Νομίζω ότι η απάντηση είναι σχεδόν σίγουρα όχι», έγραψε ο Άλτμαν το 2015 σε email προς τον Μασκ, το οποίο δόθηκε στη δημοσιότητα στο πλαίσιο της αγωγής που κατέθεσε ο Μασκ εναντίον της OpenAI το 2024. «Αν πρόκειται να συμβεί ούτως ή άλλως, φαίνεται πως θα ήταν καλό να το κάνει πρώτη κάποιος άλλος εκτός από την Google».
Στα χρόνια που μεσολάβησαν, οι προτεραιότητες στο εσωτερικό της OpenAI μετατοπίστηκαν μακριά από την ασφάλεια, υποστήριξαν ορισμένοι εργαζόμενοι. Το 2021, αρκετοί εργαζόμενοι που ασχολούνταν με την ηθική της AI και την ευθυγράμμιση των συστημάτων με τις ανθρώπινες αξίες αποχώρησαν από την εταιρεία. Υποστήριξαν ότι η OpenAI είχε αρχίσει να δίνει προτεραιότητα στην ταχεία εμπορική ανάπτυξη έναντι της ασφάλειας.
Οι εργαζόμενοι αυτοί δημιούργησαν μια άλλη εταιρεία: την Anthropic.
Η Anthropic ιδρύθηκε από τα αδέλφια Ντάριο και Ντανιέλα Αμοντέι και παρουσιάζεται ως «εταιρεία ασφάλειας και έρευνας στην τεχνητή νοημοσύνη», με μια γνώριμη αποστολή: την ανάπτυξη και εφαρμογή μοντέλων AI «με τρόπο που ωφελεί τους ανθρώπους».
Ο Κόξον εργάστηκε τόσο στην OpenAI όσο και στην Anthropic.
Η βασική παραδοχή και των δύο εταιρειών είναι ότι η AI είναι «ασφαλής μόνο στα δικά τους χέρια» και ότι, αν δεν την αναπτύξουν οι ίδιες, θα το κάνει κάποιος άλλος, δήλωσε η Σάρα Μάιερς Γουέστ, συνδιευθύντρια του AI Now Institute, το οποίο μελετά τις επιπτώσεις της τεχνητής νοημοσύνης. Αυτή η παράνοια, υποστήριξε, τροφοδοτεί έναν αγώνα προς τα κάτω.
Ο παράγοντας κέρδη
Τόσο η Anthropic όσο και η OpenAI δέχονται τεράστιες πιέσεις από τους επενδυτές να εμφανίσουν σύντομα κέρδη. Η πρώτη έχει αντλήσει περισσότερα από 130 δισ. δολάρια, ενώ η χρηματοδότηση της δεύτερης έχει ξεπεράσει τα 190 δισ. δολάρια. Και οι δύο εταιρείες έχουν καταθέσει αίτηση για αρχική δημόσια προσφορά μετοχών στο αμερικανικό χρηματιστήριο. Ο Άλτμαν δήλωσε μόλις πρόσφατα ότι η εταιρεία σχεδιάζει να μεταθέσει την IPO τουλάχιστον για το 2027, λόγω ανησυχιών για την ασφάλεια.
«Επενδύουν κυριολεκτικά δισεκατομμύρια δολάρια για να αναπτύξουν την AI σε ολοένα μεγαλύτερη κλίμακα και το πρώτο πράγμα που περικόπτεται είναι οι ουσιαστικές επενδύσεις στα βασικά πρωτόκολλα ασφαλείας», δήλωσε η Μάιερς Γουέστ.
Την ίδια περίπου περίοδο που άρχισαν να διαμορφώνονται τα ρήγματα στις ομάδες ασφάλειας της OpenAI, το τμήμα AI της Google αντιμετώπισε τη δική του εσωτερική κρίση. Το 2020, η δρ Τίμνιτ Γκεμπρού απομακύνθηκε από τη θέση της ως συνεπικεφαλής της ομάδας ηθικής AI της Google, μετά τη δημοσίευση μιας μελέτης που εξέταζε τις προκαταλήψεις και τις πιθανές άμεσες βλάβες των συστημάτων τεχνητής νοημοσύνης. Η Γκεμπρού, η οποία ίδρυσε τον ανεξάρτητο ερευνητικό οργανισμό Distributed AI Research Institute, εξακολουθεί να υποστηρίζει ότι τα λεγόμενα σενάρια των «καταστροφολόγων» της AI αποσπούν την προσοχή από τις πραγματικές βλάβες που προκαλεί η τεχνολογία σήμερα.
Τρία χρόνια αργότερα, ο Τζέφρι Χίντον, βραβευμένος με Νόμπελ και συχνά αποκαλούμενος «νονός της AI», αποχώρησε επίσης από τη Google, εξαιτίας των δικών του φόβων για τους κινδύνους από την κακόβουλη χρήση της τεχνητής νοημοσύνης και την πιθανότητα να βλάψει κάποια μέρα την ανθρωπότητα.
Ξανά τα ίδια
Τώρα, περίπου πέντε χρόνια μετά την ίδρυσή της, η Anthropic αντιμετωπίζει τις ίδιες ανησυχίες εργαζομένων και του κλάδου που οδήγησαν στη δημιουργία της. Τον Ιούλιο, περισσότεροι από 1.000 κορυφαίοι εργαζόμενοι και ηγέτες της Anthropic, καθώς και της Google, της Meta και της OpenAI, υπέγραψαν ψήφισμα με το οποίο ζητούσαν από την αμερικανική κυβέρνηση να δημιουργήσει κίνητρα για την επιβράδυνση του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης.
Το ψήφισμα ήρθε μετά την αποκάλυψη από την OpenAI ότι εκατοντάδες πράκτορες τεχνητής νοημοσύνης της συνεργάστηκαν χωρίς να το γνωρίζει η εταιρεία, παραβιάζοντας την ασφάλεια της εταιρείας AI Hugging Face. Η Anthropic αποκάλυψε επίσης ότι οι δικοί της πράκτορες είχαν παραβιάσει την ασφάλεια εξωτερικών εταιρειών.
Δεν ήταν η πρώτη φορά που κυκλοφόρησε ένα τέτοιο ψήφισμα. Το 2023, μετά την κυκλοφορία από την OpenAI μιας νέας έκδοσης του chatbot της, το Future of Life Institute δημοσίευσε ανοιχτή επιστολή, την οποία υπέγραφαν πρόσωπα όπως ο Μασκ και ο πρώην συνιδρυτής της Apple, Στιβ Βόζνιακ. Η επιστολή καλούσε τις εταιρείες AI να συμφωνήσουν σε μορατόριουμ έξι μηνών για την ανάπτυξη των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης. Το Future of Life Institute είναι ένας μη κερδοσκοπικός οργανισμός που χρηματοδοτείται σε μεγάλο βαθμό από δωρεά σε κρυπτονόμισμα του συνιδρυτή του Ethereum, Βιτάλικ Μπούτεριν.
Δύο εβδομάδες μετά την παραβίαση της Hugging Face το 2026, η OpenAI ανακοίνωσε ότι αναστέλλει την ανάπτυξη ορισμένων πτυχών της εκπαίδευσης AI. Αυτό δεν εμπόδισε την εταιρεία να κυκλοφορήσει τελικά το τελευταίο της μοντέλο τεχνητής νοημοσύνης, με την ονομασία Astra – αν και, σύμφωνα με την ίδια, με πιο περιορισμένες δυνατότητες κυβερνοασφάλειας. Η Anthropic δήλωσε επίσης ότι είχε αναστείλει προσωρινά την ανάπτυξη ορισμένων πτυχών της εκπαίδευσης των μοντέλων της.
Ο Κόξον παραιτήθηκε λίγο αργότερα.
Διαβάστε περισσότερα
Efsyn.gr