Η OpenAI δεν θα δώσει στην κυκλοφορία το νέο της μοντέλο τεχνητής νοημοσύνης, GPT-6.1 Astra, λόγω ανησυχιών για την ασφάλεια, όπως επιβεβαίωσε την Τρίτη η εταιρεία που δημιούργησε το ChatGPT.
Το σύστημα τεχνητής νοημοσύνης – το οποίο εκτελεί αυτόνομα εργασίες όπως η περιήγηση στο διαδίκτυο και η χρήση εφαρμογών – «δεν ικανοποίησε πλήρως» τα πρότυπα της εταιρείας, δήλωσε στο BBC η Saachi Jain, επικεφαλής συστημάτων ασφαλείας της OpenAI.
Η OpenAI έδωσε μάλιστα στη δημοσιότητα ενημέρωση σχετικά με περιστατικά που συνέβησαν τον Ιούνιο, αλλά δεν είχαν γίνει γνωστά μέχρι την περασμένη εβδομάδα, κατά τα οποία τα μοντέλα της απέκτησαν πρόσβαση σε κυβερνητικούς ιστοτόπους και συστήματα της Αυστραλίας χωρίς εξουσιοδότηση.
Όπως επισημαίνει το BBC, αυτά τα περιστατικά, καθώς και παρόμοιες παραβιάσεις από μοντέλα που αναπτύχθηκαν από μεγάλες εταιρείες τεχνητής νοημοσύνης, έχουν εντείνει τις τελευταίες εβδομάδες τη συζήτηση γύρω από τους κινδύνους που ενέχει η εν λόγω τεχνολογία.
Κορυφαία στελέχη του κλάδου, συμπεριλαμβανομένων του Σαμ Άλτμαν της OpenAI και του Ντάριο Αμοντέι της Anthropic, έχουν καλέσει τη βιομηχανία να επιβραδύνει τον ρυθμό ανάπτυξης αυτών των μοντέλων, λόγω ανησυχιών για τους κινδύνους που συνδέονται με την τεχνολογία.
Η απόφαση της OpenAI, για την οποία έκανε πρώτη λόγο η Wall Street Journal, αποτελεί μια σπάνια περίπτωση όπου μια μεγάλη εταιρεία τεχνητής νοημοσύνης αποσύρει την κυκλοφορία ενός νέου μοντέλου λόγω ανησυχιών για την ασφάλεια.
Το μοντέλο υστερούσε σε ό,τι αφορά τη «διατήρησή του εντός των ορίων εφαρμογής και εξουσιοδότησης, καθώς και τον τρόπο ενημέρωσης του χρήστη για το είδος της εργασίας που έχει ολοκληρώσει», δήλωσε η Jain.
«Θέλουμε να διασφαλίσουμε ότι η ανάπτυξη των μοντέλων μας είναι ασφαλής, είτε αυτή πραγματοποιείται εντός της εταιρείας είτε κατά τη διάθεσή τους στους χρήστες. Ωστόσο, όταν τα διαθέτουμε στους χρήστες, θέτουμε εξαιρετικά υψηλά πρότυπα όσον αφορά την ασφάλεια και την ευθυγράμμιση [με τις ανθρώπινες αξίες]», δήλωσε η ίδια.
Το κορυφαίο μοντέλο GPT-6 Astra κυκλοφόρησε τον Σεπτέμβριο και ειδικεύεται στους σύνθετους συλλογισμούς και την αυτόνομη εκτέλεση εργασιών. Η OpenAI ανέφερε ότι το μοντέλο ήταν το αποτέλεσμα «πολυετούς έρευνας και τολμηρών εγχειρημάτων».
Η OpenAI πρόκειται να πραγματοποιήσει το ετήσιο συνέδριο προγραμματιστών DevDay στο Σαν Φρανσίσκο την Τρίτη, όπου αναμένεται να προβεί σε διάφορες ανακοινώσεις. Δεν είναι σαφές εάν ανάμεσα σε αυτές θα περιλαμβάνεται μια νέα έκδοση του Astra.
Οι μηχανισμοί ασφαλείας της εταιρείας έχουν βρεθεί στο επίκεντρο έντονης κριτικής και ελέγχου μετά από αρκετά περιστατικά υψηλού προφίλ που αφορούσαν την τεχνολογία της.
Διαβάστε περισσότερα
Efsyn.gr