Ένα λάθος που προέκυψε από τη χρήση τεχνητής νοημοσύνης (ΑΙ) παραλίγο να οδηγήσει τις ΗΠΑ σε στρατιωτική επιχείρηση εναντίον κινεζικού πλοίου, εν μέσω του πολέμου με το Ιράν, σύμφωνα με το CNN.
Η αμερικανική στρατιωτική ηγεσία είχε λάβει έκθεση πληροφοριών σύμφωνα με την οποία το πλοίο μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα πυρηνικών όπλων. Το περιστατικό προκάλεσε άμεση κινητοποίηση, με τον αμερικανικό στρατό να σχεδιάζει την αναχαίτιση του πλοίου.
Σύμφωνα με τέσσερις πηγές που γνωρίζουν το περιστατικό, ένοπλα μέλη των αμερικανικών ενόπλων δυνάμεων προετοιμάζονταν να επιβιβαστούν στο πλοίο, ενώ στρατιωτικά αεροσκάφη βρίσκονταν ήδη στον αέρα.
Λίγο πριν από την προγραμματισμένη επιχείρηση, ωστόσο, αξιωματούχοι εξέτασαν λεπτομερέστερα την έκθεση, η οποία είχε συνταχθεί από αναλυτή της Διοίκησης Ειδικών Επιχειρήσεων, και διαπίστωσαν ότι είχε δημιουργηθεί με τη βοήθεια AI.
Το κρίσιμο λάθος είχε γίνει από ένα chatbot που χρησιμοποίησε ο αναλυτής, το οποίο αναγνώρισε λανθασμένα το φορτίο του πλοίου. Το CNN δεν κατάφερε να διαπιστώσει ποιο ήταν στην πραγματικότητα το υλικό που μεταφερόταν.
«Η έκθεση ήταν εντελώς ψευδής», ανέφερε μία από τις πηγές, προσθέτοντας ότι «παραλίγο να ξεκινήσει έναν πόλεμο». Μια αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να είχε προκαλέσει επικίνδυνη κλιμάκωση και να οδηγήσει ακόμη και σε ένοπλη σύγκρουση μεταξύ Ουάσινγκτον και Πεκίνου.
Πώς έγινε το λάθος
Σύμφωνα με τις πληροφορίες του CNN, ο αναλυτής έδωσε στο chatbot πληροφορίες σχετικά με το φορτωτικό έγγραφο του πλοίου, οι οποίες προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων Ειρηνικού των ΗΠΑ στη Χαβάη.
Δεν έχει διευκρινιστεί εάν επρόκειτο για εμπορικά διαθέσιμο chatbot ή για εργαλείο που είχε αναπτυχθεί από την αμερικανική κυβέρνηση.
Το σύστημα συνδύασε πληροφορίες από ανοιχτές πηγές με απόρρητες πληροφορίες σημάτων που υπήρχαν στα κυβερνητικά αρχεία και κατέληξε στο λανθασμένο συμπέρασμα για το φορτίο του πλοίου.
Στη συνέχεια, ο ίδιος αναλυτής χρησιμοποίησε ξανά την AI για να μετατρέψει τα ευρήματα σε τυπική έκθεση πληροφοριών, δηλαδή σε ένα έγγραφο που προορίζεται να αξιοποιηθεί από στρατιωτικούς αξιωματούχους, και τη διένειμε.
«Τα εσωτερικά εργαλεία είναι ως επί το πλείστον απλώς αντίγραφα των εμπορικών, με λίγο μακιγιάζ», δήλωσε πρώην ανώτερος Αμερικανός αξιωματούχος που γνωρίζει τα συστήματα AI τα οποία χρησιμοποιούνται από στρατιωτικούς και αναλυτές των υπηρεσιών πληροφοριών.
Η Διοίκηση Ειδικών Επιχειρήσεων Ειρηνικού και το Πεντάγωνο δεν απάντησαν σε αίτημα του CNN για σχόλιο.
Η AI μπαίνει βαθύτερα στον αμερικανικό στρατό
Το περιστατικό έρχεται την ώρα που οι αμερικανικές ένοπλες δυνάμεις επιταχύνουν τη χρήση τεχνητής νοημοσύνης, από την ανάλυση τεράστιου όγκου πληροφοριών και την επιλογή στόχων για πλήγματα έως τη διαχείριση προϋπολογισμών, logistics και εφοδιαστικών αλυσίδων.
Στόχος είναι η ταχύτερη λήψη αποφάσεων στο πεδίο της μάχης, όπως η επιλογή στόχων ή η μετακίνηση στρατιωτικών μέσων. Αμερικανοί αξιωματούχοι υποστηρίζουν ότι οι ΗΠΑ δεν μπορούν να μείνουν πίσω στην τεχνολογία, ιδιαίτερα ενόψει μιας πιθανής μελλοντικής σύγκρουσης με την Κίνα ή άλλον αντίπαλο.
Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ παρουσίασε τη «Στρατηγική Επιτάχυνσης της Τεχνητής Νοημοσύνης», με στόχο να επιταχυνθεί η ενσωμάτωση της AI στις αμερικανικές ένοπλες δυνάμεις.
«Θα απελευθερώσουμε τον πειραματισμό, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα επικεντρώσουμε τις επενδύσεις μας και θα αποδείξουμε την προσέγγιση εκτέλεσης που απαιτείται για να διασφαλίσουμε ότι θα ηγηθούμε στην τεχνητή νοημοσύνη στον στρατιωτικό τομέα», είχε δηλώσει ο Χέγκσεθ.
Η στρατηγική προβλέπει την ευρεία διάθεση εργαλείων AI στα περίπου τρία εκατομμύρια πολιτικά και στρατιωτικά στελέχη του υπουργείου, σε όλα τα επίπεδα διαβάθμισης.
Ωστόσο, σύμφωνα με Αμερικανούς αξιωματούχους, η εφαρμογή της στρατηγικής είναι αποκεντρωμένη. Διαφορετικές υπηρεσίες χρησιμοποιούν διαφορετικά εργαλεία, με διαφορετικές εντολές και πρότυπα ασφαλείας, ενώ δεν υπάρχει ένα ενιαίο σύστημα για την επαλήθευση των πληροφοριών που παράγει η AI.
Αυτό σημαίνει ότι η αξιοπιστία και οι δυνατότητες των συστημάτων ποικίλλουν σημαντικά μεταξύ των διαφορετικών τμημάτων του στρατού και της κοινότητας πληροφοριών.
Ο άμεσος κίνδυνος των «παραισθήσεων»
Το περιστατικό με το κινεζικό πλοίο αναδεικνύει έναν πιο άμεσο κίνδυνο από εκείνον που συζητείται συνήθως γύρω από την AI: όχι απαραίτητα μια τεχνητή νοημοσύνη που «ξεφεύγει» από τον ανθρώπινο έλεγχο, αλλά ανθρώπους που λαμβάνουν κρίσιμες αποφάσεις βασιζόμενοι σε λανθασμένες πληροφορίες που παράγονται από αυτοματοποιημένα συστήματα.
Οι πηγές του CNN αναφέρουν ότι η χρήση AI για τη στοχοποίηση αυξάνεται, την ώρα που δεν υπάρχουν σαφείς οδηγίες για το πώς η ανθρώπινη εποπτεία θα αποτρέπει απώλειες αμάχων ή περιστατικά φίλιων πυρών.
«Η AI στη στοχοποίηση είναι σίγουρα κάτι που αυξάνεται και δεν υπάρχει πραγματική καθοδήγηση σχετικά με το πώς η παρουσία ανθρώπου στη διαδικασία θα αποτρέψει απώλειες αμάχων ή περιστατικά φίλιων πυρών», δήλωσε πηγή που γνωρίζει τις τρέχουσες πολιτικές του αμερικανικού στρατού.
Σύμφωνα με μία από τις πηγές, το συγκεκριμένο περιστατικό δεν ήταν μεμονωμένο. Αντίστοιχες «παραισθήσεις» —δηλαδή παραγωγή πειστικών αλλά λανθασμένων πληροφοριών— έχουν καταγραφεί και αλλού στην κοινότητα των υπηρεσιών πληροφοριών από τότε που τα εργαλεία AI άρχισαν να διαδίδονται στην αμερικανική κυβέρνηση.
Παράλληλα, ορισμένοι πιο έμπειροι αξιωματούχοι ανησυχούν ότι η πίεση για ταχύτερη παραγωγή και διανομή πληροφοριών αυξάνει την πιθανότητα λαθών. Νεότεροι αναλυτές, σύμφωνα με αρκετές πηγές, είναι περισσότερο εξοικειωμένοι με τα εργαλεία AI και ενδέχεται να τα εμπιστεύονται χωρίς την απαραίτητη αμφισβήτηση.
«Η AI σού επιτρέπει να φτάσεις σε μια κακή ιδέα πιο γρήγορα», είπε χαρακτηριστικά μία από τις πηγές.
Διαβάστε περισσότερα
Efsyn.gr