Αποκάλυψη CNN: Η AI παραλίγο να προκαλέσει σύγκρουση ΗΠΑ – Κίνας λόγω λανθασμένης πληροφορίας

Ένα σοβαρό περιστατικό που αποκαλύπτει τους κινδύνους από την ανεξέλεγκτη ή πλημμελώς ελεγμένη χρήση της Τεχνητής Νοημοσύνης στον τομέα των στρατιωτικών πληροφοριών φέρεται να σημειώθηκε στις Ηνωμένες Πολιτείες, όταν μια λανθασμένη ανάλυση που δημιουργήθηκε με τη βοήθεια συστήματος AI παραλίγο να οδηγήσει σε επιχείρηση εναντίον κινεζικού πλοίου στη Μέση Ανατολή.

Σύμφωνα με αποκάλυψη του CNN, η εσφαλμένη αναφορά κυκλοφόρησε στις αμερικανικές ένοπλες δυνάμεις την περασμένη άνοιξη, σε μια περίοδο ιδιαίτερα αυξημένης έντασης λόγω του πολέμου με το Ιράν. Η αναφορά υποστήριζε ότι κινεζικό πλοίο που βρισκόταν στη Μέση Ανατολή μετέφερε εξαρτήματα τα οποία συνδέονταν με πρόγραμμα ανάπτυξης πυρηνικών όπλων.

Η πληροφορία αντιμετωπίστηκε ως ιδιαίτερα σοβαρή από τις αμερικανικές στρατιωτικές υπηρεσίες. Σύμφωνα με πηγές που επικαλείται το CNN, άρχισαν να καταρτίζονται σχέδια για την αναχαίτιση του πλοίου, ενώ εξετάστηκε ακόμη και το ενδεχόμενο επιβίβασης σε αυτό. Αμερικανικά στρατιωτικά αεροσκάφη φέρεται επίσης να είχαν ήδη απογειωθεί, πριν οι αρμόδιοι αξιωματούχοι προχωρήσουν σε νέο έλεγχο της επίμαχης πληροφορίας.

Ο επανέλεγχος αποκάλυψε ότι η αναφορά είχε συνταχθεί με τη βοήθεια εργαλείου Τεχνητής Νοημοσύνης, το οποίο είχε οδηγηθεί σε λανθασμένη αναγνώριση του φορτίου του πλοίου.

Το CNN δεν αναφέρει ποιο ήταν στην πραγματικότητα το φορτίο που παρερμηνεύθηκε από το σύστημα. Πηγή με γνώση της υπόθεσης, ωστόσο, χαρακτήρισε την αναφορά «εντελώς ψευδή», επισημαίνοντας ότι το περιστατικό θα μπορούσε να είχε πολύ σοβαρές συνέπειες, καθώς μια αμερικανική στρατιωτική επιχείρηση εναντίον κινεζικού πλοίου θα δημιουργούσε τον κίνδυνο άμεσης κλιμάκωσης μεταξύ Ουάσιγκτον και Πεκίνου.

Πώς δημιουργήθηκε η λανθασμένη αναφορά

Σύμφωνα με τις πληροφορίες του CNN, η υπόθεση ξεκίνησε όταν αναλυτής χρησιμοποίησε chatbot για να επεξεργαστεί δεδομένα σχετικά με το φορτίο του πλοίου. Οι πληροφορίες προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού των ΗΠΑ, η οποία εδρεύει στη Χαβάη. Το σύστημα AI φέρεται να συνδύασε στοιχεία από ανοιχτές πηγές με απόρρητες πληροφορίες σημάτων που ήταν διαθέσιμες σε κυβερνητικές βάσεις δεδομένων.

Ο συνδυασμός των δεδομένων οδήγησε το σύστημα σε λανθασμένο συμπέρασμα σχετικά με τη φύση του φορτίου. Το κρίσιμο πρόβλημα, σύμφωνα με το ρεπορτάζ, ήταν ότι η εσφαλμένη ανάλυση δεν έμεινε σε επίπεδο πρόχειρης εκτίμησης.

Ο αναλυτής χρησιμοποίησε εκ νέου την Τεχνητή Νοημοσύνη για να δημιουργήσει μια τυπική αναφορά πληροφοριών. Το τελικό κείμενο στη συνέχεια διακινήθηκε σε στρατιωτικούς αξιωματούχους, με αποτέλεσμα μια πληροφορία που είχε παραχθεί από σύστημα AI να αντιμετωπιστεί ως αξιόπιστη ανάλυση. Το CNN δεν διευκρινίζει αν επρόκειτο για εμπορικά διαθέσιμο chatbot ή για ειδικό σύστημα που έχει αναπτυχθεί για λογαριασμό της αμερικανικής κυβέρνησης.

Πρώην ανώτερος Αμερικανός αξιωματούχος, ο οποίος γνωρίζει τα συστήματα AI που χρησιμοποιούνται από στρατιωτικούς αναλυτές και υπηρεσίες πληροφοριών, υποστήριξε ότι τα εσωτερικά εργαλεία συχνά βασίζονται σε τεχνολογίες αντίστοιχες με εκείνες των εμπορικών εφαρμογών, με πρόσθετα επίπεδα προσαρμογής και ελέγχου. Το Πεντάγωνο και η Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού δεν σχολίασαν το συγκεκριμένο περιστατικό.

Το πρόβλημα των «παραισθήσεων» της AI

Η υπόθεση αναδεικνύει έναν από τους βασικούς κινδύνους που συνοδεύουν τη χρήση συστημάτων παραγωγικής Τεχνητής Νοημοσύνης: την ικανότητά τους να δημιουργούν πληροφορίες που εμφανίζονται πειστικές και συνεκτικές, χωρίς να είναι απαραίτητα ακριβείς.

Οι λεγόμενες «παραισθήσεις» (AI hallucinations) αποτελούν γνωστό τεχνικό περιορισμό των συστημάτων AI. Σε ένα στρατιωτικό ή πληροφοριακό περιβάλλον, όμως, οι συνέπειες ενός τέτοιου σφάλματος μπορεί να είναι πολύ σοβαρότερες από εκείνες που θα είχε ένα αντίστοιχο λάθος σε μια καθημερινή εφαρμογή.

Στην περίπτωση του κινεζικού πλοίου, το πρόβλημα δεν ήταν μόνο ότι το σύστημα κατέληξε σε λανθασμένο συμπέρασμα. Η κρίσιμη αδυναμία, σύμφωνα με το ρεπορτάζ, ήταν ότι η πληροφορία πέρασε μέσα από την αλυσίδα παραγωγής και διακίνησης των στρατιωτικών πληροφοριών χωρίς να εντοπιστεί εγκαίρως το λάθος. Το περιστατικό φέρεται να αποτράπηκε μόνο όταν αξιωματούχοι προχώρησαν σε πιο προσεκτικό έλεγχο της αναφοράς.

Η πίεση για ταχεία ενσωμάτωση της Τεχνητής Νοημοσύνης

Το συμβάν καταγράφεται σε μια περίοδο κατά την οποία οι αμερικανικές ένοπλες δυνάμεις επενδύουν σημαντικά στην ανάπτυξη και αξιοποίηση συστημάτων Τεχνητής Νοημοσύνης. Η αμερικανική κυβέρνηση θεωρεί την τεχνολογική υπεροχή στον τομέα της AI κρίσιμο παράγοντα για τη στρατιωτική ισχύ των Ηνωμένων Πολιτειών, ιδιαίτερα στον ανταγωνισμό με την Κίνα.

Στόχος είναι η αξιοποίηση της AI σε ένα ευρύ φάσμα δραστηριοτήτων, από την επεξεργασία πληροφοριών και την υποστήριξη της λήψης αποφάσεων έως τη διαχείριση εφοδιαστικών αλυσίδων, πόρων και στρατιωτικών επιχειρήσεων.

Τον Ιανουάριο, ο υπουργός Άμυνας των ΗΠΑ, Πιτ Χέγκσεθ, είχε παρουσιάσει τη στρατηγική του Πενταγώνου για την επιτάχυνση της υιοθέτησης της Τεχνητής Νοημοσύνης, υπογραμμίζοντας την ανάγκη να περιοριστούν τα γραφειοκρατικά εμπόδια και να επιταχυνθεί η ανάπτυξη των σχετικών δυνατοτήτων. Η ταχύτητα, ωστόσο, με την οποία επιχειρείται να ενσωματωθεί η τεχνολογία δημιουργεί παράλληλα ερωτήματα για τους μηχανισμούς ελέγχου.

Διαφορετικά συστήματα, διαφορετικοί κανόνες

Αξιωματούχοι που γνωρίζουν τον τρόπο λειτουργίας των συστημάτων που χρησιμοποιούνται στις αμερικανικές υπηρεσίες πληροφοριών υποστηρίζουν ότι δεν υπάρχει πάντοτε ενιαίο πλαίσιο για τη χρήση της AI.

Διαφορετικές υπηρεσίες μπορούν να χρησιμοποιούν διαφορετικά εργαλεία, με διαφορετικούς κανόνες ελέγχου και διαφορετικά επίπεδα αξιοπιστίας. Αυτό δημιουργεί έναν επιπλέον κίνδυνο: την πιθανότητα μια πληροφορία που παράγεται από ένα σύστημα AI να μεταφερθεί σε ανώτερα επίπεδα λήψης αποφάσεων χωρίς να είναι απολύτως σαφές πώς προέκυψε ή πόσο αξιόπιστη είναι.

Το πρόβλημα γίνεται ακόμη πιο σύνθετο όταν η AI χρησιμοποιείται σε περιβάλλοντα όπου οι αποφάσεις πρέπει να λαμβάνονται μέσα σε ελάχιστο χρόνο.

Η πιο κρίσιμη δοκιμασία: η στοχοποίηση

Ιδιαίτερη ανησυχία προκαλεί η χρήση της Τεχνητής Νοημοσύνης σε διαδικασίες που σχετίζονται με την επιλογή ή την αξιολόγηση στόχων. Σε τέτοιες περιπτώσεις, ένα λανθασμένο συμπέρασμα δεν οδηγεί απλώς σε μια λανθασμένη αναφορά. Θα μπορούσε να επηρεάσει μια πραγματική στρατιωτική απόφαση, με πιθανές συνέπειες για ανθρώπινες ζωές και για την αποφυγή φίλιων πυρών.

Πηγή με γνώση των σημερινών στρατιωτικών πολιτικών ανέφερε στο CNN ότι η χρήση AI στη στοχοποίηση αυξάνεται, ενώ παραμένουν ερωτήματα σχετικά με το πώς ακριβώς η ανθρώπινη εποπτεία μπορεί να λειτουργήσει αποτελεσματικά ως δικλίδα ασφαλείας.

Το ζήτημα της «ανθρώπινης παρουσίας» στη διαδικασία είναι κρίσιμο. Η ύπαρξη ενός ανθρώπου που εγκρίνει μια απόφαση δεν αποτελεί από μόνη της εγγύηση ότι ένα λάθος του συστήματος θα εντοπιστεί, ιδιαίτερα όταν ο χρόνος είναι περιορισμένος και η πληροφορία παρουσιάζεται με τρόπο που φαίνεται αξιόπιστος.

Όταν η ταχύτητα γίνεται κίνδυνος

Πρώην αξιωματούχοι των αμερικανικών υπηρεσιών πληροφοριών προειδοποιούν ότι η πίεση για ταχύτερη παραγωγή αναλύσεων μπορεί να ενισχύσει την εξάρτηση από τα εργαλεία AI. Ο κίνδυνος είναι ιδιαίτερα έντονος όταν οι αναλυτές θεωρούν ότι ένα σύστημα μπορεί να επεξεργαστεί μεγαλύτερο όγκο δεδομένων σε μικρότερο χρόνο και, ως εκ τούτου, αντιμετωπίζουν τα αποτελέσματά του ως πιο αξιόπιστα από ό,τι πραγματικά είναι. Η ουσία του προβλήματος αποτυπώνεται σε μια χαρακτηριστική φράση που μεταφέρει το CNN από πηγή του: «Η AI σού επιτρέπει να φτάσεις σε μια κακή ιδέα πιο γρήγορα».

Η υπόθεση του κινεζικού πλοίου, εφόσον επιβεβαιωθούν όλες οι λεπτομέρειες του ρεπορτάζ, αποτελεί χαρακτηριστικό παράδειγμα του διλήμματος που αντιμετωπίζουν οι αμερικανικές ένοπλες δυνάμεις: από τη μία πλευρά, η ανάγκη να αξιοποιήσουν την Τεχνητή Νοημοσύνη ώστε να διατηρήσουν τεχνολογικό πλεονέκτημα και να επιταχύνουν τη λήψη αποφάσεων· από την άλλη, η ανάγκη να διασφαλίσουν ότι η ταχύτητα δεν θα υποκαταστήσει την επαλήθευση.

Στο στρατιωτικό περιβάλλον, ένα λάθος που ξεκινά από μια λανθασμένη ψηφιακή εκτίμηση μπορεί να αποκτήσει πολύ μεγαλύτερες διαστάσεις όταν περάσει στην πραγματική αλυσίδα λήψης αποφάσεων. Και στην περίπτωση ενός αμερικανικού πλοίου ή αεροσκάφους απέναντι σε κινεζικό στόχο, τα περιθώρια για ένα τέτοιο λάθος είναι εξαιρετικά περιορισμένα.

• ΗΠΑ
• Κίνα
• λάθος
• σύγκρουση
• Τεχνητή Νοημοσύνη