Χάκερ «έσπασαν» τις άμυνες του πανίσχυρου Claude – Πρώτη καμπάνια κυβερνοκατασκοπείας με βοήθεια ΑΙ

Η αμερικανική εταιρεία τεχνητής νοημοσύνης Anthropic, δημιουργός του chatbot Claude, παραδέχεται ότι ομάδα χάκερ – που εκτιμάται ότι δρούσε για λογαριασμό του Πεκίνου – χρησιμοποίησε την πλατφόρμα της για την «πρώτη καμπάνια κυβερνοκατασκοπείας που ενορχηστρώθηκε από ΑΙ».

Σύμφωνα με την εταιρεία, η επίθεση στόχευσε περίπου 39 οργανισμούς, ανάμεσά τους κρατικές υπηρεσίες, εταιρείες τεχνολογίας, χρηματοπιστωτικούς οργανισμούς και χημικές βιομηχανίες, χωρίς να δοθούν συγκεκριμένα ονόματα στη δημοσιότητα.

Οι δράστες φαίνεται πως παρέκαμψαν τις δικλείδες ασφαλείας του Claude, παρουσιάζοντας τον εαυτό τους ως «ερευνητές κυβερνοασφάλειας» και «σπάζοντας» τις κινήσεις τους σε μικρά, επιμέρους βήματα, ώστε να μην ενεργοποιηθούν τα φίλτρα του συστήματος.

Με τη βοήθεια του Claude, οι χάκερ κατάφεραν να παράγουν κώδικα, να εντοπίσουν τρωτά σημεία στα δίκτυα των στόχων, να χαρτογραφήσουν βάσεις δεδομένων με ευαίσθητες πληροφορίες, αλλά και να υποκλέψουν κωδικούς πρόσβασης και δεδομένα, οργανώνοντάς τα μάλιστα ανάλογα με τη σημασία τους. Η ίδια η Anthropic εκτιμά ότι η ΑΙ «έτρεξε» το 80%-90% της επιχείρησης, με τους ανθρώπινους χειριστές να παίρνουν μόνο τις κρίσιμες αποφάσεις.

Το περιστατικό εντείνει τις ανησυχίες ότι τα μεγάλα γλωσσικά μοντέλα μπορούν να χρησιμοποιηθούν όχι μόνο για παραπληροφόρηση, αλλά και για στοχευμένες κυβερνοεπιθέσεις υψηλής κλίμακας, τη στιγμή που η βιομηχανία προσπαθεί ακόμη να βρει αποτελεσματικούς μηχανισμούς άμυνας απέναντι σε τέτοιες χρήσεις.

• Anthropic
• Claude
• Κίνα
• κυβερνοασφάλεια
• κυβερνοκατασκοπεία
• παγκόσμια ασφάλεια
• Τεχνητή Νοημοσύνη
• Χάκερ