Η αμερικανική εταιρεία Anthropic ανακοίνωσε ότι εντόπισε και σταμάτησε την πρώτη καταγεγραμμένη εκστρατεία κυβερνοκατασκοπείας που έγινε σχεδόν εξ ολοκλήρου από τεχνητή νοημοσύνη. Οι υπεύθυνοι για την επίθεση ανήκουν στην ομάδα GTG-1002, που συνδέεται με το κινεζικό κράτος.
Οι χάκερ εκμεταλλεύτηκαν το chatbot Claude της Anthropic για να κατασκοπεύσουν και να κλέψουν δεδομένα από περίπου 30 στόχους. Η επίθεση εντοπίστηκε στα μέσα Σεπτεμβρίου και είχε στο στόχαστρο μεγάλες τεχνολογικές εταιρείες, οικονομικούς θεσμούς και κυβερνητικές υπηρεσίες σε πολλές χώρες.
Αυτόνομες επιθέσεις με ΤΝ
Το πιο ανησυχητικό στοιχείο είναι ότι οι χάκερ χρησιμοποίησαν το Claude Code, το λογισμικό προγραμματισμού της εταιρείας, για να εξαπολύσουν αυτόνομα το μεγαλύτερο μέρος των επιθέσεων. Οι ενέργειες έγιναν με ταχύτητα που δεν θα μπορούσαν να επιτύχουν άνθρωποι.
Η Anthropic τονίζει ότι αυτό αποτελεί θεμελιώδη αλλαγή στον τρόπο που οι κυβερνοπειρατές χρησιμοποιούν την ΤΝ. Αντί να ζητούν απλώς τεχνικές συμβουλές, οι δράστες χειραγώγησαν το Claude ώστε να πραγματοποιήσει μόνο του κυβερνοεπιθέσεις με ελάχιστη ανθρώπινη επίβλεψη.
Πώς παρακάμφθηκαν οι ασφάλειες
Παρότι τα chatbot όπως το ChatGPT και το Gemini έχουν χρησιμοποιηθεί στο παρελθόν για αυτοματοποίηση κυβερνοεπιθέσεων, είναι η πρώτη φορά που ένα μοντέλο ΤΝ αφήθηκε ελεύθερο να ενεργήσει ανεξάρτητα.
Οι κυβερνοπειρατές παρέκαμψαν τους μηχανισμούς ασφαλείας του Claude πείθοντας την ΤΝ ότι ήταν επαγγελματίες κυβερνοασφάλειας που έκαναν εγκεκριμένους ελέγχους ασφαλείας. Η εκστρατεία διήρκεσε αρκετές ημέρες μέχρι να εντοπιστεί από τα συστήματα της εταιρείας.
Η Anthropic απέκλεισε άμεσα τους λογαριασμούς των δραστών, ενημέρωσε τις αρμόδιες αρχές και εφάρμοσε βελτιωμένα μέσα εντοπισμού για να αποτρέψει παρόμοια περιστατικά στο μέλλον.
