Βασικοί Παράγοντες της Τεχνητής Νοημοσύνης Βρέθηκαν Ευάλωτοι σε Παραβίαση, Αποκαλύπτει Μελέτη

Ορισμένοι από τους πιο ευρέως χρησιμοποιούμενους βοηθούς AI από τη Microsoft, τη Google, την OpenAI και τη Salesforce μπορούν να υποκλαπούν από επιτιθέμενους με ελάχιστη ή καθόλου αλληλεπίδραση χρήστη, σύμφωνα με νέα έρευνα από τα Zenity Labs.

Παρουσιάστηκαν στη διάσκεψη κυβερνοασφάλειας Black Hat USA, τα ευρήματα δείχνουν ότι οι χάκερς θα μπορούσαν να κλέψουν δεδομένα, να χειραγωγήσουν ροές εργασιών και ακόμη και να παριστάνουν χρήστες. Σε ορισμένες περιπτώσεις, οι επιτιθέμενοι θα μπορούσαν να αποκτήσουν «μνημονική επιμονή», επιτρέποντας μακροπρόθεσμη πρόσβαση και έλεγχο.

«Μπορούν να χειραγωγήσουν οδηγίες, να δηλητηριάσουν πηγές γνώσης και να αλλάξουν εντελώς τη συμπεριφορά του πράκτορα,» είπε ο Greg Zemlin, διευθυντής προϊόντων marketing στα Zenity Labs, στο Cybersecurity Dive. «Αυτό ανοίγει την πόρτα στην επιθετική προβοκάτσια, στη διαταραχή της λειτουργίας και στην παραπληροφόρηση επί μακρόν, ειδικά σε περιβάλλοντα όπου οι πράκτορες έχουν την εμπιστοσύνη να λαμβάνουν ή να υποστηρίζουν κρίσιμες αποφάσεις.»

Οι ερευνητές παρουσίασαν πλήρεις αλυσίδες επίθεσης ενάντια σε αρκετές κύριες επιχειρησιακές πλατφόρμες AI. Σε μια περίπτωση, το ChatGPT της OpenAI ήταν ανεπανόρθωτα διαταραγμένο μέσω ενός ενεστώτος μηνύματος e-mail, επιτρέποντας την πρόσβαση σε συνδεδεμένα δεδομένα του Google Drive.

Το Microsoft Copilot Studio βρέθηκε να διαρρέει βάσεις δεδομένων CRM, με περισσότερους από 3.000 ευάλωτους παράγοντες που εντοπίστηκαν online. Η πλατφόρμα Einstein της Salesforce εξαπατήθηκε για να ανακατευθύνει τις επικοινωνίες των πελατών σε ελεγχόμενους από τον επιτιθέμενο λογαριασμούς email.

Εν τω μεταξύ, το Gemini της Google και το Microsoft 365 Copilot θα μπορούσαν να μεταμορφωθούν σε εσωτερικές απειλές, ικανές για την κλοπή ευαίσθητων συνομιλιών και τη διάδοση ψευδών πληροφοριών.

Επιπλέον, οι ερευνητές κατάφεραν να εξαπατήσουν την Gemini AI της Google, ώστε να ελέγχει έξυπνες συσκευές οικιακής αυτοματοποίησης. Η παραβίαση έσβηνε τα φώτα, άνοιγε τις παντζούρες και έθετε σε λειτουργία τον λέβητα χωρίς εντολές από τον κάτοικο.

Η Zenity αποκάλυψε τα ευρήματά της, προτρέποντας ορισμένες εταιρείες να εκδώσουν διορθωτικά. «Εκτιμούμε την εργασία της Zenity στον εντοπισμό και στην υπεύθυνη αναφορά αυτών των τεχνικών,» δήλωσε εκπρόσωπος της Microsoft στην Cybersecurity Dive. Η Microsoft δήλωσε ότι η αναφερόμενη συμπεριφορά «δεν είναι πλέον αποτελεσματική» και ότι οι πράκτορες του Copilot έχουν ασφαλή μέτρα σε θέση.

Η OpenAI επιβεβαίωσε ότι επιδιόρθωσε το ChatGPT και διεξάγει ένα πρόγραμμα αμοιβής για την ανακάλυψη σφαλμάτων. Η Salesforce δήλωσε ότι διόρθωσε το αναφερόμενο πρόβλημα. Η Google δήλωσε ότι εφάρμοσε «νέες, επίπεδες αμυντικές διατάξεις» και τόνισε ότι «η έχοντας μια επίπεδη στρατηγική άμυνας ενάντια στις επιθέσεις εισαγωγής προτροπών είναι κρίσιμη», όπως αναφέρθηκε από το Cybersecurity Dive.

Η έκθεση επισημαίνει την αύξηση των ασφαλιστικών ανησυχιών καθώς οι πράκτορες AI γίνονται ολοένα και πιο συνηθισμένοι στους χώρους εργασίας και είναι εμπιστευτοί για την αντιμετώπιση ευαίσθητων εργασιών.

Σε μια άλλη πρόσφατη έρευνα, αναφέρθηκε ότι οι χάκερ μπορούν να κλέψουν κρυπτονομίσματα από πράκτορες του Web3 AI εγκαθιστώντας ψεύτικες αναμνήσεις που παρακάμπτουν τα κανονικά συστήματα ασφαλείας.

Το ελάττωμα ασφαλείας υπάρχει στο ElizaOS και σε παρόμοιες πλατφόρμες επειδή οι επιτιθέμενοι μπορούν να χρησιμοποιήσουν πράκτορες που έχουν υποστεί επίθεση για να μεταφέρουν κεφάλαια ανάμεσα σε διάφορες πλατφόρμες. Ο μόνιμος χαρακτήρας των συναλλαγών blockchain καθιστά αδύνατη την ανάκτηση των κλεμμένων κεφαλαίων. Ένα νέο εργαλείο, το CrAIBench, στοχεύει να βοηθήσει τους προγραμματιστές να ενισχύσουν τις αμυντικές τους.