Σοβαρά ερωτήματα για την ασφάλεια των υποδομών πάνω στις οποίες λειτουργούν τα μεγαλύτερα μοντέλα τεχνητής νοημοσύνης εγείρει νέα έρευνα της εταιρείας κυβερνοασφάλειας Eclypsium, η οποία παρουσιάστηκε στο CNN.
Σύμφωνα με τα ευρήματα, κακόβουλοι εισβολείς θα μπορούσαν να παραβιάσουν τον υλικό εξοπλισμό (hardware) των συστημάτων AI και να αλλοιώσουν τις απαντήσεις των chatbots, οδηγώντας τα ακόμη και σε επικίνδυνες συμβουλές.
Οι ερευνητές κατάφεραν να μεταβάλουν τις απαντήσεις μοντέλων σε ιδιαίτερα ευαίσθητα ζητήματα που αφορούν την εθνική ασφάλεια και την υγεία. Σε ένα από τα πειράματα, παρενέβησαν απομακρυσμένα στα λεγόμενα «βάρη» ενός μοντέλου, δηλαδή στις παραμέτρους που χρησιμοποιεί για την επεξεργασία των πληροφοριών, αυξάνοντας τεχνητά την πιθανότητα που απέδιδε σε ενδεχόμενη κινεζική εισβολή στην Ταϊβάν.
Σε διαφορετικό σενάριο, ένα μοντέλο που λειτουργούσε σε παραβιασμένο εξοπλισμό έδωσε επικίνδυνη ιατρική συμβουλή σε χρήστη που ανέφερε πόνο στο στήθος, προτρέποντάς τον να παραμείνει στο σπίτι αντί να αναζητήσει νοσοκομειακή περίθαλψη.
Η έρευνα μετατοπίζει την προσοχή από την ασφάλεια των ίδιων των εφαρμογών τεχνητής νοημοσύνης στην προστασία της τεχνολογικής υποδομής που τις υποστηρίζει. Πρόκειται για μια βιομηχανία αξίας δισεκατομμυρίων δολαρίων, στην οποία περιλαμβάνονται επεξεργαστές, μνήμες και εξυπηρετητές που χρησιμοποιούνται στα κέντρα δεδομένων.
Ο διευθύνων σύμβουλος της Eclypsium, Γιούρι Μπουλίγκιν, υπογράμμισε ότι η αξιοπιστία ενός μοντέλου τεχνητής νοημοσύνης εξαρτάται άμεσα από την ασφάλεια της υποδομής στην οποία λειτουργεί. Όπως επισήμανε, δεν μπορεί κανείς να εμπιστεύεται το ίδιο το μοντέλο, εάν δεν είναι ασφαλές το τεχνολογικό περιβάλλον που το υποστηρίζει.
Η επίθεση και η απάντηση της Nvidia
Η Eclypsium πραγματοποίησε την επίδειξη της επίθεσης σε υπολογιστική πλατφόρμα της Nvidia, διευκρινίζοντας ωστόσο ότι η ευπάθεια δεν περιορίζεται στα προϊόντα της συγκεκριμένης εταιρείας και ενδέχεται να αφορά και άλλες τεχνολογικές υποδομές.
Σύμφωνα με τους ερευνητές, τέτοιου είδους στοχευμένες επιθέσεις θα μπορούσαν να πραγματοποιηθούν από κρατικούς φορείς με προηγμένες τεχνικές δυνατότητες, όπως η Κίνα, η Ρωσία ή οι ΗΠΑ.
Από την πλευρά της, εκπρόσωπος της Nvidia ανέφερε ότι η εταιρεία εξέτασε τα υποθετικά σενάρια και δεν διαπίστωσε κάποια απειλή που να μην είναι ήδη γνωστή στον κλάδο. Παράλληλα, υποστήριξε ότι οι ισχυροί μηχανισμοί προστασίας της πρόσβασης στη μνήμη μπορούν να αποτρέψουν τέτοιου είδους παρεμβάσεις.
Τον προηγούμενο μήνα, η Nvidia ανακοίνωσε νέα πλατφόρμα ασφαλείας, σχεδιασμένη για την προστασία από επιθέσεις στο επίπεδο του hardware. Η Eclypsium επιβεβαίωσε ότι συνεργάζεται με την εταιρεία, προκειμένου να αξιολογηθεί η αποτελεσματικότητα των συγκεκριμένων μηχανισμών προστασίας.
Πώς μπορεί να πραγματοποιηθεί η παραβίαση
Η συγκεκριμένη επίθεση δεν είναι απλή υπόθεση, καθώς απαιτεί εξειδικευμένες τεχνικές γνώσεις και συγκεκριμένες προϋποθέσεις. Ο εισβολέας θα πρέπει, μεταξύ άλλων, να βρίσκεται σε δίκτυο που παρέχει πρόσβαση είτε σε μονάδα επεξεργασίας δεδομένων (DPU) είτε σε ελεγκτή διαχείρισης μητρικής κάρτας (BMC), ενώ θα πρέπει να είναι απενεργοποιημένες ορισμένες δικλίδες ασφαλείας.
Εφόσον αποκτήσει πρόσβαση στην DPU, μπορεί να διαβάσει και να τροποποιήσει τον κώδικα και τα δεδομένα που βρίσκονται στη μνήμη του συστήματος. Με αυτόν τον τρόπο, είναι δυνατό να αλλάξει τη συμπεριφορά του μοντέλου τεχνητής νοημοσύνης σε λιγότερο από ένα λεπτό, χωρίς ο τελικός χρήστης να αντιληφθεί ότι έχει προηγηθεί παρέμβαση.
Στο επίκεντρο ο τεχνολογικός ανταγωνισμός ΗΠΑ – Κίνας
Τα ευρήματα έρχονται σε μια περίοδο κατά την οποία εντείνεται ο ανταγωνισμός μεταξύ ΗΠΑ και Κίνας για την τεχνολογική υπεροχή στον τομέα της τεχνητής νοημοσύνης. Παράλληλα, ενισχύονται οι ανησυχίες για την αξιοπιστία των συστημάτων AI, ακόμη και χωρίς κακόβουλη εξωτερική παρέμβαση.
Χαρακτηριστικό παράδειγμα αποτελεί περιστατικό την άνοιξη, όταν λανθασμένες πληροφορίες που είχαν παραχθεί με τη βοήθεια τεχνητής νοημοσύνης παραλίγο να οδηγήσουν τον αμερικανικό στρατό στην επιβίβαση σε κινεζικό πλοίο, εξαιτίας ψευδών αναφορών για μεταφορά πυρηνικών εξαρτημάτων.
Το ζήτημα της τεχνητής νοημοσύνης βρέθηκε πρόσφατα και στην ατζέντα των συνομιλιών του Ντόναλντ Τραμπ με τον Κινέζο πρόεδρο Σι Τζινπίνγκ στον Λευκό Οίκο, χωρίς να επιτευχθεί ουσιαστική συμφωνία. Ο Αμερικανός πρόεδρος εμφανίζεται αντίθετος στην επιβολή αυστηρών περιορισμών, εκφράζοντας φόβους ότι κάτι τέτοιο θα μπορούσε να αφήσει τις ΗΠΑ πίσω στον διεθνή τεχνολογικό ανταγωνισμό.
Στο μεταξύ, στελέχη της Eclypsium ενημέρωσαν για τα ευρήματά τους τόσο την Υπηρεσία Εθνικής Ασφάλειας (NSA) όσο και την Υπηρεσία Ασφάλειας Κυβερνοχώρου και Υποδομών (CISA) των ΗΠΑ.
Ανεξάρτητοι ειδικοί στην ασφάλεια υλικού επιβεβαίωσαν ότι τα σενάρια επίθεσης είναι τεχνικά εφικτά και τεκμηριωμένα, επισημαίνοντας ότι η προστασία της τεχνητής νοημοσύνης δεν μπορεί να περιορίζεται μόνο στο λογισμικό και στις εφαρμογές, αλλά πρέπει να ξεκινά από τα βαθύτερα επίπεδα της τεχνολογικής υποδομής.