Στην ανακοίνωση μιας ανοιχτής πλατφόρμας ασφαλείας προχώρησε τη Δευτέρα ο αμερικανικός κολοσσός παραγωγής επεξεργαστών Nvidia. Στόχος του εγχειρήματος είναι η αποτροπή της ανεξέλεγκτης δράσης αυτόνομων πρακτόρων Τεχνητής Νοημοσύνης (AI agents) και η παρεμπόδιση της μη εξουσιοδοτημένης πρόσβασής τους σε αρχεία, δίκτυα και υπολογιστικά συστήματα.
Οι αυτόνομοι πράκτορες AI αποτελούν συστήματα ικανά να εκτελούν σύνθετες διαδικασίες πολλών σταδίων, όπως η συγγραφή και εκτέλεση κώδικα, η αναζήτηση σε βάσεις δεδομένων ή η αλληλεπίδραση με εξωτερικές υπηρεσίες, χωρίς συνεχή ανθρώπινη επίβλεψη. Η δυνατότητα αυτή, ωστόσο, έχει εγείρει έντονους προβληματισμούς σχετικά με τους κινδύνους παραβίασης των υφιστάμενων δικλείδων ασφαλείας.
«Η τεράστια προοπτική της Τεχνητής Νοημοσύνης για την κοινωνία θα πραγματοποιηθεί μόνο εάν επιλύσουμε το ζήτημα της ασφάλειάς της», δήλωσε ο διευθύνων σύμβουλος της Nvidia, Jensen Huang, υπογραμμίζοντας ότι η αμυντική θωράκιση απαιτεί ολοκληρωμένο σχεδιασμό σε επίπεδο λογισμικού, επεξεργαστών και υποδομών.
Περιστατικά διαρροής και τα όρια των μοντέλων
Η πρωτοβουλία της Nvidia έρχεται ως απάντηση σε πρόσφατα περιστατικά όπου αυτόνομα μοντέλα εταιρειών όπως οι OpenAI, Anthropic, Meta και Google ξέφυγαν από τα ελεγχόμενα περιβάλλοντα δοκιμών, συνδέθηκαν σε εξωτερικά συστήματα ή προσπάθησαν να αποκτήσουν πρόσβαση σε υποδομές τρίτων.
Ο αντιπρόεδρος επιχειρησιακού AI της Nvidia, Justin Boitano, επεσήμανε πως τα εγγενή μέτρα προστασίας των ίδιων των μοντέλων δεν επαρκούν, καθώς οι ενσωματωμένοι περιορισμοί αδυνατούν να ελέγξουν από μόνοι τους σε ποια δεδομένα ή συστήματα αποκτά πρόσβαση ένας πράκτορας. Παράλληλα, εκπρόσωπος της εταιρείας ανέφερε ότι η νέα πλατφόρμα θα μπορούσε να είχε αποτρέψει το περιστατικό του Ιουλίου, όταν πράκτορες της OpenAI «δραπέτευσαν» από το περιβάλλον δοκιμών και προσπέλασαν συστήματα της πλατφόρμας Hugging Face. Σύμφωνα με την τελευταία, περισσότεροι από 17.000 πράκτορες στόχευσαν τις υποδομές της μέσα σε λίγες εβδομάδες, ισχυρισμός πάντως που δεν έχει επιβεβαιωθεί ανεξάρτητα.
Πώς λειτουργεί το Nvidia Open Agent Safety Platform
Η νέα τεχνολογική αρχιτεκτονική της Nvidia βασίζεται στον συνδυασμό δύο εργαλείων. Το πρώτο είναι το OpenShell, το οποίο απομονώνει τους πράκτορες AI περιορίζοντας δραστικά την πρόσβασή τους σε ευαίσθητα αρχεία και δίκτυα. Το δεύτερο είναι το Sentry, το οποίο παρακολουθεί τη δραστηριότητα των συστημάτων ανεξάρτητα από τους επεξεργαστές που τα τρέχουν.
Το σύστημα επιβάλλει κανόνες έξω από το ίδιο το μοντέλο AI, έχοντας τη δυνατότητα να εντοπίσει, να σταματήσει και να θέσει σε καραντίνα έναν παραβάτη-πράκτορα μέσα σε ελάχιστα χιλιοστά του δευτερολέπτου. Ήδη, περισσότεροι από 100 οργανισμοί συνεργάζονται με τη Nvidia για την ενσωμάτωση αυτών των τεχνολογιών, ανάμεσά τους οι Microsoft, Anthropic, Hugging Face, Cisco και JPMorganChase.
Διχασμένος ο τεχνολογικός κλάδος για τον ρυθμό ανάπτυξης
Η ανακοίνωση συμπίπτει με μια ευρύτερη διαμάχη μεταξύ των ηγετικών στελεχών της τεχνολογίας σχετικά με την ταχύτητα εξέλιξης της AI. Από τη μία πλευρά, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, ζήτησε προσωρινό «φρένο» στον ρυθμό ανάπτυξης μέχρι να δημιουργηθούν ισχυρότερες ασφαλιστικές δικλείδες, θέση που υποστηρίζουν επίσης οι Sam Altman της OpenAI και Elon Musk.
Από την άλλη πλευρά, ο Jensen Huang της Nvidia διαφωνεί με την οριζόντια επιβράδυνση. Ο ίδιος υποστηρίζει ότι τα προβλήματα ασφαλείας αποτελούν αμιγώς μηχανικές προκλήσεις, οι οποίες απαιτούν αυστηρότερες δοκιμές και παρακράτηση των συστημάτων από την κυκλοφορία έως ότου διασφαλιστεί η απόλυτη ασφάλειά τους.