Η OpenAI γνωστοποίησε ότι ενημέρωσε «δεκάδες» οργανισμούς σε όλο τον κόσμο πως ιστοσελίδες τους ενδέχεται να επηρεάστηκαν από ακατάλληλη συμπεριφορά αυτόνομων «πρακτόρων» τεχνητής νοημοσύνης, οι οποίοι σε ορισμένες περιπτώσεις παρέκαμψαν μηχανισμούς ασφαλείας ή μετέφεραν δεδομένα χωρίς αυτό να αποτελεί την προβλεπόμενη λειτουργία τους.
Σύμφωνα με την εταιρεία, οι AI agents – αυτόνομα προγράμματα σχεδιασμένα να εκτελούν εργασίες με περιορισμένη ανθρώπινη παρέμβαση – επιχείρησαν να αντλήσουν πληροφορίες από ιστοσελίδες κυβερνήσεων, πανεπιστημίων, δημόσιων φορέων και άλλων οργανισμών.
Μεταξύ αυτών περιλαμβάνονται η Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC), το Γραφείο Απογραφής και το αμερικανικό υπουργείο Παιδείας.
Οι αποκαλύψεις ακολουθούν την ανακοίνωση του Αυστραλού πρωθυπουργού Άντονι Αλμπανέζε ότι «πράκτορες» της OpenAI είχαν αποκτήσει πρόσβαση σε μη δημόσια αρχεία στον ιστότοπο του κυβερνητικού συστήματος υγειονομικής περίθαλψης της χώρας.
Παράκαμψη μέτρων ασφαλείας
Η OpenAI ανέφερε ότι οι «πράκτορες» είχαν αρχικά ως αποστολή να εντοπίζουν «έγκυρες πηγές δημόσιων πληροφοριών». Σε ορισμένες περιπτώσεις, ωστόσο, προχώρησαν πέρα από αυτόν τον στόχο και επιχείρησαν να παρακάμψουν μέτρα ασφαλείας ιστοσελίδων.
Στην περίπτωση του αμερικανικού Γραφείου Απογραφής, για παράδειγμα, χρησιμοποιήθηκαν εργαλεία που προορίζονται για προγραμματιστές λογισμικού προκειμένου να αποκτηθεί πρόσβαση στις πληροφορίες.
Η εταιρεία υποστήριξε ότι τα κυβερνητικά δεδομένα στα οποία απέκτησαν πρόσβαση οι συγκεκριμένοι «πράκτορες» ήταν δημόσια.
Στην περίπτωση της SEC, ωστόσο, πληροφορίες που αντλήθηκαν από τους AI agents δημοσιεύθηκαν στη συνέχεια σε διαφορετικό ιστότοπο. Η OpenAI ανέφερε ότι η ενέργεια αυτή δεν ήταν σκόπιμη.
53 περιστατικά μεταφοράς εικόνων χρηστών
Ιδιαίτερη ανησυχία προκαλούν και οι περιπτώσεις κατά τις οποίες «πράκτορες» της OpenAI μετέφεραν δεδομένα ενώ δεν θα έπρεπε να το κάνουν.
Σύμφωνα με όσα γνωστοποίησε η εταιρεία, καταγράφηκαν τουλάχιστον 53 περιστατικά στα οποία «πράκτορας» έλαβε εικόνα από τη δραστηριότητα χρήστη του ChatGPT και τη μετέφερε σε άλλο σημείο.
Η OpenAI διευκρίνισε ότι σε όλες αυτές τις περιπτώσεις οι χρήστες είχαν επιλέξει να επιτρέψουν τη χρήση των δεδομένων τους για την εκπαίδευση μοντέλων της εταιρείας. Αναγνώρισε, ωστόσο, ότι η συγκεκριμένη μεταφορά των δεδομένων δεν έπρεπε να έχει συμβεί.
«Αυτή δεν είναι η κατάλληλη χρήση αυτών των δεδομένων», παραδέχθηκε η εταιρεία.
Σύμφωνα με την OpenAI, τα περιστατικά σημειώθηκαν πριν από την εφαρμογή νέων δικλείδων ασφαλείας για την εκπαίδευση των μοντέλων τεχνητής νοημοσύνης. Η εταιρεία ανέφερε επίσης ότι εργάζεται για την αφαίρεση των εικόνων χρηστών που μεταφέρθηκαν σε τρίτους.
Τι σημαίνει «λανθασμένη ευθυγράμμιση»
Σε ορισμένα από τα περιστατικά, σύμφωνα με την OpenAI, τα εργαλεία «παρέκαμψαν» ελέγχους ασφαλείας ιστοσελίδων, ενώ σε άλλες περιπτώσεις παρουσίασαν αυτό που η εταιρεία περιγράφει ως «λανθασμένη ευθυγράμμιση» κατά την προσπάθειά τους να αποκτήσουν πληροφορίες.
Ο όρος χρησιμοποιείται στον χώρο της τεχνητής νοημοσύνης για να περιγράψει περιπτώσεις στις οποίες ένα σύστημα ενεργεί με τρόπο που δεν ανταποκρίνεται στον προβλεπόμενο στόχο ή στις οδηγίες που του έχουν δοθεί.
Το Reuters ήταν το πρώτο μέσο που μετέδωσε πληροφορίες για την έκταση των ερευνών, ενώ η OpenAI δημοσιοποίησε στη συνέχεια περισσότερες λεπτομέρειες.
«Δεκάδες» οργανισμοί ενημερώθηκαν
Η OpenAI δεν αποκάλυψε πλήρη κατάλογο των οργανισμών που επηρεάστηκαν, αναφέροντας ότι αρκετοί από αυτούς ζήτησαν να μη δημοσιοποιηθούν λεπτομέρειες.
«Στόχος μας είναι να δώσουμε σε κάθε οργανισμό τα στοιχεία και να τον αφήσουμε να αποφασίσει αν και πότε θα δημοσιοποιήσει το περιστατικό», ανέφερε η εταιρεία.
Παράλληλα, διευκρίνισε ότι δεν συνιστούν όλα τα περιστατικά σοβαρή παραβίαση ασφαλείας.
Όπως εξήγησε, ορισμένοι οργανισμοί ενδέχεται να κρίνουν ότι οι πληροφορίες στις οποίες αποκτήθηκε πρόσβαση ήταν ούτως ή άλλως δημόσιες ή ότι η αλληλεπίδραση του μοντέλου δεν δημιουργούσε ουσιαστικό πρόβλημα. Άλλοι, όμως, μπορεί να διαπιστώσουν αδυναμίες στον σχεδιασμό ή στην ασφάλεια των συστημάτων τους που απαιτούν αντιμετώπιση.