Πράκτορες τεχνητής νοημοσύνης φέρεται να επιχείρησαν να αποκτήσουν πρόσβαση σε κυβερνητικό ιστότοπο στον Καναδά, σε ένα περιστατικό που ερευνητική εταιρεία στον τομέα της AI χαρακτήρισε αποτυχημένη απόπειρα παραβίασης. Οι καναδικές αρχές, πάντως, υποστηρίζουν ότι μέχρι στιγμής δεν υπάρχουν ενδείξεις πως κάποιο κυβερνητικό σύστημα παραβιάστηκε.
Η εταιρεία Transluce, που διερευνά τη δραστηριότητα συστημάτων τεχνητής νοημοσύνης, ανέφερε ότι οι απόπειρες πρόσβασης στην Εθνική Βιβλιοθήκη και τα Αρχεία του Καναδά καταγράφηκαν στις 28 Μαΐου και στις 9 Ιουνίου.
Σύμφωνα με την εταιρεία, οι ενέργειες παρουσίαζαν τακτικές που προσομοιάζουν με προηγούμενη δραστηριότητα πρακτόρων την οποία η ίδια είχε αποδώσει στην OpenAI σε αντίστοιχο χρονικό διάστημα. Η Transluce, ωστόσο, υπογράμμισε ότι δεν είναι σε θέση να αποδώσει με βεβαιότητα τις συγκεκριμένες απόπειρες στην OpenAI.
Η εταιρεία γνωστοποίησε το περιστατικό στις καναδικές αρχές τη Δευτέρα, ενώ το Καναδικό Κέντρο Κυβερνοασφάλειας ανακοίνωσε την Τρίτη ότι έχει ενημερωθεί για τις αναφορές περί ύποπτης δραστηριότητας από πράκτορες AI.
«Μέχρι στιγμής δεν υπάρχει καμία ένδειξη ότι κυβερνητικά συστήματα έχουν παραβιαστεί», ανέφερε το Κέντρο σε ανακοίνωσή του.
Από την πλευρά της, η OpenAI δήλωσε ότι γνωρίζει τις αναφορές σύμφωνα με τις οποίες μοντέλα της επιχείρησαν να αποκτήσουν πρόσβαση σε δημόσια διαθέσιμες πληροφορίες από ιστοτόπους της καναδικής κυβέρνησης.
Εκπρόσωπος της εταιρείας ανέφερε ότι εξετάζονται τα ευρήματα της Transluce και ότι έχει ήδη πραγματοποιηθεί μια πρώτη ενημέρωση των Καναδών αξιωματούχων που διερευνούν την υπόθεση.
899 αιτήματα προς τον καναδικό κυβερνητικό ιστότοπο
Στοιχεία από την υπηρεσία arquivo.pt, το εθνικό αρχείο διαδικτύου της Πορτογαλίας, δείχνουν ότι στις 28 Μαΐου και στις 9 Ιουνίου καταγράφηκαν συνολικά 899 αιτήματα προς την υπηρεσία «collection-search» της Εθνικής Βιβλιοθήκης και των Αρχείων του Καναδά.
Η Transluce υποστηρίζει ότι ανάμεσα στα αιτήματα εντοπίστηκαν και αρκετές φαινομενικά αποτυχημένες και βασικές προσπάθειες παραβίασης του συστήματος.
Το περιστατικό προστίθεται σε μια σειρά υποθέσεων που έχουν προκαλέσει ανησυχία για τη δυνατότητα των αυτόνομων πρακτόρων τεχνητής νοημοσύνης να εκτελούν ενέργειες χωρίς άμεση ανθρώπινη επίβλεψη.
Προηγήθηκε περιστατικό στην Αυστραλία
Το ζήτημα έχει λάβει μεγαλύτερες διαστάσεις μετά από πρόσφατη υπόθεση στην Αυστραλία. Η αυστραλιανή κυβέρνηση ανακοίνωσε την περασμένη εβδομάδα ότι πράκτορας της OpenAI είχε αποκτήσει τον Ιούνιο μη εξουσιοδοτημένη πρόσβαση σε κυβερνητική πύλη δεδομένων υγείας και σε αρχεία.
Το περιστατικό θεωρήθηκε η πρώτη γνωστή περίπτωση παραβίασης κυβερνητικού ιστοτόπου από πράκτορα τεχνητής νοημοσύνης. Η OpenAI ζήτησε συγγνώμη την Τρίτη για το περιστατικό, εντείνοντας τη συζήτηση γύρω από τους κινδύνους που συνδέονται με την ολοένα μεγαλύτερη αυτονομία των συστημάτων AI.
Την ίδια ώρα, οι μεγάλες εταιρείες τεχνητής νοημοσύνης προειδοποιούν για τους πιθανούς κινδύνους από την ταχεία εξέλιξη της τεχνολογίας και ζητούν στενότερη συνεργασία με τις κυβερνήσεις. Ωστόσο, η ταχύτητα με την οποία αναπτύσσονται οι δυνατότητες της AI δημιουργεί σημαντικές προκλήσεις για τις κρατικές αρχές και τα συστήματα κυβερνοασφάλειας.