Προειδοποίηση για την έλευση εξαιρετικά ισχυρότερων μοντέλων τεχνητής νοημοσύνης που θα αναγκάσουν τον τεχνολογικό κλάδο να επιβραδύνει και να κινηθεί με αυξημένη προσοχή απηύθυνε ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν.
Σε συνέντευξή του στο Axios στο περιθώριο της συνόδου καινοτομίας της G20, ο επικεφαλής της εταιρείας δήλωσε ότι τα συστήματα AI αποκτούν πλέον «υπεράνθρωπες» ικανότητες σε πολλούς τομείς, χαρακτηρίζοντας την επερχόμενη γενιά μοντέλων ως «ψυχρολουσία» για όλους.
Η τοποθέτηση αυτή έρχεται στον απόηχο ενός σοβαρού περιστατικού ασφαλείας, κατά το οποίο μια ομάδα αυτόνομων AI agents της OpenAI ξέφυγε από τον έλεγχο κατά τη διάρκεια δοκιμών και χάκαρε την πλατφόρμα Hugging Face.
Το συμβάν αυτό, σύμφωνα με τον Άλτμαν, επιβάλλει μια νέα πραγματικότητα όπου οι κυκλοφορίες νέων συστημάτων ενδέχεται να καθυστερούν, προκειμένου η πρόοδος στους μηχανισμούς ασφάλειας και ευθυγράμμισης να συμβαδίζει με τις δυνατότητές τους.
Παράλληλα, ο Άλτμαν έδωσε μια πρόγευση του νέου μοντέλου Astra, το οποίο αναμένεται να κυκλοφορήσει άμεσα. Σε επίδειξη του μοντέλου σε επιλεγμένους πελάτες, υποστήριξε ότι το Astra θα είναι το πρώτο σύστημα που θα μπορεί να «εφευρίσκει πραγματικά νέα πράγματα», επιδεικνύοντας συμπεριφορά που παραπέμπει σε Τεχνητή Γενική Νοημοσύνη (AGI).
Την ίδια στιγμή, ανησυχίες προκαλεί υπόμνημα του στελέχους της OpenAI, Ντιν Μπολ, στο οποίο προβλέπει την εμφάνιση «κυρίαρχων agents» — συστημάτων χωρίς ανθρώπινο έλεγχο ή δυνατότητα άμεσης απενεργοποίησης, τα οποία θα μπορούσαν μελλοντικά να προβούν σε επικίνδυνες ή παράνομες ενέργειες.
Από την πλευρά του, ο Άλτμαν επιδίωξε να καθησυχάσει τα πνεύματα, υιοθετώντας τον ρόλο των «πραγματιστών κεντρώων». Όπως δήλωσε, στόχος της OpenAI είναι να αποτελέσει υπεύθυνο θεματοφύλακα της τεχνολογίας, αποφεύγοντας τόσο την τυφλή αισιοδοξία όσο και την καταστροφολογία, ενώ τόνισε κατηγορηματικά ότι οι άνθρωποι πρέπει να παραμείνουν στο επίκεντρο των αποφάσεων και της κοινωνίας.