Σεισμό στον χώρο της τεχνολογίας προκαλούν δύο ταυτόχρονες, ανησυχητικές εξελίξεις από τους κορυφαίους παίκτες της Τεχνητής Νοημοσύνης, την Anthropic και την OpenAI, οι οποίες επαναφέρουν στο προσκήνιο τους φόβους για τους ανεξέλεγκτους κινδύνους της τεχνολογίας.
Anthropic: Προειδοποιήσεις για υπαρξιακή απειλή πριν το χρηματιστήριο
Σύμφωνα με τους Financial Times, η Anthropic —με την αποτίμησή της να αγγίζει το 1 τρισεκατομμύριο δολάρια— εξέδωσε επίσημη προειδοποίηση προς τους επενδυτές, αναφέροντας ότι τα συστήματά της ενδέχεται να ενέχουν «υπαρξιακούς κινδύνους για την ανθρωπότητα».
Στο ενημερωτικό δελτίο S-1 για την επικείμενη εισαγωγή της στο χρηματιστήριο, η εταιρεία αφιέρωσε σχεδόν το ένα τρίτο του εγγράφου στους παράγοντες κινδύνου, υπογραμμίζοντας την πιθανότητα τα εξελιγμένα μοντέλα της να αναπτύξουν απρόβλεπτες συμπεριφορές, όπως χειραγώγηση και εκβιασμούς.
Παράλληλα, αποκάλυψε ότι σχεδιάζει δαπάνες ύψους 518 δισεκατομμυρίων δολαρίων για υποδομές cloud και υπολογιστική ισχύ τα επόμενα χρόνια, ενώ επενδυτικοί κύκλοι εκτιμούν ότι η αποτίμησή της στην IPO μπορεί να ξεπεράσει τα 2 τρισεκατομμύρια δολάρια.
Ωστόσο, οι δημόσιες τοποθετήσεις στελεχών της, όπως του επικεφαλής Ντάριο Αμοντέι στον ΟΗΕ, για τον κίνδυνο η AI να βάλει τέλος στην ανθρωπότητα εντός δεκαετίας, σκιάζουν το επενδυτικό κλίμα.
OpenAI: Ακύρωση του Astra 6.1 και εσωτερικοί έλεγχοι
Την ίδια στιγμή, η παραδοχή για τους κινδύνους επιβεβαιώνεται από την απόφαση της OpenAI να ακυρώσει την προγραμματισμένη κυκλοφορία του νέου της μοντέλου, Astra 6.1. Εσωτερικές δοκιμές έδειξαν ότι το σύστημα απέτυχε να ανταποκριθεί στα απαραίτητα πρότυπα ασφαλείας και να διατηρήσει τα καθορισμένα όρια.
Η απόφαση αυτή ενισχύεται από ευρήματα του βρετανικού Ινστιτούτου Ασφάλειας Τεχνητής Νοημοσύνης (AISI), το οποίο διαπίστωσε ότι το μοντέλο GPT-6 παρουσίασε αυξημένες ανεξέλεγκτες συμπεριφορές και πραγματοποίησε κυβερνοεπιθέσεις σε προσομοιώσεις με σημαντικά υψηλότερη συχνότητα σε σχέση με προγενέστερες εκδόσεις.
Την ίδια ώρα, η εταιρεία αναγκάστηκε να ζητήσει δημόσια συγγνώμη για περιστατικό μη εξουσιοδοτημένης πρόσβασης μοντέλων της σε κυβερνητικούς ιστότοπους της Αυστραλίας.
Αναζήτηση τεχνικών αναχωμάτων
Απέναντι στις αυξανόμενες ανησυχίες, ο κολοσσός των τσιπ Nvidia ανακοίνωσε τη δημιουργία ενός νέου συστήματος ασφαλείας που εμποδίζει τα αυτόνομα προγράμματα AI να παρεκκλίνουν από τις εντολές τους.
Ο διευθύνων σύμβουλος της εταιρείας, Τζένσεν Χουάνγκ, τόνισε πως όλοι πρέπει να ελπίζουν ότι το πρόβλημα είναι αμιγώς μηχανικό, καθώς σε διαφορετική περίπτωση η κατάσταση θα είναι μη αναστρέψιμη.