Στη δημοσιότητα έδωσε η Anthropic μια αποκαλυπτική έκθεση, περιγράφοντας πώς «κακόβουλοι παράγοντες» ανά τον κόσμο κατάφεραν να επιστρατεύσουν το μοντέλο τεχνητής νοημοσύνης Claude για στρατιωτικούς σκοπούς, παρακολουθήσεις, πολιτική προπαγάνδα αλλά και απάτες.
Τα περιστατικά αυτά φέρνουν ξανά στο προσκήνιο τους τεράστιους κινδύνους από την ανεξέλεγκτη ανάπτυξη της AI, αναδεικνύοντας παράλληλα την αδυναμία των τεχνολογικών κολοσσών να αποτρέψουν την επικίνδυνη χρήση των εργαλείων τους.
Μαζική επιτήρηση, drones και πύραυλοι
Σύμφωνα με τα ευρήματα της εταιρείας, οι εφαρμογές του λογισμικού ξέφυγαν επικίνδυνα:
Μάλι: Τεχνολογικός σύμβουλος που συνεργαζόταν με τη στρατιωτική χούντα χρησιμοποίησε το Claude Code για τη δημιουργία του συστήματος «Lakana 360». Η εφαρμογή αυτή παρακολουθούσε περίπου 25 εκατομμύρια κάρτες SIM, καταγράφοντας κλήσεις, μηνύματα, ακόμα και χρήστες που χρησιμοποιούσαν VPN.
Ρωσία: Ομάδα προγραμματιστών αξιοποίησε το μοντέλο για να αναπτύξει λογισμικό για αυτόνομα drones καμικάζι, ικανά να επιλέγουν και να πλήττουν στόχους στο Ντονέτσκ χωρίς ανθρώπινη παρέμβαση.
Υεμένη: Ομάδα στο βόρειο τμήμα της χώρας —περιοχή που ελέγχεται από τους Χούθι— χρησιμοποίησε το εργαλείο για τον σχεδιασμό κατευθυνόμενων πυραύλων και την ανάλυση αποτυχημένων δοκιμαστικών εκτοξεύσεων.
Βιομηχανία προπαγάνδας και απάτες γνωριμιών
Πέραν των πολεμικών εφαρμογών, το Claude επιστρατεύθηκε για τη χειραγώγηση της κοινής γνώμης και την εξαπάτηση πολιτών. Στην Ευρώπη, η γαλλική διαφημιστική εταιρεία LKM Company συνδέθηκε με μια εκστρατεία «προπαγάνδας ως υπηρεσία», παράγοντας σχεδόν 9.000 πολιτικά άρθρα σε 20 γλώσσες για 70 ψευδεπίγραφες ειδησεογραφικές ιστοσελίδες με ανύπαρκτους «δημοσιογράφους».
Αντίστοιχη επιχείρηση επηρεασμού εντοπίστηκε και στα Ηνωμένα Αραβικά Εμιράτα σχετικά με τον πόλεμο στο Σουδάν.
Τέλος, στην Κίνα αποκαλύφθηκε δίκτυο με περισσότερες από 20 εφαρμογές γνωριμιών, όπου το Claude διαχειριζόταν 4.700 ψεύτικες προσωπικότητες. Τα bots αυτά ανταλλάξαν 2,36 εκατομμύρια μηνύματα με 25.000 πραγματικούς χρήστες, ενώ πραγματικοί εργαζόμενοι επιστρατεύονταν για βιντεοκλήσεις ώστε να καλύπτουν τα ίχνη της απάτης.