Προσπάθησαν να φτιάξουν βιολογικά όπλα και βαλλιστικούς πυραύλους μέσω AI - Η έκθεση της Anthropic

Μαχητές της Υεμένης φέρεται ότι επιδίωξαν να χρησιμοποιήσουν το μοντέλο τεχνητής νοημοσύνης «Claude» της Anthropic για την ανάπτυξη λογισμικού καθοδήγησης, ελέγχου και πλοήγησης των βαλλιστικών πυραύλων τους.

Στην ενημερωτική έκθεση για πιθανές απειλές που δημοσίευσε η Anthropic δεν κατονόμασε συγκεκριμένα τους υποστηριζόμενους από το Ιράν Χούθι. Ωστόσο, όπως μεταδίδουν οι Financial Times, ανέφερε ότι «εντόπισε έναν πυρήνα δραστών με έδρα το βόρειο τμήμα της Υεμένης» –μεγάλο μέρος της οποίας ελέγχεται από τους Χούθι– «η οποία διεξάγει τρία προγράμματα ανάπτυξης όπλων».

Η Anthropic επισήμανε ότι η ομάδα της Υεμένης επιδίωξε να αναπτύξει όπλα, μεταξύ των οποίων έναν βαλλιστικό πύραυλο πολλαπλών σταδίων, έναν πύραυλο πολλαπλών τύπων και έναν κατευθυνόμενο πύραυλο που χρησιμοποιούσε έναν «υπολογιστή πτήσης της κατηγορίας κοινού κινητού τηλεφώνου».

«Οι δράστες χρησιμοποίησαν τον Claude Code αντί για μηχανικούς λογισμικού για να αναπτύξουν το λογισμικό καθοδήγησης, πλοήγησης και ελέγχου που κατευθύνει και σταθεροποιεί ένα ιπτάμενο όχημα», ανέφερε χαρακτηριστικά.

«Χρησιμοποίησαν το Claude για να ενσωματώσουν έναν αυτόματο πιλότο ανοιχτού κώδικα σε έναν υπολογιστή πτήσης τύπου κινητού τηλεφώνου, γράφοντας το λογισμικό ελέγχου και εκτίμησης θέσης, ρυθμίζοντας τις παραμέτρους ελέγχου, εκτελώντας μια διαδικασία ανάπτυξης υλικολογισμικού και πραγματοποιώντας προσομοίωση πτήσης».

Η Anthropic ανέφερε ότι τα μέτρα ασφαλείας της μπλόκαραν «πολλά από τα αιτήματά τους, αλλά όχι όλα», προσθέτοντας πως οι «δράστες χρησιμοποίησαν διάφορες τακτικές για να παρακάμψουν» τα μέτρα και να αποκρύψουν τον στόχο τους.

«Προσπάθησαν να κρύψουν τους στόχους τους και τα προϊόντα για τα οποία προοριζόταν το λογισμικό, και κατένειμαν την εργασία τους σε πολλαπλές συνεδρίες, ώστε καμία μεμονωμένη συνεδρία να μην αποκαλύπτει την πλήρη πρόθεσή τους».

«Δεν διαθέτουμε στοιχεία ότι οι δράστες κατάφεραν να θέσουν σε λειτουργία κάποια επιχειρησιακή συσκευή. Ωστόσο, πραγματοποίησαν δοκιμαστική εκτόξευση ενός κατευθυνόμενου πυραύλου», ανέφερε στην έκθεσή της η Anthropic. «Αυτή η δοκιμή πεδίου φαίνεται να απέτυχε: μέσα σε λίγες ώρες, οι δράστες επέστρεψαν στο Claude για να διερευνήσουν τους λόγους της αποτυχίας».

Στην ίδια έκθεση η εταιρεία υποστηρίζει πως επιστήμονες έκαναν πολλαπλές προσπάθειες να χρησιμοποιήσουν το «Claude» για την έρευνα βιολογικών όπλων.

Η έκθεση αναδεικνύει τους ολοένα και περισσότερους κινδύνους που εγκυμονεί η προηγμένη τεχνητή νοημοσύνη σε λάθος χέρια.

Οι αμερικανικές εταιρείες ΑΙ, που βρίσκονται σήμερα στην πρώτη γραμμή των παγκόσμιων εξελίξεων στο πεδίο, είναι αντιμέτωπες με μία διαρκή μάχη ώστε να διασφαλίσουν ότι τα εργαλεία αυτά δεν θα καταλήξουν σε ακατάλληλα χέρια και δεν θα χρησιμοποιηθούν για επιθέσεις κατά της Αμερικής και των συμμάχων της.

Διαβάστε ακόμη

Νέα ανατροπή στην υπόθεση θανάτου του Μαζωνάκη - Η εικόνα του ιατρείου που «δεν δένει» με όσα περιέγραψαν οι διασώστες

Προσπάθησαν να φτιάξουν βιολογικά όπλα και βαλλιστικούς πυραύλους μέσω AI - Η έκθεση της Anthropic

Αγιασμός με... ψύλλους: Τσίμπησαν μαθητές δημοτικού και δασκάλους - Μπήκε λουκέτο μέχρι νεωτέρας

«Μια Ελλάδα Παρέα» στο OPEN: Μαλέσκου, Ζαρίφη, Βουράκης, Μαλλιαρός θέλουν να φέρουν στην τηλεόραση όσα μας κάνουν να χαμογελάμε