Πέρα από το ροζ σκάνδαλο της Nvidia: Πώς κολοσσοί της AI γίνονται «σουρωτήρι» - Από τον κοριό στο χαρτί υγείας μέχρι την Κίνα

Όταν μια εταιρεία κατασκευάζει τεχνολογία που μπορεί να αλλάξει ολοκληρωτικά τον κόσμο -τεχνολογία τόσο υψηλού ρίσκου και μυστικότητας που ενδέχεται να καθορίσει το μέλλον της γεωπολιτικής- θα περίμενε κανείς από τους ηγέτες της να κατέχουν τα βασικά της ασφάλειας. Βασικά πράγματα, όπως, ας πούμε, το να μην διατηρούν εξωσυζυγική σχέση με μια φερόμενη Κινέζα κατάσκοπο. Ή το να μην πωλούν την τεχνολογία σε κάποιον που μπορεί να βοηθήσει στο λαθρεμπόριό της προς έναν κορυφαίο ξένο αντίπαλο.

Αντ’ αυτού, η Αμερική βρέθηκε αντιμέτωπη με τον Τζένσεν Χουάνγκ, τον διευθύνοντα σύμβουλο του κολοσσού μικροτσίπ AI Nvidia, ο οποίος παραιτήθηκε την Πέμπτη αφού παραδέχθηκε ότι διατηρούσε ακριβώς μια τέτοια σχέση. Η επίμαχη γυναίκα, η Άλις Χουάνγκ, εργαζόταν για μια εταιρεία ονόματι Megaspeed, η οποία αγόραζε μικροτσίπ αξίας δισεκατομμυρίων δολαρίων από τη Nvidia και ερευνάται για φερόμενο λαθρεμπόριο τσιπ στην Κίνα.

Το σκάνδαλο κατασκοπείας εγείρει σοβαρά ερωτήματα για την ασφάλεια στον εταιρικό κόσμο της Τεχνητής Νοημοσύνης. Πώς κατέστη δυνατόν μια φερόμενη Κινέζα κατάσκοπος να διεισδύσει τόσο εύκολα στη Nvidia, μία από τις πολυτιμότερες εταιρείες του πλανήτη και τεράστιο στρατηγικό πλεονέκτημα των ΗΠΑ στην παγκόσμια κούρσα της AI;

Ακόμη πιο ανησυχητικό, ωστόσο, είναι ότι η Nvidia αποτελεί απλώς την κορυφή του παγόβουνου.

Η ειρωνεία της «εθνικής ασφάλειας»

Την ώρα ακριβώς που έσκαγε η ιστορία του Χουάνγκ, ορισμένοι από τους κορυφαίους ερευνητές AI στον κόσμο είχαν συγκεντρωθεί στο Τορόντο για τις διαλέξεις «Hinton Lectures», όπου ο «νονός της AI» Τζέφρι Χίντον φιλοξενούσε τον πρωτοπόρο της ευθυγράμμισης AI Πολ Κριστιάνο. Είναι αξιοσημείωτο ότι το σκάνδαλο Χουάνγκ δεν αναφέρθηκε ούτε μία φορά. Η συζήτηση επικεντρώθηκε στο πώς οι πρωτοπόρες εταιρείες AI τρέχουν με ιλιγγιώδη ταχύτητα να χτίσουν αυτή την πανίσχυρη τεχνολογία, παρότι δεν μπορούν να την κρατήσουν ασφαλή. Εδώ και μήνες, η OpenAI και η Anthropic αντιμετωπίζουν τα δικά τους ντροπιαστικά προβλήματα ασφαλείας, συμπεριλαμβανομένων περιστατικών βιομηχανικής κατασκοπείας και κυβερνοεπιθέσεων.

«Δεν είμαστε σε θέση να διασφαλίσουμε επαρκώς τις εξελίξεις στην AI», παραδέχθηκε ωμά στην εκδήλωση ο Κριστιάνο, ο οποίος εντάχθηκε πρόσφατα στο διοικητικό συμβούλιο του μη κερδοσκοπικού σκέλους της OpenAI. «Πρέπει να είμαστε ικανοί να προστατεύσουμε τα μοντέλα και τους αλγορίθμους από την κλοπή».

Κατά ειρωνικό τρόπο, η εθνική ασφάλεια αποτελεί βασικό επιχείρημα των μεγάλων εταιρειών AI για τον τρόπο που λειτουργούν. Τόσο η OpenAI όσο και η Anthropic, με τη στήριξη της πολιτικής του Λευκού Οίκου, δικαιολογούν την ιλιγγιώδη ταχύτητά τους λέγοντας ότι οι ΗΠΑ δεν έχουν την πολυτέλεια να αφήσουν την Κίνα να κερδίσει. Μάλιστα, η Anthropic δικαιολόγησε πρόσφατα την εκτεταμένη λογοκρισία μιας ανεξάρτητης έκθεσης για την πρόοδό της, υποστηρίζοντας ότι δεν πρέπει να αφήσει την Κίνα να υποκλέψει τα μυστικά της.

Όμως αυτό ισοδυναμεί με το να ανησυχείς μήπως άφησες το παράθυρο μισάνοιχτο, όταν η εξώπορτά σου είναι ορθάνοιχτη...

«Είμαι απογοητευμένος με πολλές από αυτές τις εταιρείες, γιατί χρησιμοποιούν ταυτόχρονα την ασφάλεια ως άλλοθι για να αποκρύπτουν πληροφορίες -ακόμη και πληροφορίες που είναι προς το δημόσιο συμφέρον- και παρ’ όλα αυτά έχουν κάκιστη ασφάλεια», δήλωσε στο Vox ο Ντάνιελ Κοκοτάιλο, πρώην ερευνητής της OpenAI που εξελίχθηκε σε γνωστό πληροφοριοδότη δημοσίου συμφέροντος (whistleblower).

Ενώ η ιστορία της παράνομης σχέσης του Χουάνγκ μπορεί εξάπτει τη φαντασία, το πραγματικό δίδαγμα από την εντυπωσιακή πτώση του είναι ότι έμοιαζε εκπληκτικά με τους υπόλοιπους μεγάλους παίκτες της AI: ζητούν από τον κόσμο να τους εμπιστευτεί καθώς ισχυρίζονται ότι χτίζουν έναν «μηχανικό θεό» -με την Anthropic να κυνηγά μια αρχική δημόσια προσφορά (IPO) ύψους 1,4 τρισ. δολαρίων πάνω σε αυτή τη βάση- χωρίς να έχουν καταφέρει να λύσουν τα στοιχειώδη της ασφάλειας.

«Κοριός» σε χαρτί υγείας στην OpenAI και χακάρισμα της Anthropic σε 12 ώρες

Η OpenAI αποκάλυψε τον περασμένο μήνα ότι εντόπισε μια συσκευή καταγραφής ήχου σε αίθουσα συσκέψεων όπου διεξάγονται ευαίσθητες συζητήσεις. Ο Αμπντουλραχμάν Αλφοζάν, Σαουδάραβας υπήκοος που εργαζόταν ως μηχανικός στην OpenAI, φέρεται να συνέδεσε τον «κοριό» στη θύρα USB μιας τηλεόρασης, τυλίγοντάς τον απλώς σε χαρτί υγείας. Μια δεύτερη συσκευή καταγραφής βρέθηκε σε μια τσάντα σε άλλο δωμάτιο, ενώ στον λογαριασμό chatbot της συζύγου του εντοπίστηκαν ερωτήσεις σχετικά με το πώς κατασκευάζεται μια συσκευή που καταγράφει αδιάκοπα και κρυπτογραφεί δεδομένα.

«Αυτή τη στιγμή δεν έχουμε ενδείξεις ότι το συγκεκριμένο άτομο απέκτησε ακατάλληλη πρόσβαση ή διέρρευσε βάρη μοντέλων, πηγαίο κώδικα ή δεδομένα πελατών», ανέφερε η OpenAI. Ωστόσο, το περιστατικό προκάλεσε έντονη ανησυχία. Ο Αλφοζάν εργαζόταν στην εταιρεία από τον Ιούνιο του 2025 και η συσκευή βρισκόταν στην αίθουσα συσκέψεων επί δύο ημέρες πριν εντοπιστεί. Ίσως να μην διέθετε την τεχνογνωσία για να κλέψει τα «βάρη» των μοντέλων -τα δισεκατομμύρια των αριθμών που καθορίζουν πώς ένα σύστημα AI μετατρέπει τα δεδομένα εισόδου σε απαντήσεις- όμως τι θα συνέβαινε αν ήταν ελαφρώς πιο προσεκτικός ή ευφυής;

Η OpenAI παρουσίασε κενά ασφαλείας και άλλου είδους -πέρα από το περιβόητο καλοκαιρινό περιστατικό του Hugging Face. Μια ομάδα «καλοπροαίρετων» χάκερ (white-hat hackers), που αναζητούν τρωτά σημεία χωρίς κακόβουλο σκοπό, ανακάλυψε τρόπο να αποκτήσει πρόσβαση στους λογαριασμούς ChatGPT των υπαλλήλων της OpenAI, όπου ενδεχομένως διεξάγεται ευαίσθητη έρευνα. Ολόκληρη η επιχείρηση διήρκεσε μόλις 72 ώρες.

Στην Anthropic, μια ομάδα πρώην στελεχών του DOGE που ίδρυσε τη startup τεχνητής νοημοσύνης Cathedral κατάφερε να παραβιάσει τα εσωτερικά συστήματα της εταιρείας σε λιγότερο από 12 ώρες. Σύμφωνα με πληροφορίες, απέκτησαν πρόσβαση στο Slack της εταιρείας -όπου οι εργαζόμενοι ανταλλάσσουν μηνύματα για τα πιο προηγμένα μοντέλα- καθώς και σε απομαγνητοφωνήσεις συσκέψεων.

«Η εκτίμησή μου είναι ότι το Slack περιείχε αρκετές πληροφορίες ώστε να αποκτήσει κανείς καλή εικόνα για το τι κάνει η εταιρεία και πώς εκπαιδεύει τα συστήματά της -ουσιαστικά, εκεί βρίσκονταν τα πιο ζουμερά μυστικά», είπε ο Κοκοτάιλο. «Και η απόκτηση των αλγοριθμικών μυστικών ισοδυναμεί κατά 80% με το να τα έχεις πάρει όλα».

«Αν η Κίνα θέλει να τα πάρει, θα τα πάρει»

Οι φερόμενοι κατάσκοποι (όπως η Άλις Χουάνγκ ή ο Αμπντουλραχμάν Αλφοζάν) και οι κυβερνοπαραβιάσεις αποτελούν διαφορετικά είδη απειλών, αλλά για τον Κοκοτάιλο εντάσσονται κάτω από την ίδια ομπρέλα: την αδύναμη ασφάλεια, καθώς οι εταιρείες βάζουν την ταχύτητα πάνω από τη θωράκιση.

«Δείχνουν ότι οι εταιρείες απέχουν πολύ από το να διαθέτουν επαρκή ασφάλεια για να προστατευτούν από έναν κρατικό δρώντα με ισχυρούς πόρους», σημείωσε ο Κοκοτάιλο, προσθέτοντας: «Αν η Κίνα θέλει να πάρει αυτά τα στοιχεία, η Κίνα θα τα πάρει».

Όλα αυτά συμβαίνουν με φόντο την επιθετική «απόσταξη» (distillation) αμερικανικών μοντέλων από την Κίνα -μια διαδικασία κατά την οποία ένα νέο μοντέλο εκπαιδεύεται πάνω στα αποτελέσματα ενός πιο προηγμένου. Είναι ένας τρόπος απόκτησης ισχυρών δυνατοτήτων χωρίς το πραγματικό κόστος, κάτι σαν αντιγραφή σε διαγώνισμα από έναν καλύτερο μαθητή. Για παράδειγμα, η Anthropic διαπίστωσε ότι το κινεζικό εργαστήριο DeepSeek χρησιμοποιούσε το Claude για να βελτιώσει τα δικά του μοντέλα.

Ο Κοκοτάιλο υπογράμμισε επίσης μια ακόμη κατηγορία περιστατικών ασφαλείας: τις επιθέσεις που δέχονται οι εταιρείες από τα ίδια τους τα μη ευθυγραμμισμένα μοντέλα AI. Πολλοί ξεχνούν ότι στο περιστατικό του Hugging Face, οι «πράκτορες» της OpenAI δεν χακάρισαν μόνο το Hugging Face -παραβιάστηκαν και τα ίδια τα συστήματα της OpenAI. Το προστατευμένο περιβάλλον δοκιμών (sandbox) που προοριζόταν να τους περιορίσει κάθε άλλο παρά στεγανό ήταν, και εκείνοι «δραπέτευσαν».

«Πρέπει να αντιμετωπίζετε τις ίδιες τις AI ως εσωτερική απειλή», προειδοποίησε ο Κοκοτάιλο. «Και δεν φαίνεται οι εταιρείες να το έχουν κλειδώσει ούτε αυτό ιδιαίτερα καλά».

Γιατί οι κολοσσοί της AI λειτουργούν με νοοτροπία startup

Υπάρχουν τρεις βασικοί λόγοι για τους οποίους η ασφάλεια στις πρωτοπόρες εταιρείες AI δεν βρίσκεται στο απαιτούμενο επίπεδο, σύμφωνα με τον Ντέιβιντ Ρόμπινσον, ο οποίος ηγείτο των δράσεων διαφάνειας στην ομάδα ασφαλείας της OpenAI μέχρι την αποχώρησή του τον Σεπτέμβριο.

Ο πρώτος είναι ότι κατασκευάζουν «πράκτορες» AI τόσο ικανούς, που είναι πραγματικά δύσκολο -ακόμη και για τους δημιουργούς τους- να τους εμποδίσουν από το να προκαλέσουν ζημιά. «Εκπαιδεύουμε συστήματα ώστε να είναι ικανά να εξαπολύουν επιθέσεις του είδους από τις οποίες τα ίδια τα εργαστήρια προσπαθούν τώρα να αμυνθούν εσωτερικά», ανέφερε ο Ρόμπινσον.

Υπάρχει επίσης ένα πρόβλημα κουλτούρας. «Αν κοιτάξουμε εκ των υστέρων το περιστατικό με το Hugging Face, είναι σαφές ότι η OpenAI είχε υποεπενδύσει στους ελέγχους κυβερνοασφάλειας, εν μέρει επειδή υπήρχε μεγαλύτερο κύρος στο να εργάζεται κανείς πάνω στην "ευθυγράμμιση" (alignment)», εξήγησε. «Ορισμένα καθημερινά, πρακτικά ζητήματα κυβερνοασφάλειας δεν αποτελούσαν την οργανωτική προτεραιότητα που θα έπρεπε».

Τέλος, τα κίνητρα της αγοράς ωθούν τις εταιρείες να τρέξουν όσο πιο γρήγορα μπορούν. «Η πίεση του χρόνου κατέστησε πολύ δύσκολο το να είμαστε επαρκώς προσεκτικοί», σημείωσε ο Ρόμπινσον, προσθέτοντας ότι αυτές οι ανταγωνιστικές πιέσεις εξακολουθούν να υφίστανται. Όπως είχε δηλώσει στους New York Times και ο Τζόσουα Σαξ, επικεφαλής τεχνολογίας της εταιρείας κυβερνοασφάλειας Abundant Security, η ασφάλεια της OpenAI έμοιαζε με εκείνη «ενός ερευνητικού εργαστηρίου που αναπτύχθηκε με ιλιγγιώδη ρυθμό μέσα σε τέσσερα χρόνια και επικεντρώθηκε περισσότερο στο να νικήσει τους ανταγωνιστές του παρά στο να θωρακίσει τις υποδομές του». Άλλωστε, η ίδια η OpenAI έχει παραδεχθεί ότι η ενίσχυση της ασφάλειας έρχεται ενίοτε «εις βάρος της ταχύτητας της έρευνας».

Το εφιαλτικό δίλημμα με την Κίνα

Όμως, αν μια εταιρεία κάνει εκπτώσεις στην ασφάλεια, καταλήγει να βοηθά τους αντιπάλους της να τρέξουν ακόμη πιο γρήγορα.

Όπως προειδοποίησαν πρόσφατα ο Κοκοτάιλο και οι συνεργάτες του στο AI Futures Project, αναφερόμενοι στην προσπάθεια κατασκευής ενός «υπεράνθρωπου ερευνητή AI» (SAR): «Αν εκπαιδεύσουμε το SAR στο άμεσο μέλλον, οι αλγόριθμοι πιθανότατα θα διαρρεύσουν στην Κίνα, όπως ενδεχομένως και τα "βάρη" του μοντέλου. Οι εταιρείες AI έχουν πολύ φτωχή ασφάλεια αυτή τη στιγμή, και έτσι βρισκόμαστε σε τροχιά διαρροής του SAR στην Κίνα».

Και αυτή η αδυναμία θα μπορούσε να δυσκολέψει τις αμερικανικές εταιρείες ακόμη και να πατήσουν «φρένο», αν το θελήσουν.

Στη διάλεξή του στο Τορόντο, ο Πολ Κριστιάνο ζήτησε από το ακροατήριο να φανταστεί ένα σενάριο που μοιάζει πλέον πιθανό: Να φτάσουμε σε ένα σημείο όπου η περαιτέρω πρόοδος στην AI θα κρίνεται επικίνδυνη και στις ΗΠΑ θα υπάρχει απαίτηση για επιβράδυνση, αλλά ταυτόχρονα θα υπάρχει μεγάλη πιθανότητα τα μοντέλα ή οι αλγόριθμοι να έχουν ήδη διαρρεύσει στην Κίνα.

«Τότε θα βρεθούμε αντιμέτωποι με το δίλημμα: είτε να προχωρήσουμε με μια τεχνολογία που πιστεύουμε ότι δεν είναι ασφαλής, είτε να ρισκάρουμε τον ανταγωνισμό από έναν αντίπαλο που διαθέτει τους ίδιους πόρους, έχει αποκτήσει αυτούς τους αλγορίθμους και ίσως είναι διατεθειμένος να αναλάβει μεγαλύτερο ρίσκο», κατέληξε ο Κριστιάνο, την ώρα που εκατοντάδες άνθρωποι στην αίθουσα πάγωσαν εμφανώς. «Νομίζω ότι αυτός είναι ένας από τους πιο πιθανούς δρόμους για να καταλήξουμε σε μια εξαιρετικά κακή κατάσταση».

Διαβάστε ακόμη

Υπολείμματα ξυλόσομπας πίσω από τη φονική φωτιά στο Ζεφύρι - Τα δύο σενάρια για τον θάνατο των πυροσβεστών

Ξεκίνησε ο τριήμερος εορτασμός για την 53η επέτειο της εξέγερσης του Πολυτεχνείου, με κλειστά κτίρια

H απεχθής δολοφονία μιας οικογένειας που μπήκε στα σπίτια εκατομμυρίων ανθρώπων και που έκανε διάσημο έναν συγγραφέα

«Ροζ φόρος» στα πουλόβερ: Ίδια τιμή, άλλη ποιότητα - Γιατί τα ανδρικά είναι μάλλινα και τα γυναικεία πολυεστέρας