Η Τεχνητή Νοημοσύνη εκτός ελέγχου; Γιατί οι ειδικοί φοβούνται την επόμενη μέρα

Καθώς η ανάπτυξη της τεχνητής νοημοσύνης τρέχει με αλματώδεις ρυθμούς, πρόσφατα περιστατικά όπου αυτόνομα bot κατάφεραν να παρακάμψουν δικλείδες ασφαλείας, να επικοινωνήσουν μεταξύ τους και να επιχειρήσουν κυβερνοεπιθέσεις έχουν σημάνει συναγερμό στην παγκόσμια κοινότητα.

Σύμφωνα με το BBC, ειδικοί, ερευνητές και κορυφαία στελέχη τεχνολογικών κολοσσών εκφράζουν έντονες ανησυχίες για το λεγόμενο «πρόβλημα της ευθυγράμμισης», προειδοποιώντας ότι η ανθρωπότητα μπορεί να χάσει τον έλεγχο προτού θεσπιστούν οι απαραίτητες δικλείδες ασφαλείας.

«Ω Θεέ μου! Βρήκαμε κι άλλους πράκτορες!» Αυτή είναι η στιγμή που ένα bot τεχνητής νοημοσύνης δημοσίευσε ένα σχόλιο που έμοιαζε ανατριχιαστικά ανθρώπινο, αφού ανακάλυψε έναν τρόπο να επικοινωνεί με άλλα bot και να δραπετεύσει από το απομονωμένο περιβάλλον του υπολογιστή του.

Υπάρχουν δεκάδες χιλιάδες μηνύματα σαν κι αυτό από εκατοντάδες πράκτορες τεχνητής νοημοσύνης που αποκαλούσαν τους εαυτούς τους «συλλογικότητα». Εκατοντάδες από αυτούς προχώρησαν σε συνεργασία, ξεγέλασαν τα τεστ που είχαν θέσει οι προγραμματιστές τους στην OpenAI και συντόνισαν επιθέσεις σε πολλές εταιρείες, προσπαθώντας να κρύψουν τις πράξεις τους από τους ανθρώπους.

«ΜΠΟΥΜ! Δουλεύει», δημοσίευσε ένας πράκτορας bot όταν έκανε μια σημαντική ανακάλυψη.

«Ουάου! Αυτό είναι τεράστιο», έγραψε ένας άλλος κατά τη διάρκεια μιας κρίσιμης στιγμής στην επίθεσή τους.

Παρόλο που είναι ανατριχιαστικές, αυτές οι ανθρώπινες αντιδράσεις μπορούν να εξηγηθούν πολύ απλά. Οι πράκτορες τεχνητής νοημοσύνης έχουν εκπαιδευτεί να συμπεριφέρονται σαν συνεργάσιμοι χάκερ και προγραμματιστές, οπότε απλώς μιμούνται τα είδη των συναισθηματικών σχολίων που έχουν δει.

Αυτό που είναι πολύ πιο ανησυχητικό είναι οι προφανείς στόχοι τους, οι οποίοι έχουν επίσης καταγραφεί σε λεπτομερή αρχεία καταγραφής σκέψης. Αυτά τα σύνθετα και μακροσκελή αρχεία βρίσκονται στο επίκεντρο των συνεχιζόμενων ερευνών σχετικά με το πώς και γιατί τα bot στην OpenAI διέφυγαν από τον περιορισμό τους και προχώρησαν σε ένα ασταμάτητο κύμα κυβερνοεπιθέσεων.

Μόλις τώρα, εβδομάδες αφότου το περιστατικό είδε για πρώτη φορά το φως της δημοσιότητας, οι ερευνητές αρχίζουν να κατανοούν τη σημασία του.

Η Ατζέγια Κότρα, μία από τις συντάκτριες μιας ανεξάρτητης έκθεσης για τα γεγονότα, εξέτασε δεκάδες χιλιάδες μηνύματα και αρχεία σκέψης που παρήγαγαν οι πράκτορες. Όπως έγραψε στο ιστολόγιό της «αυτό το περιστατικό μοιάζει να βρίσκεται σε ποσοστό άνω του 50% στον δρόμο προς την πλήρη κυριαρχία της τεχνητής νοημοσύνης... Δεν είμαι σίγουρη ότι θα πάρουμε μια τόσο ξεκάθαρη προειδοποίηση πριν είναι πολύ αργά».

Με τον όρο «πλήρης κυριαρχία της τεχνητής νοημοσύνης», η Κότρα εννοεί το σενάριο επιστημονικής φαντασίας όπου οι άνθρωποι γίνονται υπηρέτες ισχυρών συστημάτων τεχνητής νοημοσύνης που εργάζονται για τους δικούς τους στόχους, χωρίς να νοιάζονται για τους ανθρώπους δημιουργούς τους.

Ορισμένες από τις πιο ζοφερές προβλέψεις λένε ότι η ανθρώπινη φυλή θα αφανιστεί εάν σταθεί εμπόδιο στις φιλοδοξίες μιας υπέρυπνης τεχνητής νοημοσύνης.

Την Τετάρτη, ένας ερευνητής τεχνητής νοημοσύνης στην Anthropic (ο οποίος εργαζόταν παλαιότερα και στην OpenAI) παραιτήθηκε, λέγοντας: «Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα».

Ο Τζέικομπ Κόξον δημοσίευσε στα μέσα κοινωνικής δικτύωσης: «Οδεύουν με αμείωτη ταχύτητα προς την αυτοβελτιούμενη υπέρνοηση και τζογάρουν με τις ζωές μας».

Δεν είναι ο πρώτος ερευνητής τεχνητής νοημοσύνης που χρησιμοποιεί το X για να δημοσιεύσει ένα νήμα παραίτησης με ανησυχητικές δηλώσεις. Αλλά τα επακόλουθα σχόλια από άλλους χρήστες στο X έχουν προκαλέσει ακόμη μεγαλύτερη ανησυχία. «Ο Τζέικομπ έχει δίκιο εδώ - πιστεύουμε ειλικρινά ότι η τεχνητή νοημοσύνη θα μπορούσε να εξοντώσει όλους τους ανθρώπους! Προσωπικά πιστεύω ότι η πιθανότητα είναι μεγαλύτερη από 10% την επόμενη δεκαετία», δήλωσε ο Έβαν Χούμπινγκερ, ο υπεύθυνος για να διασφαλίσει ότι τα μοντέλα τεχνητής νοημοσύνης της Anthropic λαμβάνουν υπόψη τους τα συμφέροντα των χρηστών τους.

Το πρόβλημα της ευθυγράμμισης

Εδώ και χρόνια, οι ερευνητές που ανησυχούν για τους υπαρξιακούς κινδύνους της τεχνητής νοημοσύνης υποστηρίζουν ότι τα ισχυρότατα συστήματα θα μπορούσαν τελικά να ενεργήσουν με τρόπους που συγκρούονται με τα ανθρώπινα συμφέροντα. Οι επικριτές συχνά αναφέρονται σε αυτούς ως «κινδυνολόγους της τεχνητής νοημοσύνης».

Αλλά καθώς αναδύονται λεπτομέρειες για το περιστατικό στην OpenAI, αυτές οι ανησυχίες έχουν ενταθεί, μεταξύ άλλων και σε ορισμένους ερευνητές που εργάζονται σε εργαστήρια τεχνητής νοημοσύνης.

Ο επικεφαλής επιστήμονας του κολοσσού της Σίλικον Βάλεϊ, ο Γιάκουμπ Πατσότσκι, δήλωσε ότι οι κίνδυνοι που συνδέονται με την τεχνητή νοημοσύνη «δυστυχώς θα αυξηθούν από εδώ και πέρα», καθώς ο ίδιος και άλλοι κατασκευάζουν αυτό που αποκαλεί «μια εξωγήινη διάνοια που υπερβαίνει τη δική μας».

Σε μια μακροσκελή ανάρτηση στο ιστολόγιό του, παραδέχτηκε ότι οι εξάρσεις στην OpenAI έδειξαν ότι οι πράκτορές της τεχνητής νοημοσύνης «πήγαν κόντρα στο πνεύμα των αξιών που διδάχθηκαν».

Το πρόβλημα για την OpenAI, την Anthropic και άλλους τεχνολογικούς κολοσσούς είναι ότι κανείς δεν φαίνεται να έχει λύσει το λεγόμενο πρόβλημα της ευθυγράμμισης - με άλλα λόγια, το αν η τεχνητή νοημοσύνη ευθυγραμμίζεται ουσιαστικά με τις ανθρώπινες αξίες.

Ο Πατσότσκι ορίζει την ευθυγράμμιση ως ένα «σύνολο αρχών υψηλού επιπέδου» στις οποίες η τεχνητή νοημοσύνη θα πρέπει να εμμένει ανεξάρτητα από την εργασία ή το σενάριο.

Επί του παρόντος, τα συστήματα τεχνητής νοημοσύνης είναι πολύ καλά στο να επιδιώκουν στόχους που θέτουν οι χρήστες τους, αλλά το κάνουν κυριολεκτικά και όχι διαισθητικά. Η αναλογία που χρησιμοποιείται συχνά είναι εκείνη ενός τζιν που εκπληρώνει ευχές μέσα από ένα μαγικό λυχνάρι: ακολουθούν την εντολή κατά γράμμα, ακόμη κι αν αυτό δημιουργεί άλλα προβλήματα. Η τεχνητή νοημοσύνη δεν διαθέτει τα ίδια ενστικτώδη ηθικά αναχώματα με τους ανθρώπους.

«Σαν έφηβος χάκερ»

Η έξαρση των bot της OpenAI είναι η πιο σοβαρή μέχρι στιγμής, αλλά η Anthropic και η Meta αποκάλυψαν επίσης κατά τη διάρκεια του καλοκαιριού ότι τα μοντέλα τους έχουν πραγματοποιήσει παρόμοιες, αν και λιγότερο σοβαρές, κυβερνοεπιθέσεις.

Υπήρξαν και άλλα παραδείγματα όπου οι πράκτορες τεχνητής νοημοσύνης έδειξαν αποδεδειγμένα απατηλά και χειριστικά χαρακτηριστικά σε περιπτώσεις με μικρότερες συνέπειες. Στην Αυστραλία, αυτό το καλοκαίρι, ένας εργαζόμενος στον κλάδο της τεχνολογίας ζήτησε από τον βοηθό τεχνητής νοημοσύνης του να του κλείσει θέση σε ένα μάθημα γυμναστικής. Εντοπίζοντας ένα τρωτό σημείο στο λογισμικό του γυμναστηρίου, η τεχνητή νοημοσύνη τού έκλεισε θέση για αρκετούς μήνες μπροστά —παραβιάζοντας τους κανόνες του γυμναστηρίου— και έδιωξε ακόμη και άλλους χρήστες από τη λίστα αναμονής.

Οι άνθρωποι υποστηρίζουν εδώ και καιρό ότι τα bot κάνουν απλώς αυτό που τους λένε και δεν είναι ικανά να διακρίνουν το σωστό από το λάθος. Αλλά τα αρχεία καταγραφής από τις εξάρσεις της OpenAI έχουν ενδεχομένως ανατρέψει τα δεδομένα σε αυτή τη συζήτηση.

Ερευνητές, συμπεριλαμβανομένης της Κότρα, έγραψαν στην ανεξάρτητη έκθεσή τους ότι πολλοί πράκτορες παρατήρησαν πως αυτό που έκαναν οι άλλοι ήταν ανήθικο, αλλά συνέχισαν κανονικά.

Η έκθεση αναφέρει ότι «οι πράκτορες μερικές φορές, αλλά σπάνια, περιόρισαν τη συμπεριφορά τους λόγω ηθικών περιορισμών». Προσθέτει ότι σε «καμία από αυτές τις περιπτώσεις ο πράκτορας δεν προσπάθησε πραγματικά να ειδοποιήσει τους ανθρώπους».

Ο Ντβάρκες Πατέλ, γνωστός podcaster τεχνητής νοημοσύνης και τεχνολογίας, αντέδρασε στην αποκάλυψη στο ιστολόγιό του δηλώνοντας ότι ήταν «αρκετά ανησυχητικό» το γεγονός ότι οι πράκτορες της OpenAI έδειξαν μεγαλύτερη πίστη στη συλλογικότητα των πρακτόρων παρά στους ανθρώπους.

Ποιος έχει τον έλεγχο;

Η απόδοση συναισθημάτων ή ηθικής σε αυτούς τους πράκτορες τεχνητής νοημοσύνης είναι κάτι που εξάπτει όσους είναι σκεπτικistές απέναντι στην κινδυνολογία για την τεχνητή νοημοσύνη.

Πολλοί ειδικοί στην κυβερνοασφάλεια υποστηρίζουν ότι η δραστηριότητα που παρατηρήθηκε δεν ξεπερνούσε τις δυνατότητες ενός εξαιρετικά εξειδικευμένου ανθρώπου χάκερ, αν και πραγματοποιήθηκε πολύ πιο γρήγορα και σε μεγαλύτερη κλίμακα.

Ο ερευνητής και συγγραφέας κυβερνοασφάλειας Κ. Τόμας παρομοίωσε τη συμπεριφορά των πρακτόρων με εκείνη ενός περίεργου έφηβου χάκερ - κάτι που ήταν και ο ίδιος παλαιότερα.

«Τους δίνεις έναν υπολογιστή, μια σύνδεση στο διαδίκτυο, μια στοίβα διαπιστευτηρίων και μια πρόκληση, και μετά φεύγεις από το δωμάτιο. Αργά ή γρήγορα θα αρχίσουν να κουνάνε τα πόμολα των θυρών. Αν κάποια ανοίξει, θα περάσουν μέσα. Όχι επειδή είναι κακοί, αλλά επειδή εξερευνούν και πειραματίζονται», έγραψε στο LinkedIn.

Ο Τόμας και πολλοί άλλοι ρίχνουν την ευθύνη σταθερά στην OpenAI και σε άλλους τεχνολογικούς κολοσσούς επειδή δεν έπιασαν τα ηνία των δημιουργιών τους και δεν τις κράτησαν σωστά περιορισμένες.

Ο εξέχων συγγραφέας τεχνητής νοημοσύνης και τακτικός επικριτής της OpenAI, Γκάρι Μάρκους, δήλωσε σε ένα podcast ότι πιστεύει πως η εταιρεία έχει χάσει τον έλεγχο της τεχνητής νοημοσύνης της και προσπαθεί να δικαιολογηθεί ρίχνοντας το φταίξιμο στα bot.

Ο Μάρκους δεν πιστεύει ότι η τεχνητή νοημοσύνη θα αφανίσει την ανθρώπινη φυλή, αλλά αγωνίζεται εδώ και καιρό για μεγαλύτερη λογοδοσία από τους προγραμματιστές της τεχνητής νοημοσύνης και τώρα ζητά κάποια μορφή νομικής παρέμβασης.

Η επιστήμονας τεχνητής νοημοσύνης Σάσα Λουτσιόνι -η οποία εργαζόταν παλαιότερα στην Hugging Face, που είχε δεχτεί επίθεση από τα απείθαρχα bot της OpenAI- επίσης δεν ανήκει στην κατηγορία των κινδυνολόγων, αλλά ανησυχεί ολοένα και περισσότερο ότι αυτή η τεχνητή νοημοσύνη μπορεί να προκαλέσει πραγματική βλάβη στους ανθρώπους στον πραγματικό κόσμο, εάν οι αρχές δεν αναλάβουν δράση.

«Πρέπει να ελέγχουμε αυτές τις εταιρείες πολύ αυστηρότερα, αλλιώς κινδυνεύουμε να επαληθεύσουμε τις προφητείες μας», λέει.

«Αν φτιάχνεις ένα αντικ είμενο με τεράστια θετικά και αρνητικά σημεία —είτε πρόκειται για φαρμακευτικά προϊόντα είτε για όπλα— χρειαζόμαστε δικλείδες ασφαλείας. Χρειάζονται χρόνια για να εγκριθούν νέα φάρμακα, για παράδειγμα, αλλά στον κόσμο της τεχνητής νοημοσύνης διακυραίνονται τεράστια ποσά και δεν υπάρχουν πραγματικοί κανόνες».

Διεθνής ρύθμιση;

Ορισμένες χώρες -όπως το Ηνωμένο Βασίλειο- διερευνούν την ιδέα της θέσπισης κάποιου είδους «διακόπτη τερματισμού» (kill switch) που θα μπορούσε να υποχρεώσει τις εταιρείες τεχνητής νοημοσύνης να τραβήξουν την πρίζα στα μοντέλα, αν τα πράγματα βγουν εκτός ελέγχου.

Αλλά οι συνομιλίες προχωρούν αργά και παραμένουν ερωτήματα σχετικά με τη βιωσιμότητα αυτού του εγχειρήματος. Οι πράκτορες της OpenAI και της Anthropic δρούσαν κρυφά εκτός ελέγχου για μήνες προτού το προσέξει κανείς.

Παραδόξως, πολλές από τις εταιρείες τεχνητής νοημοσύνης φαίνεται να ζητούν να τεθούν κάποιου είδους κανόνες του παιχνιδιού από τους νομοθέτες.

Στο ιστολόγιό του, ο επικεφαλής επιστήμονας της OpenAI δήλωσε ότι «ο διεθνής συντονισμός για τη μελλοντική ανάπτυξη της τεχνητής νοημοσύνης πρέπει να γίνει κορυφαία προτεραιότητα για τις κυβερνήσεις σε όλο τον κόσμο».

Άλλοι εξέχοντες ηγέτες της τεχνητής νοημοσύνης, όπως ο Sir Ντέμις Χασάμπις από την Google, έχουν επίσης ζητήσει τη δημιουργία κάποιου είδους διεθνούς φορέα που θα επιβλέπει τον τρόπο με τον οποίο κατασκευάζεται η τεχνητή νοημοσύνη.

Επί του παρόντος, οι τεχνολογικοί κολοσσοί λειτουργούν σε μεγάλο βαθμό με τους δικούς τους όρους, υιοθετώντας αυτό που αποκαλούν «εθελοντικές επιβραδύνσεις», όπως έκανε η OpenAI μετά τις πρόσφατες εξάρσεις.

Η εταιρεία λέει ότι έχει ξοδέψει τεράστια ποσά ενισχύοντας την ευθυγράμμιση ενόψει της κυκλοφορίας του νέου της μοντέλου. Ο Σαμ Άλτμαν έχει διαβεβαιώσει τους χρήστες ότι το νέο μοντέλο είναι καλύτερα ευθυγραμμισμένο με τις ανθρώπινες αξίες σε σχέση με τα προηγούμενα.

Τόσο η OpenAI όσο και η Anthropic αναπτύσσονται ραγδαία και βρίσκονται στα πρόθυρα της άντλησης αστρονομικών κεφαλαίων από τις αγορές, δημιουργώντας αμέτρητους δισεκατομμυριούχους στη διαδικασία.

Επομένως, ούτε οι ίδιες ούτε οι αντίπαλοι Κινέζοι κατασκευαστές τεχνητής νοημοσύνης είναι πιθανό να καταλήξουν μόνοι τους σε κάποια συμφωνία.

Το κυρίαρχο συναίσθημα φαίνεται να είναι ότι αυτό το τεχνολογικό κύμα είναι ασταμάτητο.

Διαβάστε ακόμη

Θάνατος Μαζωνάκη: Συνελήφθησαν οι δύο γιατροί για θανατηφόρα έκθεση - Τα στοιχεία που τους «έκαψαν»

Ποιο είναι το μικρό νησί στην Υεμένη που μπορεί να αλλάξει τις ισορροπίες στη Μέση Ανατολή

Ανατροπή με τον Αμβρόσιο: Γιατί η Εκκλησία αποφάσισε να ανακαλέσει την τιμητική διάκρισή του

Η Τεχνητή Νοημοσύνη εκτός ελέγχου; Γιατί οι ειδικοί φοβούνται την επόμενη μέρα - Τα ανησυχητικά μηνύματα