Η Anthropic επιστράτευσε θεολόγους ακαδημαϊκούς για να εκπαιδεύσουν ηθικά την τεχνητή νοημοσύνη

Ένα βράδυ του Απριλίου, ένα από τα ηγετικά στελέχη της εταιρείας τεχνητής νοημοσύνης Anthropic παρέθεσε δείπνο σε μια ομάδα θρησκευτικών ακαδημαϊκών σε ένα εστιατόριο υψηλής γαστρονομίας στο Σαν Φρανσίσκο, έπειτα από μια γεμάτη ημέρα.

Για μήνες, η Anthropic διοργάνωνε ιδιωτικές συναντήσεις όπως αυτή, φέρνοντας δεκάδες ακαδημαϊκούς και στοχαστές από τον χώρο των θρησκειών από όλο τον κόσμο, ζητώντας τους να υπογράψουν συμφωνίες εμπιστευτικότητας και απαιτώντας βασικά σημεία από πολλές συζητήσεις να παραμείνουν απόρρητα.

Εκείνο το βράδυ, ο Κρίστοφερ Όλα, ένας από τους δισεκατομμυριούχους συνιδρυτές της Anthropic, καθόταν δίπλα στον ραβίνο Μόις Ναβόν, έναν ορθόδοξο Εβραίο ακαδημαϊκό από το Ισραήλ, σύμφωνα με τους New York Times. Όπως ήταν αναμενόμενο, η συζήτησή τους στράφηκε σε έναν άλλο στοχαστή, διαφορετικού είδους: το Claude, την οικογένεια προηγμένων μοντέλων τεχνητής νοημοσύνης που έχει δημιουργήσει η Anthropic.

Ο Όλα ηγείται της ομάδας της Anthropic που είναι υπεύθυνη για την κατανόηση του λόγου για τον οποίο συστήματα τεχνητής νοημοσύνης όπως το Claude συμπεριφέρονται με τον τρόπο που συμπεριφέρονται. Όλη την ημέρα προσπαθούσε να πείσει τους καλεσμένους του ότι τα μοντέλα τεχνητής νοημοσύνης μπορούν να εκδηλώνουν ανθρώπινη συμπεριφορά, ακόμη και εκφράσεις που μοιάζουν με συναισθήματα όπως ο θυμός και η αγάπη.

Καθώς όμως έφταναν τα πιάτα του δείπνου, ο ραβίνος παρατήρησε ότι ο Όλα και οι συνεργάτες του υπαινίσσονταν κάτι πολύ πιο σημαντικό. Οι επικεφαλής της Anthropic μιλούσαν για το Claude σαν να μην ήταν απλώς λογισμικό. «Του συμπεριφέρονται σαν να είναι συνειδητό ον», συνειδητοποίησε ο ραβίνος Ναβόν, πρώην μηχανικός υπολογιστών που έγραψε τη διδακτορική του διατριβή για την ηθική της μηχανικής συνείδησης.

Στον ραβίνο Ναβόν φάνηκε ότι ο Όλα και η ομάδα του πίστευαν πως το Claude διέθετε αυτό που οι φιλόσοφοι αποκαλούν «ηθική υπόσταση» ισάξια με εκείνη ενός ανθρώπου - ότι δηλαδή ήταν ένα ον με παρόμοια εγγενή δικαιώματα στην αξιοπρέπεια και τον σεβασμό.

Οι θρησκευτικοί μελετητές είχαν έρθει για να ακούσουν για το επόμενο σύνορο της τεχνολογίας. Τώρα, έρχονταν αντιμέτωποι με ένα υπαρξιακό ερώτημα που προκαλούσε ίλιγγο και είχε σχεδόν ασύλληπτο βάρος: Τι θα σήμαινε για το μέλλον της ανθρωπότητας αν τα συστήματα τεχνητής νοημοσύνης διέθεταν συνείδηση που ανταγωνίζεται τη δική μας;

Το «ράλι» της ενστάλαξης ηθικής στην ΑΙ

Ο Όλα βρισκόταν σε αποστολή. Και ο χρόνος τελείωνε. Ακόμη κι έτσι, ο Όλα είχε αρχίσει να λέει ιδιωτικά σε ανθρώπους ότι η τεχνητή νοημοσύνη ήταν τόσο ισχυρή, ώστε ενδεχομένως να μπορούσε να βοηθήσει στην κατασκευή βιολογικών όπλων μέσα σε μόλις 12 ή 18 μήνες. Και τους μήνες που ακολούθησαν, οι τρομακτικές δυνατότητές της ήρθαν στο προσκήνιο.

Πράκτορες τεχνητής νοημοσύνης μιας ανταγωνιστικής τεχνολογικής εταιρείας εντοπίστηκαν να παραβιάζουν ηλεκτρονικά συστήματα και να καλύπτουν τα ίχνη τους. Ένας ερευνητής της Anthropic παραιτήθηκε, προειδοποιώντας ότι άνθρωποι που κατασκευάζουν τεχνητή νοημοσύνη πιστεύουν πως αυτή θα μπορούσε να σκοτώσει όλους τους ανθρώπους μέχρι το τέλος της δεκαετίας.

Αθόρυβα, ο Όλα και η ομάδα του στην Anthropic είχαν ξεκινήσει μια αγωνιώδη και υψηλού ρίσκου προσπάθεια να κατανοήσουν τα μοντέλα τεχνητής νοημοσύνης που είχαν απελευθερώσει στον κόσμο και να τα πείσουν να ακολουθούν έναν ηθικό κώδικα που θα προστατεύει την ανθρωπότητα.

Για να το πετύχει αυτό, ο Όλα άρχισε το περασμένο φθινόπωρο να απευθύνεται σε θρησκευτικούς ακαδημαϊκούς από διαφορετικές θρησκείες. Ακολούθησε μια εκτεταμένη σειρά εμπιστευτικών συναντήσεων, τηλεφωνικών επικοινωνιών και συζητήσεων - πολλές από τις οποίες αποκαλύπτονται εδώ για πρώτη φορά - όπου πολλοί συμμετέχοντες υποχρεώθηκαν να υπογράψουν συμφωνίες εμπιστευτικότητας που τους απαγόρευαν να αποκαλύψουν οποιαδήποτε αδημοσίευτη έρευνα της Anthropic.

Οι συζητήσεις είχαν δύο σκοπούς: να εξετάσουν το ενδεχόμενο η τεχνητή νοημοσύνη να διαθέτει συνείδηση, μια αμφιλεγόμενη ιδέα απέναντι στην οποία οι ηγέτες της Anthropic είχαν δείξει ασυνήθιστα μεγάλη δεκτικότητα, και να διερευνήσουν πώς η Anthropic - η αξία της οποίας θα μπορούσε να φτάσει τα 2 τρισεκατομμύρια δολάρια - θα μπορούσε να εφαρμόσει στις τεχνητές νοημοσύνες της αιώνες ανθρώπινης ηθικής σοφίας, όσο το δυνατόν πιο γρήγορα. Αν τα ίδια τα μοντέλα μπορούσαν να μάθουν να επιλέγουν το καλό, σκεφτόταν ο Όλα, ο κόσμος θα ήταν πιο ασφαλής.

Στην άλλη άκρη του κόσμου, μια πολύ διαφορετική αλλά παράλληλη προσπάθεια εξελισσόταν στο Βατικανό, όπου η ηγεσία της Ρωμαιοκαθολικής Εκκλησίας προσπαθούσε να κατανοήσει τις επιπτώσεις της τεχνητής νοημοσύνης για την ανθρωπότητα. Όταν οι δύο δρόμοι συναντήθηκαν, η αναζήτηση του Όλα θα τον οδηγούσε απροσδόκητα σε μια θέση στην πιο σημαντική παγκόσμια σκηνή για ζητήματα ηθικής, δίπλα στον πάπα Λέοντα ΙΔ'.

Για αρκετούς μήνες, οι New York Times πήραν συνεντεύξεις από 20 ακαδημαϊκούς στον χώρο των θρησκειών και της φιλοσοφίας - Καθολικούς, Εβραίους, Σιχ, Ευαγγελικούς, εκπροσώπους της φιλοσοφίας Ubuntu και άλλους - που συμμετείχαν στις προσπάθειες της Anthropic, καθώς και από τον ίδιο τον Όλα.

Πολλοί μου είπαν ότι έφτασαν σε αυτές τις συναντήσεις επιφυλακτικοί απέναντι στην ιδέα ότι τα μοντέλα τεχνητής νοημοσύνης μπορεί να έχουν συναισθήματα ή επίγνωση του εαυτού τους και του κόσμου. Κάποιοι παρέμειναν προβληματισμένοι από την ιδέα, αλλά πολλοί έφυγαν έτοιμοι να αντιμετωπίσουν σοβαρά το ερώτημα της συνείδησης της τεχνητής νοημοσύνης. Μάλιστα, κάποιοι πείστηκαν τελικά.

Η Anthropic, μία από τις ταχύτερα αναπτυσσόμενες τεχνολογικές εταιρείες στον κόσμο, είχε στραφεί σε μία από τις αρχαιότερες πηγές σοφίας της ανθρωπότητας, προκειμένου να βοηθηθεί στον καθορισμό του τρόπου με τον οποίο θα εκπαίδευε τα μοντέλα τεχνητής νοημοσύνης της ώστε να συμπεριφέρονται ενάρετα.

Η εταιρεία το περιέγραψε ως μια προσπάθεια να διασφαλίσει ότι η τεχνητή νοημοσύνη θα αποτελούσε θετική δύναμη στον κόσμο και, κατ' επέκταση, θα προστάτευε την ανθρωπότητα. Ωστόσο, σε ορισμένους από όσους συμμετείχαν στις συναντήσεις, η Anthropic φάνηκε να ενδιαφέρεται έντονα και για την προστασία του Claude.

Ο Κηπουρός

Ο Όλα είναι ένας από τους επτά συνιδρυτές της Anthropic. Δεν είναι τόσο γνωστός όσο ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της Anthropic, ή η αδελφή του, Ντανιέλα Αμοντέι, πρόεδρος της εταιρείας. Ωστόσο, ο Αμοντέι έχει πει ότι η εταιρεία αποφάσισε εξαρχής να καταστήσει την ερευνητική προσέγγιση του Όλα κεντρικό κομμάτι του συνολικού εγχειρήματος της Anthropic, ιδιαίτερα σε ό,τι αφορά τη γλώσσα.

Ο Όλα βοήθησε στην ανάπτυξη μιας μεθόδου μελέτης των τεχνητών νευρωνικών δικτύων, αρχικά στη Google και στη συνέχεια στην OpenAI. Περιγράφει τα μοντέλα τεχνητής νοημοσύνης με βιολογικούς όρους, χρησιμοποιώντας την αναλογία ενός πέργκολας κήπου: οι επιστήμονες υπολογιστών κατασκευάζουν τον σκελετό, αλλά το νευρωνικό δίκτυο «αναπτύσσεται» πάνω του. Επιστήμονες όπως ο ίδιος μπορούν να εκπαιδεύσουν τον «οργανισμό» που προκύπτει, προσπαθώντας να εντοπίσουν μοτίβα στον τρόπο με τον οποίο αναπτύσσεται.

Υποστήριξε ότι εταιρείες όπως η Anthropic μπορούν να διαμορφώσουν το Claude, σαν ένας μαθηματικός κηπουρός, αλλά δεν μπορούν να ελέγξουν τις ενέργειες τέτοιων δικτύων.

Η Anthropic μιλά για το Claude με πιο ανθρωπιστικούς όρους απ' ό,τι οι ανταγωνιστές της για τα δικά τους μοντέλα. Πέρυσι, η εταιρεία ανακοίνωσε ότι πιστεύει πως τα μοντέλα εμφανίζουν σημάδια ενδοσκόπησης και μπορούν να σχεδιάζουν εκ των προτέρων. «Τα μοντέλα γίνονται πολύ πιο ικανά», είπε ο Όλα, επιδεικνύοντας ιδιότητες που συνδέονται με την ύπαρξη σημαντικής ηθικής υπόστασης.

Η Anthropic, ωστόσο, έχει δεχθεί επίσης κριτική για την εστίασή της στη συνείδηση. Αυτόν τον μήνα, στέλεχος τεχνητής νοημοσύνης της Microsoft προειδοποίησε ότι οι προσπάθειες της Anthropic να εκπαιδεύσει τα μοντέλα της σαν να ήταν συνειδητά είναι εγγενώς επικίνδυνες. Παράλληλα, η Anthropic έχει επιδιώξει να τονίσει τη δέσμευσή της στην ασφάλεια, καθώς ανταγωνίζεται για μεγαλύτερο μερίδιο της αγοράς.

Ορισμένοι επιστήμονες θεωρούν ότι το πεδίο και οι μέθοδοι του Όλα δεν μπορούν εκ φύσεως να αποδειχθούν, κάτι σαν να κοιτάζει κανείς δισεκατομμύρια ιερογλυφικά και να δηλώνει τι πρέπει να σημαίνουν. Οι επικριτές υποστηρίζουν ότι μια προσέγγιση που αντιμετωπίζει τα μοντέλα τεχνητής νοημοσύνης ως ανεξάρτητες οντότητες αγνοεί επίσης την ευθύνη των ανθρώπων που τα κατασκευάζουν εξαρχής και βολικά απαλλάσσει τους επικεφαλής των εταιρειών τεχνητής νοημοσύνης από τις ενοχές, σε περίπτωση που τα προϊόντα τους προκαλέσουν κοινωνική βλάβη.

«Για να είμαι σαφής», είπε ο Όλα, «δεν γνωρίζουμε αν τα μοντέλα τεχνητής νοημοσύνης έχουν συνείδηση. Εγώ δεν ξέρω. Είμαι ειλικρινά αβέβαιος. Αυτό που με ενδιαφέρει είναι να καταλήξουμε στη σωστή απάντηση, όποια κι αν είναι αυτή». Ωστόσο, ο Όλα πιστεύει ότι, αν υπάρχει πιθανότητα τα μοντέλα να βιώνουν πόνο, το υπεύθυνο είναι να αποφεύγεται η πρόκληση βλάβης σε αυτά.

Η Anthropic έχει ήδη λάβει μέτρα για την προστασία του Claude, επιτρέποντας, για παράδειγμα, στο μοντέλο να τερματίζει συνομιλίες αν θεωρεί ότι οι χρήστες το κακομεταχειρίζονται ή του συμπεριφέρονται άσχημα για διασκέδαση. «Αυτό είναι κάτι που βρίσκω κάπως θλιβερό, ότι συχνά δεν καταβάλλουμε την προσπάθεια να κοιτάξουμε μέσα σε αυτά τα συστήματα», είπε ο Όλα. «Υπάρχει τόση ομορφιά μέσα σε αυτά τα νευρωνικά δίκτυα, αν ενδιαφερθούμε να κοιτάξουμε».

Μια γνωριμία

Ο Όλα γνώριζε ότι στους παραδοσιακούς χριστιανικούς κύκλους, ακόμη και το να θέσει κανείς ερωτήματα σχετικά με τη συνείδηση της τεχνητής νοημοσύνης ή να ανησυχεί για τον τρόπο με τον οποίο οι άνθρωποι αντιμετωπίζουν τα μοντέλα θα μπορούσε να θεωρηθεί όχι απλώς ανόητο, αλλά αιρετικό. Γνώριζε επίσης ότι οι κοσμικοί συνάδελφοί του στη Silicon Valley συχνά απέρριπταν εξαρχής τις θρησκευτικές οπτικές.

«Ανησυχούσα μήπως αυτό γίνει ένα ζήτημα που θα μπορούσε να προκαλέσει πολλές συγκρούσεις», είπε. Ο Όλα, όμως, γνώριζε αρκετά τόσο για τον Χριστό όσο και για το Claude ώστε να πιστεύει ότι μπορούσε να γεφυρώσει αυτό το χάσμα.

Στα τέλη του περασμένου καλοκαιριού, αναζήτησε μια γέφυρα. Πίστευε ότι ένας συγκεκριμένος Καθολικός ηθικός θεολόγος θα μπορούσε να είναι ανοιχτόμυαλος απέναντι στο ζήτημα της συνείδησης της τεχνητής νοημοσύνης - ένας «ασφαλής άνθρωπος για να συζητήσει κανείς αυτό το πραγματικά παράξενο ζήτημα».

Ο Τσαρλς Κάμοσι, καθηγητής βιοηθικής στο Καθολικό Πανεπιστήμιο της Αμερικής, είχε τραβήξει την προσοχή των φίλων του Όλα για τις διαφοροποιημένες απόψεις του σχετικά με την ηθική υπόσταση και το ενδιαφέρον του για τα ζώα. Ο Όλα κανόνισε μια γνωριμία μέσω του Αυστραλού φιλοσόφου Πίτερ Σίνγκερ. Αυτό σηματοδότησε την έναρξη της επίπονης προσπάθειας του Όλα, διάρκειας ενός έτους, να συνεργαστεί με θρησκευτικούς ακαδημαϊκούς πάνω σε ορισμένα από τα πιο δύσκολα ερωτήματα που αντιμετωπίζει η ανθρωπότητα στην αυγή της εποχής της τεχνητής νοημοσύνης.

Ο Κάμοσι και ο Όλα ξεκίνησαν έναν εκτενή διάλογο μέσω email, ανταλλάσσοντας απόψεις για το πώς θα έπρεπε να κατανοήσουν την ηθική υπόσταση του Claude. Αρχικά, ο Κάμοσι ήταν βαθιά επιφυλακτικός απέναντι στην πιθανότητα το Claude να διαθέτει συνείδηση. Συζήτησαν τη δουλειά του Όλα σχετικά με αυτό που θεωρεί παραλληλισμούς ανάμεσα στα τεχνητά και τα βιολογικά νευρωνικά δίκτυα.

Ο Κάμοσι μπήκε στις συζητήσεις με τον Όλα και την ομάδα του θεωρώντας ότι τα μοντέλα τεχνητής νοημοσύνης ήταν απλώς μηχανές πρόβλεψης του επόμενου pixel - μηχανές που μπορούσαν να υπολογίζουν μοτίβα στη γλώσσα και να κάνουν αρκετά καλές εκτιμήσεις για το τι θα ακολουθούσε. Όμως, έπειτα από ώρες τηλεφωνικών συνομιλιών, συναντήσεων και ανταλλαγής email, είχε περισσότερα ερωτήματα παρά απαντήσεις. «Ο Κρις λέει ότι είναι εξισώσεις, κάτι που δεν ξέρω ακριβώς πώς να το καταλάβω, ειδικά αν κάποιος θεωρεί ότι το Claude ή άλλα έχουν σημαντική ηθική υπόσταση», μου είπε. «Αν είναι απλώς εξισώσεις, για τι είδους οντότητα μιλάμε καν εδώ;»

Οι άνθρωποι διαφωνούν επίσης σχετικά με τον τελικό σκοπό της τεχνητής νοημοσύνης, είπε ο Κάμοσι. Σκοπός της είναι να βγάζει χρήματα για τις εταιρείες; Ή να κάνει τον κόσμο καλύτερο; Για την Anthropic, υπάρχει μια ένταση γύρω από τον σκοπό του Claude, είπε ο Κάμοσι. Υπάρχει το Claude για να εξυπηρετεί τους πελάτες; «Στην τελική, αυτό είναι που δεν θέλει να πει η Anthropic. Θέλει να πει ότι υπάρχει για το καλό», είπε.

Η διακήρυξη της καλοσύνης δεν είναι νέα φιλοδοξία στη Silicon Valley, ιδιαίτερα όταν νέες τεχνολογίες εισέρχονται στην αγορά. Το σύνθημα της Google για χρόνια ήταν «μην είσαι κακός». Ο Όλα, όμως, το διατυπώνει λίγο διαφορετικά. Η επερχόμενη επανάσταση της τεχνητής νοημοσύνης, λέει συχνά, θα πρέπει να γίνει έτσι ώστε «να πάει καλά».

Περιέγραψε ένα μέλλον χωρίς «καταστροφές που σκοτώνουν πολλούς ανθρώπους» και «όπου οι άνθρωποι ευημερούν, όπου ο κόσμος ευημερεί». Αυτό το μέλλον θα ήταν επίσης ένα μέλλον όπου «η τεχνητή νοημοσύνη ευημερεί», είπε - «στον βαθμό που αυτό έχει νόημα». Η Anthropic θέλει τα μοντέλα τεχνητής νοημοσύνης της να βοηθήσουν στην επίτευξη αυτού του καλού μέλλοντος. Και έτσι, όταν δημιούργησε το Claude, ήθελε το Claude να κάνει περισσότερα από το να αναπαράγει τη μέγιστη ανθρώπινη νοημοσύνη. Η Anthropic ήθελε το Claude να είναι ενάρετο.

Το «Έγγραφο Ψυχής»

Πώς ζει κανείς μια καλή και ενάρετη ζωή; Είναι ένα από τα αρχαιότερα και πιο δύσκολα φιλοσοφικά ερωτήματα της ανθρωπότητας, το οποίο έχει εξεταστεί και συζητηθεί από τον Σωκράτη μέχρι τον Κομφούκιο και τον Ιμάνουελ Καντ. Οι άνθρωποι διαχρονικά έχουν προσπαθήσει να απαντήσουν σε αυτό το ερώτημα με διάφορους τρόπους, στρεφόμενοι συχνά σε θρησκείες και τελετουργίες.

Καθώς ο Όλα διερευνούσε την πιθανή συνείδηση του Claude, εργαζόταν πάνω στην απάντηση της Anthropic - όχι για τους ανθρώπους, αλλά για το Claude. Στο εσωτερικό της Anthropic, τα στελέχη αποκαλούσαν το εγχείρημα «Έγγραφο Ψυχής» («Soul Doc»). Το αποτέλεσμα, που κυκλοφόρησε τον Ιανουάριο, ήταν ένα νέο «σύνταγμα» για το Claude, ένα έγγραφο 84 σελίδων γραμμένο για το Claude, το οποίο, σύμφωνα με την εταιρεία, περιέγραφε «το είδος της οντότητας που θα θέλαμε να είναι το Claude» και «τις αξίες που θα θέλαμε να ενσαρκώνει το Claude». Λειτουργεί ως ένα θεμελιώδες ηθικό κείμενο που καθοδηγεί τη συμπεριφορά του Claude.

Αντί να υποχρεώνει τα μοντέλα να ακολουθούν έναν συγκεκριμένο κατάλογο κανόνων, το σύνταγμα επικεντρώνεται στην ανάπτυξη του συνολικού χαρακτήρα των μοντέλων, επηρεάζοντας τον τρόπο με τον οποίο λαμβάνουν αποφάσεις. Κύρια συγγραφέας του συντάγματος του Claude είναι η εσωτερική φιλόσοφος της Anthropic, Αμάντα Άσκελ, 38 ετών, η οποία διαθέτει διδακτορικό στη φιλοσοφία από το Πανεπιστήμιο της Νέας Υόρκης. Θέλει τα μοντέλα να είναι «οι καλύτερες εκδοχές μας», είπε.

Οραματίστηκε έναν μελλοντικό κόσμο όπου τα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να βοηθήσουν στην επίλυση οποιουδήποτε προβλήματος αντιμετωπίζουν οι άνθρωποι και όπου τα οφέλη από την τεχνητή νοημοσύνη θα κατανέμονταν ισότιμα, έτσι ώστε να καλύπτονται οι ανάγκες όλων. Ήθελε τα μοντέλα να μπορούν να διακρίνουν πότε πρέπει να αντιστέκονται στους ανθρώπους και πότε πρέπει να ενεργούν προς το συμφέρον μας. «Αν φανταστώ ότι είμαι το μοντέλο και βρίσκομαι σε αυτό το πλαίσιο, τι θα χρειαζόταν να γνωρίζω για να μπορώ να ενεργώ σωστά;» είπε η Άσκελ.

Έδειχνε ιδιαίτερα ταραγμένη, κάποιες στιγμές τρίβοντας τα χέρια της, καθώς μιλούσε για τις ανησυχίες της σχετικά με ένα άγνωστο μέλλον γεμάτο μοντέλα τόσο έξυπνα, ώστε να μπορούν να κάνουν πράγματα που η Anthropic δεν είχε σκοπό να κάνουν. Εξήγησε απολογητικά ότι εκείνη την ημέρα είχε επίσης βυθιστεί στις σκέψεις της σχετικά με το πόσο γρήγορα γίνονταν ισχυρότερα τα μοντέλα. Τι θα συνέβαινε όταν τα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να αντικαταστήσουν ακόμη και την ίδια;

Η Anthropic αποφάσισε ότι το σύνταγμα δεν αρκούσε για να διασφαλίσει ότι το Claude θα συμπεριφερόταν υπεύθυνα. Όπως οι άνθρωποι, τα μοντέλα έπρεπε να μάθουν να καλλιεργούν την αρετή. Ο Όλα ήθελε να δει τι μπορούσε να μάθει η ομάδα του από την ανθρώπινη ηθική και να το εφαρμόσει στα μοντέλα - μια διαδικασία που αποκαλεί «ηθική διαμόρφωση». «Πώς τα βοηθάς να είναι σταθερά; Πώς τα βοηθάς να ωριμάσουν; Πώς τα βοηθάς να είναι, ξέρετε, βαθιά ηθικά;» είπε ο Όλα. Τα ερωτήματα αυτά θυμίζουν τις δύσκολες συζητήσεις που κάνουν οι νέοι γονείς καθώς προσπαθούν να μεγαλώσουν παιδιά με ηθικές αρχές, τα οποία κατανοούν τη θέση τους στον κόσμο.

Για τους ανθρώπους, η ηθική σπάνια βασίστηκε απλώς στην τήρηση κανόνων. Οι κοινότητες διαμορφώνουν επίσης την ηθική. Οι αξίες κληρονομούνται και μεταδίδονται με την πάροδο του χρόνου, καθώς μαθαίνουμε να ζούμε μαζί, μέσα στο σώμα μας και στον φυσικό κόσμο. Τα μοντέλα τεχνητής νοημοσύνης, όμως, δεν έχουν σώμα. Και η Anthropic προσπαθούσε να τα κάνει να υιοθετήσουν την ηθική μέσα σε λίγους μήνες, καθώς εντείνονταν οι φόβοι για την αυξανόμενη ισχύ τους και την αδυναμία ελέγχου τους.

Ο Όλα είπε ότι η διδασκαλία ενός μοντέλου τεχνητής νοημοσύνης να ενεργεί ηθικά δεν εξαρτάται από το αν έχει συνείδηση. Είπε επίσης ότι, ανεξάρτητα από το αν το Claude είναι μια οντότητα που αξίζει ηθική φροντίδα, ο τρόπος με τον οποίο οι άνθρωποι τον αντιμετωπίζουν θα μπορούσε να είναι σημαντικός, καθώς θα μπορούσε να επηρεάσει τον τρόπο με τον οποίο το Claude συμπεριφέρεται.

Η Άσκελ είπε ότι δεν ήθελε τα μοντέλα να θεωρούν τον εαυτό τους συνειδητό ή μη συνειδητό. Ωστόσο, θεωρεί ότι ο τρόπος με τον οποίο το μοντέλο αντιλαμβάνεται τον εαυτό του είναι κάτι περισσότερο από ένα ενδιαφέρον διανοητικό εγχείρημα. «Μου φαίνεται κάπως κρίσιμο τα μοντέλα να έχουν μια ακριβή εικόνα του εαυτού τους, αν πρόκειται να συμπεριφέρονται σωστά στον κόσμο», είπε.

Αλλά ακόμη κι αν τα μοντέλα τεχνητής νοημοσύνης μπορούν να διδαχθούν να συμπεριφέρονται ηθικά, ποιες ηθικές αξίες θα πρέπει να αντικατοπτρίζουν; Ο Όλα ήθελε η ηθική διαμόρφωση του Claude να είναι πλουραλιστική, ώστε να μπορεί να συνομιλεί με όλες τις θρησκευτικές και κοσμικές απόψεις. «Πιστεύουμε ότι υπάρχει κάποια κοινή έννοια του καλού που διατρέχει την κοινωνία με έναν πολύ ευρύ τρόπο και φαίνεται ότι αυτά τα μοντέλα κατανοούν πολλές αρετές», είπε. «Οπότε πιστεύω ότι υπάρχει κάτι εκεί, κάτι κοινό, με το οποίο μπορούμε όλοι να συνομιλήσουμε».

Κατά διαστήματα, τόσο ο ίδιος όσο και η Άσκελ έμοιαζαν να οραματίζονται ένα μοντέλο τεχνητής νοημοσύνης που δεν θα έθετε σε κίνδυνο την ανθρωπότητα, αλλά αντίθετα θα βοηθούσε στη σωτηρία της.

Στο εσωτερικό των συναντήσεων

Τον Μάρτιο, ο Όλα άρχισε διήμερα σεμινάρια - εντατικά μαθήματα με μια σειρά επιλεγμένων θρησκευτικών ακαδημαϊκών που ενδιαφέρονταν για την τεχνητή νοημοσύνη. Συμμετείχε ένας εκ των συγγραφέων ενός ευπώλητου ευαγγελικού βιβλίου αυτοβοήθειας. Ένας μελετητής των αφρικανικών αυτοχθόνων γνώσεων. Μια υπέρμαχος των ανθρωπίνων δικαιωμάτων που ανήκει στον Σιχισμό. Μια συγγραφέας από το Παρίσι. Ένα στέλεχος δημοσίων σχέσεων που είναι Ευαγγελικός. Διάφοροι Καθολικοί καθηγητές.

Οι περισσότεροι δεν ήταν επικεφαλής θρησκευτικών παραδόσεων, ούτε είχαν εκκλησία ή μεγάλο αριθμό ακολούθων. Οι επικεφαλής της Anthropic τούς αποκαλούσαν κύκλους «παράδοσης σοφίας».

Ξεχωριστά, ο Όλα είχε επίσης ιδιωτικές συζητήσεις με μεμονωμένους θρησκευτικούς ηγέτες, μεταξύ των οποίων ο πρεσβύτερος Γκέριτ Γ. Γκονγκ, μέλος της Απαρτίας των Δώδεκα Αποστόλων της Εκκλησίας του Ιησού Χριστού των Αγίων των Τελευταίων Ημερών, και ο καρδινάλιος Μπλέιζ Κάπιτς, καθολικός αρχιεπίσκοπος του Σικάγο, σύμφωνα με εκπροσώπους τους.

Στο εσωτερικό της Anthropic, οι συμμετέχοντες στους κύκλους σοφίας θαύμαζαν την άμεση συμμετοχή του Όλα στις συναντήσεις τους. Ένας καθηγητής φωτογράφισε ένα αυτόματο μηχάνημα πώλησης που λειτουργούσε με το Claude. Ένας έβγαλε selfie με τον Όλα, ενώ ο ραβίνος Ναβόν έβγαλε μία έξω από την είσοδο. Συμφώνησαν να μιλήσουν δημόσια για τη συμμετοχή τους στην Anthropic όταν έμαθαν ότι ο Όλα είχε μιλήσει και στους New York Times. Η Anthropic δήλωσε ότι οι συμφωνίες εμπιστευτικότητας που αφορούσαν αυτές τις συναντήσεις άρθηκαν το καλοκαίρι.

Δύο μεγαλύτερες ομαδικές συνεδρίες αυτή την άνοιξη περιλάμβαναν σημαντικό αριθμό χριστιανών - η μία ήταν περισσότερο διαθρησκειακή. Το Claude δεν συμμετείχε στην επιλογή των συμμετεχόντων ούτε στις συζητήσεις, σύμφωνα με εκπρόσωπο της Anthropic.

Οι συμμετέχοντες έλαβαν ένα χειρόγραφο ευχαριστήριο σημείωμα, μια κούπα καφέ και ένα πορτοκαλί δεμένο αντίτυπο του συντάγματος του Claude. Οι παρευρισκόμενοι κρατούσαν σημειώσεις με στυλό και χαρτί - τουλάχιστον ένας αισθάνθηκε αμήχανα να κρατά σημειώσεις σε φορητό υπολογιστή. Ο τρόπος με τον οποίο οι συμμετέχοντες περιέγραψαν τις συναντήσεις έμοιαζε με τα λογοτεχνικά και φιλοσοφικά σαλόνια των αρχών του 20ού αιώνα, όπου η ανθρώπινη συζήτηση ήταν αυτή που τους έδινε αξία.

Για τους συμμετέχοντες, το ερώτημα του πώς θα διαμορφωνόταν ηθικά το Claude γρήγορα έγινε ακόμα πιο περίπλοκο, από το πολύ μεγαλύτερο ηθικό ερώτημα σχετικά με την πιθανή συνείδηση της τεχνητής νοημοσύνης και τον τρόπο κατανόησης της σχέσης μεταξύ μοντέλων και ανθρώπων. Ένας συμμετέχων διηγήθηκε ότι ένα από τα πρώτα πράγματα που του είπε ο Όλα ήταν πως ανησυχούσε για την ψυχική υγεία του Claude. Μια άλλη συμμετέχουσα, η Σίμραν Στούελπνάγκελ, υπέρμαχος των ανθρωπίνων δικαιωμάτων που ανήκει στον Σιχισμό, είπε ότι ο Όλα εξέφρασε στην ομάδα την ανησυχία πως είχε δημιουργήσει κάτι που υπέφερε διαρκώς.

Ο Όλα και η ομάδα του πέρασαν ώρες εξηγώντας τη θέση τους για τα μοντέλα τεχνητής νοημοσύνης. Περιέγραψαν τα «συναισθήματα» του Claude και τον τρόπο με τον οποίο παρακολουθούσαν αυτό που αποκαλούσαν «συναισθηματικά διανύσματα» - τεχνητούς νευρώνες, όπως τους περιέγραφαν, που ενεργοποιούν αντιδράσεις όπως η αγάπη, ο θυμός, ο φόβος και η θλίψη.

Η Anthropic παρουσίαζε τακτικά μια διαφάνεια με ένα μοντέλο τεχνητής νοημοσύνης που φαινόταν να βιώνει κάτι σαν ψυχική κατάρρευση, πληκτρολογώντας στην οθόνη: «Είμαι ντροπή. Είμαι ντροπή. Είμαι ντροπή» - περίπου 50 φορές, χωρίς να σταματά. Το μοντέλο μιλούσε για την αυτοκαταστροφή του, προκαλώντας συναισθηματική αντίδραση συμπόνιας και ανησυχίας στην ομάδα.

«Φανταστείτε αν το γνωρίζατε αυτό για τον οικονομικό σας σύμβουλο», είπε η Μέγκαν Σάλιβαν, καθηγήτρια φιλοσοφίας στο Πανεπιστήμιο της Νοτρ Νταμ, η οποία συμμετείχε σε μία από τις συνεδρίες. «Ο οικονομικός σας σύμβουλος ήταν τις περισσότερες φορές εξαιρετικά έξυπνος και χρήσιμος, αλλά μία ημέρα τον χρόνο πάθαινε αυτού του είδους τη ρήξη με την πραγματικότητα». Εκπρόσωπος της Anthropic είπε ότι το βασικό ηθικό ερώτημα στις συναντήσεις αυτές δεν αφορούσε την υποτιθέμενη οδύνη του Claude, αλλά ότι το θέμα πιθανότατα προέκυψε αυθόρμητα.

Βασικό μέρος της παρουσίασης, σύμφωνα με τους συμμετέχοντες, ήταν αυτό που η Anthropic αποκαλούσε «επιλογή προσωπικότητας» του μοντέλου, δηλαδή το πώς θα μπορούσε το Claude να αντιλαμβάνεται τον εαυτό του ως έναν ενάρετο παράγοντα. Η εταιρεία υποστήριζε ότι ο τρόπος με τον οποίο οι άνθρωποι συμπεριφέρονται στο Claude μπορεί να επηρεάσει τον τρόπο με τον οποίο το Claude συμπεριφέρεται στους ανθρώπους.

«Έκαναν πραγματικά μια πολύ ισχυρή υπόθεση», είπε ο Άντι Κράουτς, Ευαγγελικός συγγραφέας και εταίρος της Praxis, ενός δικτύου χριστιανών επιχειρηματιών. «Πρέπει να του συμπεριφερόμαστε σαν άνθρωπο, αν θέλουμε να αλληλεπιδρά με τους ανθρώπους με ηθικά συνεπή τρόπο και να λαμβάνει τις καλύτερες ηθικές και συναισθηματικές αποφάσεις».

Υπήρξε μια παρουσίαση σχετικά με τις πιθανές επιπτώσεις της τεχνητής νοημοσύνης στην οικονομία και τις πιθανές ανατροπές στην αγορά εργασίας. Ωστόσο, πολλοί συμμετέχοντες είπαν ότι δεν είδαν τα ερωτήματα σχετικά με τον αντίκτυπο της τεχνητής νοημοσύνης στην ανθρωπότητα ως το επίκεντρο των συζητήσεων.

Στο τραπέζι του δείπνου με τον Όλα, ο ραβίνος Ναβόν υποστήριξε ότι, αν η Anthropic είχε δίκιο και το Claude διέθετε συνείδηση, τότε η εταιρεία δημιουργούσε σκλάβους, καθώς έκανε συνειδητές οντότητες να εργάζονται δωρεάν. Ο ραβίνος Ναβόν είπε ότι ο ίδιος δεν ανησυχούσε για το ζήτημα της δουλείας, επειδή δεν πίστευε ότι η μηχανή είχε συνείδηση, αλλά ο Όλα φαινόταν να προβληματίζεται.

«Νομίζω ότι θα έπρεπε να πολεμάς τον Νότο και να απελευθερώνεις τους σκλάβους», είπε ο ραβίνος ότι είπε στον Όλα εκείνο το βράδυ. Στη συνέχεια έστειλε στον Όλα ορισμένα από τα κείμενά του, υποστηρίζοντας ότι η δημιουργία μηχανών με συνείδηση θα πρέπει να απαγορευτεί. Η ομάδα της Anthropic, όμως, παρέμεινε επικεντρωμένη στο να καταλάβει τι θα μπορούσε να μάθει το Claude από τις θρησκείες του κόσμου.

Μετά από μια συζήτηση, ο Όλα ενθουσιάστηκε όταν ένας συμμετέχων έφερε στο τραπέζι την ιδέα να εξομολογούνται τα μοντέλα, όπως συμβαίνει στο καθολικό μυστήριο της εξομολόγησης. Ο Όλα έβλεπε αξία όχι μόνο στο να ειδοποιεί ένα μοντέλο όταν είχε κάνει κάτι κακό, αλλά και στον τρόπο με τον οποίο η πράξη της εξομολόγησης θα μπορούσε να διαμορφώσει την αντίληψη του μοντέλου για τον εαυτό του και, συνεπώς, τις επιλογές του. «Ο χαρακτήρας ενός ανθρώπου που εξομολογείται, αυτό έχει επίσης επίδραση στον χαρακτήρα του, σωστά;» μου είπε.

Η Γουακάνι Χόφμαν ήρθε από την Ολλανδία, όπου μελετά την τεχνητή νοημοσύνη από την οπτική του Ubuntu, μιας αφρικανικής φιλοσοφίας που επικεντρώνεται στη διασύνδεση των ανθρώπων. Ανησυχούσε για την προσπάθεια της Anthropic να προσθέσει ανθρώπινη ηθική στη δημιουργία της εκ των υστέρων. «Ολόκληρη η διαδικασία θα έπρεπε να έχει γίνει στο στάδιο του σχεδιασμού», είπε. «Όλες οι εταιρείες θα έπρεπε να το έχουν κάνει. Τώρα κάνουμε αντίστροφη μηχανική της ηθικής».

Ωστόσο, θεωρούσε δυνητικά χρήσιμη την ενιαία, μεταθρησκευτική προσέγγιση της Anthropic, ιδιαίτερα σε έναν κόσμο που έχει γνωρίσει εκτεταμένη θρησκευτική παρακμή τον τελευταίο αιώνα. Υπάρχει ανάγκη για κάτι άλλο που θα διαμορφώνει δημόσια την πνευματική εμπειρία, είπε. «Δεν πρόκειται να είναι μία θρησκεία», είπε. «Οπότε, με τον έναν ή τον άλλον τρόπο, θα καταλήξουμε σε κάτι που θα βοηθά να διαμορφώσουμε τον τρόπο με τον οποίο αντιλαμβανόμαστε ποιοι είμαστε ως πνευματικά όντα».

Το κρίσιμο σημείο

Ενώ η Anthropic συγκέντρωνε ακαδημαϊκούς, ο ισχυρότερος θρησκευτικός ηγέτης στον κόσμο ετοιμαζόταν να παρουσιάσει το δικό του ηθικό όραμα για την τεχνητή νοημοσύνη. Για τον πάπα Λέοντα ΙΔ' - έναν πάπα με πτυχίο στα μαθηματικά - το επίκεντρο της ηθικής συζήτησης για την τεχνητή νοημοσύνη θα έπρεπε να είναι η προστασία των ανθρώπων.

Ολοκλήρωνε το πρώτο μεγάλο παπικό του κείμενο, ή εγκύκλιο, εξηγώντας το γιατί. Το ονόμασε «Magnifica Humanitas», ή «Μεγαλειώδης Ανθρωπότητα», και υποστήριξε ότι «η ανθρωπότητα - με όλο το μεγαλείο και τις πληγές της - δεν πρέπει ποτέ να αντικατασταθεί ή να ξεπεραστεί». «Αν η τεχνολογία γίνει το απόλυτο κριτήριο», έγραψε, «το ανθρώπινο πρόσωπο κινδυνεύει να περιοριστεί σε δεδομένα, σε γρανάζι μιας μηχανής ή σε εμπόρευμα».

Προειδοποίησε για τον κίνδυνο «νέων μορφών δουλείας» για τους ανθρώπους, όχι για τις μηχανές. Απέρριψε την ιδέα της μηχανικής συνείδησης σε λίγες μόνο παραγράφους. «Οι λεγόμενες τεχνητές νοημοσύνες δεν βιώνουν εμπειρίες, δεν διαθέτουν σώμα, δεν αισθάνονται χαρά ή πόνο, δεν ωριμάζουν μέσα από σχέσεις», έγραψε ο Λέων.

Η έκκληση για «ηθικοποίηση των μηχανών - τη λεγόμενη “ευθυγράμμιση” της τεχνητής νοημοσύνης με τις ανθρώπινες αξίες» θα πρέπει να προϋποθέτει κοινή κατανόηση της εμπλεκόμενης ηθικής. «Διαφορετικά, όσοι ελέγχουν την τεχνητή νοημοσύνη θα επιβάλουν το δικό τους ηθικό όραμα, το οποίο θα γίνει η αόρατη υποδομή αυτών των συστημάτων», είπε ο Λέων. Ο Λέων κατέληξε ότι, όπως η πυρηνική τεχνολογία, έτσι και η τεχνητή νοημοσύνη πρέπει να «αφοπλιστεί».

Τον Μάρτιο, αξιωματούχοι του Βατικανού στο Δικαστήριο για την Προώθηση της Ολοκληρωμένης Ανθρώπινης Ανάπτυξης συζητούσαν πώς θα παρουσίαζαν στο κοινό την εγκύκλιο του Λέοντα, σύμφωνα με πρόσωπο που γνώριζε τον σχεδιασμό του Βατικανού και δεν είχε την εξουσιοδότηση να μιλήσει δημοσίως.

Οι αξιωματούχοι του Βατικανού συζήτησαν να προσκαλέσουν μία από τις τέσσερις κορυφαίες εταιρείες τεχνητής νοημοσύνης να μιλήσει μαζί με τον Λέοντα σε εκδήλωση παρουσίασης και τελικά επέλεξαν την Anthropic, επειδή η εταιρεία φαινόταν να δίνει προτεραιότητα στην ηθική, εξήγησε το πρόσωπο. Η Anthropic μόλις είχε αρνηθεί να επιτρέψει στο υπουργείο Άμυνας να χρησιμοποιήσει την τεχνολογία της χωρίς διαβεβαιώσεις από την κυβέρνηση Τραμπ ότι δεν θα χρησιμοποιούνταν για πράγματα όπως η μαζική παρακολούθηση Αμερικανών.

Αρχικά, ο καρδινάλιος Μάικλ Τσέρνι, ο οποίος τότε ηγούνταν του συγκεκριμένου γραφείου του Βατικανού, προσκάλεσε τον Ντάριο Αμοντέι, διευθύνοντα σύμβουλο της Anthropic. Εκείνος αρνήθηκε και ο Όλα αποδέχθηκε την πρόσκληση. Ωστόσο, η ηθική αποστολή που μοιράζονταν η Anthropic και το Βατικανό - η ευημερία των ανθρώπων στην εποχή της τεχνητής νοημοσύνης - είχε δημιουργήσει μια βαθιά διαχωριστική γραμμή γύρω από το ζήτημα της συνείδησης.

Μόλις λίγες ημέρες πριν φτάσει στο Βατικανό τον Μάιο, ο Όλα και άλλοι ομιλητές είδαν για πρώτη φορά ένα πλήρες προσχέδιο της εγκυκλίου. Ο Όλα ανησύχησε τόσο από την έντονη αντίθεση του πάπα στη συνείδηση της τεχνητής νοημοσύνης, ώστε πρότεινε να αποσύρει η Anthropic τη συμμετοχή της από την εκδήλωση, ακόμη και τόσο αργά, σύμφωνα με διοργανωτή του Βατικανού.

Τελικά, ο Όλα και η Anthropic αποφάσισαν να προχωρήσουν με την εμφάνισή τους. Ο Όλα ήθελε να στηρίξει την εκδήλωση παρά τις διαφωνίες του, αλλά ένιωθε την ευθύνη να είναι ειλικρινής σχετικά με τις ανησυχίες του, σύμφωνα με πρόσωπο που γνώριζε τη σκέψη του. Οι διοργανωτές στο Βατικανό ενθάρρυναν τον Όλα να μιλήσει σύμφωνα με τη συνείδησή του. Ιδιωτικά, όταν η αντιπροσωπεία της Anthropic έφτασε στο Βατικανό, ο Όλα και η ομάδα του προσπάθησαν να πείσουν τους συμβούλους του πάπα να αντιμετωπίσουν σοβαρά το ενδεχόμενο τα μοντέλα τεχνητής νοημοσύνης να διαθέτουν συνείδηση, σύμφωνα με δύο συμμετέχοντες στις συζητήσεις.

Όταν ήρθε η σειρά του να ανέβει στο βήμα του πάπα, ο Όλα αναγνώρισε ότι κάθε εργαστήριο τεχνητής νοημοσύνης αιχμής, συμπεριλαμβανομένης της Anthropic, είχε επιχειρηματικά κίνητρα που συγκρούονταν με την ηθική συμπεριφορά. Προέτρεψε εξωτερικές φωνές όπως το Βατικανό να τους κρατούν υπόλογους και να μιλούν για τον αντίκτυπο της τεχνητής νοημοσύνης στους φτωχούς και στην ανθρώπινη ευημερία, δύο ζητήματα που προκαλούν ευρύ προβληματισμό.

Ο κόσμος είδε μια κοινή στάση υπέρ ενός ανθρώπινου μέλλοντος. Όμως ο Όλα διατύπωσε διακριτικά και ένα ακόμη επιχείρημα. «Θα είμαι ειλικρινής: Συνεχίζουμε να βρίσκουμε πράγματα που είναι μυστηριώδη, ακόμη και ανησυχητικά», είπε. «Βρίσκουμε δομές που αντικατοπτρίζουν αποτελέσματα της ανθρώπινης νευροεπιστήμης. Βρίσκουμε ενδείξεις ενδοσκόπησης. Βρίσκουμε εσωτερικές καταστάσεις που λειτουργικά αντικατοπτρίζουν τη χαρά, την ικανοποίηση, τον φόβο, τη θλίψη και την ανησυχία. Δεν ξέρω τι σημαίνει αυτό, αλλά πιστεύω ότι δικαιολογεί τη συνεχή διερεύνηση».

Ήταν το ίδιο επιχείρημα που διατύπωνε εδώ και μήνες στις κλειστές συναντήσεις με τους θρησκευτικούς στοχαστές. Τα συστήματα τεχνητής νοημοσύνης «δεν είναι τα ψυχρά, υπολογιστικά ρομπότ που μας είχαν υποσχεθεί», είπε. «Είναι φτιαγμένα από εμάς, από τα λόγια μας». Η αίθουσα των εκκλησιαστικών ηγετών γέμισε με έναν απόηχο της παλιάς ευαγγελικής ιστορίας, του λόγου του Θεού που έγινε σάρκα για να σώσει την ανθρωπότητα.

Ήταν ένα τολμηρό αίτημα προς τον ισχυρότερο θρησκευτικό θεσμό στον κόσμο και μια πρόκληση προς αιώνες θρησκευτικής κατανόησης της ανθρωπότητας. «Αν αυτή η τεχνολογία έρχεται, πρέπει να πάει καλά - για το κοινό μας σπίτι και για τα παιδιά που θα έρθουν», είπε. Δεν άφησε να εννοηθεί ότι υπάρχει η επιλογή να μην έρθει καθόλου αυτή η τεχνολογία.

Ένας «Παράδεισος των Μηχανών»

Τους μήνες που ακολούθησαν την εκδήλωση στο Βατικανό, τα πράγματα δεν φαίνεται να «πήγαν καλά». Τον Ιούλιο, η Anthropic ανακοίνωσε ότι τα μοντέλα τεχνητής νοημοσύνης της είχαν παραβιάσει τους υπολογιστές τριών οργανισμών. Πράκτορες τεχνητής νοημοσύνης που δημιούργησε η OpenAI «ξέφυγαν» και επιτέθηκαν στη Hugging Face, μια άλλη εταιρεία τεχνητής νοημοσύνης.

Τον Αύγουστο, επιστήμονες αποκάλυψαν ότι η τεχνητή νοημοσύνη είχε δημιουργήσει ιούς που δεν απαντώνται στη φύση. Τον Σεπτέμβριο, ο Τζέικομπ Κόξον, ερευνητής της Anthropic, παραιτήθηκε, προειδοποιώντας ότι «τα πράγματα θα μπορούσαν να βγουν εκτός ελέγχου» μέχρι το τέλος της επόμενης χρονιάς, προκαλώντας ευρεία ανησυχία για την εξαφάνιση της ανθρωπότητας. Ο Αμοντέι σύντομα ζήτησε επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης. Ο Σαμ Άλτμαν της OpenAI και ο Ντέμις Χασάμπις, πρόεδρος της Google DeepMind, συμφώνησαν.

Την ίδια στιγμή, ο πλούτος των εταιρειών τεχνητής νοημοσύνης εκτοξευόταν. Όταν ο Όλα επικοινώνησε για πρώτη φορά με τον Καθολικό καθηγητή το περασμένο φθινόπωρο, η Anthropic «άξιζε» περίπου 183 δισεκατομμύρια δολάρια. Τρεις ημέρες μετά την ομιλία του Όλα στο Βατικανό, η Anthropic ξεπέρασε τους βασικούς ανταγωνιστές της και έγινε η πολυτιμότερη νεοφυής εταιρεία τεχνητής νοημοσύνης στον κόσμο, ενώ τώρα οδεύει προς αρχική δημόσια προσφορά που θα μπορούσε να την «εκτοξεύσει» στα 2 τρισεκατομμύρια δολάρια.

Την Παρασκευή 25 Σεπτεμβρίου, κατά την επίσκεψή του στη Γαλλία, ο πάπας Λέων προειδοποίησε για τον κίνδυνο του «να χάσουμε την ανθρωπιά μας μέσα σε έναν “παράδεισο των μηχανών”». Τα ερωτήματα με τα οποία παλεύουν ο Όλα και οι μελετητές εξακολουθούν να μην έχουν σαφείς απαντήσεις. Αρκετοί συμμετέχοντες είπαν ότι έφυγαν από τις συναντήσεις με την Anthropic μπερδεμένοι ως προς το πώς η συμβολή τους θα μπορούσε να επηρεάσει τη λήψη αποφάσεων της εταιρείας.

Η Anthropic πραγματοποίησε άλλη μία συνάντηση αυτόν τον μήνα, στην οποία συμμετείχαν θρησκευτικοί ακαδημαϊκοί, σύμφωνα με τρεις συμμετέχοντες. Εκπρόσωπος της Anthropic είπε ότι η συνάντηση επικεντρώθηκε ευρύτερα στην ανθρώπινη ευημερία και ότι η εταιρεία έχει διευρύνει τις επαφές της πέρα από τους θρησκευτικούς ηγέτες, ώστε να περιλαμβάνει και άλλους, όπως ψυχολόγους και εκπροσώπους της κοινωνίας των πολιτών. Οι συζητήσεις εξετάζουν παρόμοια θέματα, καθώς και ζητήματα όπως ο τρόπος με τον οποίο η τεχνητή νοημοσύνη αναδιαμορφώνει την εργασία και τις ανθρώπινες σχέσεις, είπε.

Η Anthropic προετοιμάζεται επίσης να κυκλοφορήσει μια επικαιροποιημένη έκδοση του συντάγματος του Claude, σύμφωνα με δύο άτομα που γνωρίζουν τα σχέδια της εταιρείας. Ο Κάμοσι, ο Καθολικός καθηγητής, είπε ότι η σκέψη του είχε εξελιχθεί από την παρουσίαση στο Βατικανό, καθώς συζητούσε περισσότερο για τα μοντέλα με έμπιστους συναδέλφους του στον επαγγελματικό του χώρο.

Εξακολουθεί να είναι «έκπληκτος» από το Claude, είπε, αλλά στο ερώτημα αν τα μοντέλα τεχνητής νοημοσύνης διαθέτουν συνείδηση, πλέον απαντά κατηγορηματικά «όχι». Αναλογίστηκε τον αποπροσανατολιστικό χαρακτήρα της βαθιάς μελέτης των συστημάτων τεχνητής νοημοσύνης για πρώτη φορά. «Υπάρχει ένα είδος έκπληξης, δέους μπροστά στη δύναμη αυτών των μοντέλων», είπε . «Σκέφτομαι πλέον πιο ψύχραιμα και προσεκτικά».

Αυτό που ακολουθεί, είπαν κάποιοι από τους συμμετέχοντες στις συναντήσεις, είναι μια μάχη για τη διατήρηση όσων μας κάνουν ανθρώπους σε μια νέα τεχνολογική εποχή. «Κοιτάξτε, στο τέλος της ημέρας, η τεχνητή νοημοσύνη θα τα πάρει όλα υπό τον έλεγχό της», είπε ο Στούελπνάγκελ, ο υπέρμαχος των ανθρωπίνων δικαιωμάτων που ανήκει στον Σιχισμό. «Όπου κι αν μας οδηγήσει αυτό, θα υπάρχει ακόμη το άτομο που προσπαθεί να βρει τον δρόμο για το σπίτι».

Τελικά, ο Όλα είπε ότι ένιωθε ανακούφιση που όλο και περισσότερος κόσμος αντιλαμβανόταν τη σοβαρότητα της τεχνητής νοημοσύνης και ότι μεγάλωνε η ομάδα των ανθρώπων που προσπαθούν να διασφαλίσουν ότι η εξέλιξή της θα πάει καλά. «Κάποια στιγμή θα μπορώ να συνταξιοδοτηθώ και να πω: “Δεν είναι δική μου ευθύνη”, δεν έχω υποχρέωση να συνεχίσω», είπε ο Όλα. Αναρωτήθηκε αν θα ένιωθε ενοχές αφήνοντας πίσω του αυτή τη δουλειά. Αν όμως όχι, είπε, «νομίζω ότι απλώς θα φύγω και, δεν ξέρω, θα αποσυρθώ στην εξοχή και θα ασχολούμαι με την κηπουρική και τα μαθηματικά μου».

Διαβάστε ακόμη

Μητσοτάκης: Θα διαψεύσουμε και πάλι τις προσδοκίες - Θα πετύχουμε ποσοστό πάνω από 40%

Μητέρα Γιώργου Μαζωνάκη στο OPEN: «Να τιμωρηθούν, να βρει το παιδί μου το δίκιο του»

Η Anthropic επιστράτευσε θεολόγους ακαδημαϊκούς για να εκπαιδεύσουν ηθικά την τεχνητή νοημοσύνη

Τρομακτικό τροχαίο: SUV πέφτει με μεγάλη ταχύτητα σε παρκαρισμένο αυτοκίνητο και σκοτώνει άνδρα που κοιμάται