Όταν ο άνθρωπος που πληρώνεται για να κρατάει το AI ασφαλές, παραιτείται, λέγοντας ότι «ο κόσμος κινδυνεύει», μάλλον πρέπει να σταματήσεις ό,τι κάνεις και να διαβάσεις αυτό.
Η βιομηχανία της Τεχνητής Νοημοσύνης βρίσκεται σε αναβρασμό. Ο Mrinank Sharma, επικεφαλής ερευνών ασφαλείας της Anthropic, υπέβαλε την παραίτησή του, αφήνοντας πίσω του τεράστια ερωτηματικά. Για όσους δεν γνωρίζουν την Anthropic, η ειρωνεία εδώ είναι τεράστια, καθώς ιδρύθηκε με έναν και μόνο σκοπό: να αποτελέσει την «ασφαλή» και «ηθική» εναλλακτική απέναντι στην OpenAI.
Όταν λοιπόν ο φύλακας αποχωρεί από την πιο ασφαλή εταιρεία, η κατάσταση σοβαρεύει. Ποιος είναι ο λόγος; Η τεράστια πίεση για γρήγορο κέρδος και ταχύτητα. Ο Sharma στην επιστολή παραίτησής του άφησε ξεκάθαρα υπονοούμενα: οι ηθικές αξίες και η ασφάλεια θυσιάζονται για χάρη του ανταγωνισμού. Η Anthropic κυκλοφόρησε πρόσφατα το νέο, πανίσχυρο μοντέλο της (το Claude 4.6), ενώ η αξία της εταιρείας εκτοξεύτηκε στα 350 δισεκατομμύρια δολάρια.
Φαίνεται, λοιπόν, πως τα τεράστια οικονομικά συμφέροντα λυγίζουν ακόμη και τους πιο «ηθικούς» παίκτες της αγοράς. Αυτό το φαινόμενο δεν συμβαίνει μόνο εκεί. Βλέπουμε πλέον ένα «ντόμινο» παραιτήσεων από κορυφαίους επιστήμονες. Αντίστοιχα περιστατικά έχουν γίνει και στην OpenAI, με ερευνητές να φεύγουν για τους ίδιους ακριβώς λόγους.
Τι γράφει η επιστολή που σόκαρε τη Silicon Valley
Η ανοιχτή επιστολή του Mrinank Sharma δεν ήταν μια τυπική παραίτηση στελέχους, αλλά μια φιλοσοφική κραυγή αγωνίας. Μέσα από το κείμενό του, που δημοσίευσε πριν λίγους μήνες στο Χ, ο κορυφαίος ερευνητής, ξεχωρίζουν τρία βασικά σημεία:
«Ο κόσμος βρίσκεται σε κίνδυνο»: Με αυτή τη βαριά φράση ξεκινά το σκεπτικό του. Εξηγεί ότι η ανθρωπότητα αποκτά πλέον τρομακτική τεχνολογική ισχύ, αλλά δεν διαθέτει την ανάλογη σοφία για να τη διαχειριστεί με ασφάλεια.
Ηθικοί συμβιβασμοί για την ταχύτητα: Χωρίς να κατονομάζει ευθέως την Anthropic, αφήνει ξεκάθαρες αιχμές για την εσωτερική κουλτούρα της εταιρείας. Αναφέρει χαρακτηριστικά ότι οι ερευνητές δέχονται συνεχείς πιέσεις να «παραμερίσουν αυτά που έχουν τη μεγαλύτερη σημασία» (εννοώντας τα πρωτόκολλα ασφαλείας) για να προλάβουν τον ανταγωνισμό.
Η φυγή προς την ποίηση: Το πιο εντυπωσιακό κομμάτι είναι η απόφασή του να εγκαταλείψει οριστικά τα εργαστήρια AI. Επιστρέφει στην Αγγλία για να σπουδάσει και να γράψει ποίηση. Όπως ο ίδιος εξηγεί, νιώθει ότι η επιστήμη πλέον στερείται ηθικού βάθους και μόνο μέσα από τις ανθρωπιστικές επιστήμες και την τέχνη μπορεί να βρει την πραγματική αλήθεια για την εποχή μας.
Αλήθεια, όταν οι πιο λαμπροί επιστήμονες του κόσμου εγκαταλείπουν τα εργαστήρια της Τεχνητής Νοημοσύνης και στρέφονται στην τέχνη για να βρουν την αλήθεια, μήπως ήρθε η ώρα να ανησυχήσουμε πραγματικά;
