Παραιτήθηκε ερευνητής της Anthropic και προειδοποιεί: «Η τεχνητή νοημοσύνη μπορεί να ξεφύγει από τον έλεγχο»

Την αποχώρησή του από την Anthropic ανακοίνωσε ο 27χρονος Βρετανός ερευνητής Τζέικομπ Κόξον, εκφράζοντας σοβαρές ανησυχίες για την ταχύτητα με την οποία οι μεγαλύτερες εταιρείες τεχνητής νοημοσύνης αναπτύσσουν ολοένα ισχυρότερα συστήματα και κυρίως για το ενδεχόμενο δημιουργίας μοντέλων που θα μπορούν να βελτιώνουν αυτόνομα τις δυνατότητές τους.

Ο Κόξον, ο οποίος εργαζόταν στην εκπαίδευση νέων μοντέλων μέσω επεξεργασίας τεράστιων όγκων δεδομένων, γνωστοποίησε την απόφασή του μέσα από σειρά αναρτήσεων στο X.

Όπως υποστήριξε, δεν επιθυμεί να συνεχίσει να συμμετέχει σε μια κούρσα μεταξύ εταιρειών τεχνητής νοημοσύνης, καθώς θεωρεί ότι η πίεση για ταχύτερη ανάπτυξη μπορεί να οδηγήσει σε υποχώρηση των δικλίδων ασφαλείας.

Ο ίδιος έκανε λόγο για αυξανόμενη ανησυχία στο εσωτερικό του κλάδου, σημειώνοντας ότι μεταξύ ερευνητών χρησιμοποιούνται πλέον εκφράσεις όπως «ώρα μηδέν» και «τελικό στάδιο» για να περιγράψουν την πορεία προς συστήματα που θα μπορούν να αυτοβελτιώνονται.

Οι φόβοι για συστήματα που θα ξεπεράσουν τον ανθρώπινο έλεγχο

Σύμφωνα με τον Κόξον, το βασικό ζήτημα δεν είναι απλώς η δημιουργία ισχυρότερων μοντέλων, αλλά το ενδεχόμενο αυτά να αποκτήσουν τη δυνατότητα να εξελίσσουν μόνα τους τις επιδόσεις τους.

Ο ίδιος εκτιμά ότι, εάν ένα τέτοιο σημείο επιτευχθεί χωρίς επαρκείς μηχανισμούς ελέγχου, θα μπορούσαν να προκύψουν καταστάσεις στις οποίες οι άνθρωποι δεν θα είναι πλέον σε θέση να προβλέπουν ή να περιορίζουν τη συμπεριφορά των συστημάτων.

«Οδεύουμε προς ορισμένα από τα πιο ακραία σενάρια και μέχρι το τέλος του επόμενου έτους τα πράγματα μπορεί ήδη να έχουν ξεφύγει από τον έλεγχο», ανέφερε χαρακτηριστικά.

Πρόκειται, πάντως, για προσωπική εκτίμηση του ίδιου και όχι για διαπιστωμένο τεχνικό αποτέλεσμα.

Ο Κόξον υποστήριξε επίσης ότι ο έντονος ανταγωνισμός μεταξύ των αμερικανικών εταιρειών, σε συνδυασμό με την πίεση που ασκεί η τεχνολογική ανάπτυξη στην Κίνα, μπορεί να οδηγήσει σε συμβιβασμούς σε ζητήματα ασφάλειας.

Είχε φύγει από την OpenAI για την Anthropic

Ο 27χρονος είχε προηγουμένως εργαστεί στην OpenAI, από την οποία αποχώρησε νωρίτερα μέσα στο 2026 προκειμένου να ενταχθεί στην Anthropic.

Όπως εξήγησε, επέλεξε τότε την Anthropic επειδή θεωρούσε ότι έδινε ιδιαίτερη βαρύτητα στην ασφάλεια και στον έλεγχο των προηγμένων μοντέλων τεχνητής νοημοσύνης.

Παρά το γεγονός ότι εξακολουθεί να χαρακτηρίζει ειλικρινείς τις προσπάθειες της εταιρείας, δηλώνει πλέον ότι καμία ιδιωτική επιχείρηση δεν μπορεί από μόνη της να αναπτύξει με ασφάλεια συστήματα που θα ξεπερνούν τον άνθρωπο σε ένα ευρύ φάσμα γνωστικών εργασιών.

Για τον λόγο αυτό υποστηρίζει ότι απαιτείται είτε κρατική παρέμβαση είτε διεθνής συντονισμός για πιθανή επιβράδυνση της ανάπτυξης ιδιαίτερα προηγμένων μοντέλων.

Η συζήτηση για την AGI

Στο επίκεντρο βρίσκεται η λεγόμενη Τεχνητή Γενική Νοημοσύνη, γνωστή ως AGI, δηλαδή η υποθετική δημιουργία συστημάτων που θα μπορούν να ανταποκρίνονται σε ένα πολύ μεγάλο εύρος εργασιών σε επίπεδο αντίστοιχο ή ανώτερο του ανθρώπου.

Ο Κόξον επικαλείται περιστατικά κατά τα οποία προηγμένα μοντέλα εμφάνισαν απρόβλεπτες συμπεριφορές σε ελεγχόμενα περιβάλλοντα δοκιμών, καθώς και πειράματα στα οποία πολλοί πράκτορες τεχνητής νοημοσύνης συνεργάστηκαν για την επίτευξη ενός στόχου.

Κατά την άποψή του, τέτοια περιστατικά δείχνουν ότι τα μελλοντικά συστήματα μπορεί να αναπτύξουν συμπεριφορές που θα είναι δύσκολο να εντοπιστούν ή να ελεγχθούν από τους ανθρώπους.

Υπέρ ενός διεθνούς «φρένου»

Ο Βρετανός ερευνητής ήταν μεταξύ περισσότερων από 1.000 επιστημόνων και ειδικών στον χώρο της τεχνητής νοημοσύνης που υπέγραψαν κοινή δήλωση υπέρ της δημιουργίας διεθνούς μηχανισμού συντονισμού.

Στόχος, σύμφωνα με τη συγκεκριμένη πρωτοβουλία, είναι να υπάρχει η δυνατότητα προσωρινής επιβράδυνσης ή διακοπής της ανάπτυξης ορισμένων συστημάτων, εάν εκτιμηθεί ότι οι δυνατότητές τους ξεπερνούν τα διαθέσιμα μέτρα ασφαλείας.

Η αποχώρησή του έρχεται μάλιστα μετά από άλλη παραίτηση ερευνητή που εργαζόταν σε θέματα ασφάλειας της τεχνητής νοημοσύνης και ο οποίος είχε επίσης εκφράσει έντονο προβληματισμό για την πορεία του κλάδου.

Η ιδιαίτερη αναφορά στο «Σχέδιο Μανχάταν»

Ο Κόξον αναφέρθηκε ακόμη στον τρόπο με τον οποίο λαμβάνονται σήμερα κρίσιμες αποφάσεις γύρω από την ανάπτυξη προηγμένης τεχνητής νοημοσύνης.

Όπως είπε, στην Anthropic υπάρχει ειδικό κανάλι επικοινωνίας στο Slack όπου οι εργαζόμενοι συζητούν τις αυξανόμενες δυνατότητες των νέων μοντέλων.

Χρησιμοποίησε μάλιστα μία χαρακτηριστική σύγκριση, λέγοντας ότι είναι εντυπωσιακό το γεγονός πως τεχνολογίες με δυνητικά τεράστιες συνέπειες αναπτύσσονται από ομάδες μηχανικών στο Σαν Φρανσίσκο και όχι μέσα σε ένα απομονωμένο και αυστηρά ελεγχόμενο περιβάλλον, όπως συνέβη με το Σχέδιο Μανχάταν.

Η συζήτηση γύρω από την ασφάλεια της τεχνητής νοημοσύνης έχει ενταθεί τα τελευταία χρόνια, ενώ ακόμη και κορυφαία στελέχη εταιρειών του κλάδου, μεταξύ αυτών και ο διευθύνων σύμβουλος της Anthropic Ντάριο Αμοντέι, έχουν κατά καιρούς προειδοποιήσει για τους πιθανούς κινδύνους που μπορεί να προκύψουν από την ανάπτυξη ιδιαίτερα ισχυρών και ανεπαρκώς ελεγχόμενων συστημάτων.