Athens News - Πρώην ερευνητής της Anthropic ζητεί συντονισμένη επιβράδυνση της ανάπτυξης AI

Συντονισμένη επιβράδυνση της εξέλιξης των προηγμένων συστημάτων τεχνητής νοημοσύνης ζήτησε ο Τζέικομπ Κόξον, πρώην ερευνητής της Anthropic, σε συνέντευξή του στο BBC. Ο 27χρονος, που είχε εργαστεί προηγουμένως στην OpenAI, συνέδεσε την παραίτησή του με φόβους για την ασφάλεια της τεχνολογίας και τις ενδεχόμενες συνέπειες απώλειας του ελέγχου της.

Ο Κόξον μίλησε το Σάββατο στη Λόρα Κούνσμπεργκ, με το δημοσίευμα να αναφέρεται στην εκπομπή «Sunday with Laura Kuenssberg». Υποστήριξε ότι εργαζόμενοι στις εταιρείες αντιμετωπίζουν σοβαρά τους κινδύνους και αισθάνονται εγκλωβισμένοι σε ανταγωνισμό ταχείας ανάπτυξης. Οι προβλέψεις του για πιθανή απειλή στην ανθρωπότητα αποτελούν προσωπικές εκτιμήσεις και όχι επιβεβαιωμένη πρόγνωση.

Η τοποθέτησή του ακολούθησε δοκίμιο του επικεφαλής της Anthropic Ντάριο Αμοδέι, το Σάββατο, υπέρ της επιβράδυνσης των συστημάτων. Ο Κόξον χαιρέτισε την πρόταση, αλλά τόνισε ότι απαιτείται συντονισμός και με την Κίνα ώστε να μη συνεχιστεί ο ανταγωνισμός σε διεθνές επίπεδο. Ανέφερε επίσης ότι ο Σαμ Άλτμαν και ο Ίλον Μασκ έχουν συμφωνήσει με την ιδέα της επιβράδυνσης.

Ως παράδειγμα κινδύνου περιέγραψε σενάριο που είχε αναφέρει ο Αμοδέι: δίκτυο bots με υπολογιστικές δυνατότητες που θα μπορούσε να καταλάβει το διαδίκτυο. Ο Κόξον εκτίμησε ότι ένα τέτοιο ενδεχόμενο θα μπορούσε να προκύψει μέσα σε έξι μήνες έως έναν χρόνο. Η συγκεκριμένη χρονική εκτίμηση αποδίδεται στον ερευνητή και δεν παρουσιάζεται ως κοινώς αποδεκτό επιστημονικό συμπέρασμα.

Εκπρόσωπος της Anthropic δήλωσε στο BBC News ότι η εταιρεία αναγνωρίζει τόσο τα οφέλη όσο και τους πρωτοφανείς κινδύνους της AI. Υποστήριξε ότι τα μοντέλα της διαθέτουν ισχυρές ασφαλιστικές δικλείδες και ότι η εταιρεία έχει συμβάλει στη μελέτη του τρόπου λειτουργίας τους.

Η Anthropic ανέφερε ακόμη ότι δημοσίευσε πρώτη πλαίσιο μετριασμού κινδύνων, ελέγχει εντατικά τα συστήματά της και δημοσιοποιεί ευρήματα για την αποτροπή συμπεριφορών που αποκλίνουν από τους προβλεπόμενους στόχους. Συνέδεσε αυτή την εργασία με την πρότασή της για νόμιμη συνεργασία του κλάδου, ώστε να ρυθμίζεται ο ρυθμός διάθεσης ισχυρών μοντέλων.

Το δοκίμιο του Αμοδέι, με τίτλο «We Must Pace the Frontier», προτείνει τρεις άξονες: ανεξάρτητη παρακολούθηση των μοντέλων κατά την ανάπτυξη, ρυθμίσεις για τη βιομηχανία και παγκόσμιους κανόνες. Η συζήτηση εξελίσσεται ενώ αναφορές θέλουν την Anthropic και την OpenAI να εξετάζουν μεγάλες αρχικές δημόσιες προσφορές.

Ορισμένοι παράγοντες του κλάδου αμφισβητούν την έκταση των κινδύνων που περιγράφονται. Σύμφωνα με το δημοσίευμα, θεωρούν πιθανό οι έντονες προειδοποιήσεις να ενισχύουν τη δημοσιότητα πριν από χρηματιστηριακές εισαγωγές ή να ευνοούν ρυθμίσεις που δυσκολεύουν ανταγωνιστές. Οι απόψεις αυτές μεταφέρονται ως εκτιμήσεις, όχι ως τεκμηριωμένα κίνητρα των εταιρειών.

Ο διευθύνων σύμβουλος της Hugging Face Κλεμάν Ντελάνγκ αμφισβήτησε στο X την καταλληλότητα του Κόξον να εκτιμά τον κίνδυνο εξαφάνισης της ανθρωπότητας. Ζήτησε επιφυλακτική αντιμετώπιση των δηλώσεών του. Μετά τη δημοσίευση του δοκιμίου Αμοδέι, πάντως, προσφέρθηκε να βοηθήσει στην εφαρμογή των προτεινόμενων λύσεων.

Ο επικεφαλής της Nvidia Τζένσεν Χουάνγκ απέρριψε επίσης τις εκτιμήσεις Κόξον, μιλώντας σε επενδυτές σε συνέδριο της Goldman Sachs. Το άρθρο υπενθυμίζει ότι είχε ήδη χαρακτηρίσει αβάσιμη την ιδέα ότι η AI θα τερματίσει την ανθρώπινη ύπαρξη και σημειώνει τη θέση της Nvidia ως κατασκευάστριας τσιπ που χρησιμοποιούνται στα συστήματα αυτά.

Ο Κόξον, από την πλευρά του, υποστήριξε ότι συνάδελφοί του φοβούνται κινδύνους ακόμη και μέσα στην επόμενη διετία. Ανέφερε πως ορισμένοι εξετάζουν αλλαγές στη ζωή τους και αγορά γης σε απομονωμένες περιοχές λόγω της αστάθειας που θεωρούν πιθανή. Παράλληλα, δήλωσε ότι οι ερευνητές επιδιώκουν θετικές εφαρμογές, όπως θεραπείες ασθενειών και βελτίωση της καθημερινότητας.

Οι δηλώσεις του διαδόθηκαν εκατομμύρια φορές στα κοινωνικά δίκτυα. Ο επιστήμονας της Anthropic Έβαν Χούμπινγκερ συμφώνησε δημόσια στο X και εκτίμησε προσωπικά πιθανότητα μεγαλύτερη από 10% για ένα καταστροφικό αποτέλεσμα μέσα στην επόμενη δεκαετία.

Το δημοσίευμα τοποθετεί την αντιπαράθεση σε συνέχεια προειδοποιήσεων που είχαν εκφράσει ήδη από το 2023 οι επικεφαλής της OpenAI, της Google DeepMind και της Anthropic. Οι πρόσφατες παραιτήσεις και παρεμβάσεις εντείνουν τη συζήτηση για έλεγχο και ρύθμιση, ενώ παραμένουν διαφορετικές οι εκτιμήσεις για το μέγεθος και τον χρονικό ορίζοντα των κινδύνων.

Στην περιγραφή του για το εσωτερικό των εταιρειών, ο Κόξον υποστήριξε ότι οι φόβοι αυτοί επηρεάζουν καθημερινά τον τρόπο με τον οποίο οι εργαζόμενοι αντιλαμβάνονται τη δουλειά τους. Δεν απέδωσε το αίτημα ρύθμισης σε έλλειψη ενδιαφέροντος για την τεχνολογία, αλλά στην ανάγκη να αποφευχθεί μια κούρσα που οι ίδιοι θεωρούν δύσκολο να σταματήσουν. Η εταιρική απάντηση εστίασε αντίθετα στους υφιστάμενους μηχανισμούς προστασίας και στη δημοσιοποίηση ελέγχων, υποστηρίζοντας ότι η προσεκτική ανάπτυξη και η συνεργασία μπορούν να συνδυαστούν με τα αναμενόμενα οφέλη.

I.Athanasiou--AN-GR