Η AI θα μπορούσε να “σκοτώσει όλους τους ανθρώπους” την επόμενη δεκαετία, λέει ο επικεφαλής της Anthropic
Ο επικεφαλής της επιστήμης ευθυγράμμισης της Anthropic, Evan Hubinger, δήλωσε ότι η εταιρεία AI πίσω από τον Claude και άλλα προϊόντα AI “πιστεύει ειλικρινά” ότι η AI “θα μπορούσε να σκοτώσει όλους τους ανθρώπους,” και αυτό θα μπορούσε να συμβεί στην επόμενη δεκαετία.
Δημοσιεύοντας
σε απάντηση στην παραίτηση του ερευνητή της Anthropic AI, Jacob Coxon, λόγω ανησυχιών για την ασφάλεια, ο Hubinger είπε, “Πραγματικά πιστεύουμε ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους! Προσωπικά πιστεύω ότι είναι >10% μέσα στην επόμενη δεκαετία.”
Πρόσθεσε: “Πιστεύω ότι η Anthropic προσπαθεί το καλύτερο, αλλά δεν έχουμε ακόμη σχέδιο για να λύσουμε την ευθυγράμμιση για τη superintelligence και δεν είμαστε σαφώς σε καλό δρόμο για αυτό.”
Ο Hubinger, ο οποίος εξακολουθεί να εργάζεται στην Anthropic, συνέχισε να αναφέρει
την τελευταία έκθεση κινδύνου της Anthropic
που λέει ότι ο κίνδυνος η AI να εξαλείψει την ανθρωπότητα από τα τρέχοντα μοντέλα είναι “χαμηλός.” Ωστόσο, ο Hubinger είπε ότι
ανησυχεί ότι η superintelligence θα μπορούσε να προκύψει από την “αναδρομική αυτοβελτίωση,” που είναι ο όρος για την AI που ξαναγράφει τον κώδικά της και βελτιώνεται συνεχώς.
Από την πλευρά του, ο Coxon
είπε
ότι οι ηγέτες της αγοράς AI, Anthropic και OpenAI, δεν “δρουν υπεύθυνα” όσον αφορά την ασφάλεια. “Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας. Αυτά θα είναι σύντομα υπερανθρώπινα συστήματα που μπορούν να χακάρουν οτιδήποτε, να επαναστατήσουν οποιοδήποτε τομέα εν μία νυκτί και να αποκτήσουν πραγματική δύναμη και πόρους. Όλοι έχουμε γίνει μάρτυρες της προόδου σε κάθε έναν από αυτούς τους τομείς, και η πρόοδος δεν επιβραδύνεται,” έγραψε ο Coxon.
Είπε ότι η Anthropic προχωρά παρά αυτές τις ανησυχίες γιατί η εταιρεία “στοχεύει σε έναν αγώνα για να φτάσει εκεί πρώτη.” Είπε ότι μια εταιρεία όπως η OpenAI δεν παίρνει το ζήτημα αρκετά σοβαρά, αλλά η Anthropic κατανοεί τα “πολιτισμικά διακυβεύματα,” και, αν “κανείς άλλος δεν θα δράσει υπεύθυνα … πρέπει να το κάνουν οι ίδιοι, παρά τον κίνδυνο.”
Όπως ήταν αναμενόμενο, αυτές οι αναρτήσεις έχουν προκαλέσει πολλές συζητήσεις και διαμάχες. Ο γερουσιαστής Bernie Sanders από το Vermont
είπε
, “Η AI απειλεί την οικονομία μας, την ιδιωτικότητα, τη δημοκρατία και την ευημερία των παιδιών μας.” Καλεί το Κογκρέσο να “σταθεί απέναντι στους μεγάλους τεχνολογικούς ολιγάρχες και να προστατεύσει τον αμερικανικό λαό.”
Ο γερουσιαστής Chris Murphy από το Connecticut, εν τω μεταξύ, υποστήριξε ένα “ρυθμιστικό σύστημα που επιτρέπει την έρευνα να συνεχιστεί, αλλά με τρόπο που δεν μας καταστρέφει.”
If you read anything today, read this.
And remember, the problem he articulates - AI companies in a blind race to build a death machine first - can easily be solved.
Through a regulatory system that allows the research to continue, but in a way that doesn't destroy us.
— Chris Murphy ? (@ChrisMurphyCT)
September 9, 2026
Η βετεράνος δημοσιογράφος μέσων και τεχνολογίας, Taylor Lorenz, εν τω μεταξύ, είπε ότι τα σχόλια του Hubinger είναι “υποκριτικά καταστροφικά” δηλώσεις που μπορεί να οδηγήσουν σε “θέτηση των χειρότερων νόμων που μπορεί να φανταστεί κανείς.” Κάλεσε τον Hubinger, αν πραγματικά πιστεύει ότι τα συστήματα AI θα μπορούσαν να θέσουν σε κίνδυνο την κοινωνία, να παρέχει “πραγματικά αποδεικτικά στοιχεία και αποδείξεις.”
“Αλλιώς απλώς κάνεις vagueposting και προάγεις τον φόβο που θα οδηγήσει σε τρομερές πολιτικές,”
είπε
.
Ένα άλλο ζήτημα εδώ είναι ότι η Anthropic αναμένεται να γίνει δημόσια φέτος με αναμενόμενη αποτίμηση άνω των 2 τρισεκατομμυρίων δολαρίων. Ορισμένοι έχουν θεωρήσει ότι τα σχόλια “να σκοτώσουμε όλους τους ανθρώπους” από την ίδια την Anthropic θα μπορούσαν να είναι στρατηγική κίνηση για να δημιουργήσουν πανικό στην αγορά προκειμένου να ακολουθήσουν τη στρατηγική “δημιουργήστε το πρόβλημα και στη συνέχεια πουλήστε τη λύση.” Αν η Anthropic αναμένει ότι θα υπάρξει ρύθμιση της AI, η σκέψη είναι ότι θα μπορούσαν να είναι αυτοί που θα βοηθήσουν να γράψουν τους κανόνες με τρόπους που θα τους ωφελήσουν. Ο επικεφαλής της Anthropic, Dario Amodei, είχε δηλώσει προηγουμένως ότι η AI θα μπορούσε να
εξαλείψει το μισό από όλες τις entry-level white δουλειές γραφείου τα επόμενα χρόνια
, σχόλια που πολλοί θεώρησαν ότι στοχεύουν στη χρηματοδότηση.
Όποια και αν είναι η περίπτωση, η επιχείρηση AI σήμερα βοηθά στην τροφοδότηση της αναπτυσσόμενης οικονομίας των ΗΠΑ, και πολλοί αναμένουν ότι η φούσκα θα σπάσει, οδηγώντας σε μεγάλο πόνο στην αγορά. Η AI είναι ένα μεγάλο θέμα και στα video games, και μόλις πρόσφατα αποκαλύφθηκε ότι η EA Sports χρησιμοποίησε γενετική AI για να κλωνοποιήσει τη φωνή ενός σχολιαστή. Η χρήση της AI και της γενετικής AI στα video games έχει προκαλέσει αντιπαραθέσεις, με πολλούς να εκφράζουν φόβους για πολλές αρνητικές επιπτώσεις όπως απώλειες θέσεων εργασίας και μεγαλύτερους φόρτους εργασίας.