Το πρώτο επίσημο κυβερνητικό Ban σε LLM από την Αμερική

,

Η αμερικανική κυβέρνηση εξέδωσε μια επείγουσα οδηγία (directive) που αναγκάζει την Anthropic να διακόψει άμεσα την πρόσβαση στα δύο πιο εξελιγμένα μοντέλα της, το Fable 5 (το οποίο κυκλοφόρησε πριν λίγες ημέρες) και το Mythos 5 (το οποίο δεν έχει κυκλοφορήσει για το ευρύ κοινό).
Το ban αφορά όλους τους χρήστες παγκοσμίως, αλλά και τους ίδιους τους εργαζόμενους της εταιρείας που είναι ξένοι υπήκοοι, με την κυβέρνηση να επικαλείται ζητήματα εθνικής ασφάλειας.

Η απόφαση των αρχών βασίζεται στην πιθανή ύπαρξη μιας μεθόδου παράκαμψης των συστημάτων ασφαλείας (jailbreak) στο Fable 5. Η κυβέρνηση ανησυχεί ότι το μοντέλο θα μπορούσε να χρησιμοποιηθεί για την εύρεση αδυναμιών σε ψηφιακά συστήματα, ζητώντας του απλώς να διαβάσει έναν κώδικα και να εντοπίσει τα σφάλματά του.

Η απάντηση της Anthropic

Η Anthropic συμμορφώνεται με την κρατική εντολή, αλλά διαφωνεί κάθετα με την απόφαση, κάνοντας λόγο για μια ξεκάθαρη παρεξήγηση. Η εταιρεία ξεκαθαρίζει την κατάσταση με απλά λόγια.

Οι αδυναμίες που εντοπίστηκαν είναι εξαιρετικά μικρής σημασίας και δεν αποτελούν κάποιο μεγάλο, καθολικό κενό ασφαλείας. Μάλιστα, οι ίδιες ακριβώς δυνατότητες είναι ήδη προσβάσιμες σε όλα τα μεγάλα μοντέλα της αγοράς, συμπεριλαμβανομένου του GPT-5.5 της OpenAI, και χρησιμοποιούνται καθημερινά από τους αμυνόμενους για να κρατούν τα συστήματα ασφαλή.

Η Anthropic τονίζει ότι έχει δοκιμάσει την ασφάλεια του μοντέλου για χιλιάδες ώρες σε συνεργασία με κρατικούς και ιδιωτικούς φορείς. Επειδή η τέλεια ασφάλεια είναι αδύνατη στη σημερινή εποχή, η εταιρεία εφαρμόζει μια στρατηγική πολλαπλών επιπέδων προστασίας και συνεχούς παρακολούθησης για να προλαβαίνει τυχόν κακόβουλες επιθέσεις.

Τι σημαίνει αυτό;

Η εταιρεία προειδοποιεί ότι αν υιοθετηθεί αυτό το υπερβολικά αυστηρό κριτήριο για κάθε μικρό εύρημα, θα παγώσει ουσιαστικά η ανάπτυξη ολόκληρου του κλάδου της τεχνητής νοημοσύνης. Η Anthropic ζητά συγγνώμη από το κοινό για την ξαφνική διακοπή, δηλώνει ότι στηρίζει τις διαφανείς και δίκαιες κρατικές διαδικασίες που βασίζονται σε τεχνικά γεγονότα και βρίσκεται ήδη σε επαφή με την κυβέρνηση για να επαναφέρει την πρόσβαση το συντομότερο δυνατό.

Η ανακοίνωση της Anthropic:

3 «Μου αρέσει»

Για το Grok όμως που χρησιμοποιεί η Αμερικανική κυβέρνηση ούτε λόγος… Κάτι δεν πάει σωστά στο Βασίλειο του Τραμπιστάν τώρα τελευταία.

2 «Μου αρέσει»

Τώρα νομίζω έχει σειρά η Κίνα να απαντήσει.Άμα συνεχίσουν έτσι μας βλέπω σε 10 χρόνια να μην έχουμε πρόσβαση σε κανένα LLM σαν απλοί χρήστες.

Αν υπήρχε μια διαφορετική νοοτροπία στην Ευρώπη και δεν τους είχαμε χαλάσει, τώρα ήταν η ευκαιρία της ανάδειξης ενός ευρωπαϊκού μοντέλου με σεβασμό στον ΓΚΠΔ και στην ελεύθερη πρόσβαση για όλους/ες μας.

Η πιο ψεκασμενη και παρανοικη κυβερνηση που ειχαν ποτε οι ΗΠΑ

2 «Μου αρέσει»

Είχανε αυτή την αντιπαράθεση αν θυμάσαι όπου η anthropic δεν είχε ενδώσει στα σχέδια του καθεστώτος Τραμπ και όπως φαίνεται εκβιάζουν

2 «Μου αρέσει»

Ναι το θυμάμαι. Η OpenAI μετά την αντιπαράθεση αυτή πήρε το συμβόλαιο γιατί (για τα λεφτά και μόνο) δεν είχαν τέτοιους “ενδιασμούς”. Αν γίνει καμιά στραβή (γιατί το ChatGPT δεν είναι και ότι το πιο ακριβές σε ΤΝ Συστήματα) θα έχουμε σίγουρα το λιγότερο μαλλιοτραβήγματα. Αυτή η αμερικάνικη κυβέρνηση δε ειναι σαν τις άλλες.

2 «Μου αρέσει»

Για μένα οι κυβερνήσεις των ΗΠΑ χαρακτηρίζοντε από την εξωτερική πολιτική τους. Οπότε είναι σαν τις άλλες :person_shrugging:

1 «Μου αρέσει»

Πολλά λέγονται - γράφονται - αλλά χωρίς πραγματικά στοιχεία. Σενάρια περισσότερο. Κάποιο θα ισχύει, δεν μπορεί.

πχ.

  1. Είναι θέμα μάρκετινγκ και τίποτε περισσότερο. Σε λίγο καιρό θα αρθεί το ban και τότε το Fable θα εκτοξευθεί, αφού όλοι θα θέλουν να χρησιμοποιήσουν το banαρισμένο super-duper μοντέλο της Anthropic. Εντωμεταξύ με το που κυκλοφόρησε στα benchmarks δεν πήγε όσο καλά θα θέλανε (υποθέτω), πχ 90% deceptive, δεν το λες και λίγο.

  1. Οι engineers της Amazon ( η οποία είναι investor της Anthropic - ότι ναναι), έστειλαν επιστολή στο administration των ΗΠΑ για την επικινδυνότητα του συγκεκριμένου μοντέλου, αφού κατάφεραν να το κάνουν jailbreak (λες και τα άλλα δεν τα έχουν κάνει). Επιστολή βέβαια δεν έχω δει να κυκλοφορεί.

  2. Είναι ο προάγγελος του KYC (valid σενάριο κατά τη γνώμη μου). Δηλ. μετά από αυτό το ban και άλλα που ίσως ακολουθήσουν (νομίζω ήδη έχει γίνει άλλο ένα του GLM από την Κινεζική κυβέρνηση αλλά πέρασε στα ψιλά), οι εταιρείες θα αρχίσουν να ζητάνε KYC για τη χρήση Cloud LLM εργαλείων που σου παρέχουν.

Η σάτιρα έχει ήδη ξεκινήσει στα Social, αλλά από σάτιρα ξεκινάε σιγά-σιγά :grinning_face_with_smiling_eyes:

2 «Μου αρέσει»

Χα.

Κάτι γίνεται τώρα ε ;

Summary of changes to our Privacy Policy, effective July 8, 2026

Μεταξύ άλλων…

Verification Data

To help keep our services safe and secure, we may ask you to confirm your age or identity. We describe what information this involves and how we handle it.

3 «Μου αρέσει»