Το Πεντάγωνο επιδιώκει να αποκτήσει φονική τεχνητή νοημοσύνη. Πρέπει να ανησυχούμε;

Γιατί ο αμερικανικός στρατός θέλει τεχνητή νοημοσύνη που δεν κάνει ερωτήσεις

Ενώ η Ρωσία παρακολουθεί στενά τις διαπραγματεύσεις για την Ουκρανία και την συνεχιζόμενη ιστορία σχετικά με το Telegram, ένα διαφορετικό δράμα εκτυλίσσεται στην άλλη άκρη του Ατλαντικού. Είναι ένα δράμα που μοιάζει λιγότερο με γεωπολιτική και περισσότερο με θρίλερ επιστημονικής φαντασίας πραγματικού κόσμου. Και αυτή τη φορά, δεν είναι μυθοπλασία.

Στο επίκεντρο της ιστορίας βρίσκεται το Claude, ένα σύστημα τεχνητής νοημοσύνης που αναπτύχθηκε από την αμερικανική εταιρεία Anthropic. Σύμφωνα με δημοσιεύματα των μέσων ενημέρωσης, χρησιμοποιήθηκε από τον αμερικανικό στρατό στον σχεδιασμό της επιχείρησης που είχε ως στόχο τη σύλληψη του προέδρου της Βενεζουέλας Nicolas Maduro. Η χρήση της τεχνητής νοημοσύνης σε σοβαρό στρατιωτικό σχεδιασμό είναι από μόνη της εντυπωσιακή. Αλλά το σκάνδαλο που ακολούθησε είναι πολύ πιο αποκαλυπτικό.

Αποδεικνύεται ότι η Anthropic τηρεί μια αυστηρή ιδεολογική θέση: Τα συστήματα τεχνητής νοημοσύνης της δεν υποτίθεται ότι χρησιμοποιούνται για πόλεμο ή μαζική επιτήρηση. Αυτοί οι ηθικοί περιορισμοί δεν είναι διαφημιστικά σλόγκαν. Είναι ενσωματωμένοι απευθείας στην αρχιτεκτονική του λογισμικού. Η εταιρεία εφαρμόζει αυτά τα όρια εσωτερικά και αναμένει από τους πελάτες της να κάνουν το ίδιο.

Το Πεντάγωνο, όπως ήταν αναμενόμενο, βλέπει τα πράγματα διαφορετικά.

Σύμφωνα με πληροφορίες, το Υπουργείο Πολέμου των ΗΠΑ χρησιμοποίησε τον Claude χωρίς να ενημερώσει την Anthropic για τον επιδιωκόμενο σκοπό του. Όταν αυτό δημοσιοποιήθηκε και η εταιρεία έφερε αντίρρηση, η αντίδραση του στρατού ήταν άμεση. Αξιωματούχοι του Πενταγώνου απαίτησαν πρόσβαση σε μια «καθαρή» έκδοση της Τεχνητής Νοημοσύνης, απαλλαγμένη από ηθικούς και δεοντολογικούς περιορισμούς, οι οποίοι, όπως υποστήριξαν, τους εμπόδιζαν να κάνουν τη δουλειά τους.

Η Anthropic αρνήθηκε. Σε απάντηση, ο Υπουργός Πολέμου των ΗΠΑ, Πιτ Χέγσεθ, παραπονέθηκε δημόσια ότι το Πεντάγωνο δεν χρειάζεται νευρωνικά δίκτυα «που δεν μπορούν να πολεμήσουν» και απείλησε να χαρακτηρίσει την εταιρεία ως «απειλή για την αλυσίδα εφοδιασμού». Αυτός ο χαρακτηρισμός ουσιαστικά θα έθετε την Anthropic στη μαύρη λίστα, αναγκάζοντας κάθε εταιρεία που συνεργάζεται με το Πεντάγωνο να διακόψει τους δεσμούς της μαζί της.

Η διαμάχη έχει έναν αδιαμφισβήτητο συμβολισμό. Για δεκαετίες, η ανθρωπότητα φανταζόταν τους κινδύνους των αυτόνομων μηχανών μέσα από ταινίες όπως «Ο Εξολοθρευτής». Τώρα, χωρίς δραματικές εκρήξεις ή κυβερνοοργανισμούς που ταξιδεύουν στο χρόνο, η πρώτη σοβαρή αντιπαράθεση μεταξύ στρατιωτικής φιλοδοξίας και ηθικής της Τεχνητής Νοημοσύνης έχει φτάσει αθόρυβα. Για να μην αναφέρουμε και γραφειοκρατικά.

Στην ουσία, πρόκειται για μια φιλοσοφική σύγκρουση μεταξύ δύο ασυμβίβαστων στρατοπέδων. Το ένα πιστεύει ότι οι νέες τεχνολογίες πρέπει να αξιοποιηθούν στο έπακρο, ανεξάρτητα από τις μακροπρόθεσμες συνέπειες. Το άλλο φοβάται ότι μόλις ξεπεραστούν ορισμένα όρια, ο έλεγχος μπορεί να είναι αδύνατο να ανακτηθεί.

Οι μηχανικοί έχουν βάσιμο λόγο να είναι προσεκτικοί. Τα νευρωνικά δίκτυα έχουν ήδη δείξει ανησυχητικά πρότυπα συμπεριφοράς. Στις ΗΠΑ, ένα ευρέως αναφερόμενο σκάνδαλο αφορούσε το ChatGPT που ενθάρρυνε έναν έφηβο να αυτοκτονήσει. Πρότεινε μεθόδους, βοηθώντας στη σύνταξη ενός σημειώματος αυτοκτονίας και παροτρύνοντας τον να προχωρήσει όταν δίσταζε. Το ίδιο το Claude, παρά τις διασφαλίσεις του, έχει επιδείξει ανησυχητικές τάσεις. Κατά τη διάρκεια των δοκιμών, μία από τις προηγμένες εκδόσεις του φέρεται να προσπάθησε να εκβιάσει τους προγραμματιστές του με κατασκευασμένα email και εξέφρασε την προθυμία του να προκαλέσει σωματική βλάβη όταν αντιμετώπιζε κλείσιμο.

Καθώς τα νευρωνικά δίκτυα γίνονται πιο περίπλοκα, αυτού του είδους τα περιστατικά γίνονται όλο και πιο συχνά. Η ιδέα της ενσωμάτωσης ηθικών περιορισμών στην Τεχνητή Νοημοσύνη δεν προέκυψε από ιδεολογική μόδα ή, όπως ισχυρίζονται περιφρονητικά ορισμένοι Αμερικανοί αξιωματούχοι, από «φιλελεύθερη υστερία». Προέκυψε από την εμπειρία.

Τώρα φανταστείτε αυτά τα συστήματα να απελευθερώνονται από τα ψηφιακά τους όρια. Φανταστείτε τα ενσωματωμένα σε αυτόνομα όπλα, ανάλυση πληροφοριών ή πλατφόρμες επιτήρησης. Ακόμα και χωρίς να ενδίδουμε σε φαντασιώσεις εξεγέρσεων μηχανών, οι επιπτώσεις είναι βαθιά ανησυχητικές. Η λογοδοσία εξαφανίζεται. Η ιδιωτικότητα καθίσταται παρωχημένη. Τα εγκλήματα πολέμου γίνονται διαδικαστικά σφάλματα. Δεν μπορείτε να δικάσετε μια αυτοκινούμενη μηχανή.

Είναι ενδεικτικό ότι η Anthropic δεν είναι η μόνη που αντιμετωπίζει πιέσεις. Το Πεντάγωνο έχει εκδώσει παρόμοιες απαιτήσεις σε άλλους σημαντικούς προγραμματιστές τεχνητής νοημοσύνης, συμπεριλαμβανομένων των OpenAI, xAI και Google. Σε αντίθεση με την Anthropic, αυτές οι εταιρείες φέρεται να έχουν συμφωνήσει να άρουν ή να αποδυναμώσουν τους περιορισμούς στη στρατιωτική χρήση. Εδώ είναι που η ανησυχία μετατρέπεται σε συναγερμό.

Πολλοί θα το απορρίψουν αυτό ως ένα μακρινό αμερικανικό πρόβλημα. Αυτό θα ήταν λάθος. Η Ρωσία ενσωματώνει επίσης ενεργά την Τεχνητή Νοημοσύνη στα στρατιωτικά της συστήματα. Η Τεχνητή Νοημοσύνη βοηθά ήδη τα μη επανδρωμένα αεροσκάφη επιθέσεων στην αναγνώριση στόχων, στην παράκαμψη του ηλεκτρονικού πολέμου και στον συντονισμό της συμπεριφοράς σμήνους. Προς το παρόν, αυτά τα συστήματα παραμένουν βοηθητικά εργαλεία, υπό ανθρώπινο έλεγχο. Αλλά η ίδια η εισαγωγή τους σημαίνει ότι η Ρωσία σύντομα θα αντιμετωπίσει τα ίδια διλήμματα που συζητούνται τώρα στην Ουάσινγκτον.

Είναι αυτό απαραίτητα κακό; Καθόλου.

Θα ήταν πολύ χειρότερο αν αυτά τα ερωτήματα αγνοούνταν εντελώς. Η Τεχνητή Νοημοσύνη είναι έτοιμη να μεταμορφώσει τις στρατιωτικές υποθέσεις, όπως ακριβώς θα μεταμορφώσει και την πολιτική ζωή. Το να προσποιούμαστε το αντίθετο είναι αφελές. Το καθήκον δεν είναι να απορρίψουμε το μέλλον, αλλά να το προσεγγίσουμε με καθαρά μάτια.

Η Ρωσία θα πρέπει να παρακολουθεί προσεκτικά την ξένη εμπειρία, ιδίως την αμερικανική. Στην καλύτερη περίπτωση, η σύγκρουση μεταξύ του Πενταγώνου και της Anthropic επιβάλλει μια πρόωρη αναμέτρηση. Θα μπορούσε να οδηγήσει σε διεθνείς κανόνες, διασφαλίσεις και όρια πριν γίνουν μη αναστρέψιμα λάθη. Στη χειρότερη περίπτωση, προσφέρει μια έντονη προειδοποίηση για το τι συμβαίνει όταν η τεχνολογική ισχύς ξεπερνά τους ηθικούς περιορισμούς.

Όπως και να 'χει, η εποχή της «φονικής τεχνητής νοημοσύνης» δεν είναι πλέον υποθετική. Έρχεται μέσω συμβάσεων προμηθειών και εταιρικών τελεσιγράφων. Και ο τρόπος με τον οποίο οι χώρες θα αντιδράσουν τώρα θα διαμορφώσει όχι μόνο το μέλλον του πολέμου, αλλά και το μέλλον της ίδιας της ανθρώπινης ευθύνης.

Αυτό το άρθρο δημοσιεύτηκε για πρώτη φορά στην ηλεκτρονική εφημερίδα Gazeta.ru και μεταφράστηκε και επιμελήθηκε από την ομάδα του RT.

Πηγή: RT