Της Ωκεανίς Καπουσίδου,
Η ανθρωπότητα σήμερα διανύει την –όπως πολλοί τη χαρακτηρίζουν— τέταρτη βιομηχανική επανάσταση. Αυτό που τη διαφοροποιεί, μάλλον, από τις προηγούμενες είναι το γεγονός ότι πρωτύτερα ο άνθρωπος χρησιμοποιούσε τη νοημοσύνη του για να δημιουργήσει μηχανές οι οποίες θα άλλαζαν τον κόσμο, ενώ σήμερα οι «μηχανές» ξεπερνούν την ανθρώπινη νοημοσύνη και μάλιστα ερμηνεύουν τον κόσμο από τη δική τους «σκοπιά». Ο Warren Buffet αναφερόμενος στην τεχνητή νοημοσύνη έκανε λόγο για ένα «τζίνι που βγήκε από το μπουκάλι», συγκρίνοντάς την με την ανακάλυψη της πυρηνικής σχάσης. Αναμφίβολα, η τεχνητή νοημοσύνη ενσωματώνεται και προκαλεί δομικές αλλαγές σε σημαντικές πτυχές της ανθρώπινης δραστηριότητας, με τον πόλεμο, φυσικά, να μην αποτελεί εξαίρεση.
Τα κράτη σήμερα, εμπλεκόμενα σε μια νέα μορφή εξοπλιστικής κούρσας, δαπανούν υπέρογκα ποσά για την ανάπτυξη AI-driven στρατιωτικών συστημάτων με την πρόφαση ότι μέσω αυτών εξασφαλίζονται η ταχύτητα και η μέγιστη ακρίβεια κατά τη λήψη των αποφάσεων ενώ ταυτόχρονα τα συστήματα αυτά παρέχουν τη δυνατότητα πρόβλεψης πιθανών απειλητικών κινήσεων. Μολονότι τα παραπάνω θυμίζουν σενάρια επιστημονικής φαντασίας, ημιαυτόματα και άλλοτε αυτόματα συστήματα χρησιμοποιούνται εδώ και χρόνια. Ένα παράδειγμα από το ψυχροπολεμικό παρελθόν είναι το ημιαυτόνομο σύστημα “Perimeter” της Ρωσίας το οποίο βρίσκεται σε λειτουργία μέχρι και σήμερα. Πιο πρόσφατα, συστήματα τεχνητής νοημοσύνης χρησιμοποιήθηκαν εκτενώς κατά τη διάρκεια των συρράξεων στη Μέση Ανατολή, ενώ η Κίνα και οι Η.Π.Α δοκιμάζουν, μεταξύ άλλων, AI-driven ραντάρ για τον εντοπισμό εκτοξεύσεων βαλλιστικών πυραύλων. Περισσότερη ανησυχία προκαλούν ωστόσο δηλώσεις που αφορούν τη χρήση συστημάτων τεχνητής νοημοσύνης για τη λήψη αποφάσεων που σχετίζονται με τη χρήση πυρηνικών όπλων.
Εκ πρώτης όψεως κάτι τέτοιο μοιάζει να αλλάζει ριζικά τη φύση του πολέμου. Ωστόσο, μια πιο προσεκτική ανάλυση επιβεβαιώνει την άποψη ότι η ίδια η φύση του σύγχρονου πολέμου καθορίζει τα μέσα που χρησιμοποιούνται για τη διεξαγωγή του. Ο πόλεμος σήμερα δεν απαιτεί στρατεύματα εκατομμυρίων ούτε παράγει πολιτικό αποτέλεσμα, όπως συνέβαινε στο παρελθόν. Η επιτυχία στο πεδίο της μάχης κρίνεται στον αφανισμό πολύ συγκεκριμένων στόχων οι οποίοι πολλές φορές περιορίζονται στο «μέγεθος» ενός ατόμου. Η επιλεκτικότητα αυτή γίνεται έντονα αισθητή εάν κανείς παρατηρήσει την ανταπόκριση από τα πεδία της μάχης και είναι ακριβώς αυτή, γύρω από την οποία φαίνεται να συγκροτείται η σύγχρονη περί πολέμου αντίληψη των ισχυρών. Η τεχνητή νοημοσύνη αναδεικνύεται ως το πλέον αποτελεσματικό μέσο για την επίτευξη αυτής της ακρίβειας.
Ο Ισραηλινός στρατός φέρεται να χρησιμοποίησε την τεχνητή νοημοσύνη για τον εντοπισμό συγκεκριμένων στόχων στη Λωρίδα της Γάζας, με τον ανθρώπινο έλεγχο να είναι επιφανειακός, όπως αποκάλυψε αξιωματούχος των ισραηλινών μυστικών υπηρεσιών που εμπλέκονταν στο πρόγραμμα. Στο πλαίσιο έρευνας του περιοδικού +972 και του Local Call, oι Ισραηλινές Δυνάμεις Άμυνας επιβεβαίωσαν τη χρήση του συστήματος, διευκρινίζοντας ότι αξιοποιήθηκε αποκλειστικά ως εργαλείο αναγνώρισης στόχων, επιδιώκοντας τη μείωση της πιθανότητας πρόκλησης βλαβών σε αμάχους, λαμβάνοντας υπόψη τις συνθήκες τη στιγμή της επίθεσης. Ωστόσο o Ισραηλινός αξιωματούχος δήλωσε ότι ο ανθρώπινος παράγοντας απλώς σφράγιζε τις αποφάσεις του αλγορίθμου εξετάζοντας εάν οι στόχοι αυτοί πληρούν το ελάχιστο κριτήριο του να είναι άνδρες. Το αυτοματοποιημένο σύστημα “lavender” που χρησιμοποιήθηκε από τον ισραηλινό στρατό είναι γνωστό ότι παρουσίασε πιθανότητες σφάλματος 10%. Ένα πρώτο ερώτημα που προκύπτει είναι το εξής: Μπορεί ένα τέτοιο σύστημα να θεωρηθεί ακριβές όταν οι αποφάσεις που λαμβάνει αφορούν τη ζωή ή το θάνατο ανθρώπων και πολλές φορές αμάχων;
Είναι πράγματι πολλά και ποικίλα τα ζητήματα που προκύπτουν όσον αφορά τη χρήση της τεχνητής νοημοσύνης στον πόλεμο. Η συζήτηση μάλιστα, γύρω από αυτό το θέμα, είναι εξαιρετικά κρίσιμη λόγω της ταχύτητας των εξελίξεων και της σοβαρότητας των κινδύνων που επιφυλάσσει. Πρώτον, η τεχνητή νοημοσύνη είναι πολύ πιθανό να παρερμηνεύσει δεδομένα (όπως για παράδειγμα σεισμικές δονήσεις) και να τα εκλάβει ως σημάδι επίθεσης εκ μέρους κάποιας αντίπαλης δύναμης. Οι Η.Π.Α και η Ρωσία σήμερα υιοθετούν τη στρατηγική “Launch on Warning” που σημαίνει ότι σε περίπτωση που δεχθούν πυρηνικό πλήγμα, θα απαντήσουν αμέσως. Είναι προφανές ότι -εάν υπάρχει ανθρώπινη επιτήρηση- ο χρόνος αντίδρασης είναι ελάχιστος. Και ιδιαίτερα στην περίπτωση των πυρηνικών όπλων η μέγιστη ταχύτητα στη λήψη των αποφάσεων, που η τεχνητή νοημοσύνη παρέχει, αναμφίβολα δεν είναι πλεονέκτημα.
Το 1995 για παράδειγμα, ρωσικά ραντάρ ανίχνευσαν εκτόξευση ενός πυραύλου από τη Νορβηγία, με αποτέλεσμα οι αρχές να βρίσκονται σε ετοιμότητα για αντεπίθεση με πυρηνικά όπλα, καθώς θεώρησαν ότι πρόκειται για αμερικανικό βαλλιστικό πύραυλο. Εκ των υστέρων αποδείχθηκε ότι επρόκειτο για ερευνητικό πύραυλο που είχε εκτοξευθεί στο πλαίσιο μελέτης του Βόρειου Σέλας. Δεύτερον, οποιοδήποτε αυτοματοποιημένο σύστημα είναι -και πάντα θα είναι- ευάλωτο σε κυβερνοεπιθέσεις. Το 2010 το Ιρανικό Πυρηνικό Πρόγραμμα προσβλήθηκε από τον κυβερνο-ιό Stuxnet που φημολογείται ότι δημιουργήθηκε από τις Η.Π.Α ή το Ισραήλ. Τρίτον, εάν η τεχνητή νοημοσύνη χρησιμοποιηθεί σε προληπτικές επιθέσεις, η πιθανότητα έναρξης ενός πολέμου λόγω υπολογιστικού σφάλματος αυξάνεται δραματικά.
Όπως προκύπτει, κρίνεται μάλλον επιτακτική η οριοθέτηση της χρήσης της τεχνητής νοημοσύνης από τις κυβερνήσεις και τους διεθνείς θεσμούς, στην οποία μέχρι σήμερα δεν έχουν προβεί. Το Σεπτέμβριο του 2024 πραγματοποιήθηκε στη Σεούλ διεθνής σύνοδος με σκοπό τη δημιουργία ενός «οδικού χάρτη» για την υπεύθυνη χρήση της τεχνητής νοημοσύνης στο στρατιωτικό τομέα. Στη σύνοδο αυτή συμμετείχαν περισσότερα από 90 κράτη συμπεριλαμβανομένων των Η.Π.Α και της Κίνας. Η συνάντηση αυτή ήταν η δεύτερη αυτού του είδους με την προηγούμενη να έχει πραγματοποιηθεί στη Χάγη το προηγούμενο έτος. Ωστόσο, οι «εκκλήσεις για δράση» που υπογράφθηκαν στο πλαίσιο της συνόδου δεν είναι νομικά δεσμευτικές καθώς επικεντρώθηκαν στη θέσπιση κατευθυντήριων αρχών για την ενσωμάτωση της τεχνητής νοημοσύνης σε στρατιωτικές επιχειρήσεις. Οι αρχές αυτές περιλαμβάνουν την ανάγκη για ενδελεχή αξιολόγηση του κινδύνου, τη διατήρηση του ανθρώπινου ελέγχου όταν πρόκειται για κρίσιμες αποφάσεις και τη λήψη μέτρων για την αποτροπή της χρήσης όπλων μαζικής καταστροφής με «πρωτοβουλία» της τεχνητής νοημοσύνης. Τα δυο τρίτα των χωρών που συμμετείχαν στη σύνοδο επικύρωσαν το χάρτη, ενώ οι υπόλοιπες δεν τον ενέκριναν.
Αναμφίβολα η τεχνητή νοημοσύνη αλλάζει πλέον τα δεδομένα στη στρατηγική αλλά και τον τρόπο διεξαγωγής του πολέμου. Παρόλα αυτά, οι κίνδυνοι που ελλοχεύουν από τη μη οριοθετημένη χρήση της εκτείνονται πέρα από όσους αναλύθηκαν παραπάνω. Η τεχνητή νοημοσύνη μπορεί να αντιλαμβάνεται τον κόσμο αλλά σίγουρα δεν τον αντιλαμβάνεται με τον τρόπο που το κάνουν οι άνθρωποι και το ίδιο ισχύει για τις εντολές που δέχεται και τους στόχους που θέτει. Μια εξελιγμένη τεχνητή νοημοσύνη για παράδειγμα, προγραμματισμένη να διασφαλίσει την παγκόσμια ειρήνη, δύναται να εξετάσει τον κόσμο με απόλυτη λογική. Και αν η λογική της δεν περιλαμβάνει την ανθρώπινη κρίση και ηθική, ίσως καταλήξει σε μια απόλυτη λύση: ένας κόσμος χωρίς πολέμους είναι ένας κόσμος χωρίς αυτούς που τους προκαλούν.
ΕΝΔΕΙΚΤΙΚΕΣ ΠΗΓΕΣ
- Israel is using artificial intelligence to help pick bombing targets in Gaza, report says, CNN, διαθέσιμο εδώ
- South Korea summit to target ‘blueprint’ for using AI in the military, Reuters, διαθέσιμο εδώ
- Sixty countries endorse ‘blueprint’ for AI use in military; China opts out, Reuters, διαθέσιμο εδώ
- Πόλεμος και Πολιτική, Γιώργος Μαργαρίτης, διαθέσιμο εδώ
