Η τεχνητή νοημοσύνη (ΤΝ) επηρεάζει πλέον κάθε τομέα της ανθρώπινης ζωής. Την τελευταία δεκαετία έχει σημειωθεί δραστική αύξηση της χρήσης της ΤΝ, όπως το λογισμικό αναγνώρισης προσώπου, τα αυτοκινούμενα οχήματα, οι μηχανές αναζήτησης και το λογισμικό μετάφρασης. Αυτές οι αποδεκτές χρήσεις της ΤΝ στη σύγχρονη κοινωνία συνέπεσαν επίσης με την αυξημένη παρουσία της ΤΝ στον σύγχρονο πόλεμο. Η κλιμακούμενη οπλοποίηση της ΤΝ παραλληλίζει την κούρσα πυρηνικών εξοπλισμών του Ψυχρού Πολέμου, με τα πυρηνικά όπλα να αντικαθίστανται από αυτοματοποιημένα οπλικά συστήματα. Ωστόσο, η διεθνής κοινότητα, τα Ηνωμένα Έθνη και το διεθνές δίκαιο αγωνίζονται να προσαρμοστούν και να ρυθμίσουν τη χρήση αυτοματοποιημένων όπλων, τα οποία αλλάζουν γρήγορα το τοπίο του σύγχρονου πολέμου.
Η διεθνής κοινότητα άρχισε να λαμβάνει υπόψη της την Τεχνητή Νοημοσύνη και την επιρροή της στον σύγχρονο πόλεμο το 2012, με μια σειρά εγγράφων που περιγράφουν τη χρήση αυτοματοποιημένων οπλικών συστημάτων. Στα έγγραφα αυτά περιλαμβάνονταν πολιτικές οδηγίες του Υπουργείου Άμυνας των ΗΠΑ (DoD) σχετικά με την αυτονομία στα οπλικά συστήματα και μια έκθεση του Παρατηρητηρίου Ανθρωπίνων Δικαιωμάτων και της Διεθνούς Κλινικής Ανθρωπίνων Δικαιωμάτων της Νομικής Σχολής του Χάρβαρντ (έκθεση HRW-IHRC 2012) που ζητούσε την πλήρη απαγόρευση των αυτοματοποιημένων όπλων.
Η ανάπτυξη και η χρήση όπλων που μπορούν να αναλάβουν αυτόνομες λειτουργίες κατά τη διάρκεια συγκρούσεων γίνεται το επίκεντρο των κρατών και των εταιρειών τεχνολογίας. Το 2017, μια ανοιχτή επιστολή του Ινστιτούτου Future Life προς τα Ηνωμένα Έθνη (ΟΗΕ), την οποία υπέγραψαν 126 διευθύνοντες σύμβουλοι και ιδρυτές εταιρειών τεχνητής νοημοσύνης και ρομποτικής, “παρακάλεσε” τα κράτη να αποτρέψουν μια κούρσα εξοπλισμών για αυτόνομα οπλικά συστήματα (AWS). Ωστόσο, δεν υπάρχει διεθνές νομικό ρυθμιστικό πλαίσιο για την αντιμετώπιση αυτών των ανησυχιών γύρω από τη χρήση της τεχνητής νοημοσύνης, ιδίως στο πλαίσιο συγκρούσεων. Το μόνο νομικό πλαίσιο για την ΤΝ που υπάρχει, το οποίο θεσπίζεται από το άρθρο 26 του Διεθνούς Συμφώνου για τα Ατομικά και Πολιτικά Δικαιώματα, συνδέει τη χρήση της ΤΝ μόνο με το δικαίωμα στην ιδιωτική ζωή.
Τι είναι ένα αυτοματοποιημένο όπλο;
Υπάρχουν αντικρουόμενοι ορισμοί για το τι συνιστά AWS, αν και το Υπουργείο Άμυνας του Ηνωμένου Βασιλείου (MoD) και το Υπουργείο Άμυνας των ΗΠΑ (DoD) έχουν αναπτύξει τους δύο κύριους ορισμούς. Το 2011, το Υπουργείο Άμυνας του Ηνωμένου Βασιλείου όρισε το AWS ως “συστήματα ικανά να κατανοούν προθέσεις και κατευθύνσεις υψηλότερου επιπέδου, δηλαδή να επιτυγχάνουν το ίδιο επίπεδο κατανόησης της κατάστασης με το επίπεδο ενός ανθρώπου και ικανά να αναλαμβάνουν την κατάλληλη δράση για την επίτευξη της επιθυμητής κατάστασης”. Συγκριτικά, το Υπουργείο Άμυνας των ΗΠΑ το 2023 πρότεινε μια διαφορετική προσέγγιση και όρισε “τα AWS ως ικανά, αφού ενεργοποιηθούν, να επιλέγουν και να εμπλέκουν στόχους χωρίς περαιτέρω παρέμβαση από ανθρώπινο χειριστή”. Η έκθεση HRW-IHRC του 2012 πρότεινε έναν παρόμοιο ορισμό για τη διεθνή κοινότητα, ορίζοντας τα AWS ως “πλήρως αυτόνομα όπλα που θα μπορούσαν να επιλέγουν και να εμπλέκουν στόχους χωρίς ανθρώπινη παρέμβαση”. Το Κοινό Κέντρο Ικανότητας Αεροπορικής Ισχύος του ΝΑΤΟ (JAPCC) επεκτείνει επίσης την έννοια της αυτοματοποίησης σε “συνείδηση και αυτοδιάθεση”. Παραδείγματα αυτοματοποιημένων όπλων περιλαμβάνουν αμυντικά συστήματα όπως το ισραηλινό Iron Dome και το γερμανικό MANTIS, καθώς και ενεργά προστατευτικά οχήματα όπως το σουηδικό LEDS-150. Ένας νέος ορισμός θα πρέπει επίσης να συμπεριλάβει αυτοματοποιημένα όπλα που χρησιμοποιούνται σε μη συγκρουσιακές καταστάσεις, όπως το νοτιοκορεατικό Super aEgis II, το οποίο χρησιμοποιείται ως συσκευή επιτήρησης σε καιρό ειρήνης κατά μήκος των συνόρων της Νότιας και της Βόρειας Κορέας.
Ωστόσο, το πραγματικό πρόβλημα έγκειται στη διασφάλιση των ορισμών του AWS για το μέλλον. Οι ορισμοί πρέπει όχι μόνο να περιλαμβάνουν συστήματα που δεν έχουν ήδη ληφθεί υπόψη, όπως το Super aEgis II, αλλά και να προβλέπουν AWS που ενδέχεται να εμφανιστούν αργότερα. Ειδικότερα, η διεθνής κοινότητα πρέπει να συμφωνήσει σε έναν ορισμό που να μπορεί να συμπεριλάβει τους αλγόριθμους ανθρώπινης γνωστικής εισαγωγής AI, οι οποίοι έχουν ικανότητες λήψης αποφάσεων που μοιάζουν με αυτές του ανθρώπου.
Παρά την ανάγκη αυτή, η διεθνής κοινότητα δεν έχει ακόμη συμφωνήσει για τους κανονισμούς του AWS. Η Σύμβαση των Ηνωμένων Εθνών για τα συμβατικά όπλα (CCW) έχει ένα ειδικό τροποποιημένο πρωτόκολλο (1986) που διέπεται από την Ομάδα Κυβερνητικών Εμπειρογνωμόνων (GGE), η οποία συνεδριάζει ετησίως για να συζητήσει την εφαρμογή των πρωτοκόλλων της CCW και συναφή θέματα όπλων. Η τελευταία συνεδρίαση της ΓΓΕ, που πραγματοποιήθηκε τον Μάιο του 2023, έληξε χωρίς ουσιαστική πρόοδο όσον αφορά το AWS, καθώς η ΓΓΕ δεν συμφώνησε σε καμία ρυθμιστική εγγύηση. Το σχέδιο έκθεσής τους απέτυχε επίσης να προωθήσει ένα νομικό πλαίσιο. Ωστόσο, η έκθεση εισήγαγε απαγορεύσεις με επίκεντρο την ανάγκη ανθρώπινου ελέγχου των AWS, καθώς και κανονισμούς με επίκεντρο την ανάπτυξη των AWS. Πενήντα δύο κράτη εξέδωσαν κοινή δήλωση υποστήριξης για το σχέδιο έκθεσης, αλλά δήλωσαν επίσης ότι το σχέδιο ήταν ένα ελάχιστο πρότυπο και τόνισαν την ανάγκη για ένα πολύ πιο ισχυρό και φιλόδοξο νομικό πλαίσιο. Κατά τη συνεδρίασή της τον Μάιο του 2023, η GGE αποφάσισε να οργανώσει εκτενέστερες συζητήσεις σχετικά με τις αναδυόμενες θανατηφόρες τεχνολογίες AWS τον Μάρτιο και τον Αύγουστο του 2024. Ενώ στις τελευταίες συζητήσεις της ΓΓΕ ενδέχεται να σημειωθούν πιο ουσιαστικές εξελίξεις, δεν έχει ακόμη προκύψει ένα νομικό πλαίσιο για τη ρύθμιση της ανάπτυξης και της εγκατάστασης των AWS.
Η κούρσα για τα ρομπότ δολοφόνους
Ο Ρώσος πρόεδρος Βλαντιμίρ Πούτιν δήλωσε ότι το έθνος που θα ηγηθεί στην τεχνητή νοημοσύνη “θα γίνει ο κυρίαρχος του κόσμου”. Η πρόοδος της τεχνητής νοημοσύνης στον σύγχρονο πόλεμο θα αλλάξει για πάντα τις σχέσεις μεταξύ μεγάλων δυνάμεων όπως οι Ηνωμένες Πολιτείες, η Κίνα και η Ρωσία, καθώς και την ιδιωτική βιομηχανία τεχνολογίας. Για τον λόγο αυτό, η Κίνα έχει δεσμευτεί με 150 δισεκατομμύρια δολάρια για να γίνει ο παγκόσμιος ηγέτης στην τεχνολογία AI, σε σύγκριση με τις ρωσικές δαπάνες ύψους 181 εκατομμυρίων δολαρίων από το 2021 έως το 2023 και τις δαπάνες των ΗΠΑ ύψους 4,6 δισεκατομμυρίων δολαρίων. Το 2019, αναλυτές της Jane’s δήλωσαν ότι περισσότερα από 80.000 μη επανδρωμένα αεροσκάφη επιτήρησης και σχεδόν 2.000 επιθετικά μη επανδρωμένα αεροσκάφη θα αγοραστούν σε όλο τον κόσμο την επόμενη δεκαετία. Το Ηνωμένο Βασίλειο διαθέτει πυραυλοφόρα μη επανδρωμένα αεροσκάφη και σχεδιάζει να δαπανήσει 415 εκατομμύρια λίρες για μη επανδρωμένα αεροσκάφη Protector μέχρι το 2024. Η Σαουδική Αραβία δεν μπορεί επίσης να υποτιμηθεί ως νεότερος εισερχόμενος στην αγορά μη επανδρωμένων αεροσκαφών, έχοντας επενδύσει 69 δισεκατομμύρια δολάρια το 2023 – 23% του εθνικού της προϋπολογισμού – στην άμυνα. Επιπλέον, η Σαουδική Αραβία σχεδιάζει να δημιουργήσει ένα ταμείο 40 δισεκατομμυρίων δολαρίων για επενδύσεις στην τεχνητή νοημοσύνη, γεγονός που θα την καταστήσει τον μεγαλύτερο επενδυτή τεχνητής νοημοσύνης στον κόσμο.
Με τις δαπάνες για την ανάπτυξη μη επανδρωμένων αεροσκαφών και τεχνητής νοημοσύνης να αυξάνονται τόσο γρήγορα, οι εξελίξεις στην τεχνολογία θα μπορούσαν τελικά να επιτρέψουν στα μη επανδρωμένα αεροσκάφη να λαμβάνουν αποφάσεις άμεσα χωρίς ανθρώπινη συμβολή κατά τη διάρκεια συγκρούσεων. Αυτό μπορεί δυνητικά να εξαλείψει τις ειρηνικές διαπραγματεύσεις σε συγκρούσεις, καθώς οι αντιδράσεις των μη επανδρωμένων αεροσκαφών θα αποτελούνται αποκλειστικά από τη βία των αντιποίνων. Η τεχνολογία των μη επανδρωμένων αεροσκαφών έχει ήδη εξελιχθεί από τη χρήση της από το ΝΑΤΟ για τον εντοπισμό κρυφών σερβικών στρατηγικών θέσεων κατά τη διάρκεια του πολέμου του Κοσσυφοπεδίου το 1999 έως τη χρήση της από τις Ηνωμένες Πολιτείες αμέσως μετά τις τρομοκρατικές επιθέσεις της 11ης Σεπτεμβρίου. Αφού ένα μη επανδρωμένο αεροσκάφος ISR εντόπισε με επιτυχία τον Οσάμα Μπιν Λάντεν, ο αμερικανικός στρατός χρησιμοποίησε και εξόπλισε ολοένα και περισσότερο μη επανδρωμένα αεροσκάφη με θανατηφόρα φορτία, πραγματοποιώντας 14.000 επιθέσεις με μη επανδρωμένα αεροσκάφη μόνο στο Αφγανιστάν από το 2010 έως το 2020.
Οι Ηνωμένες Πολιτείες, το Ηνωμένο Βασίλειο και το Ισραήλ παραμένουν οι μεγαλύτεροι χρήστες μη επανδρωμένων αεροσκαφών και τα οπλοστάσιά τους συνεχίζουν να αυξάνονται. Οι Ηνωμένες Πολιτείες και το Ηνωμένο Βασίλειο χρησιμοποιούν οπλισμένα μη επανδρωμένα αεροσκάφη για πάνω από μια δεκαετία, συμπεριλαμβανομένων των Predator και Reaper, τα οποία κατασκευάζονται από την εταιρεία General Atomics με έδρα την Καλιφόρνια.
Σύμφωνα με το Drone Wars, στα τέσσερα χρόνια των συγκρούσεων στη Συρία από το 2014 έως το 2018, το Ηνωμένο Βασίλειο χρησιμοποίησε τα μη επανδρωμένα αεροσκάφη Reaper περισσότερες από 2.400 φορές κατά τη διάρκεια στρατηγικών αποστολών, το ισοδύναμο δύο ανά ημέρα. Το Πεντάγωνο εκτιμά ότι μέχρι το 2035, τα τηλεκατευθυνόμενα αεροσκάφη θα αποτελούν το 70% της αμερικανικής πολεμικής αεροπορίας. Εν τω μεταξύ, το Ισραήλ έχει αναπτύξει τα δικά του οπλισμένα μη επανδρωμένα αεροσκάφη και έχει αναπτύξει μη επανδρωμένα αεροσκάφη στη Γάζα για να διεξάγουν επιτήρηση, να παραδίδουν εκρηκτικά και άλλα.
Επιπλέον, η τεχνολογία των μη επανδρωμένων αεροσκαφών εξαπλώνεται με ταχείς ρυθμούς στους στρατούς όλου του κόσμου. Σχεδόν κάθε κράτος μέλος του ΝΑΤΟ έχει πλέον τη δυνατότητα να χρησιμοποιεί μη επανδρωμένα αεροσκάφη σε συγκρούσεις. Τα τελευταία πέντε χρόνια, τόσο η Τουρκία όσο και το Πακιστάν έχουν επίσης δημιουργήσει προγράμματα κατασκευής μη επανδρωμένων αεροσκαφών. Η Κίνα προμηθεύει επί του παρόντος αρκετά κράτη με τα μη επανδρωμένα αεροσκάφη της σειράς Wing Loong και CH, συμπεριλαμβανομένων των Ηνωμένων Αραβικών Εμιράτων, της Αιγύπτου, της Σαουδικής Αραβίας, της Νιγηρίας και του Ιράκ. Ακόμη και μη κρατικοί φορείς χρησιμοποιούν μη επανδρωμένα αεροσκάφη. Η Χεζμπολάχ έχει χρησιμοποιήσει αναγνωριστικά μη επανδρωμένα αεροσκάφη ιρανικής κατασκευής για να παραβιάσει τον ισραηλινό εναέριο χώρο, ενώ η Χαμάς χρησιμοποιεί μη επανδρωμένα αεροσκάφη εναντίον του Ισραήλ από τον Οκτώβριο του 2023.
Η χρήση της τεχνητής νοημοσύνης στον πόλεμο εξαπλώνεται επίσης με ταχείς ρυθμούς. Σύμφωνα με αναφορές, η Ουκρανία έχει εξοπλίσει τα μη επανδρωμένα αεροσκάφη μεγάλου βεληνεκούς της με τεχνητή νοημοσύνη που μπορούν να αναγνωρίζουν αυτόνομα το έδαφος και τους στρατιωτικούς στόχους, χρησιμοποιώντας τα για να εξαπολύσουν επιτυχείς επιθέσεις εναντίον ρωσικών διυλιστηρίων. Το Ισραήλ χρησιμοποίησε επίσης το σύστημα τεχνητής νοημοσύνης “Lavender” στη σύγκρουση στη Γάζα για να εντοπίσει 37.000 στόχους της Χαμάς. Κατά συνέπεια, η τρέχουσα σύγκρουση μεταξύ του Ισραήλ και της Χαμάς έχει χαρακτηριστεί ως ο πρώτος “πόλεμος τεχνητής νοημοσύνης”. Ωστόσο, κανένα στοιχείο δεν υποδεικνύει ότι ένα AWS, ένα σύστημα χωρίς σημαντικό ανθρώπινο έλεγχο, έχει χρησιμοποιηθεί ακόμη σε σύγκρουση.
Καθώς αυξάνονται οι ανησυχίες για την εμφάνιση των λεγόμενων “ρομπότ δολοφόνων”, η χρήση της τεχνητής νοημοσύνης στον πόλεμο εγείρει όλο και πιο έντονα ηθικά και νομικά ζητήματα. Ειδικότερα, τα μη επανδρωμένα αεροσκάφη ενδέχεται να μην είναι σε θέση να διακρίνουν τη διαφορά μεταξύ μαχητών και αμάχων. Ευτυχώς, πολλές τεχνολογίες τεχνητής νοημοσύνης βρίσκονται ακόμη σε εξέλιξη. Η αναλογία των “ρομπότ δολοφόνων” αναφέρεται σε μη επανδρωμένα αεροσκάφη που μπορούν να λειτουργήσουν αυτόνομα- ωστόσο, οι περισσότερες τρέχουσες ΤΝ λειτουργούν καλά μόνο σε ένα στενό, προκαθορισμένο σύνολο περιστάσεων, με τη συμβολή ανθρώπινων χειριστών.
Παρ’ όλα αυτά, η αυξανόμενη ενσωμάτωση της τεχνητής νοημοσύνης στα μη επανδρωμένα αεροσκάφη και σε άλλα AWS δημιουργεί πολύ πραγματικούς κινδύνους να αποφασιστούν συγκρούσεις χωρίς ουσιαστικό ανθρώπινο έλεγχο. Η χρήση βίας κατά τη διάρκεια των συγκρούσεων μπορεί να καθορίζεται από τα ένστικτα των μηχανών που δεν είναι σε θέση να περιηγηθούν στις ηθικές ασάφειες του πολέμου και να λάβουν ηθικές αποφάσεις. Είναι αδύνατο να προβλέψει κανείς πώς το δίκαιο θα συμβαδίσει ή ακόμη και θα σταματήσει τέτοιες τεχνολογικές εξελίξεις, αλλά το ισχύον νομικό πλαίσιο στερείται σίγουρα σαφήνειας και πρόβλεψης.
Συμπέρασμα
Είναι αβέβαιο αν τα ηθικά ή δεοντολογικά ερωτήματα που αφορούν τις συγκρούσεις που οδηγούνται από αλγορίθμους και μηχανές χωρίς ανθρώπινη παρέμβαση μπορούν ποτέ να απαντηθούν. Η χρήση αυτοματοποιημένων μη επανδρωμένων αεροσκαφών, τα οποία δεν είναι τα ίδια όπλα αλλά μάλλον πλατφόρμες για την παράδοση όπλων, δεν ρυθμίζεται ειδικά από το διεθνές δίκαιο. Αν και η χρήση των μη επανδρωμένων αεροσκαφών διέπεται από τις ίδιες αρχές που διέπουν όλα τα όπλα στο πλαίσιο του διεθνούς δικαίου -δηλαδή, τους κανόνες της διάκρισης, της αναλογικότητας και της απαγόρευσης των επιθέσεων χωρίς διακρίσεις-, η απουσία συγκεκριμένων νόμων καθιστά τη ρύθμιση εξαιρετικά δύσκολη. Η διεθνής κοινότητα πρέπει να θεσπίσει ένα διεθνές νομικό πλαίσιο που να διασφαλίζει ότι οι άνθρωποι διατηρούν πάντοτε ουσιαστικό έλεγχο των AWS και ότι τα συστήματα δεν επιλέγουν στρατιωτικούς στόχους κατά τη διάρκεια συγκρούσεων αυτόνομα.
Η τελευταία έκθεση της GGE, που δημοσιεύθηκε το 2023, τονίζει ότι πρέπει να υπάρχουν νομικά μέτρα για τον περιορισμό της χρήσης “οπλικών συστημάτων που βασίζονται σε αναδυόμενες τεχνολογίες στον τομέα των θανατηφόρων αυτόνομων οπλικών συστημάτων, τα οποία, μόλις ενεργοποιηθούν, είναι σε θέση να εντοπίζουν, να επιλέγουν, να παρακολουθούν και να ασκούν βία σε στόχους, χωρίς περαιτέρω ανθρώπινη παρέμβαση”. Ως μια πρωτοφανής καινοτομία στον οπλισμό του πολέμου, τα AWS απαιτούν ένα νέο διεθνές νομικό πλαίσιο που να είναι αρκετά ισχυρό και ευέλικτο ώστε να συμβαδίζει με τον ιλιγγιώδη ρυθμό της τεχνολογικής προόδου. Ως εκ τούτου, η GGE πρέπει να συνεχίσει να πιέζει τον ΟΗΕ να υιοθετήσει ένα νέο διεθνές νομικό πλαίσιο που θα περιορίζει την ανάπτυξη και τη χρήση των AWS στον σύγχρονο πόλεμο.
