Το ζήτημα της αυτονομίας των οπλικών συστημάτων...

“Όταν οι άνθρωποι με ακούν να μιλώ γι’ αυτό (για την αυτονομία), αμέσως αρχίζουν να σκέφτονται το Skynet και τον Εξολοθρευτή, εγώ σκέφτομαι σε όρους του Iron Man…

Μια μηχανή που βοηθάει τον άνθρωπο, ενώ ο άνθρωπος συνεχίζει να ελέγχει τα πάντα, καθώς η μηχανή τον κάνει πιο ισχυρό και πιο ικανό”.
~ Robert O. Work, αναπληρωτής Υπουργός Άμυνας των ΗΠΑ από το 2014 έως το 2017

Ημιαυτόνομο στρατιωτικό ρομπότ μάχης εδάφους (tracked military robot)

Το βάρος της ραγδαίας ανάπτυξης της ανθρωπότητας έχει αποδειχθεί δυσβάσταχτο για τα ανθρώπινα χέρια. Όμως, τα τεχνολογικά επιτεύγματα καθιστούν την πορεία προς το μέλλον όσο το δυνατόν πιο απρόσκοπτη. Ένα από αυτά πρόκειται να αποτελέσει και η τεχνητή νοημοσύνη. Αν και βρίσκεται σε ερευνητικό στάδιο, έστω και τα ψήγματα των δυνατοτήτων της είναι εντυπωσιακά, προκαλώντας ελπίδα και φόβο. Η ανάπτυξη συστημάτων που έχουν την ικανότητα να ενεργούν χωρίς κάποια ανθρώπινη παρέμβαση είναι στο επίκεντρο της προσοχής της παγκόσμιας επιστημονικής κοινότητας.
Κατά τα τελευταία χρόνια η εφαρμογή σχετικών καινοτομιών απασχολεί και την πολεμική βιομηχανία. Οι συνθήκες που επικρατούν στο διεθνές σύστημα αποδεικνύουν συνεχώς πως ο εκσυγχρονισμός και η αύξηση της στρατιωτικής ισχύος παραμένουν ζητήματα κομβικής σημασίας. Παράλληλα, οι ασύμμετρες απειλές που αντιμετωπίζουν τα κράτη ενισχύουν την ανάγκη για μεγαλύτερη ταχύτητα, αντοχή και ακρίβεια στο πεδίο της μάχης. Τέλος, η έλλειψη πόρων αναδεικνύει την κρισιμότητα της μείωσης του επιχειρησιακού κόστους, και της αποτελεσματικότερης χρήσης του ανθρώπινου δυναμικού. Ως αποτέλεσμα, η αλλαγή της φύσης των σύγχρονων στρατιωτικών επιχειρήσεων δημιουργεί σταδιακά όλο και περισσότερα κίνητρα για την απόδοση μεγαλύτερου μεριδίου της πολεμικής διεργασίας στις “μηχανές”.
Εξίσου υπολογίσιμα είναι και τα εμπόδια προς την επίτευξη αυτού του στόχου. Η ανάπτυξη της τεχνητής νοημοσύνης απαιτεί μια απίστευτη και πολυεπίπεδη ώθηση σε τομείς όπως η ρομποτική και η πληροφορική, ώστε ο αντίστοιχος εξοπλισμός να λειτουργεί με ασφάλεια και αξιοπιστία σε σύνθετα, δυναμικά και αντιφατικά περιβάλλοντα. Επίσης, μπορεί να δημιουργηθούν προβλήματα εντός των “άκαμπτων” στρατιωτικών μηχανισμών, καθώς τα αυτόνομα οπλικά συστήματα δεν μπορούν να είναι πάντοτε συμβατά με το επαγγελματικό ήθος και τα ισχύοντα επιχειρησιακά παραδείγματα. Είναι, επίσης, λογικό η τεχνητή νοημοσύνη να συναντήσει νομικά κωλύματα λόγω των σχετικών υποχρεώσεων που απορρέουν από το Διεθνές Δίκαιο, και να προκαλέσει έντονες κοινωνικές αντιδράσεις. Τέλος, οι τεράστιες επενδύσεις που χρειάζεται είναι ικανές να “γονατίσουν” τον προϋπολογισμό ακόμη και των πιο ισχυρών οικονομιών. Παρ’ όλα αυτά, η ικανότητα και η επιμονή του ανθρώπου να ξεπεράσει τις παραπάνω δυσκολίες αυξάνεται θεαματικά κατά την τρέχουσα περίοδο.
Αυτόνομο αμυντικό σύστημα εγκατεστημένο σε πυργίσκο (turret)

Μπορεί η ανάπτυξη μιας πολεμικής μηχανής που αντιλαμβάνεται, εκτιμά, αποφασίζει και εκτελεί από μόνη της να είναι κάτι “μακρινό”, αλλά η αυτονομία των οπλικών συστημάτων δεν αποτελεί κάτι πρωτόγνωρο. Ο βαθμός της ισχύουσας αυτονομίας των οπλικών συστημάτων είναι μερικός, και η υπάρχουσα τεχνητή νοημοσύνη περιορίζεται στην υποβοήθηση ορισμένων λειτουργιών. Σχεδόν όλες οι βαρυσήμαντες αυτόνομες ενέργειες εκτελούνται βάσει ενός πλάνου, κατόπιν άδειας και υπό τον άμεσο έλεγχο του ανθρώπου (human-in-the-loop), ή απλά υπό την εποπτεία του (human-on-the-loop). Διάφορες σχετικές τεχνολογικές καινοτομίες χρησιμοποιούνται κατά τη σύγχρονη εποχή.
Η πλειοψηφία αυτών των καινοτόμων συστημάτων αφορούν στην υποβοήθηση δυνατοτήτων όπως η κίνηση, η στόχευση και η διαχείριση κατάστασης. Για παράδειγμα, τα πιο σύγχρονα μη-επανδρωμένα αεροσκάφη (drones, πύραυλοι) μπορούν να ακολουθούν στόχους μέσω οπτικών και θερμικών σημάτων, διαθέτουν αυτόνομη πλοήγηση μέσω της αποθήκευσης συντεταγμένων, ή είναι ικανά να απογειώνονται και να προσγειώνονται αυτόματα. Επίσης, άρματα μάχης, υποβρύχια, αεροπλάνα και radar εντοπίζουν και αναγνωρίζουν στόχους, ή εξουδετερώνουν αυτόματα απειλές βάσει των διαστάσεών τους ή της ταχύτητάς τους, με τη χρήση της εκπομπής συχνοτήτων. Τέλος, ορισμένα οχήματα μπορούν να πραγματοποιήσουν εμπεριστατωμένη διάγνωση βλαβών, ενώ ένας νέος τύπος αρθρωτού robot είναι ικανός να αυτοεπισκευαστεί.
Υπάρχουν και πιο εξεζητημένα -αλλά, προφανώς, λιγότερο επιθετικά- συστήματα μερικής αυτονομίας, τα οποία σχετίζονται με την ανάπτυξη δυνατοτήτων όπως η νοημοσύνη. Για παράδειγμα, σύγχρονα ειδικά στρατιωτικά robot εντοπίζουν και αφοπλίζουν εκρηκτικούς μηχανισμούς μέσω αισθητήρων, ενώ διάφοροι ανιχνευτές (κίνησης, ραδιοσυχνοτήτων, πυροβολισμών) χρησιμοποιούνται για την ασφάλεια στρατοπέδων, συνόρων και αποθηκών οπλισμού. Επίσης, ορισμένα υποβρύχια, αλλά και αεροσκάφη έχουν τη δυνατότητα δημιουργίας τρισδιάστατων χαρτών μέσω υπερήχων, ενώ τα πιο προηγμένα αμυντικά συστήματα μπορούν να προτείνουν και να εφαρμόσουν αυτόματα αντίμετρα απέναντι σε απειλές όπως ένας εισερχόμενος πύραυλος. Τέλος, μεγάλο μέρος αυτών των συστημάτων εμπεριέχει και τη διάσταση της συλλογής και διαχείρισης τεράστιου όγκου ετερογενών δεδομένων (big data) για κατασκοπεία.
Οι σύγχρονες στρατιωτικές τεχνολογίες σπάνια προέρχονται μόνο από καθαρά κρατικές και στρατιωτικές ερευνητικές προσπάθειες. Οι ιδιωτικές εταιρίες, αλλά και τα πανεπιστήμια μπορούν να διαδραματίσουν έναν εξίσου σημαντικό ρόλο στη βασική και εφαρμοσμένη έρευνα επί οπλικών συστημάτων – ακόμη κι αν δεν ανήκουν στον κλάδο της πολεμικής βιομηχανίας. Βέβαια, όσον αφορά στην πειραματική ανάπτυξη αυτών των ερευνητικών προσπαθειών, οι κρατικοί στρατιωτικοί μηχανισμοί έχουν τον πρώτο λόγο.
Όσον αφορά στην ανάπτυξη τεχνητής νοημοσύνης στα οπλικά συστήματα, τόσο ο ιδιωτικός τομέας όσο και τα πανεπιστήμια δεν επιθυμούν να συμβάλλουν ουσιαστικά. Είναι σημαντικό να αναφερθεί ότι, στα πλαίσια μια δράσης του Future of Life Institute που ξεκίνησε το 2015, πλήθος προσωπικοτήτων από τον ακαδημαϊκό χώρο και τον σχετικό ερευνητικό κλάδο υπέγραψαν μια επιστολή που ζητά την απαγόρευση των αυτόνομων επιθετικών όπλων. Ορισμένες από αυτές τις προσωπικότητες είναι ο Stephen Hawking, ο Noam Chomsky, ο Elon Musk (διευθυντής της Tesla), ο Steve Wozniak (συνιδρυτής της Apple) και ο Peter Η. Norvig (διευθυντής έρευνας της Google).
Κατά της αυτονομίας των οπλικών συστημάτων είναι φυσικά και ένας συνασπισμός 61 εθνικών, περιφερειακών και διεθνών μη κυβερνητικών οργανισμών, με την ονομασία “Campaign to Stop Killer Robots”. Τέλος, όσον αφορά στους διεθνείς οργανισμούς, ο Οργανισμός Ηνωμένων Εθνών (ΟΗΕ) το 2016 δημιούργησε μια ειδική επιτροπή συζήτησης μεταξύ εμπειρογνωμόνων επί των θανατηφόρων αυτόνομων οπλικών συστημάτων (lethal autonomous weapon systems – LAWS), στα πλαίσια της σχετικής διεθνούς σύμβασης (United Nations Convention on Certain Conventional Weapons).
Κατά τη διάρκεια των διαβουλεύσεων στη συγκεκριμένη επιτροπή, η πλειοψηφία των εκπροσώπων των κρατών ισχυρίστηκε ότι θα ήταν παρορμητικό να απαγορευτούν προληπτικά τα LAWS, καθώς η διεθνής κοινότητα βρίσκεται ακόμα στην προσπάθεια κατανόησης των επιπτώσεων χρήσης τους.

Ομάδα μη-επανδρωμένων αεροσκαφών σε σχηματισμό σμήνους (swarming drones)

Η σύγχρονη υπέρογκη αύξηση των κρατικών χρηματοδοτήσεων για έρευνα και ανάπτυξη αυτόνομων οπλικών συστημάτων αποτελεί την έμπρακτη απόδειξη αυτών των ισχυρισμών. Για παράδειγμα, οι Ηνωμένες Πολιτείες της Αμερικής σκοπεύουν να επενδύσουν 18 δισεκατομμύρια δολάρια εντός της περιόδου 2016-2020 για projects που αφορούν -μεταξύ άλλων- την ενίσχυση της διάδρασης μεταξύ ανθρώπου και μηχανής, την ανάπτυξη της ικανότητας μάθησης των μηχανών μέσω τεχνητής νοημοσύνης (machine learning, deep learning), και τη δημιουργία drones που κινούνται σε σχηματισμό σμήνους, πραγματοποιώντας συντονισμένες επιθέσεις. Η Ρωσία, παρά τις παρατηρήσεις που δέχεται συνεχώς από τον ΟΗΕ, σκοπεύει να επενδύσει 20 τρισεκατομμύρια ρούβλια εντός της περιόδου 2016-2025 για τη δημιουργία πολεμικών robot, αλλά και για την περαιτέρω έρευνα πάνω σε καινοτομίες όπως η αυτόνομη πλοήγηση. Η Κίνα, μέσω των δύο -αγνώστου κόστους- κρατικών της προγραμμάτων ανάπτυξης της ρομποτικής και της τεχνητής νοημοσύνης που θα συντρέχουν μέχρι το 2025, επικεντρώνεται στην ενίσχυση των δυνατοτήτων της στον τομέα των big data, του deep learning, καθώς και της ανάπτυξης “τεχνητών εγκεφάλων” (brain-like AI), ενώ η Ιαπωνία και η Νότια Κορέα στο ίδιο διάστημα θα επενδύσουν 1 δισεκατομμύριο και 840 εκατομμύρια δολάρια αντίστοιχα για έρευνα και ανάπτυξη robot. Εντός της Ευρώπης, το Ηνωμένο Βασίλειο θέτει ως προτεραιότητα τα αυτόνομα συστήματα, έχοντας επενδύσει σε αυτά τουλάχιστον 20 εκατομμύρια λίρες, η Γερμανία ενδιαφέρεται κυρίως για βιομηχανικά robot, επενδύοντας μέχρι στιγμής 15 δισεκατομμύρια ευρώ, ενώ η Ιταλία και η Γαλλία θα επενδύσουν 30 δισεκατομμύρια και 500 εκατομμύρια ευρώ αντίστοιχα για την ανάπτυξη αυτόνομων δυνατοτήτων σχετικών με big data και αισθητήρες (sensors) μέχρι το 2020. Τέλος, το Ισραήλ συνεχίζει να πρωταγωνιστεί στο εμπόριο αυτόνομων αμυντικών συστημάτων (όπως το Iron Dome Defence system), ενώ η Ινδία έχει εστιάσει στην ανάπτυξη διάφορων αυτόνομων οχημάτων και αεροσκαφών, ιδρύοντας ένα στρατιωτικό ερευνητικό κέντρο αφιερωμένο στη ρομποτική.

Ευάγγελος Τακατίνης
Πηγή:

Πηγές:

1. Boulanin, V. and Verbruggen, M. (2017). Mapping the Development of Autonomy in Weapon Systems. https://www.sipri.org/sites/default/files/2017-11/siprireport_mapping_the_development_of_autonomy_in_weapon_systems_1117_1.pdf
   
2. Brown, D. (2017). Russia’s ‘Star Wars’ combat suit is reportedly getting a nuclear-resistant watch. http://www.businessinsider.com/russias-star-wars-combat-suit-getting-a-nuclear-resistant-watch-2017-10
   
3. Byford, S. (2016). Google’s DeepMind defeats legendary Go player Lee Se-dol in historic victory. https://www.theverge.com/2016/3/9/11184362/google-alphago-go-deepmind-result
   
4. Field, M. (2017). Facebook shuts down robots after they invent their own language. http://www.telegraph.co.uk/technology/2017/08/01/facebook-shuts-robots-invent-language/
   
5. Hutchison, H. (2017). Russia says it will ignore any UN ban of killer robots. http://www.businessinsider.com/russia-will-ignore-un-killer-robot-ban-2017-11
6. Pellerin, C. (2016). Deputy Secretary: Third Offset Strategy Bolster America’s Military Deterrence. https://www.defense.gov/News/Article/Article/991434/deputy-secretary-third-offset-strategy-bolsters-americas-military-deterrence/
7. Rosen, A., Bender, J. and Macias, A. (2015). These are the 19 most game-changing weapons of the 21^st century. http://www.businessinsider.com/21st-century-game-changing-weapons-2015-5?utm_content=buffer2fbfd&utm_medium=social&utm_source=facebook.com&utm_campaign=buffer-defense/#thaad-missiles-8
8. Spetalnick, M. and Stone, M. (2017). Exclusive – Game of Drones poised to boost unmanned exports. https://www.reuters.com/article/us-trump-effect-drones-exclusive/exclusive-game-of-drones-u-s-poised-to-boost-unmanned-aircraft-exports-idUSKBN1CG0F4
9. Tucker, P. (2017). What the CIA’s Tech Director wants from AI. http://www.defenseone.com/technology/2017/09/cia-technology-director-artificial-intelligence/140801/?oref=DefenseOneFB&utm_content=buffera686d&utm_medium=social&utm_source=facebook.com&utm_campaign=buffer
10. Tucker, P. (2017). Armed Ground Robots Could Join the Ukrainian Conflict Next Year. http://www.defenseone.com/technology/2017/10/armed-ground-robots-could-make-their-combat-debut-ukrainian-conflict-next-year/141677/
11. Tucker, P. (2017). The Future the US Military is Constructing: a Giant, Armed Nervous System. http://www.defenseone.com/technology/2017/09/future-us-military-constructing-giant-armed-nervous-system/141303/?oref=d-mostread

https://ideopigi.blogspot.gr/2017/12/blog-post_8.html