Μια ηλιόλουστη ημέρα του 2021, οι εργαζόμενοι της Fortem Technologies ταξίδεψαν στην έρημο της Γιούτα για να δοκιμάσουν τη νέα τεχνολογία της εταιρείας: το DroneHunter – το οποίο, όπως υποδηλώνει το όνομά του, είναι ένα drone που κυνηγά άλλα drones.

Το κομψό, ασπρόμαυρο μοντέλο με άνοιγμα φτερών όσο είναι το ύψος ενός ενήλικου άνδρα, έλαβε δεδομένα ραντάρ όσο ήταν στο έδαφος, τα οποία έδειχναν ότι στον αέρα βρισκόταν ένα drone σε σχήμα αεροπλάνου. «DroneHunter, πήγαινε για κυνήγι», ακούγεται από μία φωνή Τεχνητής Νοημοσύνης, σε βίντεο στο YouTube. Μέσα σε λίγα δευτερόλεπτα, οι ρότορες άρχισαν να περιστρέφονται και το drone ανυψώθηκε πάνω από το έδαφος.

Το σύστημα ραντάρ εντόπισε αυτόματα τον drone-στόχο και το λογισμικό έδωσε το σήμα για την καταδίωξή του, χωρίς να απαιτείται «οδηγός». Μέσα σε λίγα δευτερόλεπτα, τα δύο αεροσκάφη βρέθηκαν αντιμέτωπα.

Ένα δίχτυ εκτοξεύτηκε από το DroneHunter – ακριβώς όπως αυτό που ρίχνει ο Spiderman – τυλίγοντας τον «εχθρό» του και ρίχνοντάς τον στο έδαφος.

Στόχος: Καταρρίφθηκε

Αν και η Fortem είναι ακόμη μια σχετικά μικρή εταιρεία, η τεχνολογία της για την καταπολέμηση των drones χρησιμοποιείται ήδη στο πεδίο της μάχης στην Ουκρανία και αντιπροσωπεύει ένα είδος συστήματος στο οποίο επενδύει το υπουργείο Άμυνας των ΗΠΑ: μικρά, σχετικά φθηνά σκάφη που μπορούν να δράσουν ανεξάρτητα, μόλις ένας άνθρωπος δώσει το ok.

Πλέον, οι ειδικοί λένε ότι οι αυτόνομες καινοτομίες έχουν τη δυνατότητα να αλλάξουν ριζικά τον τρόπο διεξαγωγής του πολέμου: στο μέλλον, οι άνθρωποι μπορεί να μην είναι οι μόνοι που θα αποφασίζουν ποιος θα ζήσει και ποιος θα πεθάνει, με τις αποφάσεις να βρίσκονται στα χέρια – και σε αυτή την περίπτωση – των αλγορίθμων.

Για ορισμένους εμπειρογνώμονες, αυτό είναι θετικό, καθώς θα μπορούσε να μειώσει τις απώλειες και το άγχος των στρατιωτών. Ωστόσο, άλλοι υποστηρίζουν ότι, αντίθετα, θα οδηγήσει σε περισσότερους αδιάκριτους θανάτους, χωρίς άμεση λογοδοσία, καθώς και σε κλιμάκωση των συγκρούσεων μεταξύ πυρηνικά εξοπλισμένων εθνών.

Παράλληλα, πολλοί έχουν εκφράσει ανησυχίες για το ενδεχόμενο η τεχνολογία να πέσει σε λάθος χέρια, σημειώνοντας ότι ακόμη και αν ένας άνθρωπος παραμείνει στο τιμόνι της λήψης αποφάσεων, το τελικό αποτέλεσμα μπορεί να μην είναι «ηθικό».

Αυτόνομα όπλα δεκαετιών

Τόσο οι αισιόδοξοι όσο και οι επικριτές τείνουν να συμφωνούν ότι πρέπει να υπάρχουν διεθνείς εγγυήσεις και κανονισμοί – ιδανικά με τρόπο που να διασφαλίζει κάποια ανθρώπινη λογοδοσία. Ωστόσο, η θέσπιση τέτοιων αυστηρών μέτρων βρίσκεται σε εξέλιξη εδώ και περισσότερο από μια δεκαετία, χωρίς να έχει σημειωθεί ιδιαίτερη πρόοδος, ακόμη και όταν η τεχνολογία έχει εξελιχθεί.

Τα αυτόνομα όπλα μπορεί να φαίνονται φουτουριστικά, αλλά τεχνικά υπάρχουν για περισσότερο από έναν αιώνα, όπως για παράδειγμα, οι νάρκες ξηράς, που χρησιμοποιήθηκαν για πρώτη φορά ευρέως κατά τη διάρκεια του Αμερικανικού Εμφυλίου Πολέμου (1861-1865).

Άλλο παράδειγμα είναι οι πάσσαλοι punji (punji sticks), με τις αιχμηρές άκρες που καλύπτουν μία τρύπα, με αποτέλεσμα οι στρατιώτες να πέφτουν και να «καρφώνονται» στις ακίδες. Επιπλέον, υπάρχουν και οι πύραυλοι με υπέρυθρες, οι οποίοι κυνηγούν από μόνοι τους αντικείμενα που εκπέμπουν θερμότητα από τη δεκαετία του 1950, ενώ και το Πολεμικό Ναυτικό των ΗΠΑ εξακολουθεί να χρησιμοποιεί ένα σύστημα, το οποίο αναπτύχθηκε για πρώτη φορά τη δεκαετία του 1960, για να αναχαιτίζει αυτόνομα βλήματα που στρέφονται προς τα πλοία.

Στοχεύοντας συγκεκριμένα πρόσωπα

Σήμερα, βέβαια, η αυτονομία είναι σαφέστατα διαφορετική: η Τεχνητή Νοημοσύνη μπορεί να αναγνωρίσει τους ανθρώπους με τα φυσικά τους χαρακτηριστικά, καθιστώντας, θεωρητικά, εφικτό για τους στρατούς να στοχεύουν συγκεκριμένα πρόσωπα.

Η πρώτη πιθανή χρήση ενός πλήρως αυτόνομου σύγχρονου όπλου, σύμφωνα με το Undark, φέρεται να έγινε στη Λιβύη το 2020, όταν ένα drone αυτοκατευθύνθηκε για να επιτεθεί σε μαχητές της πολιτοφυλακής, όπως αναφέρει έκθεση των Ηνωμένων Εθνών – αν και είναι δύσκολο να αποδειχθεί ότι κάποιος άνθρωπος δεν έδωσε την εντολή.

Έκτοτε, τα ημιαυτόνομα όπλα – με διάφορους βαθμούς ανθρώπινης εμπλοκής – συνέχισαν να εμφανίζονται στο πεδίο της μάχης: Στην Ουκρανία, τα αυτόνομα drones μπορούν να στοχεύουν ανθρώπους, αν και προς το παρόν ένας άνθρωπος τα κατευθύνει να το κάνουν.

Στον πόλεμο στη Γάζα, οι Ισραηλινές Αμυντικές Δυνάμεις φέρεται να χρησιμοποίησαν ένα σύστημα δεδομένων με δυνατότητα AI που ονομάζεται Lavender και επιλέγει ανθρώπινους στόχους βάσει μοτίβων συμπεριφοράς με «λίγη ανθρώπινη επίβλεψη», σύμφωνα με έρευνα του περιοδικού +972 και της Local Call.

Το Ισραήλ φέρεται επίσης να έχει χρησιμοποιήσει αυτόνομα μη επανδρωμένα αεροσκάφη της εγχώριας εταιρείας Elbit Systems και λογισμικό Τεχνητής Νοημοσύνης στη μάχη, σκοτώνοντας εκατοντάδες Παλαιστίνιους αμάχους.

Έρχονται κι άλλα τέτοια όπλα

Η Anduril, μια αμερικανική εταιρεία, έχει σχέδια να κατασκευάσει ένα εργοστάσιο που της επιτρέπει να παράγει αυτόνομα όπλα σε μεγάλη κλίμακα, όπως το ALTIUS-700M, ένα drone με δυνατότητα αυτονομίας που μπορεί να αιωρείται και να επιτίθεται με εκρηκτικά.

Όλα αυτά τα ρομπότ δεν είναι αλάνθαστα, σύμφωνα με τον Erich Riesen, από το Πανεπιστήμιο του Τέξας, του οποίου η εργασία για τη στρατιωτική ηθική, σε αυτή τη νέα αυτόνομη εποχή, έχει αναφερθεί από σημαντικούς αμυντικούς στοχαστές.

Επιπλέον, για τον Τ.Χ. Hammes, διακεκριμένο ερευνητή πάνω σε θέματα πολέμου και άμυνας, δεν θα υπάρξει ποτέ πλήρης αυτονομία, καθώς ένας άνθρωπος πάντα θα εμπλέκεται – τουλάχιστον στην αρχή.

Μεγάλο μέρος της τελευταίας τεχνολογικής εξέλιξης τροφοδοτείται από κυβερνήσεις και εταιρείες που επιθυμούν να προλάβουν την κούρσα των όπλων.

Μια πρόσφατη πρωτοβουλία των ΗΠΑ που ονομάζεται Replicator, στοχεύει στην ανάπτυξη χιλιάδων μικρών, φθηνών μη επανδρωμένων οχημάτων, τα οποία θα είναι έτοιμα έως τον Αύγουστο του 2025.

Το Replicator αποτελεί ένα είδος προπαρασκευαστικού προγράμματος για ιδιωτικές εταιρείες, καθώς δείχνει στον εμπορικό τομέα ότι η αμερικανική κυβέρνηση θέλει και είναι διατεθειμένη να πληρώσει για την αυτόνομη τεχνολογία, δίνοντας κίνητρο στις εταιρείες να αρχίσουν να επενδύουν τους δικούς τους πόρους στην ανάπτυξη σχετικών καινοτομιών.

Από τα χέρια των ΗΠΑ

Οι περισσότερες αμερικανικές νεοφυείς επιχειρήσεις, όπως η Fortem, στοχεύουν να πουλήσουν την τεχνολογία τους στο αμερικανικό υπουργείο Άμυνας, επειδή οι ΗΠΑ έχουν τον καλύτερα χρηματοδοτούμενο στρατό στον κόσμο -και άρα άφθονα χρήματα για συμβόλαια!!

Η πώληση των προϊόντων τους, εξάλλου, σε άλλα έθνη απαιτεί κάποια διοικητική εργασία. Για παράδειγμα, στην περίπτωση των DroneHunters που αναπτύχθηκαν στην Ουκρανία, η Fortem έκανε συμφωνία απευθείας με τη χώρα.

Η εξαγωγή της τεχνολογίας, όμως, έπρεπε να περάσει από το Υπουργείο Εξωτερικών των ΗΠΑ, το οποίο είναι υπεύθυνο για την επιβολή πολιτικών σχετικά με το ποια τεχνολογία μπορεί να πουληθεί σε ποιον στο εξωτερικό.

Τα ηθικά διλήμματα

Το κατά πόσον ένα αυτόνομο όπλο θα μπορούσε να διακρίνει με ακρίβεια τον πολίτη από τον μαχητή, κάθε φορά και πάντοτε, εξακολουθεί να είναι ένα ανοιχτό ερώτημα.

Όπως και το αν οι στρατιωτικοί ηγέτες θα προγραµµατίσουν τα όπλα να ενεργούν συντηρητικά, και αν ο προγραµµατισµός αυτός θα παραµείνει όπως είναι ανεξάρτητα από το πού θα πουληθεί κάποιο όπλο.

Οι κατασκευαστές του, άλλωστε, δεν μπορούν να έχουν πάντα τον έλεγχο του δημιουργήματός τους μόλις αυτό βγει στον κόσμο. Για να καταδείξει αυτό το σημείο, το Future of Life Institute – ένα μη κερδοσκοπικό ίδρυμα αφιερωμένο στη μείωση του κινδύνου από την ισχυρή τεχνολογία – δημιούργησε ένα viral βίντεο με τον τίτλο “Slaughterbots” (bots που σφαγιάζουν).

Το «Slaughterbots» ξεκινά με μια εταιρική ομιλία τύπου TED Talk, καθώς ένα μικροσκοπικό drone που βουίζει αιωρείται κοντά στον ομιλητή: «Εδώ μέσα υπάρχουν τρία γραμμάρια διαμορφωμένης εκρηκτικής ύλης», ακούγεται να λέει.

Στη συνέχεια, το drone κατευθύνεται σε ένα ομοίωμα επί σκηνής, χτυπώντας το στο μέτωπο με ένα ποπ. «Αυτός ο μικρός κρότος είναι αρκετός για να διαπεράσει το κρανίο». και να καταστρέψει το περιεχόμενο».

Όπως επισημαίνει ο ομιλητής, από τη στιγμή που υπάρχει αυτόνομη θανατηφόρα τεχνολογία, μια κυβέρνηση μπορεί να μην είναι η μόνη που θα τη χρησιμοποιήσει – ειδικά αν πρόκειται για εμπορική τεχνολογία που διατίθεται προς πώληση.

Εύκολα αυτή η τεχνολογία μπορεί να πέσει σε λάθος χέρια.