Το Υπουργείο Άμυνας των ΗΠΑ προετοιμάζει τη μαζική λογοκρισία στο Διαδίκτυο

Μαζική λογοκρισία στο Διαδίκτυο

Από τον Kevin Reed
6 Σεπτεμβρίου 2019

Ο αμερικανικός στρατός ζήτησε ερευνητικές προτάσεις από συνεργάτες τεχνολογίας για την ανάπτυξη ενός αυτοματοποιημένου συστήματος ικανό να σαρώνει ολόκληρο το διαδίκτυο και να εντοπίζει και να λογοκρίνει περιεχόμενο που θεωρείται ως "ψευδή μέσα ενημέρωσης" και "παραπληροφόρηση". Σύμφωνα με κυβερνητικά έγγραφα, η λύση θα παρέχει "καινοτόμες σημασιολογικές τεχνολογίες για την ανάλυση των μέσων ενημέρωσης" που θα βοηθήσουν "στον εντοπισμό, την αποτροπή και την κατανόηση των εκστρατειών απάθειας των αντιπάλων".

Στις 23 Αυγούστου, ο οργανισμός Defense Advanced Research Projects (DARPA) εξέδωσε πρόσκληση για ένα λεγόμενο πρόγραμμα Semantic Forensics (SemaFor) σχετικά με τον ιστοχώρο επιχειρηματικών ευκαιριών της ομοσπονδιακής κυβέρνησης. Σύμφωνα με τις προδιαγραφές προσφοράς, το SemaFor "θα αναπτύξει τεχνολογίες για την αυτόματη ανίχνευση, χαρακτηρισμό και χαρακτηρισμό πλαστογραφημένων πολυμεσικών μέσων (κείμενο, ήχο, εικόνα, βίντεο) για την υπεράσπιση από μεγάλης κλίμακας αυτοματοποιημένες επιθέσεις παραπληροφόρησης".

Με άλλα λόγια, το αμερικανικό υπουργείο Άμυνας επιδιώκει έναν τεχνολογικό εταίρο που θα δημιουργήσει μια πλατφόρμα που θα επιτρέψει στο Πεντάγωνο να εντοπίσει οποιοδήποτε περιεχόμενο εντοπίζει ως αντιφατική επίθεση "παραπληροφόρησης" και να το κλείσει. Αυτή η τεχνολογία θα καλύψει οτιδήποτε στο Διαδίκτυο, συμπεριλαμβανομένων ιστοσελίδων, βίντεο, φωτογραφιών και κοινωνικών μέσων πλατφόρμες.

Τα έγγραφα που κυκλοφόρησαν στο πλαίσιο του αιτήματος της DARPA αναφέρουν ότι οι αλγόριθμοι τεχνολογίας και λογισμικού που επιδιώκουν θα αποτελούσαν "πρόοδο στην τεχνολογία" που θα είναι απόλυτα μυστικό και δεν περιλαμβάνουν "πληροφορίες που είναι νόμιμα διαθέσιμες στο κοινό χωρίς περιορισμούς".

Διάγραμμα του ηλεκτρονικού συστήματος λογοκρισίας της Σημασιολογικής Ιατρικής που αναζητούσε το Τμήμα Άμυνας

Αυτές οι εξελίξεις θα συνεπαγόταν απομάκρυνση από τις "τεχνικές στατιστικής ανίχνευσης" που καθίστανται "ανεπαρκείς για την ανίχνευση εσφαλμένων μέσων μαζικής ενημέρωσης". Η χρήση έξυπνων σημασιολογικών τεχνικών - η δυνατότητα ενός προγράμματος να αναλύει το περιεχόμενο στο διαδίκτυο και να καθορίζει το νόημα και την πρόθεσή του - τις τελευταίες εξελίξεις στην τεχνητή νοημοσύνη και τα λεγόμενα "νευρωνικά δίκτυα" που έχουν την ικανότητα να "μαθαίνουν" και να βελτιώνουν την απόδοση με την πάροδο του χρόνου. Σύμφωνα με το Τμήμα Άμυνας των ΗΠΑ, η σημασιολογική ανάλυση θα είναι σε θέση να εντοπίσει με ακρίβεια ασυνέπειες στο περιεχόμενο που παράγεται τεχνητά και έτσι να τις καθιστά "ψευδείς".

Υπάρχουν τρεις συνιστώσες στη ζητούμενη λύση της DARPA. Ο δεύτερος είναι ότι "οι αλγόριθμοι απόδοσης θα συνάγουν εάν τα μέσα προέρχονται από έναν συγκεκριμένο οργανισμό ή ένα άτομο" και το τρίτο είναι να προσδιοριστεί αν τα μέσα ήταν "χειραγωγημένα για κακόβουλους σκοπούς". Παρόλο που η αίτηση αναφέρεται στην αποτροπή, δεν υπάρχουν λεπτομέρειες για το πώς το Πεντάγωνο προτίθεται να δράσει βάσει του περιεχομένου που έχει προσδιορίσει ως "ψευδής".

Το αίτημα της πρότασης επίσης δεν γίνεται ποτέ να προσδιοριστεί ποιοι είναι οι αντίπαλοι που πρέπει να εντοπιστούν, να αποθαρρυνθούν και να κατανοηθούν. Ωστόσο, είναι σαφές ότι ένα από τα κίνητρα για την πρωτοβουλία είναι ανησυχία για την άνοδο του περιεχομένου "deepfake". Τα βίντεο Deepfake, για παράδειγμα, περιλαμβάνουν τη χρήση εξειδικευμένου λογισμικού για την τροποποίηση του περιεχομένου βίντεο με τρόπους που αλλάζουν τελείως την αρχική εικόνα ή το μήνυμα και δημιουργούν μια νέα ροή με φαινομενική αυθεντικότητα.

Σύμφωνα με τον Δρ Matt Turek, υπεύθυνο της DARPA για την Καινοτομία Πληροφορίας, ο οποίος συνέταξε το αίτημα του Πενταγώνου για την υποβολή προτάσεων, «Η απόκρυψη αυτής της αύξησης των ψηφιακών εικόνων είναι η σχετική δυνατότητα ακόμη και σχετικά ανειδίκευτων χρηστών να χειραγωγήσουν και να στρεβλώσουν το μήνυμα των οπτικών μέσων. Ενώ πολλοί χειρισμοί είναι καλοπροαίρετοι, εκτελούνται για διασκέδαση ή για καλλιτεχνική αξία, άλλοι είναι για αντιφατικές σκοπούς, όπως προπαγάνδα ή εκστρατείες παραπληροφόρησης ".

Η προθεσμία υποβολής προτάσεων της DARPA ορίζεται για τις 21 Νοεμβρίου 2019. Ο οργανισμός προτίθεται να αναθέσει τη σύμβαση σε πολλούς εταίρους τεχνολογίας στους διάφορους κλάδους του έργου. Η πρόσκληση περιλαμβάνει λεπτομέρειες σχετικά με τον τρόπο αξιολόγησης των υποβαλλομένων εταιρειών και την τελική ανάθεση των συμβάσεων.

Όπως έχουν ήδη επισημάνει αρκετές αναφορές, η απαράδεκτη ιδέα ότι η τεχνητή νοημοσύνη μπορεί να αναπτυχθεί για να προσδιορίσει το περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη είναι το τεχνολογικό ισοδύναμο του παροιμιώδους φιδιού που τρώει τη δική του ουρά. Όπως επεσήμανε το Gizmodo, "ενώ ένα αυτοματοποιημένο μοντέλο ακούγεται ωραίο θεωρητικά, σε εκτέλεση, μέχρι σήμερα, αυτοί οι τύποι αλγοριθμικά παραγόμενων συστημάτων εξακολουθούν να είναι λανθασμένοι και προκατειλημμένοι, και σε πιο ανησυχητικές περιπτώσεις, εντελώς διακριτικές. Οι υπάρχουσες εφαρμογές δεν εμπνέουν πολλή πίστη σε ένα μελλοντικό σύστημα που θα ήταν αποτελεσματικό και δίκαιο. "

Μεγάλο μέρος της κάλυψης των εταιρικών μέσων ενημέρωσης σχετικά με το αίτημα υποβολής προσφορών της DARPA παρουσίασε την πρωτοβουλία ως νόμιμη προσπάθεια για την παύση των ηλεκτρονικών "ψεύτικων ειδήσεων". Αυτή η παρουσίαση αποτελεί συνέχεια των αδιάκοπων και μη αποδεδειγμένων κατηγοριών "ρωσικής παρέμβασης" στις εκλογές του 2016, στο πλαίσιο της αμερικανικής στρατιωτικής διευκρίνισης της ίδρυσης της υποψηφιότητας του Χίλαρι Κλίντον για πρόεδρο.

Ωστόσο, η σημερινή προσπάθεια του Πενταγώνου να δημιουργήσει ένα αυτοματοποιημένο σύστημα εντοπισμού και τερματισμού των λεγόμενων «ψεύτικων ειδήσεων» αποτελεί μέρος της συνεχιζόμενης ευρύτερης προσπάθειας των Δημοκρατικών και των Ρεπουμπλικανών, σε συνεργασία με το κράτος πληροφοριών, να ελέγχουν και τα κοινωνικά μέσα και σε απευθείας σύνδεση περιεχόμενο και να το χρησιμοποιήσει για να παρακολουθεί τις διαθέσεις, τις ιδέες και την πολιτική του κοινού.

Όποιοι και αν είναι οι δηλωμένοι ισχυρισμοί της DARPA σχετικά με την επιθυμία να σταματήσει η χρήση των «υλικών ψευδούς μέσων» για να στοχεύσουν προσωπικές επιθέσεις, να δημιουργήσουν «αληθινά» γεγονότα και να διαδώσουν λύματα ραντάρ, αυτά τα εργαλεία αποτελούν αναμφισβήτητα τμήμα του ιμπεριαλιστικού οπλοστασίου του κυβερνοεγκεφαλαίου που αναπτύσσεται και αναπτύσσεται από του αμερικανικού στρατού και της CIA.

https://www.wsws.org