Η Ύπατη Αρμοστεία προειδοποιεί: H Τεχνητή Νοημοσύνη σπέρνει μίσος κατά των προσφύγων

Την ανησυχία της για την εξάπλωση της ρητορικής μίσους μέσω της παραπληροφόρησης και των deepfakes που κατασκευάζονται με τη χρήση εφαρμογών τεχνητής νοημοσύνης εκφράζει η Ύπατη Αρμοστεία του ΟΗΕ για τους Πρόσφυγες.

Η υπηρεσία των Ηνωμένων Εθνών αναφέρει ότι  έχει παρατηρήσει αύξηση των ψευδών και εχθρικών ρητορικών που στοxoποιούν τη δράση και το προσωπικό της, με πιθανές σοβαρές επιπτώσεις στη συγκέντρωση χρηματοδοτικών πόρων, σε μια περίοδο κατά την οποία οι προϋπολογισμοί συρρικνώνονται ενώ οι ανάγκες αυξάνονται.

Πρόσφατη έρευνα της Ύπατης Αρμοστείας διαπίστωσε ότι το 93% των εργαζομένων της που συμμετείχαν σε αυτήν είχε γίνει μάρτυρας περιστατικών λανθασμένης πληροφόρησης, παραπληροφόρησης ή ρητορικής μίσους με αντίκτυπο στην εκπλήρωση του έργου του οργανισμού. Οι γυναίκες αποτελούν δυσανάλογα συχνό στόχο τόσο μεταξύ των προσφύγων όσο και μεταξύ του προσωπικού της Ύπατης Αρμοστείας.

Η Ύπατη Αρμοστεία ξεκαθαρίζει ότι το ζήτημα δεν αφορά το πώς διεξάγεται η συζήτηση στο διαδίκτυο γύρω από εύλογες κοινωνικές ανησυχίες σχετικά με τη μετανάστευση και το άσυλο, αλλά τους κινδύνους στο περιβάλλον πληροφόρησης οι οποίοι μπορούν να απειλήσουν ανθρώπινες ζωές και να προκαλέσουν σοβαρή βλάβη σε πλαίσια ανθρωπιστικής δράσης.

Για παράδειγμα, κακόβουλοι δρώντες, όπως οι διακινητές ανθρώπων, μπορούν να διαδίδουν εσφαλμένες πληροφορίες μέσα από τις ψηφιακές πλατφόρμες, εξαπατώντας ανθρώπους που αναγκάζονται να εγκαταλείψουν τις εστίες τους. Προσφέρουν ψευδείς υποσχέσεις ασφάλειας, νόμιμων οδών μετακίνησης και παροχής εργασίας, οδηγώντας τους τελικά σε επικίνδυνες καταστάσεις και συνθήκες εκμετάλλευσης.

Η παραγωγική τεχνητή νοημοσύνη (generative AI) επιδεινώνει το πρόβλημα, διευρύνοντας τις επιπτώσεις του σε μεγάλη κλίμακα. Χαρακτηριστικό παράδειγμα αποτελούν επιβλαβή βίντεο deepfake που δημιουργούνται με τεχνητή νοημοσύνη και αφορούν στελέχη της Ύπατης Αρμοστείας και πρόσφυγες, τα οποία συνιστούν ολοένα και μεγαλύτερη πρόκληση.

Σοβαρά περιστατικά περιλαμβάνουν την κυκλοφορία deepfakes για επικεφαλής της Ύπατης Αρμοστείας, διαδικτυακές εκκλήσεις για κοινοποίηση των συντεταγμένων GPS των κατοικιών εργαζομένων και βίντεο που παρουσιάζουν το εθνικό προσωπικό της Ύπατης Αρμοστείας ως προδότες της χώρας τους.

Η ρητορική μίσους δεν γνωρίζει σύνορα και εξαπλώνεται με ταχύτητα. Κοινότητες που αναγκάστηκαν να εγκαταλείψουν τα σπίτια τους εξαιτίας διώξεων και βίας, όπως οι Ροχίνγκια, εξακολουθούν να έρχονται αντιμέτωπες με απανθρωποποιητικά αφηγήματα στο διαδίκτυο, ακόμη και αφού έχουν εκτοπιστεί. Η ρητορική μίσους στο διαδίκτυο τροφοδοτεί την παρενόχληση και τον εκφοβισμό στην πραγματική ζωή, υπονομεύοντας την κοινωνική συνοχή και διευρύνοντας την απόσταση μεταξύ των κοινωνιών υποδοχής και των εκτοπισμένων ανθρώπων.

Η απάντηση της Ύπατης Αρμοστείας

Σύμφωνα με τη σχετική ανακοίνωση, η απάντηση της Ύπατης Αρμοστείας είναι έμπρακτη και βασίζεται στη συνεργασία. Με την υποστήριξη της Ελβετίας, δημιούργησε μια Κοινότητα Πρακτικής για την Ακεραιότητα της Πληροφόρησης σε πλαίσια ανθρωπιστικής δράσης. Παράλληλα, αναπτύσσει συνεργασίες με διαφορετικούς φορείς και ομάδες ενδιαφερομένων, σε τοπικό και διεθνές επίπεδο.

Πρωτοβουλίες όπως η Πολυσυμμετοχική Δέσμευση για την Ακεραιότητα της Πληροφόρησης (Multistakeholder Pledge on Information Integrity) στο πλαίσιο του Παγκόσμιου Φόρουμ για τους Πρόσφυγες, η οποία ξεκίνησε το 2023 σε συνεργασία με τη Google, μπορούν να αποτελέσουν πρότυπο για την ανάπτυξη περαιτέρω πολυμερών πρωτοβουλιών. Έχουν γίνει ενθαρρυντικά βήματα προόδου, όμως χρειάζεται να αποκτήσουν πιο συστηματικό χαρακτήρα, τονίζει η υπηρεσία του ΟΗΕ.

Οι πρόσφυγες βρίσκονται στο επίκεντρο αυτής της προσπάθειας. Μέσα από τοπικές συνέργειες διαμορφώθηκε η εργαλειοθήκη Information Integrity Response Toolkit (Εργαλειοθήκη Απόκρισης για την Ακεραιότητα της Πληροφόρησης) της Ύπατης Αρμοστείας. Με 2.000 επαγγελματίες να την αξιοποιούν για τον σχεδιασμό πρακτικών δράσεων, από την αξιολόγηση κινδύνων έως τις παρεμβάσεις που βασίζονται στην κοινότητα, αποτελεί ένα απτό παράδειγμα της συνεργατικής μας προσέγγισης.

• deepfakes
• παραπληροφόρηση
• πρόσφυγες
• Τεχνητή Νοημοσύνη
• Ύπατη Αρμοστεία του ΟΗΕ