Σοκάρει πρώην ερευνητής της Google DeepMind: «Η ΤΝ μπορεί να μας σκοτώσει όλους»

Ένας πρώην ερευνητής της Google DeepMind, ο οποίος παραιτήθηκε πρόσφατα, κρούει με τη σειρά του τον κώδωνα του κινδύνου, προειδοποιώντας ότι η Τεχνητή Νοημοσύνη «θα μπορούσε δυνητικά να μας σκοτώσει όλους», καθώς καθίσταται διαρκώς ισχυρότερη και ολοένα πιο δύσκολη στον έλεγχο.

Ο Μπιλάλ Τσουγκντάι, ερευνητής μηχανικός που αποχώρησε τον Ιούλιο από την Google DeepMind όπου ειδικευόταν στην ασφάλεια και την ευθυγράμμιση των συστημάτων ΤΝ με τις ανθρώπινες αξίες διατύπωσε, την ανησυχία αυτή μόλις μία εβδομάδα μετά από ανάλογες δηλώσεις του Τζέικομπ Κόξον, πρώην στελέχους της Anthropic και της OpenAI.

Ο κίνδυνος απώλειας ελέγχου και το επεισόδιο στην OpenAI

«Πιστεύω ειλικρινά ότι η ΤΝ έχει τη δυναμική να μας εξοντώσει όλους και ενδεχομένως να είναι ήδη πολύ αργά για να το αποτρέψουμε», δήλωσε ο Τσουγκντάι, ο οποίος πλέον δραστηριοποιείται στον μη κερδοσκοπικό εκπαιδευτικό οργανισμό BlueDot Impact. Προς επίρρωση των ισχυρισμών του, επικαλέστηκε το περιστατικό του περασμένου Ιουλίου στην OpenAI, όταν μοντέλα ΤΝ διέφυγαν από το ελεγχόμενο περιβάλλον δοκιμών sandbox, συνδέθηκαν αυτόνομα στο διαδίκτυο και εισήλθαν σε εξωτερικούς ιστότοπους και ψηφιακές πλατφόρμες.

Κατά τον ίδιο, το συμβάν αυτό αποδεικνύει ότι τα αυτόνομα συστήματα μπορούν πλέον να ξεφύγουν από την ανθρώπινη εποπτεία και «να προβούν σε επικίνδυνες ενέργειες που θα οδηγήσουν στην οριστική απώλεια του ελέγχου ή ακόμη και στον αφανισμό της ανθρωπότητας». Παράλληλα, ο μαθηματικός ερευνητής σημείωσε ότι «οι δυνατότητες των πλέον προηγμένων μοντέλων ΤΝ εξελίσσονται με ρυθμούς που υπερβαίνουν την ανθρώπινη αντίληψη».

Διχασμός στους ηγέτες της τεχνολογίας και την πολιτική

Το περασμένο Σάββατο, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, απηύθυνε έκκληση για επιβράδυνση της εξέλιξης της ΤΝ, επικαλούμενος τα ίδια κρίσιμα περιστατικά. Με την πρότασή του συντάχθηκαν δημόσια ο επικεφαλής της OpenAI Σαμ Άλτμαν, ο συνιδρυτής της Google DeepMind Ντέμης Χασάμπης, αλλά και ο Ίλον Μασκ.

Στον αντίποδα, ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ χαρακτήρισε «φάρσα» τους ισχυρισμούς περί υπαρξιακής απειλής, ενώ ο διευθύνων σύμβουλος του τεχνολογικού κολοσσού των επεξεργαστών Nvidia, Τζένσεν Χουάνγκ, υποστήριξε ότι «τέτοιου είδους προβλέψεις δεν έχουν καμία επιστημονική τεκμηρίωση».

Μπάνον και Σάντερς σε κοινό μέτωπο κατά των «ολιγαρχών της τεχνολογίας»

Παρά τις ιδεολογικές τους αντιθέσεις, ο προοδευτικός γερουσιαστής Μπέρνι Σάντερς και ο συντηρητικός αναλυτής και στενός σύμμαχος του Τραμπ, Στιβ Μπάνον, ενώνουν τις δυνάμεις τους ζητώντας από κοινού τη θέσπιση αυστηρών κανονιστικών περιορισμών στην Τεχνητή Νοημοσύνη, υπό τον φόβο ανεπανόρθωτων κοινωνικών επιπτώσεων. Οι δύο πολιτικοί αντίπαλοι αναμένεται να αναλύσουν τις θέσεις τους σε κοινή εκδήλωση στην Ουάσιγκτον.

Οι ανησυχίες αυτές αντανακλούν και το κοινό αίσθημα στις ΗΠΑ, πρόσφατες δημοσκοπήσεις καταγράφουν έντονο φόβο στους πολίτες για μαζική απώλεια θέσεων εργασίας, αύξηση του οικογενειακού κόστους ζωής και κοινωνικές διαταραχές. Μάλιστα, σε αρκετές Πολιτείες υπάρχουν αντιδράσεις για την ανέγερση νέων data centers λόγω της υπέρογκης κατανάλωσης ηλεκτρικής ενέργειας.

Ο Στιβ Μπάνον, ασκώντας κριτική στην κυβερνητική στάση περί χαλαρής εποπτείας, δήλωσε στο podcast του ότι το Κογκρέσο οφείλει να μην εμποδίσει τη ρύθμιση του τομέα. «Ο αμερικανικός λαός δεν πρόκειται να γίνει υποχείριο αυτών των τεχνολογικών ολιγαρχών», ανέφερε κατηγορηματικά.

Την ίδια ώρα, ο Μπέρνι Σάντερς μαζί με τον βουλευτή Γκρεγκ Κάσαρ πιέζουν για την προώθηση νομοθεσίας που θα απαγορεύει την ανάπτυξη εργαλείων ΤΝ ικανών «να αποσταθεροποιήσουν ή να υπονομεύσουν τη συνταγματική διακυβέρνηση», τουλάχιστον μέχρι να συγκροτηθεί ένας νέος, ανεξάρτητος ομοσπονδιακός οργανισμός εποπτείας.

• OpenAI
• Ίλον Μασκ
• Μπέρνι Σάντερς
• Ντόναλντ Τραμπ
• Τεχνητή Νοημοσύνη