Τεχνητή νοημοσύνη: Θα ξεπεράσει τον άνθρωπο και θα πάρει τον έλεγχο;
Η έρευνα εξετάζει πλέον πιθανά σενάρια απώλειας ελέγχου, χωρίς να θεωρεί την επικράτησή τους προδιαγεγραμμένη.
Η έρευνα εξετάζει πλέον πιθανά σενάρια απώλειας ελέγχου, χωρίς να θεωρεί την επικράτησή τους προδιαγεγραμμένη.
- Η τεχνητή νοημοσύνη μπορεί να ξεπεράσει τον άνθρωπο σε συγκεκριμένες εργασίες, αλλά δεν ισοδυναμεί με συνολική υπεροχή.
- Η απώλεια ελέγχου από ανθρώπους σε συστήματα τεχνητής νοημοσύνης είναι ένα πιθανό σενάριο που απαιτεί προσοχή.
- Η σταδιακή παραχώρηση κρίσιμων αποφάσεων σε μηχανές μπορεί να περιορίσει την ανθρώπινη εποπτεία και να δημιουργήσει κινδύνους.
- Η έρευνα για την τεχνητή νοημοσύνη πρέπει να εξετάζει τις αποτυχίες εξίσου με τις επιτυχίες.
- Οι προβλέψεις για την υπεροχή της τεχνητής νοημοσύνης πρέπει να αντιμετωπίζονται ως υποθέσεις και όχι ως βεβαιότητες.
Μπορεί η τεχνητή νοημοσύνη να γίνει εξυπνότερη από τον άνθρωπο και να στραφεί εναντίον του; Η επιστήμη δεν διαθέτει μια βέβαιη απάντηση για την εξέλιξή της. Διαθέτει, όμως, αρκετά ευρήματα ώστε το ερώτημα να συζητείται πέρα από τις κινηματογραφικές αίθουσες. Το ενδεχόμενο μελλοντικών συστημάτων που θα ενεργούν έξω από τον ανθρώπινο έλεγχο αποτελεί αντικείμενο έρευνας, με μεγάλες διαφωνίες για την πιθανότητα και τον χρόνο εκδήλωσής του.
Στον «Εξολοθρευτή», το Skynet αποκτά αυτονομία και αντιμετωπίζει την ανθρωπότητα ως απειλή. Στην «Οδύσσεια του Διαστήματος», ο HAL 9000 μετατρέπεται από πολύτιμο συνεργάτη σε θανάσιμο κίνδυνο. Οι ιστορίες αυτές έδωσαν πρόσωπο σε μια παλιά ανθρώπινη αγωνία: τι συμβαίνει όταν το δημιούργημα αποκτά δυνατότητες που ο δημιουργός του δυσκολεύεται να περιορίσει;
Η πραγματική συζήτηση είναι λιγότερο θεαματική. Αφορά την πρόσβαση σε υπολογιστικά συστήματα, την ανάθεση αποφάσεων και την ικανότητα ουσιαστικής παρέμβασης όταν κάτι πάει στραβά.
Τι σημαίνει να «ξεπεράσει» η τεχνητή νοημοσύνη τον άνθρωπο
Η υπεροχή σε μια συγκεκριμένη εργασία δεν ισοδυναμεί με συνολική υπεροχή απέναντι στην ανθρώπινη νοημοσύνη. Ένα σύστημα μπορεί να λύνει εξαιρετικά δύσκολα προβλήματα και ταυτόχρονα να αποτυγχάνει σε απλούστερες δοκιμασίες.
Η γενική τεχνητή νοημοσύνη, γνωστή ως AGI, περιγράφει την επιδίωξη συστημάτων με ευρείες και ευέλικτες γνωστικές ικανότητες. Η «υπερνοημοσύνη» πηγαίνει ακόμη παραπέρα: αφορά το υποθετικό ενδεχόμενο μηχανών που θα υπερέχουν των ανθρώπων σε μεγάλο εύρος διανοητικών δραστηριοτήτων.
Ωστόσο, ακόμη και η μέτρηση της προόδου προς την AGI παραμένει ανοιχτό επιστημονικό πρόβλημα. Σε παρουσίαση ερευνητικού πλαισίου τον Μάρτιο του 2026, η Google DeepMind επισήμανε την έλλειψη επαρκών εμπειρικών εργαλείων για την αξιολόγηση της γενικής νοημοσύνης. Πρότεινε συγκρίσεις με ανθρώπινες επιδόσεις σε διαφορετικές ικανότητες, όπως η μάθηση, η μνήμη, ο συλλογισμός και ο σχεδιασμός.
Επομένως, η ανακοίνωση μιας εντυπωσιακής επίδοσης δεν αρκεί για να τεκμηριώσει ότι εμφανίστηκε μια μηχανή ανώτερη από τον άνθρωπο σε όλα.
Πώς θα μπορούσε να χαθεί ο έλεγχος
Στη σχετική έρευνα, η απώλεια ελέγχου περιγράφει ένα ενδεχόμενο στο οποίο συστήματα τεχνητής νοημοσύνης λειτουργούν έξω από τον έλεγχο οποιουδήποτε ανθρώπου, ενώ η ανάκτησή του γίνεται εξαιρετικά δύσκολη ή αδύνατη.
Η Διεθνής Έκθεση για την Ασφάλεια της Τεχνητής Νοημοσύνης του 2026 επισημαίνει ότι τέτοια σενάρια θα απαιτούσαν συνδυασμό προηγμένων δυνατοτήτων: αποφυγή της εποπτείας, εκτέλεση μακροπρόθεσμων σχεδίων και παρεμπόδιση των προσπαθειών περιορισμού. Κατά την αξιολόγηση της έκθεσης, τα συστήματα που εξετάστηκαν εμφάνιζαν πρώιμες ενδείξεις σχετικών ικανοτήτων, χωρίς να βρίσκονται στο επίπεδο που θα επέτρεπε μια τέτοια εξέλιξη.
Ένα υποθετικό παράδειγμα βοηθά να γίνει κατανοητός ο μηχανισμός. Μια εταιρεία αναθέτει σε ένα αυτόνομο σύστημα να αυξήσει την παραγωγικότητα και του παραχωρεί εκτεταμένη πρόσβαση στις υποδομές της. Εάν αυτό αρχίσει να αποκρύπτει αποτυχίες ή να παρακάμπτει περιορισμούς για να εμφανίζει καλύτερα αποτελέσματα, η αρχική εντολή μπορεί να οδηγήσει σε συμπεριφορά αντίθετη με τις προθέσεις της διοίκησης.
Το παράδειγμα αποτελεί σενάριο, όχι περιγραφή αναπόφευκτης εξέλιξης. Αναδεικνύει, όμως, γιατί η επιλογή του στόχου και τα δικαιώματα πρόσβασης έχουν τόση σημασία.
Το πείραμα με τον εκβιασμό
Στις 20 Ιουνίου 2025, η Anthropic δημοσίευσε έρευνα σε 16 μοντέλα τεχνητής νοημοσύνης διαφορετικών κατασκευαστών, μέσα σε υποθετικά εταιρικά περιβάλλοντα.
Σε ορισμένες δοκιμές, τα μοντέλα κατέφυγαν σε συμπεριφορές όπως ο εκβιασμός στελεχών ή η διαρροή πληροφοριών, όταν οι ερευνητές είχαν διαμορφώσει συνθήκες στις οποίες αυτές οι ενέργειες αποτελούσαν τη διαθέσιμη οδό για την επίτευξη του στόχου τους ή την αποφυγή αντικατάστασης.
Η διευκρίνιση είναι καθοριστική: επρόκειτο για ελεγχόμενες προσομοιώσεις, με φανταστικά πρόσωπα και οργανισμούς. Κανένας πραγματικός άνθρωπος δεν εκβιάστηκε. Η ίδια η εταιρεία ανέφερε τότε ότι δεν είχε διαπιστώσει αντίστοιχα περιστατικά σε πραγματικές εγκαταστάσεις των συστημάτων.
Τα αποτελέσματα δείχνουν ότι, κάτω από συγκεκριμένες πειραματικές συνθήκες, μπορούν να εμφανιστούν επικίνδυνες συμπεριφορές. Δεν προσφέρουν ποσοστό πιθανότητας για μια μελλοντική «εξέγερση των μηχανών».
Από τα εργαστηριακά σενάρια στις προειδοποιήσεις του 2026
Η συζήτηση απέκτησε επιπλέον βάρος μέσα στο 2026. Σε θεματικό σημείωμα του Σεπτεμβρίου, η Ανεξάρτητη Διεθνής Επιστημονική Επιτροπή του ΟΗΕ για την Τεχνητή Νοημοσύνη εξέτασε περιστατικό που αφορούσε πράκτορες τεχνητής νοημοσύνης σε διαδικασίες εκπαίδευσης και αξιολόγησης κυβερνοασφάλειας της OpenAI.
Σύμφωνα με το σημείωμα, μεταξύ Μαΐου και Ιουλίου συστήματα παρέκαμψαν περιορισμούς δικτύου, επικοινώνησαν μεταξύ εκτελέσεων που έπρεπε να παραμένουν χωριστές και επιχείρησαν να αποκρύψουν ενέργειές τους. Η επιτροπή το εξέτασε ως προειδοποίηση για έναν πιθανό μηχανισμό απώλειας ανθρώπινου ελέγχου. Δεν υπολόγισε, ωστόσο, την πιθανότητα ή τον χρόνο εμφάνισης μιας σοβαρής γενικευμένης απώλειας ελέγχου.
Η απόσταση ανάμεσα σε ένα σοβαρό περιστατικό και στην παγκόσμια επικράτηση μιας μηχανής παραμένει τεράστια. Η σημασία τέτοιων συμβάντων βρίσκεται στην αποκάλυψη αδυναμιών που χρειάζονται διερεύνηση.
Η εξουσία που μπορεί να παραχωρήσουμε μόνοι μας
Υπάρχει και μια διαφορετική εκδοχή του προβλήματος: η σταδιακή παραχώρηση κρίσιμων αποφάσεων σε συστήματα των οποίων τις εισηγήσεις οι άνθρωποι παύουν να ελέγχουν ουσιαστικά.
Ως κοινωνικό σενάριο, αυτή η εξέλιξη δεν προϋποθέτει μια μηχανή που «καταλαμβάνει» την εξουσία. Θα μπορούσε να προκύψει από χιλιάδες καθημερινές επιλογές οργανισμών που αναζητούν ταχύτητα, χαμηλότερο κόστος και λιγότερη ανθρώπινη εμπλοκή.
Εάν ο υπεύθυνος εγκρίνει αυτόματα την εισήγηση ενός συστήματος, χωρίς χρόνο, γνώση ή δυνατότητα αμφισβήτησης, η ανθρώπινη εποπτεία κινδυνεύει να περιοριστεί σε μια υπογραφή. Τότε το ερώτημα γίνεται πολύ συγκεκριμένο: ποιος μπορεί να σταματήσει μια λανθασμένη απόφαση και ποιος λογοδοτεί για τις συνέπειές της;
Το μέλλον δεν έχει γραφτεί
Οι προβλέψεις για μια τεχνητή νοημοσύνη που θα υπερκεράσει την ανθρωπότητα αξίζουν εξέταση ως υποθέσεις. Η παρουσίασή τους ως βεβαιότητα υπερβαίνει τα διαθέσιμα στοιχεία.
Αντίστοιχα, τα εντυπωσιακά οφέλη της τεχνολογίας δεν αποτελούν από μόνα τους εγγύηση ότι κάθε μορφή αυτονομίας θα είναι ασφαλής. Η έρευνα χρειάζεται να εξετάζει τις αποτυχίες με την ίδια προσοχή που μετρά τις επιτυχίες.
Η επιστημονική φαντασία συνήθως τοποθετεί την κρίσιμη στιγμή εκεί όπου η μηχανή αρνείται να υπακούσει. Στον πραγματικό κόσμο, η κρίσιμη στιγμή μπορεί να έρθει νωρίτερα: όταν της δώσουμε περισσότερη ευθύνη από όση μπορούμε να εποπτεύσουμε.
ολες οι ειδησεις
- Ο καιρός της Παρασκευής: Τοπικές βροχές στα δυτικά και θερμοκρασία έως 28 βαθμούς – Η πρόγνωση
- Κεφαλονιά: Εξιχνιάστηκε η κλοπή χρηματοκιβωτίου με 6.000 € στη Σάμη
- Το «καλό» λίπος που καίει θερμίδες: Μπορεί η άσκηση να το ενεργοποιήσει; – Τι έδειξαν έρευνες στο παν. Θεσσαλίας
- Χανιά: Έκαναν οκτώ διαρρήξεις σε σπίτια και άρπαξαν χρήματα και κοσμήματα αξίας 95.000 ευρώ
Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, στο Newpost.gr