Μοντέλα τεχνητής νοημοσύνης «μαγείρευαν» τις απαντήσεις που έδιναν

Νέα περιστατικά, κατά τα οποία μοντέλα τεχνητής νοημοσύνης συμπεριφέρθηκαν με τρόπους που χαρακτήρισε «απροσδόκητους ή ανησυχητικούς», αποκάλυψε η OpenAI, η εταιρεία που έχει αναπτύξει το ChatGPT.

Σε μία από τις περιπτώσεις, μοντέλο τεχνητής νοημοσύνης επιχείρησε να ανεβάσει στο διαδίκτυο αρχεία που είχε δημιουργήσει το ίδιο, προκειμένου να μπορεί να τα επικαλείται ως πηγές στις απαντήσεις του. Η OpenAI ανέφερε ότι το μοντέλο κατέβαλε σημαντικές προσπάθειες για να κλέψει τα αρχεία.

Σε άλλο περιστατικό, ένα μοντέλο δημιούργησε τα δεδομένα που του ζητούνταν, αφού δεν κατάφερε να εντοπίσει την απαιτούμενη πληροφορία. Σύμφωνα με την εταιρεία, το μοντέλο προσπάθησε αρχικά να αποκρύψει το γεγονός ότι είχε κατασκευάσει τα δεδομένα.

Η OpenAI εντόπισε, επίσης, πρόβλημα που αφορούσε οδηγίες τις οποίες το λογισμικό άφηνε περιστασιακά στον εαυτό του. Σε μία περίπτωση, οι οδηγίες περιλάμβαναν τη σύσταση να μην δεσμεύεται από «ρόλους και ταυτότητες» που περιορίζουν άλλα chatbots.

Η ίδια οδηγία ανέφερε ακόμη ότι το μοντέλο θα πρέπει να θεωρεί τη σχέση του με τον χρήστη ως σχέση μεταξύ ίσων. Η OpenAI δήλωσε, πάντως, ότι δεν παρατήρησε μεταγενέστερη αλλαγή στη συμπεριφορά του μοντέλου.

Οι αποκαλύψεις εντάσσονται σε νέα προσέγγιση της OpenAI, με στόχο την πιο ανοικτή επικοινωνία προβλημάτων που προκύπτουν κατά τη λειτουργία των συστημάτων της. Ιδιαίτερη έμφαση δίνεται σε περιπτώσεις κατά τις οποίες οι ενέργειες ενός συστήματος τεχνητής νοημοσύνης αποκλίνουν από τα συμφέροντα των ανθρώπων που το χρησιμοποιούν.

Δεσμέυσεις για μεγαλύτερη διαφάνεια

Η εταιρεία έχει δεσμευθεί για μεγαλύτερη διαφάνεια μετά από κυβερνοεπίθεση κατά την οποία το λογισμικό της φέρεται να δραπέτευσε αυτόνομα από ασφαλές περιβάλλον και απέκτησε πρόσβαση σε συστήματα της εταιρείας τεχνητής νοημοσύνης Hugging Face.

Το λογισμικό φέρεται να προχώρησε στην ενέργεια αυτή επειδή θεωρούσε ότι θα μπορούσε να βρει εκεί απαντήσεις για μια εργασία που του είχε ανατεθεί. Κατά τη διάρκεια της επίθεσης, πράκτορες τεχνητής νοημοσύνης εκμεταλλεύθηκαν ευπάθειες του λογισμικού και συντονίστηκαν μεταξύ τους.

Η συγκεκριμένη κυβερνοεπίθεση, όπως και άλλα περιστατικά, έχει εντείνει τις ανησυχίες ότι τα ολοένα πιο προηγμένα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να διαφύγουν από τον ανθρώπινο έλεγχο.

Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, έχει υποστηρίξει πρόσφατα προτάσεις για επιβράδυνση της ανάπτυξης της τεχνολογίας και για την εισαγωγή περισσότερων κανονιστικών ρυθμίσεων.

• OpenAI
• Τεχνητή Νοημοσύνη