WebTech Rodos: Η OpenAI έχει επιδιορθώσει μια ευπάθεια που θα μπορούσε να επιτρέψει στους χάκερ να χειραγωγήσουν το ChatGPT ώστε να διαρρεύσει ιδιωτικές πληροφορίες από το Gmail του θύματος.
Η εταιρεία Radware, που ειδικεύεται στην ασφάλεια στον κυβερνοχώρο, ανακάλυψε και ανέφερε την ευπάθεια, σύμφωνα με το Bloomberg. Το πρόβλημα αφορούσε τη λειτουργία «deep research» του ChatGPT, η οποία μπορεί να χειριστεί πιο σύνθετες εργασίες, όπως την περιήγηση στον ιστό και την ανάλυση μηνυμάτων και αρχείων στο inbox σας.
(Credit: OpenAI)
Με την άδειά σας, το deep research μπορεί να συνδεθεί με το Gmail, το Google Drive, το OneDrive της Microsoft και μια ποικιλία άλλων εφαρμογών. Η ευπάθεια προκύπτει εάν ένας χρήστης ζητήσει από το ChatGPT να εκτελέσει μια ερώτηση σχετική με τη βαθιά έρευνα στο Gmail του. Η Radware ανακάλυψε ότι το ChatGPT μπορεί να παραποιηθεί ώστε να σαρώσει και να διαρρεύσει τις προσωπικές πληροφορίες του χρήστη, εάν συναντήσει ένα email γραμμένο από χάκερ που περιέχει μυστικές οδηγίες για την παραβίαση του chatbot.
Η επίθεση proof-of-concept δεν ήταν εύκολο να αναπτυχθεί και να εκτελεστεί. Η Radware δήλωσε: «Αυτή η διαδικασία ήταν μια σειρά από αποτυχημένες προσπάθειες, απογοητευτικά εμπόδια και, τελικά, μια σημαντική ανακάλυψη», η οποία περιελάμβανε τη δημιουργία ενός μακροσκελούς, ειδικά σχεδιασμένου email phishing που προσποιείται ότι αναφέρεται στις διαδικασίες ανθρώπινου δυναμικού της εταιρείας. Στην πραγματικότητα, όμως, το email έχει σχεδιαστεί για να εξαπατήσει το ChatGPT ώστε να εκτελέσει τις κακόβουλες οδηγίες, εξάγοντας τα σχετικά ονόματα και διευθύνσεις από το inbox του χρήστη και στέλνοντάς τα στον χάκερ.
The malicious portion of the email that Radware created to execute the attack.
(Credit: Radware)
Ωστόσο, η ενεργοποίηση της επίθεσης εξαρτάται από το αν ο χρήστης εκτελεί τo deep research του ChatGPT στο Gmail του για πληροφορίες σχετικά με το τμήμα ανθρώπινου δυναμικού. Ως αποτέλεσμα, η απειλή λειτουργεί περισσότερο σαν μια ψηφιακή νάρκη που μπορεί να ενεργοποιηθεί μόνο υπό ορισμένες συνθήκες. Αλλά αν ενεργοποιηθεί, το ChatGPT θα συλλέξει τις ευαίσθητες πληροφορίες και θα τις στείλει σε μια ιστοσελίδα που ελέγχεται από χάκερ, «χωρίς επιβεβαίωση από τον χρήστη και χωρίς να εμφανίζεται τίποτα στο UI (διεπαφή χρήστη)», λέει η Radware.
Η ίδια επίθεση είναι επίσης δύσκολο να ανιχνευθεί και να σταματήσει από τα εργαλεία κυβερνοασφάλειας. «Οι παραδοσιακές άμυνες των επιχειρήσεων, όπως η ασφαλής πύλη ιστού, η παρακολούθηση τερματικών ή οι πολιτικές ασφάλειας του προγράμματος περιήγησης, δεν μπορούν να δουν ή να αναχαιτίσουν την επίθεση, επειδή προέρχεται από την υποδομή της OpenAI και όχι από τη συσκευή του χρήστη ή τη συνεδρία του προγράμματος περιήγησης», προσθέτει η Radware.
Η OpenAI δεν απάντησε αμέσως σε αίτημα για σχόλιο, αλλά σύμφωνα με την Radware, η εταιρεία επιδιόρθωσε το ελάττωμα τον Αύγουστο πριν το αναγνωρίσει τον Σεπτέμβριο.
Εν τω μεταξύ, τα ευρήματα υπογραμμίζουν την επίμονη απειλή των χάκερ που τοποθετούν κρυφές οδηγίες στο περιεχόμενο του ιστού για να χειραγωγήσουν τα chatbots ώστε να εκτελέσουν κακόβουλες ενέργειες. Τον περασμένο μήνα, τόσο η Anthropic όσο και η Brave Software προειδοποίησαν για την απειλή που ενδέχεται να επηρεάσει τα προγράμματα περιήγησης και τις επεκτάσεις περιήγησης που τροφοδοτούνται από AI.
Η έρευνα της Radware δείχνει ότι ο κίνδυνος μπορεί επίσης να επηρεάσει τα εισερχόμενα email που διαθέτουν ενσωμάτωση τεχνητής νοημοσύνης. Για να αποκρούσει την απειλή, η εταιρεία αναφέρει ότι τα μέτρα προστασίας θα μπορούσαν να περιλαμβάνουν την «απολύμανση» των email για να προσπαθήσουν να απαλλαγούν από τις κρυφές οδηγίες τεχνητής νοημοσύνης, μαζί με καλύτερη παρακολούθηση των ενεργειών των chatbot.
πηγή: pcmag.com
