Η τεχνητή νοημοσύνη εξελίσσεται με ιλιγγιώδεις ρυθμούς, προσφέροντας καινοτόμα εργαλεία σε πολλούς τομείς, αλλά ταυτόχρονα αυξάνονται και οι κίνδυνοι. Ο Πολωνός ερευνητής Borys Musielak το απέδειξε με τον πιο σαφή τρόπο: χρησιμοποίησε το ChatGPT-4o για να δημιουργήσει πλαστό διαβατήριο σε μόλις πέντε λεπτά, περνώντας με επιτυχία τους βασικούς ελέγχους ασφαλείας που χρησιμοποιούν μεγάλες πλατφόρμες όπως η Revolut και η Binance.
«Οι συνέπειες είναι προφανείς»
Ο ίδιος παρουσίασε το πείραμα στο Χ (πρώην Twitter), αναφέροντας χαρακτηριστικά:
«Μπορείτε πλέον να δημιουργήσετε πλαστά διαβατήρια με το GPT-4o. Μου πήρε 5 λεπτά για να δημιουργήσω ένα αντίγραφο του δικού μου διαβατηρίου που τα περισσότερα αυτοματοποιημένα συστήματα KYC (Know Your Customer) πιθανότατα θα αποδέχονταν χωρίς να αναβοσβήσουν».
You can now generate fake passports with GPT-4o.
It took me 5 minutes to create a replica of my own passport that most automated KYC systems would likely accept without blinking.
The implications are obvious –any verification flow relying on images as “proof” is now officially… pic.twitter.com/SNnH8zYMGq
— Borys Musielak @ Warsaw (@michuk) April 1, 2025
Σύμφωνα με τον Musielak, οι τρέχουσες μέθοδοι ταυτοποίησης που βασίζονται αποκλειστικά σε φωτογραφίες ή selfies είναι πλέον παρωχημένες, όπως αναφέρει και δημοσίευμα των Times of India. Η παραγωγική τεχνητή νοημοσύνη (GenAI) μπορεί να δημιουργήσει άκρως ρεαλιστικά έγγραφα, ικανά να ξεγελάσουν ακόμη και εξελιγμένα ψηφιακά συστήματα επαλήθευσης.
Από το Photoshop στην τεχνητή νοημοσύνη άλλαξαν όλα
Σε αντίθεση με τα παλιά εργαλεία επεξεργασίας, όπως το Photoshop, το ChatGPT-4o και παρόμοια εργαλεία δημιουργούν απομιμήσεις πιο γρήγορα, πιο πειστικά και με λιγότερο τεχνικό κόπο. Αυτό σημαίνει πως η παραγωγή ψεύτικων εγγράφων γίνεται πλέον παιχνίδι για οποιονδήποτε έχει βασικές γνώσεις πάνω στην τεχνητή νοημοσύνη.
Όπως αναφέρει το Tech News, η επίδειξη αυτή αποκαλύπτει ένα νέο επίπεδο κινδύνου: μαζική κλοπή ταυτότητας, απάτες με πιστωτικές αιτήσεις και δημιουργία ψεύτικων λογαριασμών, όλα σε βιομηχανική κλίμακα. Το γεγονός ότι ένα τέτοιο έγγραφο κατάφερε να παρακάμψει τις δικλείδες ασφαλείας πλατφορμών χρηματοοικονομικής τεχνολογίας δείχνει πόσο ευάλωτο είναι το σημερινό σύστημα.
Τα φίλτρα ασφαλείας του ChatGPT δεν είναι η λύση
Μετά τη δημοσιοποίηση του περιστατικού, το ChatGPT άρχισε να απορρίπτει αντίστοιχα αιτήματα για δημιουργία πλαστών εγγράφων, επικαλούμενο τις πολιτικές ασφαλείας του. Όμως, για τον Musielak, αυτή δεν είναι λύση.
«Η μόνη βιώσιμη πορεία είναι οι ψηφιακά επαληθευμένες ταυτότητες», τόνισε. Πρότεινε τη μετάβαση σε συστήματα όπως τα eID wallets που υποχρεωτικά εφαρμόζονται από την Ε.Ε. και βασίζονται σε υλική επαλήθευση μέσω NFC και chip — και όχι απλώς σε φωτογραφίες.
Ο ίδιος είναι συνιδρυτής της Authologic, μιας εταιρείας που δραστηριοποιείται στον τομέα της ψηφιακής ταυτοποίησης και υποστηρίζει ότι όσοι οργανισμοί χειρίζονται προσωπικά δεδομένα — από τραπεζικά ιδρύματα έως ταξιδιωτικά πρακτορεία και πλατφόρμες κρυπτονομισμάτων — οφείλουν να αναβαθμίσουν επειγόντως τα πρωτόκολλά τους.
Αμφισβητείται το μέλλον της ταυτότητας
Το περιστατικό του Musielak δεν είναι μεμονωμένο, αλλά αποτελεί καμπανάκι για το μέλλον της ψηφιακής ασφάλειας. Αν η τεχνητή νοημοσύνη μπορεί να παρακάμψει τα βασικά εργαλεία επαλήθευσης ταυτότητας, τότε το ερώτημα δεν είναι «πώς θα προστατευτούμε;» αλλά αν μπορούμε πλέον να εμπιστευτούμε οτιδήποτε βλέπουμε στην οθόνη.
