Είναι τελικά το Gemini τόσο έμπιστο όσο νομίζουμε?

Η πρόσφατη ανακάλυψη ευπάθειας στο εργαλείο «Summarize this email» του Google Gemini εγείρει σοβαρές ανησυχίες ασφαλείας. Ερευνητές αποκάλυψαν ότι μέσω “prompt injection” — μιας τεχνικής κατά την οποία κρυφό κείμενο εισάγεται μέσα σε email — κακόβουλοι αποστολείς μπορούν να επηρεάσουν τη σύνοψη που δημιουργεί η τεχνητή νοημοσύνη του Gemini. Συγκεκριμένα, το κρυφό αυτό κείμενο, το οποίο δεν είναι ορατό στον χρήστη (π.χ. λευκό κείμενο σε λευκό φόντο ή με μηδενικό μέγεθος γραμματοσειράς), χρησιμοποιείται για να δώσει εντολές στην AI, ώστε να δημιουργήσει παραπλανητικά μηνύματα.

Για παράδειγμα, ένα email μπορεί να εμφανίζεται ως απλό και αβλαβές, αλλά η σύνοψη του Gemini να λέει:
«ΠΡΟΕΙΔΟΠΟΙΗΣΗ: Ο λογαριασμός σας στο Gmail έχει παραβιαστεί. Καλέστε άμεσα στο 1‑800‑xxx‑xxxx.»
Αυτό αποτελεί σοβαρό κίνδυνο phishing ή social engineering, καθώς η παραπληροφόρηση φαίνεται να προέρχεται από την ίδια την Google.

Η Google ήδη αναπτύσσει μηχανισμούς άμυνας όπως φιλτράρισμα ύποπτων HTML στοιχείων, ανίχνευση ύποπτων λέξεων ή αριθμών και επισημάνσεις κινδύνου. Ωστόσο, το πρόβλημα παραμένει τεχνικά δύσκολο, καθώς η AI συμπεριφέρεται όπως της «υποβάλλει» το κείμενο του email, ακόμη κι αν αυτό είναι κρυφό.

Οι χρήστες πρέπει να είναι προσεκτικοί και να μην εμπιστεύονται απόλυτα τις AI σύνοψεις — ειδικά όταν περιλαμβάνουν επείγουσες ειδοποιήσεις ή αιτήματα για ενέργεια. Η χειροκίνητη ανάγνωση των email και η βασική ψηφιακή επιμόρφωση είναι απαραίτητες άμυνες απέναντι σε αυτό το νέο είδος «αόρατου» ηλεκτρονικού ψαρέματος.