Ορολογία
Τι είναι: Prompt injection
Prompt injection είναι επίθεση όπου κακόβουλες οδηγίες κρύβονται σε κείμενο ή δεδομένα ώστε ένα AI να παρακάμψει τους κανόνες του.
Καθώς οι επιχειρήσεις συνδέουν AI assistants με email, αρχεία και συστήματα, μια κρυμμένη οδηγία σε ένα έγγραφο μπορεί να «ξεγελάσει» το AI ώστε να διαρρεύσει δεδομένα ή να εκτελέσει ενέργειες. Είναι βασικός κίνδυνος στην ασφαλή υιοθέτηση AI.