Skip to main content

#Prompt Injection

Το Prompt Injection είναι τεχνική "παραπλάνησης" LLMs μέσω κακόβουλων prompts.
Επεξήγηση:

Το Prompt Injection είναι ένα είδος επίθεσης όπου κάποιος εισάγει προσεκτικά διαμορφωμένα prompts για να χειραγωγήσει την απόκριση ενός LLM. Μπορεί να οδηγήσει σε αποκάλυψη πληροφοριών ή ανεπιθύμητη συμπεριφορά. Είναι σημαντικό ζήτημα ασφάλειας στο χώρο των LLMs.