Dr. Ács Gergely és Dr. Buttyán Levente, CrySyS

Prompt injection támadások Nagy nyelvi modellek ellen

"A nagy nyelvi modelleket (LLM) egyre több gyakorlati feladathoz használják azok kíváló utasításkövető képességei miatt. Ugyanakkor az LLM-eknek több sebezhetősége létezik, amelyek közül a prompt injection támadás az OWASP fenyegetettségi listáján az első helyen szerepel. Ennek oka, hogy a támadó könnyen ráveheti a modellt az adatrészbe ágyazott utasítás végrehajtására, mivel az nem képes megkülönböztetni az utasítást az adattól, hasonlóan egy SQL injection támadáshoz. Ebben az előadásban áttekintem a főbb ismert prompt injection támadásokat és védekezéseket nagy nyelvi modellek ellen."