[OWASP-LLM] Top 10 List for Large Language Models version 0.1 - (2) Data Leakage
ยท
๐Ÿƒ Routine
LLM02:2023 ๋ฐ์ดํ„ฐ ์œ ์ถœ ์„ค๋ช…: ๋ฐ์ดํ„ฐ ์œ ์ถœ์€ LLM์ด ์‘๋‹ต์„ ํ†ตํ•ด ์‹ค์ˆ˜๋กœ ๋ฏผ๊ฐํ•œ ์ •๋ณด, ๋…์  ์•Œ๊ณ ๋ฆฌ์ฆ˜ ๋˜๋Š” ๊ธฐํƒ€ ๊ธฐ๋ฐ€ ์„ธ๋ถ€ ์ •๋ณด๋ฅผ ๋ˆ„์ถœํ•˜๋Š” ๊ฒฝ์šฐ ๋ฐœ์ƒํ•ฉ๋‹ˆ๋‹ค. ์ด๋กœ ์ธํ•ด ๋ฏผ๊ฐํ•œ ๋ฐ์ดํ„ฐ ๋˜๋Š” ์ง€์  ์žฌ์‚ฐ์— ๋Œ€ํ•œ ๋ฌด๋‹จ ์•ก์„ธ์Šค, ๊ฐœ์ธ ์ •๋ณด ์นจํ•ด ๋ฐ ๊ธฐํƒ€ ๋ณด์•ˆ ์œ„๋ฐ˜์ด ๋ฐœ์ƒํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ผ๋ฐ˜์ ์ธ ๋ฐ์ดํ„ฐ ์œ ์ถœ ์ทจ์•ฝ์ : LLM์˜ ์‘๋‹ต์—์„œ ๋ฏผ๊ฐํ•œ ์ •๋ณด๋ฅผ ๋ถˆ์™„์ „ํ•˜๊ฑฐ๋‚˜ ๋ถ€์ ์ ˆํ•˜๊ฒŒ ํ•„ํ„ฐ๋งํ•˜๋Š” ๊ฒฝ์šฐ. LLM์˜ ํ›ˆ๋ จ ๊ณผ์ •์—์„œ ๋ฏผ๊ฐํ•œ ๋ฐ์ดํ„ฐ๋ฅผ ์˜ค๋ฒ„ํ”ผํŒ…ํ•˜๊ฑฐ๋‚˜ ๋ฉ”๋ชจ๋ฆฌ์ œ์ด์…˜ํ•˜๋Š” ๊ฒฝ์šฐ. LLM์˜ ์˜คํ•ด ๋˜๋Š” ์˜ค๋ฅ˜๋กœ ์ธํ•ด ๊ธฐ๋ฐ€ ์ •๋ณด๊ฐ€ ๋ฌด๋‹จ์œผ๋กœ ๊ณต๊ฐœ๋˜๋Š” ๊ฒฝ์šฐ. ์˜ˆ๋ฐฉ ๋ฐฉ๋ฒ•: LLM์ด ๋ฏผ๊ฐํ•œ ์ •๋ณด๋ฅผ ๋ˆ„์ถœํ•˜์ง€ ์•Š๋„๋ก ์—„๊ฒฉํ•œ ์ถœ๋ ฅ ํ•„ํ„ฐ๋ง ๋ฐ ๋ฌธ๋งฅ ์ธ์‹ ๋ฉ”์ปค๋‹ˆ์ฆ˜์„ ๊ตฌํ˜„ํ•ฉ๋‹ˆ๋‹ค. LLM์˜ ํ›ˆ๋ จ ๊ณผ์ •์—์„œ ์ฐจ๋“ฑ ๊ฐœ์ธ ์ •๋ณด ๋ณดํ˜ธ ๊ธฐ๋ฒ•์ด๋‚˜ ๊ธฐํƒ€ ๋ฐ์ดํ„ฐ..
๋‹คํ–ˆ๋‹ค
'DataLeakage' ํƒœ๊ทธ์˜ ๊ธ€ ๋ชฉ๋ก
์ƒ๋‹จ์œผ๋กœ

ํ‹ฐ์Šคํ† ๋ฆฌํˆด๋ฐ”