
[OWASP-LLM] Top 10 List for Large Language Models version 0.1 - (4) Unauthorized Code Execution
·
🏃 Routine
LLM04:2023 무단 코드 실행 설명: 무단 코드 실행은 공격자가 LLM을 통해 자연어 프롬프트를 통해 기반이 되는 시스템에서 악성 코드, 명령 또는 동작을 실행하는 경우 발생합니다. 일반적인 무단 코드 실행 취약점: 사용자 입력의 살균화 또는 제한이 충분하지 않아, 공격자가 무단 코드 실행을 유발하는 프롬프트를 조작할 수 있습니다. LLM의 기능에 대한 적절한 격리 또는 제한이 되지 않아 기반이 되는 시스템과 의도하지 않은 방식으로 상호 작용할 수 있습니다. LLM에 시스템 수준의 기능 또는 인터페이스를 무심코 노출시킵니다. 예방 방법: LLM에서 악의적이거나 예상치 못한 프롬프트가 처리되지 않도록 엄격한 입력 유효성 검사 프로세스를 구현합니다. 적절한 격리 및 LLM의 기능 제한을 통해 기반이 되..