[OWASP-LLM] Top 10 List for Large Language Models version 0.1 - (3) Inadequate Sandboxing

LLM03:2023 Inadequate Sandboxing

설명:
부적절한 샌드박싱은 LLM이 외부 리소스나 민감한 시스템에 접근할 때 적절하게 격리되지 않는 상태를 말합니다. 이는 잠재적인 악용, 무단 접근, 또는 LLM에 의한 의도하지 않은 동작을 초래할 수 있습니다.

일반적인 부적절한 샌드박싱 취약점:

• LLM 환경을 다른 중요한 시스템이나 데이터 저장소와 충분히 분리하지 못하는 경우
• LLM이 적절한 제한 없이 민감한 리소스에 접근할 수 있는 경우
• 시스템 수준의 동작이나 다른 프로세스와의 상호작용과 같은 LLM의 기능을 제한하지 못하는 경우

예방 방법:

• LLM 환경을 다른 중요한 시스템과 리소스로부터 격리하기 위해 적절한 샌드박싱 기술을 구현합니다.
• LLM의 민감한 리소스 접근을 제한하고, 의도한 목적을 위해 필요한 최소한의 기능만 허용합니다.
• LLM의 환경과 접근 제어를 정기적으로 감사하고 검토하여 적절한 격리가 유지되도록 합니다.
• LLM 상호작용을 모니터링하고 로그를 기록하여 샌드박싱 문제를 감지하고 분석합니다.

예시 공격 시나리오:

• 시나리오 #1: 공격자는 LLM이 민감한 데이터베이스에 접근할 수 있는 상황을 악용하여 LLM에게 기밀 정보를 추출하고 공개하도록 명령을 조작합니다.
• 시나리오 #2: LLM이 시스템 수준의 동작을 수행할 수 있으며, 공격자는 LLM을 조작하여 기밀되지 않은 명령을 실행하도록 합니다.

부적절한 샌드박싱과 관련된 위험을 이해하고 대응함으로써 개발자는 자신들의 LLM 구현을 보다 안전하고 안정적으로 보호할 수 있습니다.