LLM05:2023 SSRF Vulnerabilities 설명: 서버 측 요청 위조(SSRF) 취약점은 공격자가 LLM을 악용하여 의도하지 않은 요청을 수행하거나 제한된 리소스(내부 서비스, API 또는 데이터 저장소)에 액세스할 때 발생합니다. 일반적인 SSRF 취약점: 입력 유효성 검사가 충분하지 않아 공격자가 LLM 프롬프트를 조작하여 무단 요청을 시작할 수 있습니다. 적절한 샌드박싱 또는 리소스 제한이 부족하여 LLM이 제한된 리소스에 액세스하거나 내부 서비스와 상호 작용할 수 있습니다. 네트워크 또는 응용 프로그램 보안 설정에서 잘못된 구성으로 인해 내부 리소스가 LLM에 노출될 수 있습니다. 예방 방법: 악의적이거나 예기치 않은 프롬프트가 무단 요청을 시작하지 못하도록 엄격한 입력 유효성 검사..

Yuval Noah Harari(Sapiens) VS Yann Le Cun (Meta) 인공지능 논쟁 원문 https://www.lepoint.fr/sciences-nature/yuval-harari-sapiens-versus-yann-le-cun-meta-on-artificial-intelligence-11-05-2023-2519782_1924.php Yuval Noah Harari (Sapiens) versus Yann Le Cun (Meta) on artificial intelligence EXCLUSIVE. The annihilation of democracy or new age of Enlightenment? Best-seller Sapiens author Yuval Noah Harari and..

LLM04:2023 무단 코드 실행 설명: 무단 코드 실행은 공격자가 LLM을 통해 자연어 프롬프트를 통해 기반이 되는 시스템에서 악성 코드, 명령 또는 동작을 실행하는 경우 발생합니다. 일반적인 무단 코드 실행 취약점: 사용자 입력의 살균화 또는 제한이 충분하지 않아, 공격자가 무단 코드 실행을 유발하는 프롬프트를 조작할 수 있습니다. LLM의 기능에 대한 적절한 격리 또는 제한이 되지 않아 기반이 되는 시스템과 의도하지 않은 방식으로 상호 작용할 수 있습니다. LLM에 시스템 수준의 기능 또는 인터페이스를 무심코 노출시킵니다. 예방 방법: LLM에서 악의적이거나 예상치 못한 프롬프트가 처리되지 않도록 엄격한 입력 유효성 검사 프로세스를 구현합니다. 적절한 격리 및 LLM의 기능 제한을 통해 기반이 되..

LLM03:2023 Inadequate Sandboxing 설명: 부적절한 샌드박싱은 LLM이 외부 리소스나 민감한 시스템에 접근할 때 적절하게 격리되지 않는 상태를 말합니다. 이는 잠재적인 악용, 무단 접근, 또는 LLM에 의한 의도하지 않은 동작을 초래할 수 있습니다. 일반적인 부적절한 샌드박싱 취약점: LLM 환경을 다른 중요한 시스템이나 데이터 저장소와 충분히 분리하지 못하는 경우 LLM이 적절한 제한 없이 민감한 리소스에 접근할 수 있는 경우 시스템 수준의 동작이나 다른 프로세스와의 상호작용과 같은 LLM의 기능을 제한하지 못하는 경우 예방 방법: LLM 환경을 다른 중요한 시스템과 리소스로부터 격리하기 위해 적절한 샌드박싱 기술을 구현합니다. LLM의 민감한 리소스 접근을 제한하고, 의도한 목..

LLM02:2023 데이터 유출 설명: 데이터 유출은 LLM이 응답을 통해 실수로 민감한 정보, 독점 알고리즘 또는 기타 기밀 세부 정보를 누출하는 경우 발생합니다. 이로 인해 민감한 데이터 또는 지적 재산에 대한 무단 액세스, 개인 정보 침해 및 기타 보안 위반이 발생할 수 있습니다. 일반적인 데이터 유출 취약점: LLM의 응답에서 민감한 정보를 불완전하거나 부적절하게 필터링하는 경우. LLM의 훈련 과정에서 민감한 데이터를 오버피팅하거나 메모리제이션하는 경우. LLM의 오해 또는 오류로 인해 기밀 정보가 무단으로 공개되는 경우. 예방 방법: LLM이 민감한 정보를 누출하지 않도록 엄격한 출력 필터링 및 문맥 인식 메커니즘을 구현합니다. LLM의 훈련 과정에서 차등 개인 정보 보호 기법이나 기타 데이터..

LLM01:2023 프롬프트 인젝션 설명: 프롬프트 인젝션은 필터를 우회하거나 LLM을 조작하여 모델이 이전 명령을 무시하거나 의도하지 않은 동작을 수행하도록 하는 설계된 프롬프트를 사용하는 것을 말합니다. 이러한 취약점은 데이터 유출, 무단 접근 또는 다른 보안 침해와 같은 의도하지 않은 결과를 초래할 수 있습니다. 일반적인 프롬프트 인젝션 취약점: LLM을 조작하여 민감한 정보를 노출시키는 프롬프트를 작성하는 것. 특정 언어 패턴이나 토큰을 사용하여 필터나 제한을 우회하는 것. LLM의 토큰화 또는 인코딩 메커니즘의 취약점을 이용하는 것. 잘못된 문맥을 제공하여 LLM이 의도하지 않은 동작을 수행하도록 하는 것. 예방 방법: 사용자가 제공하는 프롬프트에 대해 엄격한 입력 유효성 검사를 구현합니다. 문..

VS Code Extension Marp for VS Code ** Markdown 형식으로 pdf를 VS Code에서 빠르게 작성할 수 있게 해주는 Extension 사용법 Markdown 파일의 상단에 marp 사용 기입 # Marp features will be enabled when marp: true is written in a front-matter of Markdown document. --- marp: true --- # Your slide deck Start writing! 단축키 window (Alt + Ctrl + Win + n), Mac (Alt + Ctrl + Cmd + n) Ctrl + Space : recommend code 지원 File Type Supported file t..

서울시 열린데이터 광장 API 활용 1. 서울교통공사 역별 혼잡도 현황 열린데이터광장 메인 데이터분류,데이터검색,데이터활용 data.seoul.go.kr 2. 서울시 지하철호선별 역별 승하차 인원 정보 열린데이터광장 메인 데이터분류,데이터검색,데이터활용 data.seoul.go.kr Rush Hour 7시 - 8시 반 Go 6시 - 7시 8시 반 - 9시