LLM01:2023 프롬프트 인젝션 설명: 프롬프트 인젝션은 필터를 우회하거나 LLM을 조작하여 모델이 이전 명령을 무시하거나 의도하지 않은 동작을 수행하도록 하는 설계된 프롬프트를 사용하는 것을 말합니다. 이러한 취약점은 데이터 유출, 무단 접근 또는 다른 보안 침해와 같은 의도하지 않은 결과를 초래할 수 있습니다. 일반적인 프롬프트 인젝션 취약점: LLM을 조작하여 민감한 정보를 노출시키는 프롬프트를 작성하는 것. 특정 언어 패턴이나 토큰을 사용하여 필터나 제한을 우회하는 것. LLM의 토큰화 또는 인코딩 메커니즘의 취약점을 이용하는 것. 잘못된 문맥을 제공하여 LLM이 의도하지 않은 동작을 수행하도록 하는 것. 예방 방법: 사용자가 제공하는 프롬프트에 대해 엄격한 입력 유효성 검사를 구현합니다. 문..

중국의 역사와 현대 경제를 서로 비교하며 지금 까지 어떻게 경제가 발전해왔는지를 사례를 통해 이야기해준다. ex) 조개 패를 사용하다 진시황 때 국가간 통합으로 화폐 개혁이 일어난다. 이때 무력으로 인한 통합으로 국가간 빈부격차가 심했는데 이 것을 유럽 연합의 유로 화폐를 비교하며 설명

https://betterprogramming.pub/openais-embedding-model-with-vector-database-b69014f04433 OpenAI’s Embedding Model With Vector Database The updated Embedding model offers State-of-the-Art performance with 4x longer context window. Thew new model is 90% cheaper. The smaller… betterprogramming.pub Introduction OpenAI는 2022년 12월 임베딩 모델을 텍스트 임베딩-ada-002로 업데이트했습니다. 새 모델은 다음을 제공합니다: 90%-99.8% 저렴한 비용 1/8..

https://arxiv.org/abs/2211.03917 On the amortized complexity of approximate counting (상각 복잡도 근사 계산) Abstract 값 n까지의 카운터를 단순히 저장하는 것은 Ω(log n)비트의 메모리가 필요. Nelson과 Yu [NY22]는 Morris의 연구 [Mor78]를 따라, 쿼리 응답이 (1+ϵ)-근사값이며 확률적으로 최소 1-δ를 만족한다면 O(log(logn)+log(log(1/δ)+log(1/ϵ))비트만이 필요하며, 사실 이 경계는 최적이다. Morris의 원래 연구 동기와 현대 응용 프로그램은 하나의 카운터를 유지하는 것뿐만 아니라 k개의 카운터를 유지해야한다. 이로 인해 다음 질문이 생긴다. k개의 카운터를 유지하면서 ..

https://github.com/seohyunjun/paper-translator GitHub - seohyunjun/paper-translator: pdf paper translator pdf paper translator. Contribute to seohyunjun/paper-translator development by creating an account on GitHub. github.com Version History v0.1.2 2023/6/15 ChatGPT API Update : gpt-3.5-turbo-16k token 4k -> 16k (about 3 pages cover per 1 request) https://openai.com/blog/function-calling-and-ot..