분류 전체보기

https://betterprogramming.pub/openais-embedding-model-with-vector-database-b69014f04433 OpenAI’s Embedding Model With Vector Database The updated Embedding model offers State-of-the-Art performance with 4x longer context window. Thew new model is 90% cheaper. The smaller… betterprogramming.pub Introduction OpenAI는 2022년 12월 임베딩 모델을 텍스트 임베딩-ada-002로 업데이트했습니다. 새 모델은 다음을 제공합니다: 90%-99.8% 저렴한 비용 1/8..

https://arxiv.org/abs/2211.03917 On the amortized complexity of approximate counting (상각 복잡도 근사 계산) Abstract 값 n까지의 카운터를 단순히 저장하는 것은 Ω(log n)비트의 메모리가 필요. Nelson과 Yu [NY22]는 Morris의 연구 [Mor78]를 따라, 쿼리 응답이 (1+ϵ)-근사값이며 확률적으로 최소 1-δ를 만족한다면 O(log(logn)+log(log(1/δ)+log(1/ϵ))비트만이 필요하며, 사실 이 경계는 최적이다. Morris의 원래 연구 동기와 현대 응용 프로그램은 하나의 카운터를 유지하는 것뿐만 아니라 k개의 카운터를 유지해야한다. 이로 인해 다음 질문이 생긴다. k개의 카운터를 유지하면서 ..

https://github.com/seohyunjun/paper-translator GitHub - seohyunjun/paper-translator: pdf paper translator pdf paper translator. Contribute to seohyunjun/paper-translator development by creating an account on GitHub. github.com Version History v0.1.2 2023/6/15 ChatGPT API Update : gpt-3.5-turbo-16k token 4k -> 16k (about 3 pages cover per 1 request) https://openai.com/blog/function-calling-and-ot..

Large language model을 두 단계 스텝으로 학습 비교 (1) raw text에서 비지도 학습을 통해 일반적인 대화 문장(general-purpose) 학습 (2) large scale instruction tuning과 강화 학습을 통해 human preference modeling [Experiment] 테스트를 위해 1000개의 실제 유저 프롬프트와 high-quality 응답을 선별. 750개의 질문과 답변을 Community forum에서 선별(Stack Exchang, wikiHow) 추가로 250개의 질문과 답변을 수동으로 작성 (Alignment style) LLaMa [Touvron et al., 2023] 65B parameter model에 fine-tuning [Resu..

더보기 https://www.digitalocean.com/community/tech-talks/building-your-first-slackbot-with-python Building Your First Slackbot With Python | DigitalOcean www.digitalocean.com

VS Code Extension Marp for VS Code ** Markdown 형식으로 pdf를 VS Code에서 빠르게 작성할 수 있게 해주는 Extension 사용법 Markdown 파일의 상단에 marp 사용 기입 # Marp features will be enabled when marp: true is written in a front-matter of Markdown document. --- marp: true --- # Your slide deck Start writing! 단축키 window (Alt + Ctrl + Win + n), Mac (Alt + Ctrl + Cmd + n) Ctrl + Space : recommend code 지원 File Type Supported file t..

Test paper alignment Markdown format tranlslate LIMA: 어울림에 있어서는 적은 것이 더 좋다 Chunting Zhou, Pengfei Liu, Puxin Xu, Srini Iyer, Jiao Sun, Yuning Mao, Xuezhe Ma, Avia Efrat, Ping Yu, Lili Yu, Susan Zhang, Gargi Ghosh, Mike Lewis, Luke Zettlemoyer, Omer Levy 메타 AI, 카네기 멜론 대학교, 남가주 대학교, 텔아비브 대학교 요약 대형 언어 모델은 두 단계로 훈련됩니다. (1) 원시 텍스트에서 무감독 사전 훈련을 통해 일반적인 목적의 표현을 학습하고 (2) 대규모 지도 튜닝 및 강화 학습을 통해 최종 작업 및 사용..

https://github.com/seohyunjun/paper-translator GitHub - seohyunjun/paper-translator: pdf paper translator pdf paper translator. Contribute to seohyunjun/paper-translator development by creating an account on GitHub. github.com [paper] https://arxiv.org/abs/2304.06035 Choose Your Weapon: Survival Strategies for Depressed AI Academics Are you an AI researcher at an academic institution? Are you an..