LIMA : Less is More for Alignment
·
🗣️ Natural Language Processing
Large language model을 두 단계 스텝으로 학습 비교 (1) raw text에서 비지도 학습을 통해 일반적인 대화 문장(general-purpose) 학습 (2) large scale instruction tuning과 강화 학습을 통해 human preference modeling [Experiment] 테스트를 위해 1000개의 실제 유저 프롬프트와 high-quality 응답을 선별. 750개의 질문과 답변을 Community forum에서 선별(Stack Exchang, wikiHow) 추가로 250개의 질문과 답변을 수동으로 작성 (Alignment style) LLaMa [Touvron et al., 2023] 65B parameter model에 fine-tuning [Resu..
[digitalOcean] digitalOcean + Slack ChatBot
·
🐍 Python
더보기 https://www.digitalocean.com/community/tech-talks/building-your-first-slackbot-with-python Building Your First Slackbot With Python | DigitalOcean www.digitalocean.com
[VS Code] Marp for VS Code
·
🏃 Routine
VS Code Extension Marp for VS Code ** Markdown 형식으로 pdf를 VS Code에서 빠르게 작성할 수 있게 해주는 Extension 사용법 Markdown 파일의 상단에 marp 사용 기입 # Marp features will be enabled when marp: true is written in a front-matter of Markdown document. --- marp: true --- # Your slide deck Start writing! 단축키 window (Alt + Ctrl + Win + n), Mac (Alt + Ctrl + Cmd + n) Ctrl + Space : recommend code 지원 File Type Supported file t..
paper-translator test (LIMA: Less Is More for Alignment)
·
🗣️ Natural Language Processing
Test paper alignment Markdown format tranlslate LIMA: 어울림에 있어서는 적은 것이 더 좋다 Chunting Zhou, Pengfei Liu, Puxin Xu, Srini Iyer, Jiao Sun, Yuning Mao, Xuezhe Ma, Avia Efrat, Ping Yu, Lili Yu, Susan Zhang, Gargi Ghosh, Mike Lewis, Luke Zettlemoyer, Omer Levy 메타 AI, 카네기 멜론 대학교, 남가주 대학교, 텔아비브 대학교 요약 대형 언어 모델은 두 단계로 훈련됩니다. (1) 원시 텍스트에서 무감독 사전 훈련을 통해 일반적인 목적의 표현을 학습하고 (2) 대규모 지도 튜닝 및 강화 학습을 통해 최종 작업 및 사용..
[Langchain] Paper-Translator
·
🗣️ Natural Language Processing
https://github.com/seohyunjun/paper-translator GitHub - seohyunjun/paper-translator: pdf paper translator pdf paper translator. Contribute to seohyunjun/paper-translator development by creating an account on GitHub. github.com [paper] https://arxiv.org/abs/2304.06035 Choose Your Weapon: Survival Strategies for Depressed AI Academics Are you an AI researcher at an academic institution? Are you an..
[Copilot] GitHub Copilot vs GitHub Copilot Nightly
·
🐍 Python
https://github.com/orgs/community/discussions/7074 Difference between Github Copilot and Github Copilot Nightly. · community · Discussion #7074 Hi, while I was searching for Copilot on Visual Studio Code I noticed that there are two versions of it, the normal one, and a "Nightly" version. My question is, what's the difference between these... github.com Nightly A nightly build is a neutral build..
[2023-6] 더 브레인
·
📚 Book
David Eagleman
[2023-5] AI 이후의 세계
·
📚 Book
헨리 키신저 관련 주제 : https://www.lepoint.fr/sciences-nature/yuval-harari-sapiens-versus-yann-le-cun-meta-on-artificial-intelligence-11-05-2023-2519782_1924.php Yuval Noah Harari (Sapiens) versus Yann Le Cun (Meta) on artificial intelligence EXCLUSIVE. The annihilation of democracy or new age of Enlightenment? Best-seller Sapiens author Yuval Noah Harari and Meta head of research Yann LeCun debate. www..
다했다
'분류 전체보기' 카테고리의 글 목록 (19 Page)