Llama

NotesOllama로 Mac 메모장에서 자동 한글 번역을 사용해보자! NotesOllama는 메모장에서 OpenLLM 구동할 수 있게 해주는 Application이다. Obsidia Ollama에서 영감을 받아 만들었다고 한다. Good~ 사용 요구사항은 Ollama가 구동 되어야한다. 각설 제외~ 하고 바로 Go~ 1) Ollama 설치 https://ollama.com/download Download Ollama on macOS Download Ollama on macOS ollama.com 2) NotesOllama 설치 https://smallest.app/notesollama/ NotesOllama NotesCmdr Slash commands, markdown and templates for ..

Llama-Index with Pinecone 이 노트북에서는 semantic-search를 위해 Pinecone과 llama-index(이전의 GPT-index) 라이브러리를 사용하는 방법을 보여준다. 이 노트북은 llama-index의 예시이며 향후 릴리스에서는 Pinecone 예제 저장소에서 찾을 수 있습니다. 1) install packages !pip install -qU llama-index datasets pinecone-client openai transformers 2) SQuAD dataset Load Wikipedia(context-title) from datasets import load_dataset data = load_dataset('squad', split='train') d..

BACKGROUND & STATE OF THE ART 자연어 처리(NLP) 영역에서 언어 모델은 과거 입력 토큰의 시퀀스를 사용하여 토큰(예: 단어)을 생성하는 데 사용됩니다. 대용량 언어 모델(Large Language Models, LLMs)은 이 공간에서의 최신 딥러닝 혁신으로, 인간과 유사한 방식으로 텍스트를 생성하기 위해 설계되었습니다. 이러한 모델은 일반적으로 입력 토큰의 큰 시퀀스에 대한 주의를 개선하기 위해 transformer를 사용합니다. LLaMA는 1조 개 이상의 토큰으로 훈련된 강력한 기반 LLM으로, Meta AI에서 오픈 소스로 제공됩니다. LLaMA는 GPT-3, Chinchilla, PaLM과 같은 많은 최고의 모델과 경쟁력을 가지고 있습니다. LLaMA (13B)는 GPT..