llm

L3: Multi-agent Custormer Support AutomationMulti-agent를 활용한 고객 지원 자동화 시스템 Role PlayingFocusToolsCooperationGuardrailsMemory 필수 패키지 설치!pip install crewai==0.28.8 crewai_tools==0.1.6 langchain_community==0.0.29 In [44]:# 간단한 warning 출력 무시import warningswarnings.filterwarnings(action='ignore')In [45]:# crewai 라이브러리 importfrom crewai import Agent, Task, CrewIn [46]:# utils.py# Add your utilities or..

Key elements of AI agentRole Playingrole에 따라 agent의 응답이 달라짐Tesla의 주가를 분석해 달라고 요청해보자.1. give me an analysis on tesla stock.더보기As of May 2024, Tesla's stock (TSLA) is facing a complex landscape with both significant challenges and potential opportunities.Current Performance and Outlook:Tesla's stock is currently trading around $177, having experienced a decline of approximately 31% year-to-date​ (..

“대한민국 법률 전문”을 가지고 OpenAI(ChatGPT), GOOGLE(Gemini), Antropic(Claude), Upstage(Solar)를 대상으로 embedding 후 token 수를 비교하는 실험을 진행 Goal : API로 제공되는 LLM 중 어떤 모델이 한국어 token을 가장 적게 사용하고 비용 저렴한지 비교 Input Text(대한민국헌법 전문, text length=373) 유구한 역사와 전통에 빛나는 우리들 대한국민은 기미 삼일운동으로 대한민국을 건립하여 세계에 선포한 위대한 독립정신을 계승하여 이제 민주독립국가를 재건함에 있어서 정의인도와 동포애로써 민족의 단결을 공고히 하며 모든 사회적 폐습을 타파하고 민주주의제제도를 수립하여 정치, 경제, 사회, 문화의 모든 영역에 있어..

LLM02:2023 데이터 유출 설명: 데이터 유출은 LLM이 응답을 통해 실수로 민감한 정보, 독점 알고리즘 또는 기타 기밀 세부 정보를 누출하는 경우 발생합니다. 이로 인해 민감한 데이터 또는 지적 재산에 대한 무단 액세스, 개인 정보 침해 및 기타 보안 위반이 발생할 수 있습니다. 일반적인 데이터 유출 취약점: LLM의 응답에서 민감한 정보를 불완전하거나 부적절하게 필터링하는 경우. LLM의 훈련 과정에서 민감한 데이터를 오버피팅하거나 메모리제이션하는 경우. LLM의 오해 또는 오류로 인해 기밀 정보가 무단으로 공개되는 경우. 예방 방법: LLM이 민감한 정보를 누출하지 않도록 엄격한 출력 필터링 및 문맥 인식 메커니즘을 구현합니다. LLM의 훈련 과정에서 차등 개인 정보 보호 기법이나 기타 데이터..

LangChain No using OpenAI API (1) QA를 위한 Document 불러오기 # Load and process the text files # loader = TextLoader("./data/texts") loader = DirectoryLoader('./pdf/', glob="./*.pdf", loader_cls=PyPDFLoader) documents = loader.load() # Document 분절 text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200) texts = text_splitter.split_documents(documents) (2) Embedding # HuggingF..