https://github.com/seohyunjun/paper-translator
Version History
v0.1.2 2023/6/15
ChatGPT API Update : gpt-3.5-turbo-16k
token 4k -> 16k (about 3 pages cover per 1 request)
https://openai.com/blog/function-calling-and-other-api-updates
올해 초에 gpt-3.5 터보와 gpt-4를 출시한 후 불과 몇 달 만에 개발자들이 이 모델을 기반으로 놀라운 애플리케이션을 개발하는 것을 보았습니다. (ex, Langchain)
Update
1) 채팅 완성 API에 새로운 함수 호출 기능 추가
2) 업데이트되고 더욱 조정 가능한 gpt-4 및 gpt-3.5-turbo 버전
3) gpt-3.5-turbo의 새로운 16k 컨텍스트 버전(표준 4K 버전 대비)
4) 최신 임베딩 모델에서 75% 비용 절감
5) gpt-3.5 터보의 입력 토큰에 대한 25% 비용 절감
6) GPT-3.5-TURBO-0301 및 GPT-4-0314 모델에 대한 지원 중단 일정 발표
이 모든 모델에는 3월 1일에 도입한 것과 동일한 데이터 프라이버시 및 보안 보장이 적용되며, 고객은 자신의 요청에서 생성된 모든 출력을 소유하고 API 데이터는 트레이닝에 사용되지 않습니다.
새로운 3.5 turbo ChatGPT는 4K token에서 16k로 논문 세 장의 분량을 요약없이 번역 가능해졌다. 또한 가격도 25% 낮아지고 최근 Langchain에서 가장 많이 사용하는 embedding 비용은 무려 75% 낮아졌다.
Function calling
gpt-3.5-turbo-0613에 함수를 설명할 수 있으며, 모델이 해당 함수를 호출하기 위한 인수가 포함된 JSON 객체를 출력하도록 지능적으로 선택할 수 있습니다. 이는 GPT의 기능을 외부 도구 및 API와 보다 안정적으로 연결할 수 있는 새로운 방법입니다.
Output을 Json으로 받게끔 해 함수를 사용할 수 있게 호출
ex)
- Create chatbots that answer questions by calling external tools (e.g., like ChatGPT Plugins)
Convert queries such as “Email Anya to see if she wants to get coffee next Friday” to a function call like send_email(to: string, body: string), or “What’s the weather like in Boston?” to get_current_weather(location: string, unit: 'celsius' | 'fahrenheit').
- Convert natural language into API calls or database queries
Convert “Who are my top ten customers this month?” to an internal API call such as get_customers_by_revenue(start_date: string, end_date: string, limit: int), or “How many orders did Acme, Inc. place last month?” to a SQL query using sql_query(query: string).
- Extract structured data from text
Define a function called extract_people_data(people: [{name: string, birthday: string, location: string}]), to extract all people mentioned in a Wikipedia article.
/v1/chat/complications 엔드포인트의 새로운 API 매개변수인 functions 및 function_call을 통해 활성화.
'Natural Language Processing' 카테고리의 다른 글
LLM Context 확장 불가능은 아니다. (token size 늘리기 정리) (0) | 2023.06.28 |
---|---|
Text Embedding + t-SNE Visualization (0) | 2023.06.22 |
LIMA : Less is More for Alignment (0) | 2023.06.13 |
paper-translator test (LIMA: Less Is More for Alignment) (0) | 2023.06.08 |
[Langchain] Paper-Translator (0) | 2023.06.05 |