[Langchain] paper-translator

https://github.com/seohyunjun/paper-translator 

GitHub - seohyunjun/paper-translator: pdf paper translator

 

Version History

v0.1.2 2023/6/15

ChatGPT API Update : gpt-3.5-turbo-16k
token 4k -> 16k (about 3 pages cover per 1 request)

 

https://openai.com/blog/function-calling-and-other-api-updates 

Function calling and other API updates

 

올해 초에 gpt-3.5 터보와 gpt-4를 출시한 후 불과 몇 달 만에 개발자들이 이 모델을 기반으로 놀라운 애플리케이션을 개발하는 것을 보았습니다. (ex, Langchain)

 

Update

1) 채팅 완성 API에 새로운 함수 호출 기능 추가
2) 업데이트되고 더욱 조정 가능한 gpt-4 및 gpt-3.5-turbo 버전
3) gpt-3.5-turbo의 새로운 16k 컨텍스트 버전(표준 4K 버전 대비)
4) 최신 임베딩 모델에서 75% 비용 절감
5) gpt-3.5 터보의 입력 토큰에 대한 25% 비용 절감
6) GPT-3.5-TURBO-0301 및 GPT-4-0314 모델에 대한 지원 중단 일정 발표

 

 이 모든 모델에는 3월 1일에 도입한 것과 동일한 데이터 프라이버시 및 보안 보장이 적용되며, 고객은 자신의 요청에서 생성된 모든 출력을 소유하고 API 데이터는 트레이닝에 사용되지 않습니다.

 

새로운 3.5 turbo ChatGPT는 4K token에서 16k로 논문 세 장의 분량을 요약없이 번역 가능해졌다. 또한 가격도 25% 낮아지고 최근 Langchain에서 가장 많이 사용하는 embedding 비용은 무려 75% 낮아졌다. 

 

Function calling

 gpt-3.5-turbo-0613에 함수를 설명할 수 있으며, 모델이 해당 함수를 호출하기 위한 인수가 포함된 JSON 객체를 출력하도록 지능적으로 선택할 수 있습니다. 이는 GPT의 기능을 외부 도구 및 API와 보다 안정적으로 연결할 수 있는 새로운 방법입니다. 

 Output을 Json으로 받게끔 해 함수를 사용할 수 있게 호출

 

ex)

• Create chatbots that answer questions by calling external tools (e.g., like ChatGPT Plugins)

Convert queries such as “Email Anya to see if she wants to get coffee next Friday” to a function call like send_email(to: string, body: string), or “What’s the weather like in Boston?” to get_current_weather(location: string, unit: 'celsius' | 'fahrenheit').

• Convert natural language into API calls or database queries

Convert “Who are my top ten customers this month?” to an internal API call such as get_customers_by_revenue(start_date: string, end_date: string, limit: int), or “How many orders did Acme, Inc. place last month?” to a SQL query using sql_query(query: string).

• Extract structured data from text

Define a function called extract_people_data(people: [{name: string, birthday: string, location: string}]), to extract all people mentioned in a Wikipedia article.

/v1/chat/complications 엔드포인트의 새로운 API 매개변수인 functions 및 function_call을 통해 활성화.