[Gemini-pro] 구글 잼미니 Pro, beta 무료

 

Google Bard = Gemini - pro

 

 google gemini 라인업(2023.12.6)이 공개된지 벌써 2달이 넘어가지만 API며 사용자를 찾기 어렵다. 그만큼 OpenAI,  Open source LLM이 사람들의 관심이 쏠려 있는데 Gemini-pro, 그것도  GPT-3 혹은 GPT-3.5에 준하는 모델이 무료 API로 사용이 가능한데 안 쓸 이유가 없다. (단, 데이터 학습 재사용 허용) 

 

 

제공 API Spec.

https://ai.google.dev/models/gemini?hl=ko

Gemini 모델  |  Google AI for Developers

Gemini Pro	모델 최종 업데이트	2023년 12월
	모델 코드	models/gemini-pro
	모델 기능	입력: 텍스트 출력: 텍스트 텍스트를 생성합니다. 멀티턴 대화 형식을 처리할 수 있습니다. 제로, 1, 퓨샷 작업을 처리할 수 있습니다.
	지원되는 생성 방법	generateContent
	입력 토큰 한도	30720
	출력 토큰 한도	2048
	모델 안전성	안전 설정이 자동으로 적용되며 개발자가 조정할 수 있습니다. 자세한 내용은 안전 설정 주제를 참고하세요.
	비율 제한	요청 60개/분
Gemini Pro 비전	모델 최종 업데이트	2023년 12월
	모델 코드	models/gemini-pro-vision
	모델 기능	입력: 텍스트 및 이미지 출력: 텍스트 멀티모달 입력, 텍스트, 이미지를 사용할 수 있습니다. 제로, 1, 퓨샷 작업을 처리할 수 있습니다.
	지원되는 생성 방법	generateContent
	입력 토큰 한도	12288
	출력 토큰 한도	4096
	모델 안전성	안전 설정이 자동으로 적용되며 개발자가 조정할 수 있습니다. 자세한 내용은 안전 설정 주제를 참고하세요.
	비율 제한	요청 60개/분
Embedding	모델 최종 업데이트	2023년 12월
	모델 코드	models/embedding-001
	모델 기능	입력: 텍스트 출력: 텍스트 입력 텍스트의 텍스트 임베딩을 생성합니다. 최대 2,048개 토큰의 텍스트에 대한 임베딩을 만드는 데 최적화되어 있습니다.
	지원되는 생성 방법	embedContent
	모델 안전성	조정할 수 있는 안전 설정이 없습니다.
	비율 제한	요청 1,500개/분

 

  LLM의 기본 API를 모두 지원하니 무료로 RAG 구현이 가능하다. 

 

Python Gemini-Pro API  

1) API Key 생성 [Create API Key].  

https://makersuite.google.com/app/apikey

 

2) 모듈 설치 (python version >= 3.9)

pip install google-generativeai

https://github.com/google/generative-ai-python

GitHub - google/generative-ai-python: The Google AI Python SDK enables developers to use Google's state-of-the-art generative AI

 

3)  model load

import google.generativeai as genai

GOOGLE_API_KEY = '...' # input your API_KEY 
genai.configure(api_key=GOOGLE_API_KEY)

for m in genai.list_models():
    if 'generateContent' in m.supported_generation_methods:
        print(m.name)
# supported_generation_methods
# models/gemini-pro
# models/gemini-pro-vision

model = genai.GenerativeModel('gemini-pro') # gemini-pro

 

4)  content generative 

response = model.generate_content("Bard랑 Gemini랑 다른게 뭐야?")
print(response.text)  # cold.

 

* **목적:** Bard는 대화를 주도하고 정보를 제공하도록 설계된 반면 Gemini는 인간의 질문에 답하도록 설계되었습니다.
* **지식 기반:** Bard는 Google의 광범위한 지식 기반을 사용하지만 Gemini는 사전 정의된 정보만 사용합니다.
* **구성:** Bard는 대규모 언어 모델(LLM)이며 Gemini는 규칙 기반 시스템입니다.
* **유연성:** Bard는 새로운 정보를 학습하고 새로운 작업에 적응할 수 있지만 Gemini는 그렇지 않습니다.
* **창의성:** Bard는 창의적인 응답을 생성할 수 있지만 Gemini는 그렇지 않습니다.
* **인간과의 상호 작용:** Bard는 인간과 자연스럽고 대화식 방식으로 상호 작용할 수 있지만 Gemini는 그렇지 않습니다.

 

정리

 gemini의 장점을 꼽자면 google의 장점인 검색기능 즉 최신 정보에 대한 답변이 놀라울 정도로 잘 반영되어 있다. openai의 3개월 주기 학습 보다 더 나은 결과를 제공한다. 하지만 치명 적인 단점으로는 출력 토큰 제한과 이용 제한이 현재는 걸려있다. 무료 사용의 경우 자신의 prompt를 재학습 되는 것을 동의하고 사용하기 때문에 주의해야한다. 영어의 경우 prompt를 잘 이해하고 instruction 또한 잘 수행한다. 다만 한국어의 경우 글자 수 제한이나  특정 도메인에 대한 답변이 부정확하다. 

Create a list of 8 questions for an interview with a science fiction author.
ChatGPT 3.5	Gemini-pro
1. Can you tell us a bit about your background and what inspired you to become a science fiction author? 2. How do you approach world-building in your science fiction novels? What elements do you prioritize when creating a believable and immersive fictional universe? 3. Science fiction often explores societal or technological advancements. What themes or ideas do you find most fascinating to explore in your writing? 4. How do you balance scientific accuracy with imaginative storytelling in your science fiction works? 5. Many science fiction authors use their stories as a platform to comment on contemporary issues. How do you incorporate social or political commentary into your writing, if at all? 6. Can you share any unique challenges or difficulties you've encountered while writing science fiction, and how you overcame them? 7. Science fiction often explores the potential impact of technology on society. In your opinion, what responsibilities do science fiction authors have in shaping public perception or understanding of emerging technologies? 8. Can you discuss any upcoming projects or ideas you're currently working on, and what readers can expect from your future science fiction novels?	Certainly! Here's a list of 8 engaging questions to ask a science fiction author during an interview: 1. What do you consider to be some of the most groundbreaking and thought-provoking science fiction concepts that have been explored in literature or film? 2. How do you find inspiration for your futuristic worlds, characters, and stories? Do you draw upon current scientific advancements or look to historical and cultural influences? 3. How do you balance the exciting and imaginative aspects of science fiction with the need for realism and plausibility? 4. What are some of the ethical and philosophical questions that you intentionally incorporate into your works? Do you aim to provoke discussion and reflexión among your readers? 5. What role do scientific accuracy and technological feasibility play in your creative process? Do you consult with experts or conduct extensive research to ensure the authenticity of your science fiction scenarios? 6. How do you view the relationship between science fiction and society? Do you believe that your work as a science fiction author has the potential to influence or shape cultural perceptions of technology, space exploration, and the future? 7. Are there any particular science fiction tropes or subgenres that you find particularly appealing or challenging to write? 8. Could you share your thoughts on the current and future impact of artificial intelligence, space colonization, o