Chatbox, gemini API로 로컬 챗봇 환경 구현하기

딸깍으로 아주 쉽게 구현하는 API활용, 로컬 챗봇 만들기

Chatbox와 gemini API를 이용하여 로컬 챗봇 환경을 구현해 보자.

 

API란?

•Application programming interface 약자

•서로 다른 앱, 프로그램에서 소프트웨어를 통신하는 방법

•쉽게 얘기해, OpenAi api를 지원하는 곳에서는 Chatgpt를 사용할 수 있다!

•일반적으로 사용하는 만큼 지불하는 것이 특징

•모델별로 가격이 천차만별이다.
https://yourgpt.ai/tools/openai-and-other-llm-api-pricing-calculator

•Gemini가 가성비가 좋다고 생각한다.

 

Chatbox

•최근 로컬(Local)에서 인공지능을 구동하고자 하는 요구가 많음.

•많은 프로그램이 있지만 초보자 입장에서 쉽게 ‘클릭’으로 구현할 수 있는 로컬 인공지능 애플리케이션

•Chat: 기본적인 챗봇 기능. 다양한 AI 모델을 선택하여 자유롭게 대화 가능.

•Code: 코드 생성, 디버깅, 설명 등 코딩 관련 작업 지원.

•Art: 이미지 생성, 편집 등 예술 및 디자인 작업 지원.

•Agent: 복잡한 작업 자동화, 개인 비서 역할 수행.

•Data: 데이터 분석, 시각화 등 데이터 관련 작업 지원.

•API: Chatbox 기능을 외부 서비스와 연동할 수 있는 API 제공.

 

 

 

1. Chatbox 설치하기

•Chatboxai.app (ctrl 누르고 클릭)

•또는 구글에 Chatbox 검색 후 접속

•Free Download(for Windows) 클릭

•프로그램 설치

 

2. Chatbox 환경설정

• 내 자체 API 키 / 로컬 모델 사용

• 원하는 모델 공급자 선택
• 이번 예제에서는 Google Gemini API 사용할 것이므로 Google Gemini API 클릭

 

• Gemini API 를 발급받아야 함 .

 

 

 

3. Gemini API 키 발급하기

• https://aistudio.google.com/ ( 또는 google ai studio 검색 )
• 우측 상단 Get API key 클릭

• 우측 상단 API 키 만들기 클릭

• 키 생성하고 복사 , 안전한 곳에 붙여넣고 보관

• 무료보단 유료 버전이 훨씬 낫고 가격도 괜찮습니다.

• 결재 설정을 클릭합니다 .

• 결재 계정이 아닐 수 있습니다 . 결제 계정을 연결합니다 .

• 두 가지를 선택하고 계속을 클릭합니다 .

• 2 단계 개인 정보를 입력하고 계속을 누릅니다 .

• 결재 정보를 등록하고 ( 카드등록 ) 무료로 시작하기를 클릭합니다 .

• 완료되었습니다 !적당히 선택하고 완료를 누릅니다

• 다시 google AI studio 로 돌아가서 , 새로고침을 하면 아래와 같이 무료가 ‘ Tier 1’ 으로  변경되어 있을 것입니다.

 

 

4. ChatBox 에 Gemini API 연동하기

• 다시 ChatBox 모델의 Google GEMINI API 로 들어가서 발급받은 API 키 입력 , 모델은 원하는 대로 선택합니다. 
 ( 본인은 gemini 최고 성능 모델 선택 )
• 모두 입력 후 저장을 누릅니다 .

 

 

5. 작동 확인하기

새로운 채팅 → 웹 브라우징 → 채팅시작

 

 

6. 단점

•ChatBox가 설치된 곳에서만 실행 가능,

•즉, 플러스 결재 처럼 20$의 경우 인터넷만 되면 모두 접속이 가능한데 이 방법은 불가능 즉, 채팅 이력을 어디서든 볼 수는 없다.

•두 가지 방법이 있다.
(1) AI를 주로 사용하는 업무용 컴퓨터에 설치(기존 과정, 채팅 이력 공유 X)

(2) 서버 컴퓨터 지정, open-webui 등 웹 애플리케이션을 설치하고 호스팅을 이용하여 접속하는 방법