1. 환경 설정

안내말씀

본인의 목적은 LLM GGML 모델 + Langchain + RAG를 이용하여 로컬에서 학교 업무 정보(주로 대입이 될듯?)를 알려주는 챗봇을 만드는데 있다. 이를 위해 아래의 서적을 공부하기로 했다.

LangChain으로 구현하는 LLM : 네이버 도서 (naver.com)

LangChain으로 구현하는 LLM : 네이버 도서

 

앞의 1장 2장은 알고 있는 내용이므로 패스한다.

3장. LangChain으로 시작하기 - 이 책을 위한 종속성 설정 방법 에서 환경을 Docker로 구성하기로 하였다.

엄청난 삽질 끝에 환경 구성을 성공하여 공유하고자 한다.

 

1. wsl2 제거

맨 처음 설치되어 있는 것 부터 제거하자 (두개 다 하면 잘 삭제되더라)

Windows에 설치한 WSL2 및 Ubuntu 삭제하는 방법

Windows에 설치한 WSL2 및 Ubuntu 삭제하는 방법

[WSL] 윈도우10에 설치된 WSL2 삭제 방법

[WSL] 윈도우10에 설치된 WSL2 삭제 방법

 

 

2.wsl2 설치하기(환경설정)

power셀을 관리자권한으로 열고 아래

dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart

dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart

그다음 wsl2 linux 커널 업데이트 하자. (커널 업데이트 패키지 다운로드 후 실행)

그다음

wsl --set-default-version 2

두가지 입력 후 재실행(아래 사이트 참고함)

[Linux] Windows 10에 WSL2 우분투 설치하기

[Linux] Windows 10에 WSL2 우분투 설치하기

 

 

3. wsl2 다른 드라이브에 설치하기

여기 참고함

[WSL] 리눅스 다른 드라이브 경로에 설치방법

[WSL] 리눅스 다른 드라이브 경로에 설치방법

wsl --import ubuntu-20.04 E:\\wsl\\ubuntu-20.04 E:\\install.tar.gz

이걸 실행하였음. E드라이브에 wsl 폴더를 안만들어주면 지정된 경로를 찾을 수 없습니다 에러발생

 

4. Docker 설치하기

[Docker] Windows10 환경에서 WSL2+Docker사용하기

[Docker] Windows10 환경에서 WSL2+Docker사용하기

 

5. Docker 실행하기

여기 참고함.

WSL2(Windows Subsystem for Linux 2) 설치 및 사용 방법

WSL2(Windows Subsystem for Linux 2) 설치 및 사용 방법

먼저 Windows Terminal 을 관리자 실행하고 터미널에서 새 탭 오른쪽의 아래쪽 방향 아이콘 클릭, Ubuntu를 선택하면 WSL2 우분투 배포판 쉘이 실행된다.

docker ps로 도커가 실행중임을 확인

ip addr show eth0으로 우분투 IP 주소 확인

 

6. Docker로 저자 깃헙 빌드하고 실행하기(feat. wrtn.ai, GPT-4)

1. 저장소 복제하기 먼저, benman1/generative_ai_with_langchain 저장소를 Git을 사용하여 복제해야 합니다. 이를 위해 터미널을 열고 다음 명령어를 입력하세요.
   git clone https:*//github.com/benman1/generative_ai_with_langchain.git*
2. 복제한 저장소 디렉토리로 이동하기 저장소를 성공적으로 복제한 후, 생성된 디렉토리로 이동해야 합니다. 이를 위해 다음 명령어를 사용하세요.
   cd generative_ai_with_langchain
3. Docker 이미지 빌드하기 이제 해당 디렉토리 내에서 Docker 이미지를 빌드할 수 있습니다. langchain_ai라는 태그를 사용하여 이미지를 빌드하려면 다음 명령어를 입력하세요
   docker build -t langchain_ai .
   명령어 끝에 있는 .는 현재 디렉토리(즉, Dockerfile이 위치한 디렉토리)를 가리킵니다.
4. Docker 컨테이너 실행하기
   doker run -it langchain_ai
   이걸로 실행하면 주피터 노트북 뜸. (여휴 힘들었다.)