렝체인 기초7 4-1(자동 팩트 체크) Langchain 비서 구축 LLM의 환각은 생성된 텍스트가 입력과 비교했을 때 충실하지 않거나 무의미한 것을 나타낸다. 환각에 대처하는 한 가지 기술은 자동 팩트 체크이다. 이는 LLM이 외부 소스의 증거에 대해 제시한 증거를 확인하는 것이다. 이를 통해 부정확하거나 검증되지 않는 진술을 감지할 수 있다. 사실 확인은 주로 세 단계로 이루어진다. 주장 감지: 검증이 필요한 부분 식별 증거 검색: 주장을 지지하거나 반박하는 소스 찾기 판결 예측(verdic prediction): 증거를 기반으로 주장의 진위 평가 마지막 두 단계는 정당성 생성(justification production)과 판결 예측이라는 용어로도 부른다. 사전 훈련된 LLM에는 프롬프트를 통해 얻을 수 있는 광범위한 세계 지식이 포함되어 있다. 지식 베이스, 위키.. 2024. 4. 19. 3. LangChain 시작해보기(GPT4ALL) 1. 환경 구성하기 도커 환경이 잘 안되서 그냥 아나콘다로 하기로 함! 아나콘다 설치 가상환경 생성 conda create -n my_gpt4all python=3.10 패키지 설치 pip install openai==0.28 pip install gradio==4.21 gradio 에러나면 에러부분 encoding을 ‘UTF-8’로 바꾸니까 되더라 pip install langchain pip install gpt4all pip install langchain_experimental pip install langchain_decorators pip install jupyter notebook → 여기서 에러날 수 있는데 chardet? 이거 설치하니까 되더라 허깅페이스 모델 내려받기 TheBloke/M.. 2024. 4. 18. 2. LLM 응용을 위한 LangChain 1. LangChain이란 무엇인가? 2022년 해리슨 체이스(Harrion Chase)에 개발되었으며 LLM을 기반으로 한 애플리케이션을 구축하기 위한 오픈 소스 파이썬 프레임워크이다. 개발자에게 언어 모델을 외부 데이터 소스 및 서비스에 연결하기 위한 모듈화된, 사용하기 쉬우 ㄴ구성 요소를 제공한다. LangChain은 재사용 가능한 구성 요소와 사전 구성된 체인을 제공하여 복잡한 LLM 응용의 개발을 간소화하였다. 모듈식 아키텍쳐는 LLM과 외부 서비스에 대한 접근을 통합된 인터페이스로 추상화한다. LangChain은 에이전트와 메모리를 통한 대화식 맥락 및 지속성과 같은 고급 상호 작용을 용이하게 하여 챗봇, 외부 데이터 수집 등이 가능해진다. 특히 체인, 에이전트, 메모리 및 도구 지원을 통해 .. 2024. 4. 15. 이전 1 2 다음
