렝체인7 4-2-1(정보요약, 기본 프롬프팅) Langchain 비서 구축 2. 정보 요약 빠르게 변화하는 요즘 환경에서는 지속적으로 증가하는 정보 양에 대응하는 것이 어렵다. 특히 컴퓨터 과학 및 AI 분야는 더욱 그렇다. 수 많은 논문을 읽고 이해하는 것에 시간이 너무 많이 소요된다. 이 때 자동화가 중요한 역할을 한다. LLM은 강력한 언어 이해 능력을 통해 텍스트를 간추리는 데 뛰어나다. LangChain을 사용해 요약 기술을 더욱 정교한 수준으로 탐색해 보자. 1. 기본 프롬프팅(데코레이터 사용하기) 몇 문장을 요약할 때는 기본 프롬프팅이 잘 작동한다. 원하는 길이를 지정하고 텍스트를 제공하면 된다. # text = "Pluto (minor-planet designation: 134340 Pluto) is a dwarf planet in the Kuiper belt, .. 2024. 4. 22. 4-1(자동 팩트 체크) Langchain 비서 구축 LLM의 환각은 생성된 텍스트가 입력과 비교했을 때 충실하지 않거나 무의미한 것을 나타낸다. 환각에 대처하는 한 가지 기술은 자동 팩트 체크이다. 이는 LLM이 외부 소스의 증거에 대해 제시한 증거를 확인하는 것이다. 이를 통해 부정확하거나 검증되지 않는 진술을 감지할 수 있다. 사실 확인은 주로 세 단계로 이루어진다. 주장 감지: 검증이 필요한 부분 식별 증거 검색: 주장을 지지하거나 반박하는 소스 찾기 판결 예측(verdic prediction): 증거를 기반으로 주장의 진위 평가 마지막 두 단계는 정당성 생성(justification production)과 판결 예측이라는 용어로도 부른다. 사전 훈련된 LLM에는 프롬프트를 통해 얻을 수 있는 광범위한 세계 지식이 포함되어 있다. 지식 베이스, 위키.. 2024. 4. 19. 2. LLM 응용을 위한 LangChain 1. LangChain이란 무엇인가? 2022년 해리슨 체이스(Harrion Chase)에 개발되었으며 LLM을 기반으로 한 애플리케이션을 구축하기 위한 오픈 소스 파이썬 프레임워크이다. 개발자에게 언어 모델을 외부 데이터 소스 및 서비스에 연결하기 위한 모듈화된, 사용하기 쉬우 ㄴ구성 요소를 제공한다. LangChain은 재사용 가능한 구성 요소와 사전 구성된 체인을 제공하여 복잡한 LLM 응용의 개발을 간소화하였다. 모듈식 아키텍쳐는 LLM과 외부 서비스에 대한 접근을 통합된 인터페이스로 추상화한다. LangChain은 에이전트와 메모리를 통한 대화식 맥락 및 지속성과 같은 고급 상호 작용을 용이하게 하여 챗봇, 외부 데이터 수집 등이 가능해진다. 특히 체인, 에이전트, 메모리 및 도구 지원을 통해 .. 2024. 4. 15. 이전 1 2 다음