렝체인 기초7 4-4(추론 전략 탐색) Langchain 비서 구축 4. 추론 전략 탐색LLM은 데이터의 패턴 인식에는 뛰어나지만, 복잡한 다단계 문제에 필요한 상징적 추론에 어려움을 보이기도 한다. 신경망 패턴 완성과 의도적인 상징적 조작을 결합한 고급 추론 전략을 구현해 볼 수 있다.사실들의 체인에서 결론을 도출하기 위한 다단계 연역 추론방정식을 변형의 연속을 통해 풀어내는 수학적 추론문제를 최적의 일련의 동작으로 분해하기 위한 계획 전술명시적인 추론 단계와 함께 도구를 통합함으로써 에이전트는 추상화와 상상력이 필요한 문제에 대처할 수 있으며 복잡한 세계에 대한 복잡한 이해를 얻어 더 의미 있는 대화를 나눌 수 있다.관찰 종속적 추론(observation-dependent reasoning)에서 에이전트는 LLM에게 생각과 동작을 생성하기 위해 반복적으로 맥락과 예제.. 2024. 4. 27. 4-3-2(시각 인터페이스 구축) Langchain 비서 구축 Streamlit을 이용할 것이다.아래는 streamlit 기초 튜토리얼 자료이다. 주피터노트북 파일이 아닌 파이썬 파일(.py)로 실행해야 하기 때문에 myapp.py로 작성하였다.import streamlit as stst.title("Streamlit Test")st.write("hello world")st.write("""# MarkDown> comment- one- two- three""")이 상태에서 Anaconda Powershell Prompt에 실행하면 주피터노트북과 포트가 겹치는 것으로 보인다. 따라서 포트를 다른 것으로 바꿔 줘야 한다. streamlit run E:\Tuning_LLM\myapp.py --server.port 30001 출력 결과!챗봇을 만들어 보자.from lan.. 2024. 4. 25. 4-3-1(툴을 사용한 질문 응답) Langchain 비서 구축 3. 툴을 사용한 질문 응답1. 툴을 사용한 정보 검색Langchain에서는 다양한 도구를 사용할 수 있다. 아래 코드는 LangChain 라이브러리를 이용하여 특정 질문에 대한 답변을 생성하는데 이 과정에서 Duck Duck go 검색, Arxiv, Wikipedia을 활용하는 예제이다.%%time# from langchain.agents import AgentExecutor, AgentType, initialize_agent, load_toolsfrom langchain.callbacks.streaming_stdout import StreamingStdOutCallbackHandler#위에서 선언하였음.# from langchain.llms import GPT4All# model = "E:\\GPT4.. 2024. 4. 23. 4-2-1(정보요약, 기본 프롬프팅) Langchain 비서 구축 2. 정보 요약 빠르게 변화하는 요즘 환경에서는 지속적으로 증가하는 정보 양에 대응하는 것이 어렵다. 특히 컴퓨터 과학 및 AI 분야는 더욱 그렇다. 수 많은 논문을 읽고 이해하는 것에 시간이 너무 많이 소요된다. 이 때 자동화가 중요한 역할을 한다. LLM은 강력한 언어 이해 능력을 통해 텍스트를 간추리는 데 뛰어나다. LangChain을 사용해 요약 기술을 더욱 정교한 수준으로 탐색해 보자. 1. 기본 프롬프팅(데코레이터 사용하기) 몇 문장을 요약할 때는 기본 프롬프팅이 잘 작동한다. 원하는 길이를 지정하고 텍스트를 제공하면 된다. # text = "Pluto (minor-planet designation: 134340 Pluto) is a dwarf planet in the Kuiper belt, .. 2024. 4. 22. 이전 1 2 다음
