Huggingface3 🤗huggingface LLM 개발을 위한 아나콘다 환경 구성 며칠전에 안 사실인데 🤗bitsandbyte라는 허깅페이스 양자화에 필요한 라이브러리가 0.43 이후부터 윈도우를 공식! 지원한단다! 이거때문에 wsl2 설치하고 우분투 환경 구성한거 생각하면...https://github.com/bitsandbytes-foundation/bitsandbytes/issues/1131=0.43.0 Instead of opening multiple individual issues, please use this issue to give us fee..." data-og-host="github.com" data-og-source-url="https://github.com/bitsandbytes-foundation/bitsandbytes/issues/1131" data-og-u.. 2024. 7. 16. 5-1(챗봇이란?, 임베딩) 챗봇 만들기 LLM 기반 챗봇들은 고객 서비스와 같은 대화영 작업에서는 유창하나. 세계 지식이 부족하기 때문에 주제별 질문에는 잘 답변을 못한다. 이를 극복하기 위해 RAG를 통해 어떻게 해결할 수 있는지 탐구해 본다.핵심은 문서를 벡터 임베딩으로 말뭉치(corpus)를 인코딩해 신속한 의미 검색을 가능하게 하고, 검색 결과를 챗봇의 프롬프트에 통합하는 것이다.주요 주제(Topic)챗봇이란 무엇인가?검색과 벡터의 이해LangChain에서의 로딩 및 검색챗봇 구현응답 중재1. 챗봇이란 무엇인가?챗봇이란, 텍스트 또는 음성을 통한 대화 상호 작용 시뮬레이션 AI 프로그램이다. GPT-3와 같은 LLM 출현은 ChatGPT(2022)와 같은 더 인간적인 챗봇 시스템을 가능하게 하였으나, 그 능력은 여전히 상당히 제한적이다.. 2024. 5. 2. 🤗 [시작하기] 1. 허깅페이스 트랜스포머 라이브러리란? 거대 언어 모델(LLM)이 대세가 된 요즘, 이러한 라이브러리를 공부해야 겠다는 생각이 들었다. 인터넷에서 자료를 찾아가면서 공부하는데 항상 🤗트랜스포머 라이브러리가 나오더라고... 안되겠다 싶어 공부하면서 나름 정리한 내용을 블로그로 포스팅 하기로 했다. (참고로 🤗허깅페이스, 🤗트랜스포머, 🤗PEFT 등 🤗허깅페이스와 '라이브러리'와 관련된 이야기는 무조건 이모지 🤗를 붙이는게 관례(?) 라고 한다.) 그냥 번역해서 복사, 붙여넣기 하면 재미없지... 튜토리얼을 공부하면서 내가 생각하고 구상한 모델을 예시로 넣을 것이다. 잘 될진 안될지 모르것다. 지금 생각은 llama 등과 같은 큰 모델 말고 roberta 같은 작은 모델부터 시작하려고 한다. 공부하다가 틈틈히 '자연어 처리를 위한 트랜스포머' 책.. 2023. 8. 25. 이전 1 다음
