본문 바로가기

전체 글125

2. Open-WebUI : 모델 추가하고 사용해 보기 Open WebUI는 오픈 소스이며, 사용자의 컴퓨터 리소스만 사용해 개인 정보를 보호하고 인터넷 연결 없이도 사용 가능하다. Meta, Microsoft, Google 등의 다양한 대형 언어 모델을 다운로드하여 사용할 수 있으며, 프롬프트를 저장하고 재사용하는 기능도 제공한다. 또한, 개발자 커뮤니티에서 제공하는 다양한 도구와 모델을 무료로 이용할 수 있으며, ChatGPT API를 통해 Open AI 모델도 통합할 수 있다. Ollama는 GGUF 포맷의 언어모델을 구동하므로 원본보다 부하가 덜 하다. 그러나,사용하기 전에 Q4 양자와 기준, 7B ~ 11B CPU에서 구동하려면 최소 16GB 이상의 RAM을 추천한다.내 경험상 ~ 7B는 16GB, ~13B는 32GB, ~32B는 64GB의 램이 안.. 2025. 3. 2.
1. 환경 설정하기(ollama, dspy, open-webui) DSPy를 사용하기 위해서는 먼저 환경을 구성해야 한다.기본적으로 miniconda 설치 -> 가상환경 생성 -> jupyter notebook은 설치했다고 가정한다. 사실 지금까지 dspy 2.5를 사용하고 있었는데 dspy가 2.6으로 업데이트 되면서 더 이상 LlamaCpp를 지원하지 않는다!ㅜㅜ LiteLLM 방식으로 불러온다고 하는데 가장 간단한 방법이 뭐가 있을까 하다가 찾아본 것이 바로 Ollama이다.  모델은 LG AI의 EXAONE 3.5를 사용하겠다. (수학, 과학 잘하면서도 한국어, 영어 잘한다. 그리고 내가 물리교사라서 그런지 몰라도 물리 물어보면 gemma보다는 나름 대답 잘한다.) 그리고 ollama를 설치한 김에, open-webui도 함께 설치해 보겠다. 1. Ollama .. 2025. 3. 1.
8. PyQt5 쓰레드로 동영상 재생 제어하기 1. 동영상 재생 중 삭제 구현하기쓰레드를 이용하여 opencv로 불러낸 동영상의 재생을 제어해 보자.이젠 동영상 재생 중 삭제가 가능하다. (아직 일시정지 구현 전이다.) import sys, cv2from PyQt5.QtWidgets import *from PyQt5.QtGui import * import timefrom queue import Queuefrom threading import Threaddef open_movie(): print("동영상 불러오기를 성공하였습니다.")class MyWindow(QMainWindow): def __init__(self): super().__init__() self.setWindowTitle("physics.. 2024. 11. 27.
7. PyQt5 쓰레드 사용하기 6. PyQt5와 opencv 연동하기 : 동영상 불러오기 6. PyQt5와 opencv 연동하기 : 동영상 불러오기이번도 악보쓰는 프로그래머 블로그를 참고하였다.OpenCV(Python) + PyQt OpenCV(Python) + PyQtOpenCV로 영상처리나 컴퓨터 비전을 처리하고 나서 결과를 화면에 표시하려면 결국 창을 띄워야 하는데, OpenCVtoyourlight.tistory.com저번 포스트에서 PyQt5 이벤트 loop에 함부로 반복문을 사용하면 안된다고 하였다. 반복문에 진입하게 되면 이벤트 loop이 막히기 때문이다. 아래는 그러한 문제를 발생시키는 예시이다. 카운트 시작이라는 버튼을 누르면 0.5초가 지날 때 마다 1씩 감소하는 코드다. 여기서 '카운트 초기화'라는 버튼을 눌러도 카.. 2024. 11. 25.

티스토리툴바