반갑습니다. 박민규입니다.

결론 부터 말하자면 Qwen3.6 35B-A3B BF16을Qwen3.6 35B-A3B fp8로 양자화하며 71gb -> 36gb에 dgx spark 한 기기로 성공했다 현재 제작 중인 레이첼의 전체적인 프로세스에서 파인튜닝 이후 양자화를 거쳐야 토큰 속도를 보장받을 수 있다고 생각하기 때문이며 대략 30tok/s 이상이 나오는 듯하다 레이첼은 정해진 기능만 수행하는 비서가 아닌 기능을 스스로 만드는 비서가 되길 원했다 레이첼은 정해진 기능만 수행하는 비서가 아니다필요한 기능을 스스로 조립하는 비서다나는 레이첼에게 하나의 도구만 쥐여주지 않았다크롤링하는 블록화면을 분석하는 블록웹사이트를 여는 블록코드를 작성하는 블록마치 스크래치처럼필요할 때마다 블록을 꺼내 엮는것이다가령 특정 웹사이트의 크롤링을 부탁한다..

2월에 Mac mini 64gb 를 구매하려고 300을 썼으나램 값 폭등으로 3개월 간 돈 묶인 사람이 되었고결국 주문 취소를 당해서 슬퍼하던 찰나 어차피 쿠다 쓰고 싶은데 냅다 질러버렸다. 이전에 사용하던 건 Lattepanda n150이라성능 체감이 확실히 나긴 할 것 같다 누누이 이야기 하지만 기계공학과 맞다AI하고 있고양자화랑 파인튜닝 쪽 파고 있지만 내 전공은 로봇 공학과이기에 실제로 여러 플젝도 진행해보고 있다 아무튼 개인적으로 개인 비서라는 것에 대한 필요성을 강하게 느꼈었고그 결과 레이첼을 만들었었는데N150에서 돌리기엔 부담이 컸고무엇보다 밤에 시끄러워서 잘 수 가 없었다 아무튼 현재 사용하는 모델은 Qwen3-Coder-Next - FP8Qwen3.6-35B-A3B- BF16사용하면서 ..

이전까지의 프로젝트에서 구현하지 못한 체계적인 파이프 라인을 다음과 같이 구성을 하였다 결국 바이브 코딩만 가능한 사람으로써 AI가 내 통제를 벗어나 디렉토리나 코드에 문제를 일으키는 경우가 잦았다따라서 보통 함수까지는 구현하고 바이브 코딩을 한다고 하던데,,,,아직 기술력 부족으로 그렇게 하지는 못했다 결국 작동 방식은 다음과 같다 1. 영상 소재 생성2. 영상 프롬포트 생성3. 영상 소재 프롬포트 분석4. 이미지 생성5. 이미지 생성 관리6. 음성 생성7. 음성 검증8. 비디오 합성9. 썸네일 생성10. 업로드 1 : 영상 소재 생성 사실 이번 프로젝트에서 가장 고심을 많이한 부분이다. 지난 '희원이 프로젝트'에서는 영상을 150개 가까이 만들었지만 외부 api에 의존해서 소재를 생성하는 자동화 공법..

어렸을 때 유튜버가 꿈일 때도 있었다.그런데 로봇을 만들기로 하니 유튜브랑 자연스럽게 멀어지더라 그러던 중 이런 알고리즘이 눈에 들어왔다그런데 보통 이런 영상들을 보면 자동화라는 이름 아래에서 100% 자동화를 본 적이 없다.또한 이미지 생성에 여러 생성형 인공지능(Gemini, ChatGPT등)을 사용하고 API 연동을 하기 때문에 필연적으로 지출이 발생하는 경우가 많았다. 나는 저런게 싫은데 말이지.... 그래서 직접 만들어 보기로 했다. (글을 작성하는 시점에서는 완성 되었다.) 다만 몇가지 제약 조건을 걸었다 1. 흥미를 끌 수 있는 소재를 사람이 제작하지 않고 로컬 AI로 구동할 것2. 제작에 불필요한 지출(API 포함)이 없을 것 - 단 노트북 구매, 전기세 등은 무시하자3. 이미지와 목소리가..

1. 왜 하필 설몽이냐?설몽은 雪夢 에서 착안한 것으로 시각장애인의 눈(目)은 손과 같고 점자에 포개어 올리는 모습이 마치 눈(雪)과 같다고 생각했다, 전체 뜻은 눈으로 꿈을 이룬다라는 뜻 2. 설몽으로는 현재 어떤 것을 하고 있는가?변리사님과 특허 출원 중에 있다, 대략 1월 초 중으로 특허 출원이 완료 될 듯하다. 특허가 나오면 매커니즘부분도 자세히 작성해보겠다. 3. 설몽으로 수상 할 것을 예상했는가?이전에 한이음에도 출전을 해서 탈락의 고배를 마셨다, 처음 설몽을 보는 사람들에게 말로 설명하면 이해를 못할 듯 했는데, 역시 아무도 이해를 못 했다. ESW 예선 합격 소식을 듣고 본선에서 시연을 하고 나서 기대를 많이 하긴 했지만 1등을 할지는 몰랐다, 그래서 더 기뻤다 4. 설몽에서 맡은 역할은?..

https://www.youtube.com/watch?v=mjYGMN9jhjE 1. 990원 빵만 있나-> 그렇지 않다 다른 빵도 있고 다른 가격의 소금빵도 있다2. 빵 값은 본인이 아닌 글로우서울이 책정하였다3. 소금빵이 990원만 있나?ㄴ 아니다, 1300원도 있다, 적자는 보지 않는다4.글로우 서울은 2027년 IPO를 목표로 한다ㄴ단 슈카는 글로우 서울의 주가를 하나도 들고 있지 않다5. 본론 : 빵 가격이 비싼 이유는 무엇인가(자영업자가 빵 가격을 내리기 어려운 이유는?) 5.1 슈카의 생각 :i) 높은 원재료 가격 (구조적인 이유)ii) 낮은 판매량(판매량이 낮으니 가격은 올라갈 수 밖에 없다) i)의 원인 :복잡한 유통구조, 영세화, 낮은 생산성, 식량주권i)의 방안 : 낮은 가격에 재료를 ..

시작이 반이라면환경 세팅은 60프로 정도인 것 같다 Jetson orin nano Jetpack 6.2 기준 pytorch 설치에 관해 겪었던 어려움들을 적어본다 1. 그래서 내 Cuda 버전이 몇이라고? 엔비디아 Gpu 가속에 Cuda는 원수이면서 친구이다다행히 젯슨 오린 나노의 os 제트팩에는 쿠다 버전이 명시되어 있다쿠다 12.6 이것에 맞는 파이토치 관련 패키지 설치를 해보자이전에 『python -m pip install --upgrade pip setuptools wheel && \python -m pip uninstall -y torch torchvision torchaudio && \python -m pip install --no-deps --force-reinstall \--index-ur..