주의사항: 저는 해당 소프트웨어나 회사와 아무런 관련이 없으며, 이 정보를 어떻게 활용하시든 그 책임은 본인에게 있어요. 항상 법과 윤리를 지키면서 사용하셔야 해요. 혹시 내 컴퓨터에서 나만의 ChatGPT를 직접 돌리고 싶었던 적 있나요? 이 가이드를 끝까지 따라 하시면 여러분의 컴퓨터에서 다양한 거대 언어 모델(LLM)을 인터넷 연결 없이, 제한 없이 마음껏 사용할 수 있게 될 거예요. 복잡하게 설명할 것 없이 바로 본론으로 들어갈게요. 우리는 'GPT4All'이라는 소프트웨어를 사용할 거예요. 자세한 내용은 공식 홈페이지나 깃허브에서 확인해 보세요. 윈도우용 설치 파일에 대한 TotalVirus 검사 결과도 있으니 안심하셔도 돼요. 이제 차근차근 따라 해보세요. 1. GPT4All을 설치한다. 2. 프로그램을 실행한다. 3. 원하는 LLM 모델을 선택해서 다운로드한다. (다운로드 페이지에 모델별 설명이 짧게 나와 있어요.) 저는 개인적으로 아래 모델들을 써봤는데 괜찮더라고요. - GPT4All-13B-snoozy.ggmlv3-q4_0 - Vicuna-13B-1.1-q4_2 - nous-hermes-13b.ggmlv3.q4_0 (검열 없는 콘텐츠 만들 때 좋아요) 모델 다운로드가 끝나면 창을 닫고 ChatGPT처럼 바로 사용하시면 돼요. 정말 간단하죠? 제한 없는 로컬 LLM을 활용하면 정말 무궁무진한 일들을 할 수 있어요. 간단한 활용 예시로는 콘텐츠 생성, 의사결정 보조, 개인 비서, 글쓰기 보조, 아이디어 구상 같은 것들이 있어요. 무엇보다 인터넷 연결 없이 로컬에서 돌아가니까 프라이버시 걱정이 전혀 없다는 게 가장 큰 장점이에요. 어떤 모델을 선택하느냐에 따라 답변이 달라지는데, 이건 모델마다 학습한 데이터가 다르기 때문이에요. 자주 묻는 질문들 좀 정리해 드릴게요. 오래된 컴퓨터에서도 되나요? 네, CPU로 돌아가서 고성능 GPU가 없어도 괜찮아요. 물론 CPU가 좋을수록 속도는 더 빠르겠죠. 너무 느린데 왜 그런가요? 하드웨어 사양이 낮거나, 선택한 모델 자체가 원래 무거운 모델일 수 있어요. 윈도우에서 경고창이 뜨는데 바이러스인가요? 아니에요, TotalVirus 결과나 깃허브 소스 코드를 직접 확인해보셔도 좋아요. GPT4도 쓸 수 있나요? 네, 다만 OpenAI API 키가 필요하고 GPT4 모델에 접근 권한이 있어야 해요. 추가로 모델을 다운받으려면요? 왼쪽 상단 메뉴 버튼 눌러서 'downloads'로 들어가시면 돼요. 모델은 몇 개나 있나요? 지금 기준으로 15개 정도 있는데, 그중 2개는 ChatGPT 모델이라 API 키가 필요해요. 모델 용량은 어느 정도인가요? 보통 3GB에서 8GB 정도 해요. 설정 변경도 가능한가요? 네, 오른쪽 상단 톱니바퀴 아이콘 누르면 온도, 답변 길이, 프롬프트 템플릿 등 상세 설정을 바꿀 수 있어요. 마지막으로, 저는 불법적인 행위를 권장하거나 홍보하는 게 아니라는 점 다시 한번 말씀드려요. 재미 삼아 검열 없는 모델에게 자극적인 글을 써달라고 해봤는데, 일반 ChatGPT와는 확실히 다른 답변이 나오더라고요. 자, 여기까지 로컬에서 제한 없이 LLM 돌리는 법이었어요. 잘 활용해 보세요!