무료 ChatGPT, Ollama!

어디를 가나 요즘 인공지능 뉴스만 들리죠.

그런데 혼자 일하고 계시는 솔로프리너 여러분은 ChatGPT를 얼마나 업무에 활용하고 계신가요?

신뢰성, 성능, 비용 등 다양한 이유로 아직 깊게 들어갈 필요가 없다고 생각하시는 분도 계실지도 모르겠네요.

오늘은 솔로프리너로서 ChatGPT와 같은 LLM(대규모 언어 모델)이 솔로프리너들에게 얼마나 중요한지, 어떤 문제가 있는지, 그리고 ChatGPT의 대안이 무엇인지 담아봤어요.

끝까지 읽어보시고, 관심 있으시다면 무료 ChatGPT로 알려지고, 인기 급상승 중인 Ollama 관련 무료 e-book을 구독 후 만나보세요.

✍️ 오늘의 3줄 요약

• AI는 솔로프리너에게 더 필요한 Text-to-Action으로 진화할 수도 있어요.
• 솔로프리너에게 ChatGPT는 비용, 보안, 개인화에 단점이 있어요.
• ChatGPT를 보완할 무료 Ollama와 같은 힙한 대안들이 있어요.

솔로프리너 관점에서 ChatGPT 활용 사례

저의 경우 ChatGPT와 같은 대화형 인공지능으로 굉장히 다양하게 활용하고 있어요. 그중 대표적인 사례 몇 가지만 이야기해 볼게요.

• 기획 초안 작성 및 아이디어 스케치
• 경험해 보지 못했던 영역의 가벼운 자문
• 시간이 오래 걸리는 자잘한 반복 업무들
• 시뮬레이션 (인터뷰, 가상 제품 테스트 등)
• 마케팅 및 데이터 분석
• 자신의 전문 영역에서 빠진 내용 채우기 등

지금은 단순히 궁금한 것을 묻고 답하는 수준이지만 최근 전 구글의 CEO였던 에릭 슈밋이 콘퍼런스에서 "text-to-action"이라는 이야기를 했어요.

다시 말해, 곧 ChatGPT와 같은 LLM을 통해 누구든 만들고자 하는 아이디어를 실행할 때 필요한 모든 과정을 설계해 주는 것을 의미해요.

이 관점으로 본다면, 혼자 불필요한 업무 시간을 줄이면서 빠르게 선택과 집중을 해야 하는 솔로프리너들에게는 LLM의 발전은 선택이 아닌 필수가 되어가는 분위기예요.

경험이 부족하여 막막할 수 있는 MVP 프로젝트를 거침없이 시작해 볼 날도 얼마 남지 않은 것 같아요.

실제로 GPTs 등 LLM을 공부하고, 다루면 다룰수록 시간이 절약되는 것을 느끼고 있어요.

솔로프리너 관점에서 ChatGPT 문제점

이렇게 도움을 많이 주는 ChatGPT도 많은 단점도 있어요.

단점들은 인터넷에 쉽게 찾을 수 있으니 여기서는 솔로프리너로서 단순하지만, 신경 쓰이는 3가지만 이야기해 볼게요.

• 비용: 솔로프리너로서 초반에 고정 비용을 줄이는 것이 중요해요. 그런데 제대로 활용하려면 비싼 구독료와 불확실한 MVP 개발 시에도 API 사용료를 별도로 사용해야 해요.
• 개인화: ChatGPT도 프롬프트로 어느 정도 개인화가 가능하지만, 보안, OpenAI 규정 등 한계가 분명 존재해요.
• 보안: 개인화된 인공지능을 만들기 위해서 내 정보와 데이터를 OpenAI 회사에 제공해야 해요. 즉, 개인 정보나 데이터들이 공공재가 되는 것이죠.

Ollama란?

Mistral과 Llama2를 포함한 오픈 소스 LLM을 인터넷 연결 없이도 로컬에서 실행하기 위한 간소화된 도구예요. Ollama는 모델의 가중치, 구성 및 데이터 세트를 통합 패키지로 관리되며, 이는 모델 파일로 번들링이 돼요.

ChatGPT를 대체할 수 있는 Ollama

솔로프리너들에게 Ollama를 권장하는 이유

• ChatGPT와 비슷한 오픈소스 LLM으로 개인 비서와 같이 사용할 수 있어요.
• 무료로 제공되어 초기 투자 비용을 줄일 수 있어요.
• 로컬에서 작동하기 때문에 개인의 문서나 데이터를 자유롭게 활용할 수 있어요.
• 활성화된 커뮤니티로 인해 다양한 자료들을 찾아볼 수 있어요.
• 코딩, 이미지 분석 등의 목적에 맞게 트렌디한 인공지능 모델을 변경하며 사용할 수 있어요.
• AI 관련 MVP 개발 시 API 사용에 대한 비용 부담이 없어요.

솔로프리너들에게 Ollama를 권장하지 않는 이유

• 직접 설치하거나 유지보수를 해야 하는 노력이 필요할 수 있어요.
• 오픈소스라 공식적인 지원이 없거나 느릴 수 있어요.
• 막대한 자본을 투입한 ChatGPT 유료 서비스와 비교했을 때, 성능이 만족스럽지 않을 수 있어요.
• 검증되지 않은 모델을 사용할 경우 보안이 취약해질 수 있어요.
• 많​오픈소스 모델들이 한글에 최적화되어 있지 않아, 한글 학습이 완료된 모델을 찾아서 설치해야 할 수도 있어요.

Ollama와 오픈소스 LLM 설치하고 활용하기

작성하다 보니 내용이 길어져서 설치와 활용 방법은 누구나 그냥 쉽게 따라 해볼 수 있도록 무료 전자책 형태로 제작했습니다.

이번에는 설치, 셋업 및 편의 기능들을 활용할 수 있는 정도로 정리했어요. 곧 좀 더 깊게 Ollama로 활용해 볼 수 있도록 업데이트 될 예정이에요.

홈바디파이 구독자분들은 바로 보실 수 있어요.

마무리

앞으로도 ChatGPT와 같은 LLM은 분명 우리 삶에 영향을 줄 거예요.

다만 천문학적인 투자를 받고 유치 중인 거대 기업들에 맞서 오픈소스 기반의 로컬 LLM 커뮤니티들이 지속해서 활성화될지는 장담할 수 없어요.

그래도 희망적인 것은 많은 사람들이 오픈소스 LLM을 기반으로 파인튜닝, 즉 미세한 조정 과정을 통해 더 잘 작동하는 과정을 지속적으로 하면서 성능을 향상 시키고 있어요.

목적에 맞게 커스텀으로 안전하게 LLM을 사용하고자 하는 분들이 계신다면 Ollama와 오픈소스 LLM들은 솔로프리너들에게 좋은 시작점이 될 수 있어요.