nocklock

ChatGPT만 쓰다가 Ollama를 직접 돌려봤다 — 로컬 AI는 뭐가 달랐을까

나는 그동안 AI를 거의 완성된 서비스로만 사용했다.ChatGPT를 열고 질문한다.Claude에게 코드를 보여준다.답변이 오면 다시 개발한다.편했다.그래서 AI 모델을 직접 내 컴퓨터에서 돌린다는 것도 처음에는 생각보다 별일 아닐 거라고 생각했다.모델 하나 받고, 실행하고, API처럼 연결하면 되는 것 아닐까.보안렌즈를 만들면서 Ollama를 설치하기 전까지는 그렇게 생각했다. 로컬 AI를 써보고 싶었던 이유보안렌즈는 이미지 안에 들어 있는 개인정보를 찾아주는 프로젝트다.전화번호나 이메일 같은 텍스트뿐 아니라 이미지의 EXIF 정보, GPS 같은 데이터까지 확인한다.만들다 보니 자연스럽게 이런 생각이 들었다.개인정보를 검사하는 서비스인데, 그 개인정보가 다시 외부 AI 서버로 전달되는 건 조금 이상하지 ..

Ollama 11434 포트 충돌 해결 — ollama serve가 실행되지 않았던 이유

Ollama를 설치하고 모델을 받은 뒤 서버를 직접 실행해보려고 했다. ollama serve 그런데 서버가 정상적으로 시작되는 대신 11434 포트가 이미 사용 중이라는 오류가 나왔다.처음에는 또 포트 충돌인가 싶었다.Spring Boot를 실행하면서 8080 포트 충돌을 겪은 적이 있었기 때문에 이번에도 다른 프로그램이 포트를 잡고 있다고 생각했다.그런데 이번에는 조금 달랐다.다른 프로그램이 Ollama의 자리를 차지한 게 아니라, Ollama가 이미 실행되고 있었다.Ollama는 기본적으로 11434 포트를 사용한다Ollama는 로컬에서 API 서버를 실행할 때 기본적으로 11434 포트를 사용한다.그래서 로컬에서 Ollama API를 사용할 때 기본 주소는 다음과 같다.http://localho..

개발자인 내가 테스트하면 이상하게 잘 된다 | RE:개발자 #13

배포까지 끝났다.내 컴퓨터에서만 돌아가던 화면이 이제는 URL만 보내면 다른 사람도 사용할 수 있게 됐다. 이 서비스를 실제로 배포하면서 겪었던 과정은 이전 글인 내 컴퓨터에서는 잘 됐는데요 | RE:개발자 #12 에 따로 적어뒀다. 여기까지 오니까 조금 안심이 됐다.개발도 했고, 테스트도 했고, 배포도 했으니 이제 꽤 괜찮은 상태라고 생각했다.그런데 배포된 서비스를 다시 이것저것 눌러보다가 바로 문제를 하나 발견했다.평범한 사진을 하나 넣었는데, 일부 기능이 내가 생각한 대로 동작하지 않았다.순간 이런 생각이 들었다.분명 테스트 많이 했는데 왜 이걸 이제 발견했지?테스트를 안 한 건 아니었다오히려 꽤 많이 했다.사진을 바꿔가면서 분석해보고,결과가 제대로 나오는지 확인하고,화면도 계속 눌러봤다.문제가 있..

Spring Boot 8080 포트 충돌 해결 — Port 8080 was already in use 오류

Spring Boot 프로젝트를 다시 실행하려는데 서버가 올라오지 않았다.코드를 잘못 건드린 줄 알았는데 원인은 훨씬 단순했다.8080 포트를 이미 다른 프로세스가 사용하고 있었다.Spring Boot를 사용하다 보면 한 번쯤 보게 되는 문제인데, 막상 개발 흐름 중간에 만나면 생각보다 귀찮다. Port 8080 was already in useSpring Boot는 별도로 설정하지 않으면 기본적으로 8080 포트를 사용한다.그런데 이미 다른 프로그램이나 이전에 실행한 서버가 8080 포트를 잡고 있으면 새로운 Spring Boot 서버를 실행할 수 없다.보통 이런 형태의 메시지를 만나게 된다.Web server failed to start.Port 8080 was already in use. 처음에는 ..

localhost를 지웠더니 진짜 서비스가 됐다 | RE:개발자 #12

Docker까지 준비하고 나니 이제 정말 서버에 올리는 일만 남았다.물론 여기까지 오면서 이미 몇 번이나“이제 거의 다 한 거 아닌가?”라고 생각했다.그리고 그 생각은 대체로 틀렸다.이번에는 Railway를 이용해서 프로젝트를 실제 서버에 올려보기로 했다.GitHub에 올린 코드가 실제로 실행되기 시작했다지금까지 GitHub는 내게 주로 소스 코드를 저장하는 곳이었다.코드를 수정하고, git add .git commitgit push 하면 GitHub에 변경 내용이 올라간다.여기까지는 익숙했다.그런데 Railway와 연결하고 나니 조금 달라졌다.내가 GitHub에 올린 코드를 가져가서 서버에서 빌드하고, 실제로 실행까지 해준다.화면에는 하나씩 상태가 표시됐다.Build.Deploy.처음에는 그냥 기다렸다..

ChatGPT를 꽤 오래 쓰고 있다.코드를 물어보기도 하고, 글을 쓰기도 하고, 자료를 정리하기도 한다.그런데 최근에는 조금 다른 방식으로 써봤다.현실에서 생긴 문제 하나를 처음부터 끝까지 같이 풀어봤다.개발 문제가 아니었다.오래된 부동산 권리와 관련된 일이었고, 공공기관과 계약, 보상, 법률적인 내용까지 여러 가지가 섞여 있었다.처음 연락을 받았을 때 가장 먼저 든 생각은 단순했다.이걸 내가 어떻게 알아보지?전문가에게 맡기면 편하겠지만, 문제는 내가 지금 상황조차 제대로 이해하지 못하고 있다는 것이었다.무엇이 맞는지 모르는데 누군가에게 전부 맡기는 것도 조금 불편했다.그래서 일단 ChatGPT를 켰다.처음에는 그냥 문서를 보여줬다가지고 있던 문서를 업로드했다.그리고 물었다.“여기서 내가 봐야 할 게 뭐..

※ 이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.">※ 이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다. 노트북을 사려고 알아보기 시작했을 때는 CPU가 제일 중요할 줄 알았다.Ultra 7이냐, 다른 CPU냐.외장 그래픽이 있느냐 없느냐.그런데 막상 제품을 하나씩 보다 보니 오히려 더 오래 고민한 건 따로 있었다.RAM은 32GB면 충분한가?그리고SSD는 512GB로 시작해도 되는가, 아니면 처음부터 1TB로 가야 하는가?나는 결국 LG 그램 17 Ultra 7 구독으로 방향을 정했다.그런데 노트북을 정하고 나서도 저장공간 때문에 한동안 계산기를 두드렸다.512GB로 시작할지, SSD를 하나 더 추가할지.그러다 보니 어느 순..

얼마 전 어떤 사이트를 보다가 갑자기 궁금해졌다.내가 이 사이트에 들어오는 순간, 이 사이트는 나에 대해 어디까지 알 수 있을까?IP 주소 정도는 알고 있었다.개발하면서 로그를 보다 보면 IP라는 게 그렇게 낯선 정보는 아니다.그런데 막상 하나씩 찾아보기 시작하니까 생각보다 내가 브라우저를 통해 넘기고 있는 정보가 많았다.그리고 또 이런 생각이 들었다.역시 기술은 조금 무섭다.접속만 했는데 이것까지 안다고?웹사이트에 접속하면 서버는 요청을 받는다.그 요청에는 단순히이 페이지 보여주세요.라는 내용만 들어가는 게 아니다.브라우저와 웹사이트의 구성에 따라 차이는 있지만, 사용자가 어떤 환경에서 접속하고 있는지 판단할 수 있는 여러 정보가 함께 전달되거나 브라우저에서 확인될 수 있다.예를 들면 이런 것들이다.I..

※ 이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.">※ 이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다. 노트북을 하나 사려고 했다.처음에는 기준이 꽤 단순했다.화면이 크고, 가벼우면 좋겠다. 예전에 성능이 괜찮은 게이밍 노트북을 가지고 있었는데 잘 들고 다니지 않았다. 무거웠다. 결국 집에서는 데스크톱을 쓰고, 노트북은 책상 한쪽에 놓여 있는 시간이 길어졌다.그래서 이번에는 생각을 바꿨다.성능표에서 숫자가 가장 높은 노트북보다 실제로 내가 들고 다닐 노트북을 사기로 했다.그렇게 찾아보다 가장 먼저 눈에 들어온 게 LG 그램 17이었다.17인치라 화면은 크고, 그램답게 가벼웠다.내가 원하던 조건과 거의 맞았다.그런데 한 가지 ..

개발용 노트북을 하나 사려고 알아보기 시작했다.※ 이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.">※ 이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다. 노트북이 없는 건 아니다.예전에 성능을 보고 산 게이밍 노트북도 있었다. 문제는 생각보다 단순했다. 무거워서 잘 안 들고 다녔다.성능이 아무리 좋아도 집 책상 위에 계속 놓여 있다면, 나한테는 좋은 '노트북'이라고 하기 애매했다.그래서 이번에는 조금 다르게 찾아보기 시작했다.그런데 막상 찾아보니 개발자 노트북이라는 것도 하나로 묶기가 어려웠다.이제 막 Java나 Python을 배우는 사람과 IntelliJ, Docker, DB, 브라우저를 한꺼번에 띄우는 사람이 같은 사양을 살..