Ollama 11434 포트 충돌 해결 — ollama serve가 실행되지 않았던 이유

Ollama를 설치하고 모델을 받은 뒤 서버를 직접 실행해보려고 했다.

 

ollama serve

 

 

그런데 서버가 정상적으로 시작되는 대신 11434 포트가 이미 사용 중이라는 오류가 나왔다.

처음에는 또 포트 충돌인가 싶었다.

Spring Boot를 실행하면서 8080 포트 충돌을 겪은 적이 있었기 때문에 이번에도 다른 프로그램이 포트를 잡고 있다고 생각했다.

그런데 이번에는 조금 달랐다.

다른 프로그램이 Ollama의 자리를 차지한 게 아니라, Ollama가 이미 실행되고 있었다.

---

Ollama는 기본적으로 11434 포트를 사용한다

Ollama는 로컬에서 API 서버를 실행할 때 기본적으로 11434 포트를 사용한다.

그래서 로컬에서 Ollama API를 사용할 때 기본 주소는 다음과 같다.

http://localhost:11434

 

문제는 이미 Ollama가 실행되고 있는데 다시

 

ollama serve

 

를 실행한 경우였다.

이미 실행 중인 Ollama가 11434 포트를 사용하고 있으니, 새로 실행한 ollama serve가 같은 포트를 다시 사용할 수 없었던 것이다.

---

처음에는 서버가 안 켜진 줄 알았다

내가 헷갈렸던 부분은 여기였다.

ollama serve를 실행해야 Ollama 서버가 시작된다고 생각했다.

그래서 명령어를 실행했는데 포트가 사용 중이라는 메시지가 나오니 자연스럽게

Ollama 서버 실행에 실패한 건가?

라고 생각했다.

그런데 실제 상황은 반대였다.

이미 서버가 실행되고 있었기 때문에 두 번째 서버를 띄울 수 없었던 것이다.

생각해보면 오류 메시지 자체는 꽤 정확했다.

11434를 사용할 수 없는 게 문제가 아니라, 누군가 이미 사용하고 있었다.

그리고 그 누군가가 Ollama였다.

---

11434 포트를 누가 사용하고 있는지 확인

Windows에서는 다음 명령어로 11434 포트를 사용하는 프로세스를 확인할 수 있다.

 

netstat -ano | findstr :11434

 

정상적으로 프로세스가 떠 있다면 해당 포트를 사용하는 항목과 PID가 표시된다.

PID를 확인한 뒤에는 어떤 프로세스인지 확인할 수 있다.

 

tasklist | findstr PID번호

 

여기에서 Ollama 관련 프로세스가 확인된다면 굳이 ollama serve를 다시 실행할 필요가 없다.

---

서버가 실제로 실행 중인지 확인해봤다

포트를 사용하고 있다는 사실만으로 판단하기보다 Ollama API가 실제로 응답하는지도 확인할 수 있다.

브라우저나 API 도구에서 다음 주소로 접근한다.

http://localhost:11434

 

또는 Ollama API를 직접 호출해 모델 목록을 확인할 수도 있다.

http://localhost:11434/api/tags

 

정상적인 응답이 온다면 Ollama 서버는 이미 실행 중인 것이다.

이 상태에서는 Spring Boot 같은 다른 애플리케이션에서도 localhost:11434를 통해 Ollama를 호출하면 된다.

---

결국 ollama serve를 또 실행할 필요가 없었다

이번 문제는 서버를 새로 띄우는 것으로 해결한 게 아니다.

이미 실행되고 있는 서버를 다시 실행하려고 했다는 사실을 알아낸 것으로 해결됐다.

Spring Boot에서 겪었던 8080 포트 충돌 때는 포트를 8081로 변경했다.

하지만 Ollama에서는 굳이 11434를 다른 포트로 바꿀 이유가 없었다.

이미 정상적으로 Ollama가 그 포트를 사용하고 있었기 때문이다.

---

포트 충돌이라고 해서 항상 포트를 바꿀 필요는 없다

개발하다 보면 address already in use나 port already in use 같은 메시지를 자주 만난다.

처음에는 자연스럽게

다른 포트로 바꾸면 되나?

부터 생각하게 된다.

그런데 이번 경험에서는 순서를 조금 바꿔야 한다는 걸 알게 됐다.

포트를 바꾸기 전에 누가 사용하고 있는지 먼저 확인하는 것.

원래 실행하려던 프로그램이 이미 정상적으로 사용하고 있다면 아무것도 바꿀 필요가 없다.

이번에는 11434가 문제였던 게 아니라, 내가 Ollama를 두 번 실행하려고 했던 게 문제였다.

---

정리

ollama serve 실행 중 11434 포트가 이미 사용 중이라는 오류가 나온다면 먼저 다음을 확인하면 된다.

1. 11434 포트를 사용하는 프로세스를 확인한다.
2. Ollama가 이미 실행 중인지 확인한다.
3. localhost:11434 또는 Ollama API가 정상적으로 응답하는지 확인한다.
4. 이미 정상 실행 중이라면 ollama serve를 다시 실행할 필요가 없다.

내 경우에는 Ollama가 이미 실행 중인 상태에서 ollama serve를 한 번 더 실행한 것이 원인이었다.

포트를 바꾸지 않고 그대로 개발을 계속했다.

---

같이 읽으면 좋은 글

이번 문제처럼 로컬 개발환경을 구성하면서 만난 문제들은 따로 개발노트로 정리하고 있다.

• Spring Boot Docker 배포 방법 — Windows/WSL부터 Railway까지 직접 해보며 막힌 것들
• Git status에서 모든 파일이 modified로 뜰 때 — WSL에서 만난 CRLF/LF 문제
• 내 컴퓨터에서는 잘 되는데, 다른 사람도 쓸 수 있어야 했다 | RE:개발자 #10