Mac mini m4pro 기본사양 DeepSeek-r1 AI 모델 구동 해보기

■ 구동 환경
모델명 : m4pro mac mini 기본사양
CPU : 12 Core ( 성능 8코어, 효율 4코어 )
GPU : 16 Core
RAM : 24G

 

■ 질문

사람이 늑대, 염소, 양배추를 배에 싣고 강을 건너려고 한다. 배에는 사람 외에 단 한 가지만 더 실을 수 있다. 그런데 염소와 늑대만을 남겨두면 늑대가 염소를 잡아먹고, 염소와 양배추만을 남겨두면 염소가 양배추를 다 먹어버린다. 모든 것을 안전하게 옮기려면 최소 몇 번 강을 건너야 할까?

 

■ DeepSeek 14b ( 140억 파라미터 모델 ) 우선 시도

모델용량 : 9G

결과 : 메모리에 여유가 있고 아주 부드럽게 동작한다.

          다만, 이 모델로는 정답을 맞출 정도의 능력이 되지는 못하는듯 하다.

 

■ DeepSeek 32b ( 320억 파라미터 모델 )

모델용량 : 20G

결과 : 내용중에 한문(간자)이 일부 나오기도 하는 아쉬움은 있지만 7번이라는 정답을 맞춘다. ^^

 

맥은 24G 메모리를 메인 메모리 및 GPU 메모리를 공유하여 사용한다.

24G 메모리에 20기가 모델이 할당되어 구동될수 있을까 살짝 걱정 했는데 잘 돌아간다.

다만, 메모리 압력이 상당히 높은것을 확인할수 있다. 이때 다른 멀티태스킹 프로그램들을 종료하는등의 정리는 하지 않고 그냥 무작정 구동을 시켰다.

 

GPU도 잘 사용하고 있다.

 

자원에 여유가 없어 맥미니가 버벅일수 있어 휴대폰으로 촬영했다. ^^;;;

 

 

■ 결론

맥미니 m4pro 깡통 모델에서도 DeepSeek 32b 모델 구동이 가능하다.

 

Linux또는 윈도우에서 20G 모델을 돌리려면 24G장착한 그래픽카드가 필요하다는 결론인데

그러면 다나와에서 그래픽카드만 230만원 이상의 투자가 필요할듯 하다.
그러면 맥미니 m4pro 기본 모델이 가성비 모델인가? ㅋㅋ 나름 재미있는 결과이다.