AI·머신러닝·딥러닝

Intel Mac i9 환경 Ollama에서 llama3.2-vision 11b 모델 구동하기

무한열정 2025. 1. 8. 15:51

■ 구동 환경

*모델명 : 맥북프로 2019 16인치 CTO
*CPU : intel i9 8Core
*RAM : 32GB
*SSD : 1TB
*듀얼그래픽 : AMD Radeon Pro 5500M 8G
                      Intel UHD Graphics 630

 

한때는 엄청난 고사양에 고가였다. ^^;

 

■ 모델

llama3.2-vison 11b 모델 ( 용량 7.9G )

 

■ 구동결과

구동해본 결과 약간 느리게 결과가 나왔지만

많이 느리지는 않고 무난하게 질문에 대한 결과가 출력되었다.

다만, 듀얼 그래픽이 내장되어 있으나 사용되지 않고

오직 CPU의 연산능력으로만 결과가 출력이 되는걸 확인할수 있었다.

 

 

■ 결론

Ollama가 Apple Silicon 및 Intel을 모두 지원하긴 하지만

AMD 그래픽카드는 WindowsOS 및 Linux만 지원하며

현재 지원하는 AMD 그래픽 카드 모델은 별도 명시를 하고 있었다.

다음 공식 사이트 링크를 참조할수 있다.

https://ollama.com/blog/amd-preview