라즈베리파이5 Ollama 모델 리뷰

https://dsclub.kr/code/1084

요약:

다룬 모델들

- Llama 3.2 1B

- Llama 3.2 3B

- Phi 3 Mini 3.8B

- Gemma 2 2B

- Exaone3.5 2.4b

Llama 3.2 1B, Llama 3.2 3B는 한국어를 못알아먹고 답도 엉터리로 하면서 한국어가 제대로 지원되지도 않는 모습을 보여주며, Phi 3 Mini 3.8B, Gemma 2 2B는 그나마 한국어를 못알아먹고 엉터리 답을 하기는 하지만 적어도 한국어를 거의 완벽한 수준으로 지원하고, Exaone3.5 2.4b는 다뤘던 모델 중 가장 한국어 처리를 잘하고 성능도 괜찮았습니다.

사이트에 연동하실 분들은 Exaone3.5 2.4b를 사용하시는게 좋을 것 같습니다.

*참고로 Exaone3.5는 엘지에서 만들었다고 하네요.