Llama 3.2 갖고 놀기
Qerogram
개요다들 LLM 이니 뭐니 하길래 갖고 놀려고 건드려 봤다. 테스트 환경- 라이젠 5800x, RTX 2060(vram 6gb), 램 96gb(DDR4 3200mhz) 설치1. Meta에서 Llama Model Download 진행- 사이트 : https://www.llama.com/- 하다보니 필수 과정인지는 잘 모르겠긴 한데, 지나갔던 과정이라 잘 안되면 이거 한 번 해보자.- B를 잘 골라야하는데 나는 1B & 3B로 체크했다. 이 뒤에 붙는 1B니 뭐니 이런 건 파라미터 수라고 함. 파라미터 수가 클 수록 정교한데, 그만큼 리소스를 많이 먹는다나 뭐라나. Llama 3.2The open source AI model you can fine-tune, distill and deploy anywhere..