Donanım ihtiyacı, kullanım şekline göre çok değişiyor. Mesela:
- Sadece metin tabanlı mı olacak, yoksa görüntü işleme (resim analizi, ocr vb) gerekli mi?
- Kaç parametrelik modeli kullanacaksınız?
Biz Llama-3.2-11B-Vision (11 milyar parametre) modelini kullanıyoruz. 24 GB Nvidia A10G GPU...