Local AI Kurulumu: Bilgisayarınızda İnternetsiz Yapay Zekâ Çalıştırma (Ollama Rehberi)
ChatGPT, Claude ve Gemini gibi bulut tabanlı yapay zekâ modelleri günlük hayatımızın vazgeçilmez bir parçası hâline geldi. Ancak verilerin gizliliği, abonelik ücretleri ve internet bağlantısı zorunluluğu gibi durumlar kullanıcıları alternatif arayışlara yönlendiriyor. İşte bu noktada devreye Local AI (Yerel Yapay Zekâ) giriyor.
Peki, kendi bilgisayarınızda internete ihtiyaç duymadan, tamamen ücretsiz ve %100 gizli bir şekilde yapay zekâ modellerini nasıl çalıştırabilirsiniz? Bu rehberde, sektörün en popüler aracı olan Ollama ile adım adım yerel yapay zekâ kurulumunu inceliyoruz.
Yerel Yapay Zekâ (Local AI) Kullanmanın Avantajları Nedir?
- %100 Veri Gizliliği: Yazdığınız tüm komutlar, kodlar ve belgeler tamamen sizin cihazınızda kalır; hiçbir sunucuya veya üçüncü tarafa gönderilmez.
- İnternetsiz Çalışma: Dağ başında, uçakta veya internet erişiminizin olmadığı her yerde yapay zekâyı kesintisiz kullanabilirsiniz.
- Sınırsız ve Ücretsiz Kullanım: Günlük mesaj limiti veya aylık abonelik ücreti (ChatGPT Plus vb.) ödemezsiniz.
- Geliştirici Dostu Entegrasyon: Local AI modelleri yerel bir API (
http://localhost:11434) sunduğu için kendi yazılımlarınıza veya kod editörlerinize (VS Code, Cursor) kolayca entegre edilebilir.
Sistem Gereksinimleri
Yerel yapay zekâ çalıştırmak için devasa sunuculara ihtiyacınız yoktur. Ancak akıcı bir deneyim için şu minimum donanımlar tavsiye edilir:
- İşlemci (CPU): Güncel Intel Core i5/i7/i9, AMD Ryzen 5/7/9 veya Apple Silicon (M1/M2/M3/M4) çipleri.
- Bellek (RAM):
- 7B/8B (7-8 Milyar Parametre) Modeller için: En az 16 GB RAM / VRAM
- 14B/32B Modeller için: 32 GB RAM / VRAM ve üzeri
- Ekran Kartı (GPU): Nvidia RTX serisi (tercihen en az 8 GB VRAM) veya Apple Silicon entegre grafik birimi.
Adım Adım Ollama Kurulumu
Ollama, karmaşık Python kütüphaneleriyle veya sürücülerle uğraşmadan açık kaynaklı yapay zekâ modellerini bilgisayarınıza indirip çalıştırmanızı sağlayan en pratik araçtır.
Adım 1: Ollama’yı İndirin
- Ollama Resmi Web Sitesi adresine gidin.
- İşletim sisteminize uygun olan sürümü (Windows, macOS veya Linux) indirin ve standart bir program gibi kurulumu tamamlayın.
Adım 2: Terminal / Komut İstemi (CMD) Ekranını Açın
- Windows kullanıyorsanız CMD veya PowerShell‘i açın.
- macOS veya Linux kullanıyorsanız Terminal uygulamasını açın.
Adım 3: Yapay Zekâ Modelini İndirin ve Çalıştırın
Ollama üzerinden popüler açık kaynaklı modelleri tek bir komutla çalıştırabilirsiniz. Örneğin Meta’nın geliştirdiği Llama 3 veya kodlama odaklı DeepSeek-Coder modelini indirmek için terminale şu komutu yazın:
ollama run llama3