Çoğu AI aracı bulut üzerinde çalışır. API'ye istek atarsın, cevap gelir. Bu model basit ama kısıtlı: internet bağlantısı şart, gecikme kaçınılmaz, veriler dışarı çıkıyor.
Yerel ajan sistemi farklı çalışır. Model kendi makinende, kendi ağında ya da kendi sunucunda koşar. Dışarıya bağımlılık yok. Ama bu tek avantaj değil — asıl mesele kontrol.
Neden önemli?
- Gizlilik: Veriler dışarı çıkmaz. Hassas içerikler için kritik.
- Gecikme: Lokal model genellikle daha hızlı yanıt verir.
- Maliyet: API ücreti yok. Donanım maliyeti var ama uzun vadede avantajlı.
- Kontrol: Modeli, prompt'u, çıktı formatını tamamen sen belirlersin.
Simülasyon: önce dene, sonra uygula
İyi tasarlanmış bir ajan sistemi asla doğrudan üretim ortamına müdahale etmez. Her aksiyonun önce simüle edilmesi gerekir: "Bu komutu çalıştırsaydım ne olurdu?"
Simülasyon modu, ajanın planlanan adımları gerçek etki yaratmadan çalıştırmasını sağlar. Çıktı loglanır, gözlemlenir, onaylanır — sonra gerçek çalışma başlar. Bu yaklaşım özellikle dosya işlemleri, veritabanı yazmaları ve API çağrıları için kritik.
Kullanıcı onayı katmanı
Ajan ne kadar güvenilir olursa olsun, bazı aksiyonlar insan onayı gerektirmeli. "Dosyayı sil", "API'ye yaz", "e-posta gönder" gibi geri dönüşü zor işlemler için onay kapısı zorunlu.
Bu katman hem güvenlik sağlar hem de sistemi anlamayı kolaylaştırır: hangi adımda ne yapıldığını, kullanıcının neyi onayladığını kayıt altına alırsın.
Rule engine: sınırları kodla
Ajan ne yapabilir, ne yapamaz? Bu sorunun cevabı doğal dil promptlarında değil, rule engine'de olmalı. Kurallar deterministik, test edilebilir ve bağımsız çalışır.
- Hangi dizinlere yazma izni var?
- Hangi API endpoint'leri erişilebilir?
- Dakikada kaç istek atılabilir?
- Hangi dosya türleri dokunulamaz?
Rule engine, LLM'in ürettiği aksiyonları çalıştırmadan önce filtreler. Kural ihlali varsa aksiyon iptal edilir, log'a düşer. Bu sayede modelin "halüsinasyon" yapması bile sistemi tehlikeye atmaz.
Loglama: her adım kayıt altında
Yerel sistemin en büyük avantajlarından biri: her şeyi loglamak senin elinde. Bulut servislerinde log'a erişim kısıtlı ya da ücretli olabilir. Yerel sistemde her aksiyonu, her kararı, her hatayı tam olarak kaydedebilirsin.
İyi bir log yapısı hem hata ayıklamayı hem de sistemi audit etmeyi kolaylaştırır. Ne zaman, ne yaptı, kim onayladı — hepsi izlenebilir.
Rollback: geri alınabilir sistem tasarımı
Her aksiyon geri alınabilir olacak şekilde tasarlanmalı. Bu her zaman mümkün değil, ama mümkün olan her yerde uygulanmalı. Dosya yazma işleminden önce yedek al. Veritabanı güncellemesini transaction içinde yap. API çağrısını idempotent yaz.
Rollback mekanizması, sistemi "deneysel" kullanmayı mümkün kılar. Bir şey ters giderse geri dönebilirsin — bu güven, daha cesur otomasyon kararları almanı sağlar.
Kontrollü sistem mantığı
Yerel ajan sisteminin özü şu: ajan özerk değil, kontrollü çalışır. Görev verilir, plan üretir, simüle eder, onay ister, kural kontrolünden geçer, çalışır, loglar — ve geri alınabilir.
Bu yaklaşım "AI'ı serbest bırak" anlayışının tersine işler. Özerklik değil, güvenilirlik önce gelir. Sistem ne yaptığını her zaman açıklayabilmeli ve istendiğinde durabilmeli.
Başlangıç noktası
ollama ile başlamak en pratik yol. Birkaç komutla yerel model kurulur, HTTP üzerinden sorgu atılır. Oradan kendi sistemine entegre edilebilir. Simülasyon ve onay katmanını sonradan eklemek de mümkün — ama baştan tasarlamak çok daha kolay.
Bu konuda daha fazla not ve örnek yapı ilerleyen dönemde burada yayımlanacak.