AgentJev: AI Ajanlar İçin 50ms Karar Modeli

📰 Hikayesi ve Doğuşu

Modern kodlama ajanları, hata ayıklama botları ve otomasyon iş akışları, zamanlarının büyük kısmını metin üretimi gerektirmeyen mantıksal karar aşamalarında harcar. "Testler geçti mi?", "Hangi araç çağrılmalı?" veya "Bu komut güvenli mi?" gibi sorular için devasa dil modellerini çalıştırmak ve JSON çıktıları parse etmek ciddi bir gecikme yaratır. Geliştirici malevrigns, ajan döngülerindeki bu refleks gecikmesini ortadan kaldırmak ve metin üretim yükünü sıfırlamak amacıyla AgentJev projesini hayata geçirdi.

⚡ Nasıl Çalışıyor & Mimari Detaylar

Projenin omurgasını, dil modeli kafası çıkarılmış Qwen3-0.6B modeli oluşturur. Geliştirici sisteme bir durum (diff, yığın izlemesi, bilet dizisi) ve önceden biçimlendirilmiş sorular verir. Hiçbir metin çözme (decoding) işlemi yapılmaz; bunun yerine her aday son token üzerinden okunur. Küçük ve permütasyon eşdeğerli bir başlık (candidate head), seçeneklerin sırasından bağımsız olarak seti puanlar ve sorular için doğrudan bir olasılık dağılımı döner. Boolean, Choice ve Score olmak üzere üç temel ilkel yapıyla çalışır.

💡 Neden Radarımıza Girdi?

Weezir Radar ekibi olarak AgentJev'i; devasa LLM'leri basit mantıksal anahtarlar olarak kullanma verimsizliğine getirdiği teknik çözüm nedeniyle seçtik. Ajan döngülerinde metin üretimi yerine saf olasılık dağılımı ve marj hesaplaması sunması, sistem kaynaklarını dramatik ölçüde korurken yaklaşık 50 milisaniyelik ultra düşük gecikme süresiyle endüstriyel ajan mimarilerine taze bir soluk getiriyor.

🚀 Nasıl Denenir & Kaynaklar

Model ağırlıklarına Hugging Face üzerindeki 'aimeigaoshou/agent-jev' adresinden, kaynak koduna ise GitHub deposu üzerinden erişebilirsiniz. Projeyi kendi ajan döngünüze entegre etmek için HTTP uç noktalarını kurabilir ve yapılandırılmamış verilerinizi anında kalibre edilmiş olasılık skorlarına dönüştürebilirsiniz.