chatcli: Programlanabilir LLM iş akışları için CLI ve MCP sunucusu
chatcli, Diillson tarafından geliştirilen, kullanıcıları, LLM'leri ve dış araçları yapılandırılmış otomasyon görevleri için bağlayan bir komut satırı ve sunucu geçididir. Araç, bir etkileşimli CLI olarak veya bir gRPC/MCP sunucusu olarak çalışarak, talepleri birden fazla LLM sağlayıcısına yönlendirir, bağlamı yönetir ve depo ile ortam erişimi için özel ajanları açığa çıkarır. Konteyner orkestrasyonu ve token kontrolleri için dağıtım artefaktlarını içerir. Geliştiriciler ve SRE'ler, yerelleştirme, kod analizi ve otomatik mesajlaşma iş akışları için uygun programlanabilir bir LLM geçidi elde ederler.
Geliştirici otomasyonu için inşa edilmiş Go tabanlı MCP geçidi
Alet Go ile uygulanmıştır, bu da ikili ayak izini küçük tutar ve Windows, macOS ve Linux'a çapraz platform dağıtımına yardımcı olur. Model yanıtlarını yürütülebilir adımlara haritalayan bir Model Bağlam Protokol sunucusu olarak hareket eder, böylece çıktılar bir kabuk veya CI boru hattında betiklenmiş işlemleri tetikleyebilir. Proje, mevcut otomasyona model odaklı görevler entegre eden geliştiriciler ve DevOps ekipleri için konumlandırılmıştır ve Ücretsiz yazılım olarak lisanslanmıştır.
Üretilen çıktılar model seçimine ve ajan bağlantısına bağlıdır
chatcli birden fazla LLM sağlayıcısını destekler bunlar arasında OpenAI, Anthropic ve Google AI bulunmaktadır, bu nedenle üretilen metnin karakteri sağlayıcı seçimine göre değişir. Araç, depoları okuyabilen, ortam değişkenlerini inceleyebilen veya konuşma geçmişini yeniden oynatabilen ajan tabanlı araçlar sunar ve bu yan etkili ajanlar, uçtan uca bir görevin pratik güvenilirliğini belirler. Bağlam yönetimi ve jeton kontrolleri, modelin belirli bir istek için ne kadar önceki konuşmayı kullanabileceğini etkiler.
Geliştirici altyapısı içinde dağıtım için tasarlanmıştır
Dağıtım hedefleri konteyner kümeleri ve gRPC geçitlerini içerir, bu da aracın sağlanan Helm grafiklerini kullanarak Kubernetes içinde yüksek verimli bir model geçidi olarak çalışmasını sağlar. Bir mesajlaşma daemon modu, ekiplerin botları Telegram, Slack ve Discord'a bağlamasına olanak tanır, böylece operasyonel uyarılar veya konuşma arayüzleri sağlanabilir. SRE ve bulut mimarisi konusundaki geliştirici geçmişi, aracı platform mühendislerinin tercih ettiği üretim odaklı entegrasyon desenleri ile hizalar.
Terminal öncelikli arayüz ve ajan araç seti betiklenmiş iş akışlarını destekler
Etkileşimli terminal erişimi hizmet modunu tamamlar, böylece mühendisler otomasyona kodlamadan önce yerel olarak istemleri prototipleyebilirler. Yerleşik ajanlar, depo incelemesi, ortam erişimi ve konuşma yönetimi gibi görevleri yerine getirir, böylece yerelleştirme kontrolleri veya kod analizi gibi görevler betiklenmiş ajan dizileri olarak ifade edilebilir. Aracı genişletmek genellikle yapılandırma ve ajan tanımlarını düzenlemeyi gerektirir, bu da kod merkezli ekipler için uygundur, teknik olmayan kullanıcılar için değil.
Altyapıya LLM'leri entegre eden mühendisler için uygun, doğrulama gereklidir
Bu araç, geliştiricilerin SRE ve bulut geçmişine sahip olduğu göz önüne alındığında, dil modelleri ile operasyonel araçlar arasında programlanabilir bir köprüye ihtiyaç duyan geliştiriciler ve DevOps profesyonelleri için pratik bir seçenektir. Model yollarını prototiplemek ve yerelleştirme veya kod görevleri için çıktıları doğrulamak bekleniyor, çünkü etkinlik seçilen sağlayıcılara ve ajanların nasıl oluşturulduğuna bağlıdır. Aracı, anahtar teslim içerik doğrulayıcıdan ziyade bir entegrasyon platformu olarak değerlendirin.
