Kurulum
Nerede çalışacağına siz karar verirsiniz.
Aynı üç servis, üç farklı sınırda çalışabilir. Aralarındaki tek anlamlı fark, ağınızdan neyin çıktığıdır.
- Model
- 3
- Servis
- 3
- Kurulum
- tek komut
- Hava boşluklu
- destekli
Modeller
Üç sınır.
Hava boşluklu kurulumda doğrulama kapanmaz; yargıç saf-Python sözlüksel yedeğe düşer.
Yönetilen SaaS
Biz işletiriz. En hızlı başlangıç; model sağlayıcısına giden trafik maskelenmiş metindir.
Kendi VPC'niz
Aynı üç servis sizin bulutunuzda çalışır. Veritabanı ve denetim kaydı sizin sınırınızın içinde kalır.
Hava boşluklu
Yerel model modu. Yargıç dış çağrı yapamayınca saf-Python sözlüksel yedeğe düşer; doğrulama kaybolmaz.
| model | dışarı çıkan | yargıç |
|---|---|---|
| Yönetilen SaaS | Model sağlayıcısı | Model yargıcı |
| Kendi VPC'niz | Yalnızca model sağlayıcısı | Model yargıcı |
| Hava boşluklu | Hiçbiri | Sözlüksel yedek |
Servisler
Docker Compose ile üç konteyner.
Tek komutla ayağa kalkar; veritabanı ve denetim kaydı kurulumun yapıldığı sınırın içinde kalır.
backend
FastAPI · :8000
db
PostgreSQL + pgvector · :5435
frontend
React · :5173
Hiçbir isteğin makineyi terk etmediği nasıl kanıtlanır?
Yük testlerimizi tam olarak bu profille koşuyoruz: yerel model modu ve erişilemez bir yerel model adresi. Güvenlik hattının tamamı çalışmaya devam eder, yargıç sözlüksel yedeğe düşer ve hiçbir çağrı dışarı çıkmaz. Yayınladığımız gecikme rakamı da bu profilde ölçüldü.
Kendi verinizle görün.
Teknik oturumda kendi istemlerinizi ve kendi politikanızı canlı geçirelim.