> ## Documentation Index
> Fetch the complete documentation index at: https://supastack.dev/llms.txt
> Use this file to discover all available pages before exploring further.
> For the full documentation corpus in one file, fetch: https://supastack.dev/llms-full.txt

# Üretim Seviyesinde AI SaaS Mimarisi: Akış, Token Bütçeleri ve BYOK

Ticari yapay zeka uygulamaları için temel mimari: Server-Sent Events (SSE) akışı, AES-256-GCM şifreli BYOK kasa depolaması, token bütçelemesi ve sağlayıcı yedekleme.

_Yayınlandı 2026-11-05._
_2026-11-05 tarihinde güncellendi._

> **Token bütçeleri ve BYOK destekli bir AI SaaS nasıl inşa edilir?**
> Fiyatlandırma modelinize göre değişir ancak güvenilir bir yapay zeka mimarisi dört temel ayağa dayanır: otomatik yeniden bağlanmalı kararlı SSE akışı, Postgres üzerinde AES-256-GCM ile şifrelenmiş BYOK anahtar kasası, model çağrısından önce iki aşamalı token rezervasyonu ve OpenAI ile Anthropic Claude arasında otomatik yük devretme. supastack bu mimariyi çalışma alanı düzeyinde harcama sınırları ve anlık kullanım takibiyle birlikte hazır olarak sunar.

## Server-Sent Events (SSE) Akışı ve Bağlantı Koruma Sinyalleri

Ticari yapay zeka projelerinde geleneksel tek parça JSON yanıtları yetersiz kalır. Büyük dil modellerinin kapsamlı bir yanıt oluşturması saniyeler sürdüğü için, kullanıcı deneyimi ve oturum sürekliliği açısından anlık akış vazgeçilmezdir.

HTTP/2 üzerinden Server-Sent Events (SSE) en verimli taşıma yöntemidir. WebSockets'e kıyasla kurumsal güvenlik duvarlarını sorunsuzca aşar, standart HTTP başlıklarını destekler ve ağ kopmalarında otomatik yeniden bağlanır. Next.js içinde `TransformStream` veri parçalarını iletirken belirli aralıklarla boş sinyaller (`: ping\n\n`) göndererek bağlantının vekil sunucular tarafından kesilmesini engeller.


## AES-256-GCM ile Şifrelenmiş BYOK Kasa Mimarisi

Kurumsal müşteriler ve yoğun yapay zeka kullanıcıları, OpenAI veya Anthropic ile yaptıkları özel indirimleri ve gizlilik sözleşmelerini kullanabilmek için kendi API anahtarlarını (BYOK) girmek isterler.

Müşteri anahtarlarını düz metin olarak saklamak kabul edilemez bir güvenlik açığıdır. Güvenli bir mimari, anahtarları AES-256-GCM algoritması, rastgele başlatma vektörü ve kimlik doğrulama etiketiyle şifreleyerek özel bir kasada saklar. Anahtarlar yalnızca model çağrısı yapılacağı anda sunucu belleğinde çözülür ve kayıtlara asla yazılmaz.


## Aşırı Tüketimi Önlemek İçin İki Aşamalı Token Rezervasyonu

Yapay zeka girişimcileri için en büyük finansal tehlike ödenmemiş aşırı kullanımlardır: hatalı bir döngü ya da kötü niyetli bir kullanım API hesabınızda dakikalar içinde yüzlerce dolarlık harcama yaratabilir.

Eksi bakiye riskini önlemek için iki aşamalı bir rezervasyon sistemi kurun: LLM çağrısını yapmadan önce maksimum ihtiyaç duyulabilecek token miktarını hesaplayın ve bunu veri tabanı işlemiyle çalışma alanının aylık kotasından bloke edin. Limit aşıldıysa isteği derhal HTTP 429 ile durdurun. Akış bittiğinde gerçekleşen kullanımı hesaplayıp kalan rezervasyonu serbest bırakın.


## Çoklu Sağlayıcı Yedeklemesi: OpenAI ve Anthropic Arasında Kesintisiz Geçiş

Yalnızca tek bir yapay zeka sağlayıcısına bağımlı olmak kesinti riskini beraberinde getirir. Yoğun saatlerde hem OpenAI hem de Anthropic tarafında hız sınırları (HTTP 429) veya geçici sunucu hataları (HTTP 503) yaşanabilir.

Sağlam bir mimari, model sağlayıcılarını tek tip bir arayüz altında toplar. `gpt-4o` isteği zaman aşımına uğradığında veya hata verdiğinde, sistem üstel geri çekilmeyle tekrar dener ve kullanıcıya hissettirmeden `claude-3-5-sonnet` gibi eşdeğer bir yedek modele geçiş yapar; böylece hizmet kesintisiz sürer.
