KI-Funktionen

Versuchen Sie es mit gefälschter KI und wählen Sie dann einen echten Anbieter

Befolgen Sie für Ihr erstes Ergebnis die /dashboard-Aufgabe des Web-Tutorials: Starten Sie den lokalen Fluss, stellen Sie eine Eingabeaufforderung in die Warteschlange, führen Sie sie aus und sehen Sie sich das Ergebnis an. AI_PROVIDER=fake gibt eine wiederholbare Demonstrationsantwort zurück, ohne Daten an ein externes Modell zu senden oder einen kostenpflichtigen API-Schlüssel zu verwenden.

Für eine echte Generierung konfigurieren Sie zunächst persistente Konten, wählen Sie einen KI-Anbieter aus und folgen Sie der KI-Konfiguration unten. Fügen Sie dem Datenbankkatalog ein Modell und seinen Preis hinzu, wählen Sie die zulässigen Modelle für jeden Alias ​​aus und gewähren Sie dem Arbeitsbereich den erforderlichen Zugriff. Ein Alias ​​wie „fast“ ist eine freundliche Auswahl, die dem Benutzer angezeigt wird. Es handelt sich nicht selbst um die Modell-ID eines externen Anbieters.

Ein Hintergrund-AI task benötigt auch den konfigurierten Jobs-Dienst. Wenn keine Modellauswahl angezeigt wird, überprüfen Sie den Katalog und die Alias-Richtlinie, bevor Sie es erneut versuchen. Wenn der Zugriff verweigert wird, überprüfen Sie die Berechtigung des aktiven Arbeitsbereichs. Behalten Sie alle API-Anbieterschlüssel in der Konfiguration des Webservers bei, nicht im Browser, in der mobilen App oder im Desktop-Fenster.

• Probieren Sie die KI-Demonstration ohne Anmeldeinformationen aus
• Echte KI-Generierung konfigurieren
• Zulässige Modelle und Preise hinzufügen
• Hintergrundaufgabenausführung konfigurieren

Aufgaben-Lifecycle verfolgen

Die Produktions-Task-API prüft den authentifizierten Workspace und dessen Berechtigung, bevor sie eine Aufgabe speichert und den ai.generate-Workflow in Trigger.dev startet. Der Router wendet Funktionsanforderungen und die konfigurierte Modellrichtlinie an.

POST /api/ai/tasks
  → authenticated workspace + entitlement
  → durable task record
  → Trigger.dev ai.generate
  → model routing + generation
  → usage record + result
  → transactional completion delivery

Aliase und Budgets konfigurieren

Der Benutzer wählt einen aktivierten Alias: cheap, fast oder smart. Der Server kontrolliert die zugrunde liegenden Modell-IDs, Provider-Zugangsdaten, Workspace-Richtlinie und Budgetprüfung. Die verschlüsselte Unterstützung für eigene API-Schlüssel muss dieselbe serverseitige Grenze einhalten.

Semantik des Workflows klar festlegen

JobRunner verspricht nur Einreihung, Status und Abbruch. Die Semantik des Trigger.dev-Workflows ist ausdrücklich festgelegt und umfasst das Verhalten bei dauerhafter Ausführung. Leiten Sie aus dem allgemeinen Vertrag keine Zusicherungen zu Wiederholungen oder Zeitplanung ab.

Der Produktionspfad für Übermittlungen nutzt Idempotenz und gespeicherte Aufgabenwiederherstellung, um einen unklaren Dispatch zu behandeln. Der Abschluss der Generierung ist unabhängig von der Zustellung der Abschluss-E-Mail.

Einrichtung und Konfiguration

AI_PROVIDER=fake hält die Entwicklung deterministisch. Produktions-Anbieter werden serverseitig konfiguriert (OpenAI, Anthropic oder ein OpenAI-kompatibler Endpoint) mit Keys, die nie in Client-Bundles gelangen. AI_MODEL_POLICY bildet die nutzerseitigen Aliase — cheap, fast, smart — auf Katalog-Modell-IDs ab; ein leerer Alias entfernt die Wahl aus dem Interface.

Der Modellkatalog (ai-model-catalog) trägt Capability-Metadaten und immutable Preise, damit Usage-Records nach Preisänderungen erklärbar bleiben.

POST /api/ai/tasks          → durable task + Trigger.dev dispatch
GET  /api/ai/tasks/{taskId}  → status + result
/chat                        → streaming assistant surface

Implementierungsablauf

Die Chat-Oberfläche hält Threads pro Workspace-Mitglied und streamt Tokens über chat-stream-runtime. Längere Generierungen laufen als Tasks: an der API-Grenze autorisiert, vom ai.generate-Workflow ausgeführt und über den idempotenten Submission-Store wiederherstellbar.

Bring-your-own-key-Modus speichert Anbieter-Keys als AES-GCM-Envelopes (CREDENTIAL_ENCRYPTION_KEY, byok-key-vault.ts); Entschlüsselung passiert nur im Server-Ausführungspfad. Usage und geschätzte Kosten werden pro Request für Workspace-Budgets aufgezeichnet.

Überprüfung und Fehlerbehebung

Verifiziere, dass ein deaktivierter Alias im Interface fehlt, Entitlement- und Budget-Verweigerungen vor dem Dispatch passieren, ein retryter Submission seinen Task wiederverwendet und ein gespeicherter BYOK-Key nie zum Client zurückkehrt. Halte echte Modell-Akzeptanz auf dem dokumentierten Provider-Smoke-Pfad.