提供一個支援低延遲回應與長時間內容生成作業的 API 驅動工作流程。這讓開發人員能夠使用統一的介面，同時針對每項任務選擇合適的執行模式。
此功能提供了一種 API 驅動的工作流程，旨在於同一個整合環境中處理快速互動式回應以及長時間的內容生成任務。它允許開發人員將短請求導向快速回應路徑，以維持使用者體驗的流暢度。對於需要較長時間的任務（例如生成較長內容或多步驟輸出），該工作流程支援非同步或基於作業的模式。這能減少逾時情況，並避免用戶端在繁重處理過程中必須保持連線。此工作流程推廣了一致的請求/回應慣例，讓團隊能夠一次建構並跨越不同任務時長進行擴展。它可用於透過分離即時互動與背景作業來提高可靠性。同時，它也協助產品團隊透過返回快速確認訊息，同時讓較長任務持續處理，進而提供更好的使用者體驗。典型的應用案例包括用於即時回答的聊天式互動，以及可能需要較長時間完成的批次內容創作。總體而言，它透過支援混合延遲需求而無需額外系統，簡化了 API 設計。
外部資源
https://spicyapi.ai/
如果您知道某個工具或方法可以幫助人們解決我們尚未涵蓋的問題，我們很樂意聽取。
我們將在48小時內審核 我們會審核並測試每個技能 我們閱讀每一份提交