Ho bisogno di un flusso di lavoro basato su API adatto sia a risposte rapide che a compiti di generazione di contenuti a lunga durata.

Fornire un flusso di lavoro basato su API che supporti sia risposte a bassa latenza che processi di generazione di contenuti a lunga durata. Ciò consente agli sviluppatori di utilizzare un'interfaccia coerente scegliendo il modello di esecuzione corretto per ogni attività.

Questa funzionalità offre un flusso di lavoro basato su API progettato per gestire sia risposte interattive rapide che attività di generazione di contenuti più lunghe all'interno della stessa integrazione. Consente agli sviluppatori di instradare le richieste brevi attraverso un percorso a risposta rapida per mantenere reattiva l'esperienza utente. Per le attività che richiedono più tempo, come la generazione di contenuti più lunghi o output in più passaggi, il flusso di lavoro supporta un modello asincrono o basato su job. Ciò riduce i timeout e impedisce ai client di dover mantenere le connessioni aperte durante l'elaborazione pesante. Il flusso di lavoro promuove convenzioni di richiesta/risposta coerenti in modo che i team possano creare una volta sola e scalare su diverse durate delle attività. Può essere utilizzato per migliorare l'affidabilità separando le interazioni immediate dal lavoro in background. Aiuta inoltre i team di prodotto a offrire una migliore UX restituendo conferme rapide mentre le attività più lunghe continuano l'elaborazione. I casi d'uso tipici includono interazioni simili a chat per risposte istantanee e creazione di contenuti in stile batch che potrebbero richiedere più tempo per essere completati. Nel complesso, semplifica la progettazione delle API supportando esigenze di latenza miste senza richiedere sistemi separati.