빠른 응답과 장시간 콘텐츠 생성 작업을 모두 처리할 수 있는 API 기반 워크플로우가 필요합니다.

저지연 응답과 장시간 콘텐츠 생성 작업을 모두 지원하는 API 기반 워크플로우를 제공합니다. 이를 통해 개발자는 일관된 인터페이스를 사용하면서 각 작업에 적합한 실행 패턴을 선택할 수 있습니다.

이 기능은 동일한 통합 환경 내에서 빠른 대화형 응답과 장시간 소요되는 콘텐츠 생성 작업을 모두 처리하도록 설계된 API 기반 워크플로우를 제공합니다. 개발자는 짧은 요청을 빠른 응답 경로로 라우팅하여 사용자 경험의 반응성을 유지할 수 있습니다. 더 많은 시간이 필요한 작업(예: 긴 콘텐츠 생성 또는 다단계 출력)의 경우, 이 워크플로우는 비동기식 또는 작업 기반 패턴을 지원합니다. 이는 타임아웃을 줄이고 클라이언트가 무거운 처리 과정 동안 연결을 계속 유지할 필요가 없도록 합니다. 이 워크플로우는 일관된 요청/응답 규칙을 장려하여 팀이 한 번 구축한 시스템으로 다양한 작업 기간에 걸쳐 확장할 수 있게 합니다. 즉각적인 상호작용과 백그라운드 작업을 분리하여 안정성을 향상시키는 데 사용할 수 있습니다. 또한 긴 작업이 처리되는 동안 빠른 확인 응답을 반환함으로써 제품 팀이 더 나은 사용자 경험을 제공하도록 돕습니다. 일반적인 사용 사례로는 즉각적인 답변을 위한 채팅형 상호작용과 완료까지 시간이 걸릴 수 있는 배치 스타일의 콘텐츠 생성이 있습니다. 전반적으로, 별도의 시스템 없이도 다양한 지연 시간 요구 사항을 지원함으로써 API 설계를 간소화합니다.