Como reduzir o tempo de resposta do serviço de IA?

A requisição enviada à API do serviço de IA inclui as strings a serem traduzidas. Quanto mais longa for a requisição, mais tempo a API levará para processá-la.

Por exemplo, traduzir um post com 1000 strings pode levar mais de 1 minuto para o ChatGPT concluir.

Para reduzir o tempo de resposta do serviço de IA, você pode:

• Usar um modelo mais rápido do mesmo serviço de IA (ex.: ChatGPT 5 mini em vez de ChatGPT 5)
• Reduzir o tamanho do payload enviado à API nas configurações do plugin

Ao reduzir o tamanho do payload, a requisição será dividida em múltiplas requisições, cada uma das quais será resolvida mais rapidamente. Como são resolvidas em paralelo, o tempo de resposta geral será reduzido.

Acesse Settings > Service Configuration > [AI service] e diminua a opção Max request payload length.

Experimente valores diferentes até encontrar o que proporciona o melhor tempo de resposta. Por exemplo, se estiver definido como 8000, defina como 4000 e tente novamente.