ConfiguraçãoUsando um LLM auto-hospedado
Usando um LLM auto-hospedado
Você pode usar um LLM auto-hospedado (ex.: via Ollama) para traduzir conteúdo.
Acesse a página de Configurações em Service Configuration > Self-hosted LLM e configure os valores.
| Configuração | Descrição |
|---|---|
| Endpoint URL | URL do endpoint HTTP para o seu modelo LLM auto-hospedado. Veja os exemplos abaixo. |
| Compatible with API endpoint from | Com qual provedor de serviço de IA o seu endpoint personalizado é compatível: ChatGPT ou Claude. |
| Model | Nome do modelo LLM auto-hospedado a ser usado para traduzir o conteúdo. |
| Max tokens | Número máximo de tokens que o modelo pode gerar na resposta. Deixe em branco para sem limite (ChatGPT) ou use o padrão para Claude. |
Exemplos de Endpoint URL:
| URL | Descrição |
|---|---|
http://localhost:11434/v1/chat/completions | Formato ChatGPT, Ollama no seu servidor |
http://localhost:11434/v1/messages | Formato Claude, Ollama no seu servidor |
https://ollama.com/v1/chat/completions | Formato ChatGPT, Ollama Cloud |
https://ollama.com/v1/messages | Formato Claude, Ollama Cloud |
Se você hospedar o LLM no seu próprio servidor, não precisará da chave de API.
Se você usar o seu LLM auto-hospedado na nuvem (ex.: ao usar o Ollama Cloud), pode ser necessário fornecer uma chave de API, pela aba API Keys > Self-hosted LLM na página de Configurações.
