Tradução com LLM self-hosted

Injete um LLM self-hosted (por exemplo: via Ollama) como provedor de tradução na diretiva @strTranslate, para traduzir o valor de um campo para qualquer idioma desejado.

Descrição

Disponibilize um LLM self-hosted como provedor de tradução na diretiva @strTranslate.

Adicione a diretiva @strTranslate a qualquer campo do tipo String, para traduzi-lo para o idioma desejado.

Por exemplo, esta query traduz os campos title e content do post do inglês para o francês usando o seu LLM self-hosted:

{
  posts {
    title @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
    
    content @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
  }
}

Autorização

Se você estiver hospedando o LLM no seu próprio servidor, não precisará da chave de API.

Se você usa o seu LLM self-hosted na nuvem (por exemplo: ao usar o Ollama Cloud), pode ser necessário fornecer uma chave de API, por meio da aba Plugin Management > Self-Hosted LLM Translation na página de Configurações.

Em seguida, siga um dos métodos abaixo para inserir o valor.

Pelas Configurações

Insira a chave de API nos campos correspondentes na página de Configurações e clique em "Save Changes (All)":

No `wp-config.php`

Adicione a constante GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY no wp-config.php:

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY', '{your API key}' );

Por variável de ambiente

Defina a variável de ambiente SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY.

Configuração do LLM

Você deve configurar os seguintes valores:

Endpoint URL: URL do endpoint HTTP para o seu modelo LLM self-hosted. Por exemplo:
- http://localhost:11434/v1/chat/completions ao usar o formato ChatGPT e hospedar o modelo LLM no seu servidor com Ollama
- http://localhost:11434/v1/messages ao usar o formato Claude e hospedar o modelo LLM no seu servidor com Ollama
- https://ollama.com/v1/chat/completions ao usar o formato ChatGPT e Ollama Cloud
- https://ollama.com/v1/messages ao usar o formato Claude e Ollama Cloud
Compatible with API endpoint from: Com qual provedor de serviço de IA o seu endpoint personalizado é compatível, com as opções ChatGPT e Claude
Model: Nome do modelo LLM self-hosted a ser usado ao traduzir o conteúdo.
Max tokens: Número máximo de tokens que o modelo pode gerar na resposta. Deixe em branco para não definir limite para o ChatGPT, ou use o valor padrão para o Claude.

Siga um dos métodos abaixo para inserir os valores.

Pelas Configurações

Insira o modelo no campo correspondente na página de Configurações e clique em "Save Changes (All)":

No `wp-config.php`

Adicione as constantes no wp-config.php:

GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL', 'http://localhost:11434/v1/chat/completions' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER', 'chatgpt' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL', 'translategemma' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS', '128000' );

Por variável de ambiente

Defina as variáveis de ambiente:

SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE', 'Please translate strings from {$sourceLang} to {$targetLang}' );

Por variável de ambiente

Defina a variável de ambiente SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE.