Qual modelo deve conduzir suas edições em Object Pascal?

O Arraydeck não vem com um cérebro fixo. Você conecta um provedor de IA em nuvem por meio de um endpoint de API padrão, executa um modelo no seu PC ou usa o modelo embutido, e pode alterar a escolha sempre que uma tarefa exigir algo diferente.

Três formas de conectar um modelo

Um provedor de IA em nuvem

Um provedor de IA em nuvem é acessado por meio de um endpoint de API padrão que você insere no aplicativo, junto com sua chave de API. É adequado para unidades grandes, refatorações longas e tarefas onde um modelo maior raciocina melhor. A consequência de privacidade é clara. O prompt é enviado ao provedor, incluindo o texto de qualquer arquivo que o agente leia, e é tratado sob os termos desse provedor. Sua chave de API permanece no seu PC, e segredos na saída das ferramentas são mascarados antes de chegarem ao modelo. O faturamento do serviço do provedor é entre você e o provedor.

Um modelo executado localmente no seu PC

Um modelo executado localmente no seu PC responde a solicitações da sua própria máquina. É adequado para código privado, pequenas edições rápidas e trabalho onde nada pode sair do computador. Com um modelo local, nada sai da máquina, e chats, pastas de trabalho e chaves de API permanecem no PC. A limitação é o hardware. Um modelo local pequeno tem uma janela de contexto menor e pode exigir unidades menores ou instruções mais claras, então leia cada diff com cuidado extra.

O modelo embutido

O modelo embutido está pronto para uso sem precisar de um endpoint próprio. Escolha-o quando quiser experimentar o Arraydeck em um primeiro projeto, ler uma unidade ou pedir uma pequena alteração. A qualidade varia conforme a tarefa, como em qualquer modelo, então revise o diff antes de aceitá-lo, execute seu comando de build e mantenha o Ask first ativado. Você pode conectar um provedor de nuvem ou um modelo local depois, nas mesmas configurações.

O que o botão Testar indica

Pressione Testar após inserir um endpoint, uma chave ou um nome de modelo. O botão verifica o endpoint e mostra o tempo de resposta e a janela de contexto. O tempo de resposta indica quanto tempo uma resposta leva a partir desta conexão, o que ajuda ao comparar dois modelos na mesma tarefa. A janela de contexto mostra quanto texto o modelo pode processar de uma vez, o que é importante para uma unidade longa com muitos procedimentos. Um teste falho geralmente significa um endereço ou chave incorretos, então corrija as configurações antes de iniciar uma tarefa.

Escolhendo um modelo para a tarefa

Use um modelo maior para refatorações, unidades longas e lógica complexa, e um menor para pequenas edições, como adicionar try ... finally ou renomear um procedimento. Você pode misturá-los em um chat. run_on_model envia uma única etapa difícil para um modelo maior enquanto o restante do trabalho permanece no modelo que você escolheu, e task inicia sub-agentes quando partes do trabalho podem ser executadas em paralelo. Adapte o modelo à etapa e verifique a janela de contexto com o botão Testar antes de colar uma unidade grande.

A qualidade difere entre modelos e entre tarefas, e nenhum modelo acerta todas as tarefas. Leia cada diff, compile o projeto e execute seus testes antes de aceitar uma alteração. Ask first pausa antes de ações que alteram algo, então uma resposta fraca de qualquer modelo custa apenas alguns segundos de leitura em vez de uma unidade quebrada. Rejeite o diff e reformule a solicitação quando ela não estiver adequada.