Segurança e honestidade

Limites honestos

O que um modelo de 8 mil milhões de parâmetros ainda falha, o que demora, o que a estrutura do Ploy apanha e o que deixa passar.

Os limites fazem parte do produto. O Ploy corre o Qwen3 8B, um modelo de 8 mil milhões de parâmetros, no Ollama, num Mac com 16 GB de memória partilhada com as tuas outras apps. Tudo o que o Ploy acrescenta (agentes, provas, regras) serve para que um modelo deste tamanho falhe de forma visível em vez de silenciosa. Não o torna maior.

Tarefas que ainda falham com frequência

Nos testes do projeto, estas tarefas de edição de ficheiros continuam a falhar muitas vezes:

  • inserir uma linha no meio de um ficheiro;
  • ler a enésima linha de um ficheiro;
  • alterar um valor dentro de JSON aninhado;
  • acrescentar uma linha ao início de um ficheiro.

O prompt do Ploy já traz regras para alguns destes casos, e mesmo assim falham. O passo do plano dedicado à fiabilidade continua em aberto. Se a tua tarefa se parece com uma destas, confere o resultado.

O que demora

  • O Saturn responde em segundos, até cerca de um minuto.
  • O Kant e o Veta demoram minutos. A pesquisa do Veta tem um orçamento de cinco minutos.
  • Um projeto inteiro no Nesko junta muitas etapas: documentos, plano, passos com até três tentativas cada, revisão e relatório.
  • Os agentes partilham um só modelo, por isso correm um a seguir ao outro.

Enquanto trabalham, a linha por baixo da pergunta diz o que estão a fazer, e Stop interrompe tudo, incluindo o pedido ao Ollama. O primeiro pedido pode ser mais lento se o modelo ainda estiver a carregar. O lançador carrega-o logo à partida e mantém-no em memória durante 15 minutos.

O que a estrutura apanha e o que não apanha

Mecanismo Apanha Não apanha
Provas do Nesko Passos cuja prova falha, ficheiros de código que deixam de ser válidos, problemas da revisão que não existem no código Uma prova fraca, que passa sem verificar o que importa
Painel do Kant Erros de conta, de lógica e omissões que um segundo contexto vê Erros que os dois contextos partilham, porque são o mesmo modelo
Verificador do Veta Fontes que se contradizem, factos de uma só fonte, lacunas Fontes erradas que concordam, páginas mal resumidas
Ferramenta de media Nunca sobrescreve e mede o resultado com o ffprobe Um pedido válido que não era o que querias
Filtro de português Palavras do português do Brasil que estão na lista Construções que não estão na lista

Há mais duas proteções. Um turno em que o modelo não diz nada nem chama ferramenta alguma é tratado como falha e repetido, em vez de dar a tarefa por concluída. E o prompt manda verificar sempre: depois de criar ou alterar um ficheiro de código, o modelo deve corrê-lo antes de responder. Isto é uma regra dada a um modelo, não uma garantia.

O Nesko e a taxa de passos concluídos

O Nesko construiu um projeto de ponta a ponta, com plano, aprovação, passos e relatório. Mas num modelo de 8B a taxa de passos concluídos varia: de uma execução para outra e de um projeto para outro. O método não torna o modelo bom, torna a falha visível e limitada. Um passo que não passa a prova depois de três tentativas fica bloqueado, com o último resultado à vista, e a execução continua. Nunca é dado como feito.

Memória, contexto e um modelo de cada vez

  • Os 16 GB são partilhados com as tuas outras apps. O Ollama mantém um só modelo em memória, e os cinco modelos Ploy e todos os agentes usam o mesmo Qwen3 8B.
  • O contexto é de 16 384 tokens e o limite de saída configurado é de 6144. As páginas do browser chegam ao modelo cortadas a 6000 caracteres, e o Veta lê no máximo 6500 caracteres de cada página.
  • As conversas longas são compactadas num resumo. Um facto dito no início de uma conversa muito longa pode não sobreviver à compactação.

O projeto verifica o uso de swap em cada passo que acrescenta memória: o modelo, a voz e o browser têm de caber juntos.

Voz

A transcrição foi medida com fala sintética em português. A fala real ao microfone ainda não foi medida, por isso ainda não há um número para ela. Ver Medições e Voz.

Outros limites do dia a dia

  • O Ploy ainda não tem instalador. /Applications/Ploy.app é um lançador que corre a versão de desenvolvimento a partir da pasta do código. Ver Descarregar.
  • As ferramentas de browser só funcionam em conversas abertas na janela da app.
  • O Veta lê o texto HTML de páginas públicas. Ignora redes sociais e vídeo, e descarta páginas com menos de 200 caracteres de texto legível.
  • Fora do âmbito: uso alojado ou em equipa, apps de telemóvel e treinar modelos.

O que precisaria de um modelo maior

Há trabalho difícil, sobretudo raciocínio exigente, em que um modelo de 8B tem um teto. Um modelo maior custa hardware ou dinheiro, e o Ploy não gasta nada sem um sim explícito da pessoa. Essa decisão ainda não foi tomada. Ver Princípios.