Testes e o Proof Gate real
Separe testes de contrato da fronteira host que prova stdin, auth, streaming e output exato.
Commit upstream fixado: b189869b7755d2b482969acf6c92da3ecfeffd36
- Nomear o que testes focados provam e o que não conseguem provar.
- Ler um sentinel exato como fronteira real de protocolo.
- Manter afirmações de Docker e produção fora da prova host.
A grande ideia
Testes unitários provam nossas regras de tradução sem spend nem dependência de CLI instalado. Um smoke real prova outra camada: o binário `grok` publicado aceita `/dev/stdin`, autentica, transmite JSONL, termina com zero e retorna exatamente o sentinel pedido. Os dois são necessários; nenhum substitui o outro.
Pense como… Teste o adapter na bancada e depois conecte-o à tomada real. Uma leitura perfeita na bancada não prova que o prédio tem energia; uma lâmpada acesa não prova cada regra de segurança do adapter. A analogia quebra porque o smoke vivo também exercita uma fronteira remota de modelo.
Casos Vitest focados cobrem construção do comando, isolamento do prompt de argv, shell escaping, gate da flag de permissão, mapeamento do enum effort, desativação obrigatória da busca web nativa, sessões fail-closed, parsing text/end/error, usage incompleto e input malformado.
A fronteira host foi executada em 2026-07-16 com Grok CLI 0.2.101: um prompt entrou por `--prompt-file /dev/stdin`, o processo terminou com 0 e deltas de texto ordenados reconstruíram exatamente `GROK_DEV_STDIN_OK`. O transporte está provado no host macOS atual e é esperado numa futura imagem Linux; Windows nativo, prontidão no Docker e resume de sessão ainda não estão provados.
Evidência: Guia fixado do modo headless
Compare as fronteiras
Seguro: reportar a fronteira e o output exatos de cada gate.
Arriscado: chamar typecheck ou smoke host de “produção completa”.
| Superfície | Upstream | Alembic | Veredito |
|---|---|---|---|
| Unit contract | Comportamento determinístico de parser/comando | Vitest | PROVE |
| Host CLI | Binário + stdin + auth + rede + stream | Exact sentinel | PROVE |
| Docker / roster | Install na imagem + credenciais + routing | Não exercitado aqui | NOT PROVEN |
A fronteira host foi executada em 2026-07-16 com Grok CLI 0.2.101: um prompt entrou por `--prompt-file /dev/stdin`, o processo terminou com 0 e deltas de texto ordenados reconstruíram exatamente `GROK_DEV_STDIN_OK`. O transporte está provado no host macOS atual e é esperado numa futura imagem Linux; Windows nativo, prontidão no Docker e resume de sessão ainda não estão provados.
Código e comandos reais
packages/factory/src/GrokAgentProvider.test.ts + live host
pnpm --filter @alembic/factory test pnpm --filter @alembic/factory typecheck printf '%s' 'Reply with exactly GROK_DEV_STDIN_OK.' | \ grok --prompt-file /dev/stdin --model grok-4.5 \ --reasoning-effort low --output-format streaming-json \ --disable-web-search --always-approve --cwd /tmp # observed text result: GROK_DEV_STDIN_OK # observed exit: 0
Como chegar lá
sed -n '1,240p' packages/factory/src/GrokAgentProvider.test.ts grok --version && grok --help | rg "prompt-file|streaming-json|reasoning-effort"
Evidência: RESOURCES.md
Atlas visual
Prática e feedback
Todos os unit tests passam, mas `/dev/stdin` nunca foi testado com o CLI publicado. O transporte está provado?
Cartões de recuperação
Inspecione cada camada de prova
Selecione um gate para ver a afirmação honesta mais forte que ele sustenta.
Resumo em quatro slides
Teste seu modelo
O que `GROK_DEV_STDIN_OK` provou?