Jul 28 01:01 data: move dados brutos consolidados para data/raw/ Separa o bruto consolidado (uma linha por medicao) dos CSV agregados de
analise que ficam na raiz de data/. Ajusta o script gerador e o README. 00:53 data: separa dados brutos por workload - full_raw_serving.csv (5818x65) com as 5610 medicoes individuais
- raw_ocr/ollama/stt/embed/vision/rerank.csv, um por workload
- full_raw.csv segue existindo como tabela unica consolidada
- coluna metric_family identifica o tipo de experimento (evita ler coluna
vazia como dado faltante quando a metrica nao se aplica)
- achata quebras de linha em platform/engine_version: 1 linha = 1 registro
- soma das partes confere com o consolidado: 6907 linhas / 5610 individuais / 342 arquivos 00:40 data: full_raw.csv cobrindo 100% de raw/ (342 arquivos) com todos os metadados - inclui os 60 CSV sem JSON par, que antes ficavam de fora
- preserva todas as chaves de env/meta (python, platform, seed, warmups, input_len, served_model, backend) em vez de uma lista fixa
- recupera do nome do arquivo o que nao foi gravado: job Slurm, tag NGC, GPU, timestamp, modelo
- normaliza grafia da GPU (17 variantes -> 11 GPUs reais) preservando gpu_name_raw
- recupera as GPUs AMD, que o nvidia-smi gravava como '?'
- model 69->99.4%, gpu_name 98->100%, engine 13->96%, tensor_parallel 26->82%
- 6907 linhas x 209 colunas; as 5610 medicoes individuais conferem com a soma de reps dos JSON 00:06 data: full_raw.csv com todas as 5.610 medicoes individuais de serving (uma linha por repeticao, antes das medias) + 890 agregadas dos demais workloads Jul 16 11:11 v0.8: raw JSON de todas maquinas (RTX out-256 + out-128 + experimento vLLM, B200 tp1/2/4, GPPD, reps individuais) (part 3) 11:11 v0.8: raw JSON de todas maquinas (RTX out-256 + out-128 + experimento vLLM, B200 tp1/2/4, GPPD, reps individuais) (part 2) 11:11 v0.8: raw JSON de todas maquinas (RTX out-256 + out-128 + experimento vLLM, B200 tp1/2/4, GPPD, reps individuais) 11:11 v0.8: rankings por output_len, comparacao justa RTX x B200 out-256, nota metodologica, changelog 11:11 v0.8: reconstrucao serving_ALL output_len real + RTX out-256 + saneamento ollama + nomes GPU + experimento vLLM a parte Jun 30 18:56 sbatch Docker 1-modelo/job (teto 2h): tudo editável no arquivo, sem parâmetros, conc 1->128 igual B200/RTX 18:32 README portable: seção sem-slurm (run_manual_docker.sh) 18:32 guia manual sem-slurm: rodar 32B/Coder-32B/72B em H200/H100/B200/RTX6000 com prompts iguais aos do benchmark Jun 29 23:34 data: +CSV bruto 4090 Coder-32B 23:34 data: +RTX 4090 Coder-32B-AWQ (buraco fechado, 379 tok/s pico) 19:49 data: textos extraídos (outputs) dos 4 modelos OCR na RTX 6000 — 50 págs cada, p/ comparação de acurácia (CER/WER) 19:48 data: +CSV bruto baidu OCR RTX 19:48 data: +baidu/Unlimited-OCR na RTX 6000 (4º modelo OCR: 425ms/pág, faixa DeepSeek) 18:34 fix(data): nome GPU canônico no stt_ALL (RTX PRO 6000 Blackwell, sem Workstation Edition) 18:34 data: +CSVs brutos STT RTX (base/small/turbo) 18:34 data: +STT base/small/large-v3-turbo na RTX 6000 (agora 4 tamanhos de Whisper) 17:44 docs: REPRODUCING.md destaca portable-slurm + run_all.sh (qualquer cluster/Frontier) na home 17:44 docs: README.md destaca portable-slurm + run_all.sh (qualquer cluster/Frontier) na home 17:29 feat: run_all.sh — submete 100% dos testes (todos modelos × tipos) via 1 sbatch escolhido; +dry-run didático 17:24 docs: REPRODUCING.md aponta pros sbatch portáveis (rodar em qualquer cluster/Frontier) 17:23 feat: sbatch portáveis auto-contidos (NVIDIA/AMD × container/venv) p/ reproduzir em qualquer cluster Slurm — Frontier/ORNL incluído 17:08 docs: tabela OCR cross-GPU agora com dados consolidados rastreáveis (B200/L40S/Spark do ocr_pages_ALL, não mais herança) 17:04 data: re-consolidar _ALL do raw completo (OCR agora cobre B200/L40S/Spark; serving +10 linhas B200/Spark) 17:03 data: raw/ completo — 100% dos brutos de todas as fontes (b200/gppd/spark/rtx incl. OCR B200/L40S/Spark que faltavam) 16:48 docs: README v0.7 — rankings regenerados dos dados limpos (RTX completa, AWQ×BF16, stack embed/rerank/stt/vision, DeepSeek-OCR vs NuMarkdown 11×, custo-benefício, cobertura) 14:33 data: +CSVs OCR RTX (DeepSeek-OCR, DeepSeek-OCR-2, NuMarkdown) 14:33 fix(data): ocr_pages_ALL normalizado (schema único, modelos reais, +DeepSeek-OCR/-2 vs NuMarkdown na RTX) 14:18 fix(data): normalizar schema (15-col único) + GPU canônica + RTX em todos _ALL 13:53 data: reconsolidar *_ALL.csv com RTX PRO 6000 (serving fixado + embed/rerank/stt/vision/ocr); +rerank_ALL +ocr_pages_ALL 13:51 data: add raw CSVs RTX PRO 6000 (serving fixado + embed/rerank/stt/vision/ocr) 13:40 data: add raw per-experiment CSVs (GPPD/B200/Spark) — 1 CSV por run, auditável p/ reprodução 12:32 feat: reproducibility package — scripts por máquina (runners/gppd-slurm/b200-apptainer/rtx-docker/spark-ollama) com fixes 12:32 docs: add REPRODUCING.md — passo-a-passo por máquina (Slurm/B200/RTX/Spark) 12:32 chore: remover scripts/ legado (plana, .bak) antes de reorganizar por máquina Jun 25 04:23 OCR Spark completo: 1/10/50 × conc 1/4/8/16 (12 pts) — gap fechado 02:12 OCR L40S atualizado (10 pts; 50p conc8/16 em coleta) 02:12 RTX 6000: +Qwen 7B/32B BF16 (full-precision) — achado: AWQ +19-50% mais rápido que BF16 + 32B BF16 cabe em 96GB 00:37 OCR 4090 completo: +conc16 (11 pts, fechado o gap via TMPDIR fix no tupi) Jun 24 19:23 full review: 9 inconsistências corrigidas (header duplicado, 72B desatualizado, versão, RTX no OCR, VRAM limpa, negritos) 19:23 OCR: +RTX PRO 6000 (12 pts, 99-101 tok/s) 19:19 custo-benefício: RTX PRO 6000 ($9.000 varejo) lidera 32B com 192.8 tok/s/$1k — melhor config single-GPU pro Assistente 19:14 rankings: B200 1×/2×/4×/8× GPUs em TODAS tabelas + RTX 6000 + VRAM total (×nGPUs) + colunas uniformes 19:00 v0.6: seção escala TP do B200 (1/2/4/8 GPUs por modelo) + B200-1GPU no ranking 7B (RTX 6000 bate B200 single-GPU) 18:58 v0.6: RTX PRO 6000 nos rankings de TODOS os modelos (7B→72B) + matriz cobertura + custo-benefício 32B 18:26 v0.6: RTX 6000 âncora single-GPU, OCR B200 152 tok/s, achado TP-OCR, metodologia (só inferência) 18:26 v0.6: +B200 OCR tensor-parallel (TP 1/2/4 — achado: TP piora OCR-8B)