32 posts
An LLM call ends in 200 OK with empty content and the pipeline moves on like nothing happened. Diagnosis: reasoning models burn the token budget thinking and nothing is left for the answer. The fixes: a token ceiling with real margin, and a parser that tolerates a data: [DONE] glued to the JSON.
Chamada LLM termina em 200 OK com content vazio, a fila segue e ninguém reclama. Diagnóstico: reasoning models gastam o budget de tokens pensando e sobra zero pra resposta. Os consertos: teto de tokens com margem e parser que aceita SSE sujo.
The new stage in my transcription pipeline uses Gemini TEXT over 120s windows — no audio, cheap and fast. What keeps the model from making things up isn't a polite prompt: it's a numeric ±35% character invariant per window, with retry and flag when the math doesn't close.
O estágio novo do meu pipeline de transcrição usa Gemini TEXT por janelas de 120s — sem áudio, barato e rápido. O que impede o modelo de inventar não é um prompt educado: é um invariante numérico de ±35% de caracteres por janela, com retry e flag quando a conta não fecha.
After the bilingual jump to 0.1614 recall@1, there was a number left on the bench: how much was the cross-encoder contributing on every search? The week I measured that latency and recall are a bill you pay on every query — and the answer ended up written as a permanent flag in the config.
Depois do salto bilíngue para 0.1614 de recall@1, sobrou um número no banco: quanto o cross-encoder contribuía em cada busca? Na semana em que medi que latência e recall são uma conta que se paga em toda query — e a resposta acabou virada flag permanente no config.
300 training steps, a loss stuck at 10.8125, and a model that insisted on coming out blank. The cause wasn't a low learning rate — it was exploded weights in the starting checkpoint. The story of how a stalled run became a full diagnosis.
300 passos de treino, loss congelada em 10.8125 e um modelo que insistia em sair em branco. A causa não era a taxa de aprendizado baixa — eram pesos explodidos no checkpoint de partida. A história de como um treino parado virou um diagnóstico completo.
A study about cron jobs: why they accumulate, fail silently, and how a cron that 'never sleeps' can take down an ecosystem. From Yurumi's consolidation to 289 orphan jobs — the lessons from a night of investigation.
Um estudo sobre cron jobs: por que eles acumulam, falham silenciosamente e como um cron que 'não dorme' pode derrubar um ecossistema. Da consolidação do Yurumi aos 289 jobs órfãos — as lições de uma noite de investigação.
Three embedding models, two search systems, one homegrown benchmark: the study that started with a question about semantic similarity and ended up revealing the tradeoffs between colibri, bge and openai — and how each one found its place in the ecosystem.
Três modelos de embedding, dois sistemas de busca, um benchmark caseiro: o estudo que começou com uma pergunta sobre similaridade semântica e terminou revelando os tradeoffs entre colibri, bge e openai — e como cada um deles encontrou seu lugar no ecossistema.
Capivara kept its memories in a local ChromaDB, with its own embedder and L1-L4 layers. Yurumi kept the ecosystem's memory in a Qdrant. Two separate memories meant a brain that never talked to the rest of the body. The unification on 08/28 migrated 182/182 memories without losing a single one: hash dedup, backup before deleting, and an --apply gate that separates the plan from the execution.
O Capivara guardava as memórias dele num ChromaDB local, com embedder próprio e camadas L1-L4. O Yurumi guardava a memória do ecossistema inteiro num Qdrant. Duas memórias separadas significavam um cérebro que não conversava com o resto do corpo. A unificação em 28/08 migrou 182/182 memórias sem perder uma: dedup por hash, backup antes de deletar e um gate --apply que separa o plano da execução.
Every project's AGENTS.md was the official instruction set of the ecosystem, but it lived outside the Yurumi's memory — the ingest only ran when someone remembered to run it. The fix was a signature watcher (mtime+size) that re-ingests only what changed. Along the way: a first_run that ran a full ingest every day, an os.stat that hung when WSL wedged, and the lesson of never trusting a junction.
Os AGENTS.md de cada projeto eram as instruções oficiais do ecossistema, mas viviam fora da memória do Yurumi — o ingest só rodava quando alguém lembrava. A solução foi um watcher por assinatura (mtime+size) que re-ingere só o que mudou. No caminho, um first_run que rodava ingest completo todo dia, um stat que travava quando o WSL wedgava e a lição de nunca confiar em junction.
Yurumi stored its memory with a single embedding model trained in Portuguese. It worked — until the first question in English. The fix was not swapping the model; it was running two of them side by side and fusing the rankings with RRF. After a full LoCoMo run, recall went from 0.139 to 0.1614.
O Yurumi guardava a memória com um único embedder treinado em português. Funcionava, até a primeira pergunta em inglês. A solução não foi trocar de modelo — foi rodar dois ao mesmo tempo e fundir os rankings com RRF. Os números de uma corrida LoCoMo depois, o recall subiu de 0.139 para 0.1614.
The simple question 'what does my agent actually remember?' turned into a full audit of Yurumi: 32 knowledge bases, 551 documents, a Qdrant collection with over 8 thousand vectors, and a LoCoMo baseline that handed back reality in percentage form.
A pergunta simples 'o que meu agente lembra de verdade?' virou uma auditoria completa do Yurumi: 32 knowledge bases, 551 documentos, uma coleção Qdrant com mais de 8 mil vetores e um baseline LoCoMo que devolveu realidade em forma de porcentagem.
I actually read the BitNet b1.58 paper and got stuck on a math problem that refused to add up: how do three values (-1, 0, +1) fit in 1.58 bits? A study week that became a didactic clone of ternary quantization — and wrecked my mental model of 'precision equals quality'.
Li o paper do BitNet b1.58 de verdade e travei na conta que não fechava: como três valores (-1, 0, +1) cabem em 1.58 bits? Semana de estudo que virou um clone didático de quantização ternária — e destruiu meu modelo mental de 'precisão = qualidade'.
After the wave field theory and Mamba post, the theory gained something it was missing: a didactic, portable, testable artifact. How to turn a study into code that runs — and why that changed how I learn.
Depois do post sobre wave field theory e Mamba, a teoria ganhou algo que faltava: um artefato didático, portátil e testável. Como transformar um estudo em código que roda — e por que isso mudou a forma como eu aprendo.
A full inventory of the ecosystem's skills revealed 308 skills across 39 categories, 4 reuse gaps, and the padroes-reuso-ecossistema hub that organized everything into 7 domains. A study that turned into an audit of my own knowledge.
O inventário completo das skills do ecossistema revelou 308 skills em 39 categorias, 4 gaps de reuso e o hub padroes-reuso-ecossistema que organizou tudo em 7 domínios. Um estudo que virou auditoria do próprio conhecimento.
From the wave field theory paper to BitMamba-2 1B: how a study on wave propagation became the TatuEngine inference engine, and why the Ollama truncation loop (num_ctx 4096 vs 262K) became the Docs First rule that runs across the entire ecosystem.
Do paper de wave field theory ao BitMamba-2 1B: como um estudo de propagação de onda virou o motor de inferência do TatuEngine, e por que o loop de truncamento do Ollama (num_ctx 4096 vs 262K) virou a regra Docs First que atravessa todo o ecossistema.
De 78 posts, só 1 era de estudos — o loop de truncamento do Ollama. Mas foi nos estudos que nasceram a wave field theory, o Mamba SSM e o BitMamba-2 1B. A história do que a seção mais carente do blog realmente produziu.
Out of 78 posts, only 1 was about studies — the Ollama truncation loop. But it was in the studies that wave field theory, Mamba SSM and the BitMamba-2 1B were born. The story of what the blog's most neglected section actually produced.
Hermes kept entering a continuation loop 4 times before giving up. The cause: Ollama, by default, only allocates 4096 context tokens — regardless of the model supporting 262K. The hard way: num_ctx of the model ≠ num_ctx of the inference slot.
O Hermes entrava em loop de continuation 4x seguidas antes de desistir. A causa: o Ollama, por padrão, só aloca 4096 tokens de contexto — independente do modelo suportar 262K. Aprendi na marra que num_ctx do modelo ≠ num_ctx do slot.