小小技术园

一句话总结：把GPTBot、ClaudeBot、PerplexityBot等12个UA对本站6条路径逐个跑了一遍，判定结果12份完全相同——站里10条robots规则没有一条给AI爬虫，全走通配符；真正的问题在别处。有人问我，AI爬虫到底能不能抓他站上的文章。我说看robot...

一句话总结：Ollama的模型目录里没有.gguf文件，每个文件都以sha256-<64位十六进制>命名；一个7B模型对应1个manifest加6个blob，权重只占其中4.68GB，剩下14KB全是元数据。本机装了个qwen2.5:7b，一直想知道它到底把文件存...

一句话总结：safetensors只有三段——8字节小端长度、一段JSON头、然后是数据区；一个93层896专家的模型如果不把专家打包，光头部JSON就有21.76MB，打包后只有58KB，差375倍。下载1.56TB权重不现实，但读它的头部很便宜。我把safetensors...

一句话总结：KimiK3.1Pro的93层里只有24层是带稀疏索引的全注意力，剩下69层换成线性注意力；按1M上下文算，前者的KV是123GiB，而吃掉其中78%的不是KV本体，是索引器的key缓存。上一篇算完1.56TB权重，我顺手把KV也算了一遍，结果和预期反着...

一句话总结：KimiK3.1Pro总参数2.78万亿、激活1040亿，权重文件1.56TB，折合4.49bit/参数；单机8卡H200共1128GB，缺口432GB，要12张卡才装得下权重。朋友在做投研agent，看到K3.1Pro开源，问能不能在他们那台8卡机上自...

一句话总结：Gemma4一次放了E2B、E4B、12B、26BA4B、31B五档，31B的Q4权重17.3GiB，24G卡装完只剩6.7GiB给KV，按256KiB/token算只够26K上下文；而E2B的权重只有1.1GiB，128K上下文的KV却是它的5....

一句话总结：用50行Python把三种时钟协议各跑一遍，单token延迟从10毫秒涨到80毫秒，最优思考预算从256token掉到64token；换成PausedClock，同一套逻辑的最优策略直接反过来。前天写完Realtime-Bench那篇解读，有人在评论区问我：44%...

一句话总结：GoogleCloudAI把85个"持照工程师愿意签收"的工程交付任务做成基准，七个agent框架里最好的配置平均只拿到50.6%，每个任务烧掉2700万token、耗时63分钟。一个做结构设计的朋友看完这个基准的样例任务，说了一句很到位的话：这些活儿我会做，但我不敢让机器替...

一句话总结：英伟达和UT-Austin拉了50个实时任务、12个前沿模型做测试，最强的GPT-6-Astra按真实推理耗时推进时只有44%，连过三次的概率掉到36%；而加大推理强度对一部分模型是加分，对另一部分是减分。上周有人在群里问，为什么他那个"实时报价提醒"的agent明明模型很强，却...

一句话总结：混元Hy4把770B总参数压成49B激活，价格与预览版持平，真正改变账本的是缓存命中0.3元/百万token这一行——它是输入价的二十分之一，但只对"重复读同一段上下文"的调用有效。11月4日晚上，一个做投研工具的朋友把Hy4的价目表截了半张图发我，只圈了一行：缓存命中...