Jarxi

Bolderdash

写完 Hexo skill 之后,又做了一个语气插件

第一个 Claude Code skill 在 ClawHub 上有 700+ 下载,这个数字意外到让我想再写一个。这次装的是我发帖时用的那些语气,而且会一直往里加。

我写的第一个 Claude Code skill 完全是为了自己方便。这个博客用 Hexo 发,工作流里毛刺不少,同样的东西我反复解释了好几遍,索性写下来一次:front matter 模板、SEO 检查项、部署路径、以及 Hexo 构建会以哪些方式静默失败。 它放在 ClawHub 上,攒了 700+ 次下载。 这个数字让我重新想了想。我写它的时候只当是给自己的备忘。结果一份”你已经亲手 ......

Chat Template 到底 tokenize 了什么

模型看不到你的 messages 列表,只看得到渲染完的那一串文本。想通这件事,add_generation_prompt、loss mask、双 BOS 这几个坑就串起来了。

tok.apply_chat_template(msgs, add_generation_prompt=True) 这行我抄过不知道多少遍,从来没细想过参数在管什么。官方 example 这么写,跑起来结果也对,就过去了。 直到要自己造 SFT 数据、自己算 loss mask,才发现这一行里每个东西都有讲究。今天把它拆开看了一遍,记一下。 最反直觉的一条先放这儿:模型根本不知道 messa......

多层账户与用户模型设计:为什么一个用户只能属于一个账户

三层账户与用户模型:法律实体 → 账户 → 用户。为什么先否决这个设计,两个月后又上线,以及四个只有真实数据才抓得到的静默失败 bug。

绝大多数计费 bug 不是算错了钱,而是身份问题:这次请求到底该扣谁的余额。身份模型一旦设计歪,下游每张表都会长出第二个可空列和一个 if。 这篇讲一套三层账户与用户模型的设计——法律实体 → 账户 → 用户——重点是那条听起来很武断、但看过它挡住的事故之后就很难反对的规则:每个用户必须且只属于一个账户,且这层归属永不可变。 有意思的是,这个设计我们在两个月前刚否决过。后来改变的不是 sch......

Little's Law 与 vLLM 扩缩容:10 个踩坑与 +99% 吞吐

给推理服务做自动扩缩容,最容易犯的错是用 QPS 判断负载。由 Little's Law,请求越慢、满载系统的到达率反而越低——系统 100% 满载时它判定要缩容。换成饱和度判据后,并发 16 以上吞吐 +99.3%、p50 −50.1%。

给 vLLM 做多副本自动扩缩容,最容易犯的错误是用 QPS 判断负载。而要说清楚这个错误为什么致命,绕不开一条排队论里最朴素的定律:Little’s Law。 这篇是把一套 SchedulerOrchestrator(多副本 vLLM 调度编排层)跑通会议摘要负载基准测试的记录:先讲清楚 Little’s Law,再是 10 个实际踩到的问题——6 个悄悄污染测量数据的陷阱,和 4 个真正......

[胡言乱语] 工院as工具人

工院 as 工具人USC 有一个 program 叫 USC games,这是我所知的所有 program 里面唯一一个用 USC 开头命名的,初衷是结合电影学院和工学院,建立一个跨学院的,融合所有人所长的项目。 背靠好莱坞,又有着近几年突飞猛进的工学院做支撑,这个项目常年排在全美第一。然而用在这个项目里的 PhD 的话说:“外人看起来好像挺牛逼,干,进来才知道怎么这样啊。” 原因是组成这个......

[Music] 网易云音乐翻墙回国

网易云音乐翻墙回国add 207.148.27.51 music.163.com to /etc/hosts ...

[Music] Sync 网易云音乐 to Apple Music

Sync 网易云音乐 to Apple Music 需要先把网易云音乐加密格式转换为mp3格式 下载ncmdump 123brew install taglibmake allmake install ncmdump filename 会将 filename转换成mp3格式2. 新建musicSync folder 在/Users/USERNAME/Music/网易云音乐/musicS......

[胡言乱语] 山川异域,风月同天

长江日报其实没说错啊,人家日本是别国,当然可以写山川异域,日月同天。我们自己人支援武汉应该怎么喊?我抛砖引玉啊:“硕鼠硕鼠 无食我黍” 不敢高声语,恐惊天上人。鹭鸶腿上劈精肉,蚊虫腹内刳脂油遍身罗绮者,不是养蚕人官仓老鼠大如斗,见人开仓亦不走。健儿无粮百姓饥,谁遣朝朝入君口?刑不上大夫,礼不下百姓庙堂之上,朽木为官,殿陛之间,禽兽食禄使天下之人,不敢言而敢怒;独夫之心,日益骄固。......