放假放假放假!
生活
回家
- 今年抢票似乎还蛮容易的。
- 本来抢的是 15 号的票,也就是之前最最经常抢的那个,大概上午 10 点上海虹桥出发,下午 5 点左右到家。但是感觉这样一整天就没了。
- 所以这次改了改策略,买了个红眼高铁,晚上 1 点半先从上海到郑州,然后再从郑州到家,这样大概早上 7 点多就能到家了。
- 就,平白无故多出来接近一天的在家时间。
- 体验还算不错,虽说是一站一醒睡不咋好,但这趟车晚上停站少,整体睡得还算可以。
收拾东西
- 其实吧没啥可收拾的。
- 今年天真的是太热了……太热了!所以厚衣服都不需要带啥。就穿一带一就好了。
- 其他东西吧,都提前寄到了家里。就也不需要拿啥。
- 不知道用不要带脑子回去。
学习和折腾
投影仪之养老不管版
- 哎,搞不定啊,没搞定的是开机桌面。开机还是一大堆用不到的哪儿哪儿都要钱的东西,好烦。
- 春节回来再说吧就。
意外发现
- OpenWRT 要发 25.12 新大版本了(emm,26 年了亲,26 年了!你版本号还叫 25.12 啊)。
- 然后发现我现在用的京东云亚瑟,也有了对应的支持了,而且是新鲜热乎合并进去的。感谢各位开发者的努力。
- 但我估计啊,春节结束之前,应该又用不上正式版了。——为啥是又,因为三年前也这样,前脚春节结束滚回去上班,后脚它发布了正式版。
工作
为啥年前这么多事儿啊
- 项目说年前要联调。所以一周都在调试这事儿,简直奋战到最后一刻。怎么说呢……
- 就不知道咋的,这个模型用 vLLM 在 H 卡上跑不起来,死活跑不起来。所以作为备用方案,最好的选择就是换个推理框架,它一定能跑起来。
- 调通了,压测完了,对应的 CPU Wrapper 也要改。哎这茬犯难了:这代码,写得真的是一坨,改好之后完全没办法单步调试——就,本地 debug 没过的话我是坚决不敢上生产的。但现在,这代码,本地 debug 太难了。
- 它是个伪 monorepo,就是最最开始的时候,设计上,想把它当作个 monorepo 来用。然后呢,大家都没这么用,项目 A 要用,就从不知道那个地方拉个分支自己改,新建个 server 文件夹,copy 一套东西,有时候还改了公共的东西,改完了,从来不合并。等到项目 B 用的时候,就是从 A 上面不知道哪个地方拉个分支继续改,也从来不合并。现在的分支里面积累了之前数十个没有用的 server 代码。
- 设计上,搞了个 config,就说先用 python dict 做定义,然后主用环境变量做覆盖。然而,实际到用的时候,config 全部抛弃,直接从远程配置里面拉来配置,当作 config,覆盖掉上面刚刚初始化完的 config 。
- 设计上,明明启动脚本里面写得清清楚楚,
python server.py只能做本地测试,如果上线的话需要python -m gunicorn server:server,实际上大家都直接用本地测试的方法搞上线了,然后线上性能贼差。 - 然后,你做基建的,看着这一大坨,不得处理一下啊?要不然联调时候事儿更多。花了一天多时间,全部处理好了,从 monorepo 改成了 single repo,各种东西都归了归类,该删的删,反正是终于能本地调试了,并且线上性能提升了接近 30 倍。
- 就这样,一周结束了?啊?这么快?就这样忙到了最后一刻??
放假!好好歇歇。
Happy Anniversary~
发表回复