打哄哄逛了个汉堡节
生活
汉堡节
- 上周开始,旁边的万象城外面在搞汉堡节,大概有几十家商户。老远就能闻到汉堡的味道。但是排队巨久。
- 这周说,嗯那就早上早点去,估计排队人会少一点。
- 早上 10 点去的。人一点都不少。 3Q 的汉堡排队外 8 圈内 5 圈,要排 2.5 小时。
- 最终买了仨。跑马场鹅肝汉堡就是香,怪兽汉堡辣辣的很爽,云堡味道很复合。大满足。
- 哦对了,价格也不低,一个 88,一个 59,一个 69 。
周末吃吃吃
- 可乐鸡翅,一定要拿有糖可乐来做。糖这种东西受热后会发生变化,味道也会发生变化,但是无糖可乐里面的甜味素呢,受热就不变化,所以做鸡翅的话,颜色浅不说,味道还特别甜,不正常的甜。
- 当然了,10 个鸡翅肯定一半可乐鸡翅一半烤鸡翅啊,要不怎么能对得起空气炸锅,正好把那些烧烤料给消灭了。
- 牛奶炖芋头,好久没吃到了。大芋头真香。
学习和折腾
小集群稳定下来了
- 就这样吧,就这样吧。不折腾了,好好用一段时间。
- 目前里面都跑了啥:
- 当记事本用的:AFFiNE
- 通知用的:Bark
- 画图用的:ExcailDraw
- 记账用的:ezBookkeeping
- 智障家居:Homeassistant
- 看电影用的:Jellyfin 、 Jellyseerr 、 MoviePilot 、 Prowlarr 、 Radarr 、 Sonarr
- 挂载网盘用的:OpenList
- 传文件用的:PairDrop
- 似乎,够用了,吧。在 selfh.st 上扒拉了好几圈,似乎没有啥再能吸引我的东西了。
- 总体来说工作比较正常,但是 HomeAssistant 似乎 mDNS 有问题,添加不到 HomeKit 里——再说吧,不想动它了。
工作
各种小杂事儿
- emm,就,公司里有一个比较傻 X(抱歉我很少骂人,但这玩意儿不骂实在难受)的系统,会分析代码和数据。这玩意儿刚刚上线的时候,甚至会报「int64」有敏感词,不让提交代码。
- 然后现在,要传输 tokenizer 嘛,然后它会报 tokrnizer 里面有涉及政治和色情的文本。
- 然后就没有然后了,就,十分,难受。每天都在想尽办法能让自己正常干活。
对齐对齐
- 模型要上线了,发现对不齐。哎,奇怪了,明明用的就是 vllm 官方实现哎,咋可能对不齐?
- 查来查去,发现本地离线推理的时候用的是 bfloat16(默认,对的,符合预期),vllm 要是用 bfloat16 的话就对不齐,但是用 float16 就各种正常——啊?
- 然后之前看,如果要用 float8 量化的话,精度几乎无损,吞吐提升一倍。但现在用了 float8 的话,精度能下降 10% 。奇怪奇怪。
下周去北京出差。北京好冷啊!希望别感冒。