Workflow 并不是一个新概念。在 LLM 之前，workflow 就作为一种程序编排范式存在于现实业务中，典型代表是 Taskflow1 和 Workflow2。它们都以 Task 为基本单位，通过定义任务之间的依赖关系来实现复杂的业务流程。 LLM 时代的 workflow，按照 LangChain3 的定义，是沿着预定的代码路径，按照固定的顺序执行，只不过路径节点是 LLM，参考...

假设你手头有两台机器A和B，A可以连接外网，B无法连接外网。用户可以登陆A和B机器，A与B仅共享存储却无法直接建立网络连接，如果此时要在B机器上跑一些程序，你该怎么办？ 用户直接登陆B运行程序 用户在本地向A和B机器下发指令，A机器接收指令进行资源下载，B机器接收指令执行 第一种做法很自然能够想到，但问题是如果需要连接外网进行资源下载怎么办，比如缺少相关库依赖和缺少模型等；第...

本文代码来自triton-02-fused-softmax。 Triton的样本代码实现基于假设：**每一行数据可以完整的放入GPU的shared_memory中** kernel外围驱动代码 样本代码 properties = driver.active.utils.get_device_properties(DEVICE.index) NUM_SM = properties["m...

本文总结自learn-harness-engineering 🔥标记为重点章节 🙋‍♂️为个人理解部分 模型能力强不等于执行可靠 Anthropic 做过一个对照实验。同一个 prompt（”做一个 2D 复古游戏编辑器”），同一个模型（Opus 4.5）。第一次让它裸跑20分钟，花了9美元，游戏核心功能根本跑不起来。第二次给它配上完整的harness(planner + gener...

AI系统性能工程读书笔记

两晋十六国人物志

本文正在撰写中，敬请期待。

公元207年，曹操举兵北征乌桓，欲图彻底剿灭袁氏势力。 这一年五月，曹操行军至河北玉田，当时正值雨季，道路积水，“浅不通车马，深不载舟船”。正在一筹莫展之际，曹操经当地人田畴引导，走奇路直指乌桓老巢柳城。 乌桓未料到曹军如此神速，仓促迎战，结果大败。乌桓单于蹋顿被临阵斩杀，曹军在白狼山之战中大获全胜，胡、汉降者二十余万。 九月，曹操从柳城班师，进至碣石山一带休整。趁大军歇脚之际，曹操登...

失意才子的人生嗟叹

汉末乱世，烽烟四起。董卓、李傕作乱关中，百姓饿殍遍野。趁汉室衰微之际，匈奴铁骑如潮水般涌来，风沙漫天中，蔡文姬被粗暴掳走。她回望故土，眼中满是悲怆与不舍，衣袂在狂风中撕裂般飘动，仿佛在诉说着乱世的沧桑与无奈。 在草原这段时间里，蔡文姬生育两个儿子，她对匈奴部族的生活也已习惯，可她还是时常怀念中原故土。蔡文姬经常怀抱年幼儿子，望着远方地平线，期待汉家人到来。粗砺的草原风沙勾勒出她坚毅的侧影，...