聚焦AI基础软件 上海新锐开发者的大会“痛点”追问

黄浦江畔，算法与梦想同频共振。在近日举行的上海人工智能开发者大会上，一群平均年龄不到30岁的新锐开发者成为焦点。他们不再满足于演示炫酷的应用 Demo，而是将目光投向更底层的技术深水区——人工智能基础软件。在开源框架、编译器、算子库、分布式训练系统等“硬骨头”领域，这些年轻的技术追梦人坦诚分享了一线开发中的真实痛点，也勾勒出中国 AI 基础软件冲破瓶颈的可能路径。

一、框架“用得好”与“造得精”之间的鸿沟

“最大的痛点不是没有框架可用，而是当我想针对特定硬件做深层优化时，发现框架的抽象层变成了一堵墙。”来自上海某高校实验室的开发者李想（化名）直言。当前，主流深度学习框架在易用性上已大幅提升，但在极致性能调优、新硬件适配、定制化算子开发等方面，开发者常陷入“改不动、调不深”的困境。

多位与会开发者指出，国产框架近两年在算子覆盖和分布式训练上进步显著，但在编译器栈的成熟度、动态图与静态图的精妙平衡、以及跨平台自动调优方面，与国际顶尖水平仍有差距。最典型的抱怨是：“为了跑通一个新型注意力机制，我不得不重写三套后端代码，如果框架的可扩展性更好，这样的重复劳动本可避免。”

二、领域语言的“巴别塔”困境

人工智能基础软件另一个痛点是领域特定语言（DSL）与编译器之间的割裂。开发者想用优雅的高层 DSL 表达计算意图，编译器却常常反馈模糊的性能退化报告。来自某芯片初创公司的陈默（化名）现场演示了一个案例：相同算子在 TVM 不同版本下性能相差数倍，而调试工具给出的信息一旦跨层便碎片化，“明明知道哪里慢，但不知道为什么会慢，根源在 IR 层还是调度策略里？”

为此，有开发者呼吁建设开放的 AI 编译器中间表示（IR）追踪与诊断工具链，借鉴传统编译器领域成熟的调试基础设施思路，“不能让每个写 AI 编译器的人都重新造一遍调试轮子”。

三、分布式训练的“沉默成本”

基座模型时代，分布式训练系统成为 AI 基础软件必争之地。多位在一线负责训练框架适配的开发者提到，分布式训练中节点间通信的调优、容错机制的鲁棒性，以及异构资源混合调度的灵活性仍是普遍短板。“你会看到 90% 的算力都在等少数几张卡的重计算任务收尾，‘木桶效应’极端显著。”一位来自云计算公司的开发者展示了一组内部数据：在千卡级集群中，资源碎片化和通信并发的低效往往吞噬掉超过30%的有效算力。

更令新锐开发者们困惑的，是分布式系统高可用层面的“默认正确性”缺失——多次实验后系统因某个静默错误重置了全部优化状态，连带摧毁了大量调参成果。“这和软件工程里持续集成缺位的痛如出一辙。”一位在大会闪电演讲中发问的年轻工程师如是说。

四、开源贡献渠道的成熟化焦虑

当讨论转向“如何回馈社区”时，现场氛围迅速热烈。多位开发者表示，虽然自己愿意为开源基础软件贡献算子或补丁，但常受限于两个问题：一是官方路标（Roadmap）不够透明，难以找到值得发力的切入点；二是行为规范（CoC）与技术提案文档习惯尚未亲近新人，一个合理改动常常要经历冗长的流程沟通。

对此，一位负责框架 community 建设的技术负责人回应称：“我们不能只看结果性产出，要重视培育开发者的深度参与感。小范围、高频次的 pair programming（结对编程）分享可能会比按月发代码更有效。”与会者达成的共识是，基础软件的社区要跨越“仅供下载”的姿态，走向激励诊断分析能力和模糊问题排查能力的度量体系联合建设。

大胆述痛，朝细节演进

本届上海人工智能开发者大会的一显著标签，是把抽象宏大叙事落到实处——由近百位新锐开发者提交的技术议题报告中，涌现了近300条具体的“soft 痛点项”：autotuner（自动调优器）的黑盒提示能否结构化、算法协议的预条件建模库是否需要重构……新一代开发者无意将问题抛向缺席的他方，他们迫不及待在 PPT 上列出“work around 清单”和“missing abstract 分析”。这是务实的图景：核心工具做得越扎实，应用创新的动能才能真正收敛至有交付价值的接口上。在汹涌的大模型时代里，这股讨论 quietly helps put sophisticated compute layers down到地基之下。【文/奕孚，仅代表作者观点】