结论前置:边缘AI芯片的胜负手,往往不在峰值算力
周立诚做边缘AI芯片架构已经十一年,他给团队立过一条规矩:项目立项时先写功耗账本,再谈算力指标。在他看来,边缘设备的电池容量和散热面积几乎固定,峰值算力再高,只要平均功耗压不住,产品就会在真实场景里掉链子。球帝直播技术解读栏目这次以人物故事切入,正是想把这类工程判断讲清楚。
他手头最近一次返工,来自一款智能门锁方案。样机在实验室跑分正常,装到门上却出现识别延迟和外壳发热。问题不在算法,也不在制程,而在架构阶段没有把唤醒频率、内存访问和推理精度放进同一张表里核算。
功耗账本的第一页:把唤醒次数当成交付指标
周立诚的做法是把整机功耗拆成待机、唤醒、推理、通信四段,每段再拆成静态漏电和动态翻转。他常说,边缘AI芯片的能效比不是实验室里的一组数字,而是用户一天里按了多少次门铃。
- 待机段:感知前端常开,主控大部分时间休眠,漏电控制决定电池月耗。
- 唤醒段:从休眠到可推理的启动延迟,直接影响用户体验和平均功耗。
- 推理段:算力精度选择决定单次推理的能耗,定点与浮点的取舍要按任务定。
- 通信段:上报频率与本地缓存的配合,往往比芯片本身更影响整机账本。
他把这张表贴在工位上,每周和固件、算法同事对一次数。球帝直播的读者里有不少做端侧方案的工程师,这种把功耗拆成可核对条目的方式,比单纯比较算力参数更有参考价值。
精度取舍:不是越低越好,而是错一次要花多少电
第二个故事发生在一次人脸识别门锁的误识率复盘。团队把模型从浮点降到定点后,功耗下降了,但误识带来的重试次数上升,平均功耗反而回升。周立诚的结论很直接:精度选择要算总账,单次推理省下的电,可能被重试和用户操作吃掉。
他给出的方法是先定任务容忍度,再看模型在不同精度下的稳定性,最后把重试概率折算成能耗。这套流程后来被写进团队的设计评审清单,也成为球帝直播技术解读栏目里常被提到的工程思路:算力精度不是孤立指标,它和能效比、用户体验绑在一起。
封装与互连:小芯片方案里的现实约束
到了方案后期,周立诚开始和封装团队讨论小芯片组合。边缘设备对面积和成本敏感,先进封装带来的互连密度提升固然诱人,但封装本身的功耗和良率成本也要进账本。他习惯把互连协议的开销折算成每比特能耗,再和单片方案对比。
他的判断是,边缘AI芯片短期内仍以单片集成为主,小芯片更适合需要灵活扩展的产品线。球帝直播在技术解读中多次强调,先进封装改变的是带宽账本,而账本最终要回到产品形态上核算。
三年下来,周立诚的功耗账本换过三个版本,唯一没变的是结论前置的习惯:先写清楚每一度电花在哪里,再谈架构。对关注智能芯片产业的读者来说,这或许比任何单项参数都更接近工程真相。
网友评论
球迷朋友们怎么说
功耗账本这个说法太实在了,我们做门锁方案也是栽在唤醒次数上,跑分好看没用。
精度降了重试变多这点深有体会,之前调摄像头模组,省的电全被重试吃回去了。
互连开销折算成每比特能耗这个思路不错,回去让我们封装同事也按这个口径算一遍。
人物视角读起来比纯参数文舒服,球帝直播这类技术解读可以多来点工程日志。
小芯片在边缘设备上确实要谨慎,面积和成本一压,很多方案就回到单片了。