不久前，杭电在校博士生王超创立的公司获得千万级天使融资。融资方看好的是这家2022年成立的新型高科技公司“在端侧AI上的巨大潜力”。
“2024年在中国国际大学生创新大赛上，我们凭借‘旷维炬锐——行业领先的端侧AI开发平台与解决方案供应商’项目拿到高教主赛道的金奖，没想到这么快就将一些设想变为现实。当然了，DeepSeek等大模型的火热，加速迎来人工智能时代，是我们这些创业者的最大利好。”95后小伙王超感慨地说。
王超从本科阶段便聚焦AI与硬件的协同优化，博士课题“面向边缘计算的轻量化AI模型部署”直击行业痛点，为其创业奠定了理论基础。
据了解，王超创立的企业核心目标是解决AI在终端设备上的高效部署难题。传统云端大模型依赖高算力服务器，存在延迟高、隐私风险大等问题，而端侧AI通过将模型部署在本地设备，可实现实时响应与更高的数据安全。然而，如何在算力受限的终端（如手机、IoT设备）上运行复杂模型，一直是行业瓶颈。“端侧场景下的算力是个关键问题，容易受制于重量、能耗等因素，就好比一个机器狗，不可能扛着一台服务器运行。”王超告诉记者，他们依托华为等国产解决方案，深度参与昇腾AI应用创新与开发者生态，打造世界上数量最多的“中国产算力适配”体系。“我们做的事情，简单说就是改变传统依赖英伟达等国外算力统天下的局面。”
在智慧农业领域，王超团队研发出基于光谱和视觉的多模态非接触草莓分级方案。草莓集散中心操作人员使用平台提供的零代码数据标注及一站式训练工具链，基于MindSpore框架训练多模态模型，将草莓四类综合分级准确率提升至95.8%。同时得益于国产高性能边缘计算能力，单果分析速度能控制在30毫秒以下，实现本地实时精准分析，将日均分拣数量提高到8万果，降低70%以上的人工分拣成本。目前该系统于建德某草莓园试运行。
在产线质检领域，王超团队构建了大小模型相结合的可自演进质检系统，可以针对52类零件的缺陷进行自动分析与标注，利用大模型标注后的缺陷图像构建增量训练数据集。这样就在生产线实现自演进质检系统，该系统能够实现视觉质检精度的自我迭代和新零件自动适配。“大模型小模型协同，端侧AI发力，生产端质检的安全性、精确性、迅速响应性，都有了大幅度提升。”
“在嘉兴市一家单位指导下，我们团队与校友企业合作建设了深度融合大语言模型的全链路企业数字化服务平台。”王超说，这个平台通过20万条产业政策语料的微调训练以及大模型的私有化部署，实现92%的政策解读准确率，可处理如“分析某企业是否符合领军资质”等问题的思维链推理。目前，一期平台已上线。
王超充满激情地说：“用AI模型推动千行百业数智化转型，为企业大幅降低AI的接入与开发成本，是我们当下最关注的。以端侧AI为切入口，推动国产算力替代，助力构建国产人工智能生态，我们要走的路还很远，但肯定能做到。”
