在安防行业一个“盒子”如何让AI大模型落地？

　　在安防行业一个“盒子”如何让AI大模型落地？有报告显示，截至2023年10月，国内公开的AI大模型数量已经达到238个，过去5年世界上参数量超过百亿的大模型大约有45个，其中9个出现在中国。

　　对于大多承接项目规模在100万以内的的SMB安防企业而言，其人员配置一般以销售为主，技术为辅，且业务多聚焦于零售、餐饮、工厂、仓储、农林牧渔等细分场景，往往中小微企业很难具备整体AI解决方案输出能力。

　　中小微企业所承接的安防项目规模相对较小，扣除掉工人、设备采购等费用支出后，项目营收小。无法进行规模化效应降低边际成本，服务成本居高不下。

　　而中小微企业本身预算有限，这也意味着在整个项目中要考虑到多个需求并且做出权衡，在原有基础上升级AI变得有门槛。

　　对于目前更多中小微企业而言，其更多的是在“搬箱子”，即上游设备厂家有什么就卖什么，安防+AI经过近几年的发展，也在落地上遇到了“能实现的客户需求太少”“新需求的开发、交付速度慢”“生成算法精度差”“定制成本太高”等问题。

　　但不可否认，中国SMB安防市场规模庞大，这不仅仅是一个设备产品市场，更是一个工程市场。因其整体数量巨大，范围极广，规模累积效应也较大。

　　这也意味着，哪家企业能更好满足中小微企业更多需求，帮助其解决更多痛点，哪家企业便能破局而出。

　　“大模型一次训练成本在千万级，主流的训推一体机价格普遍在百万元，绝大多数企业都无法承担这样高昂的成本。”云天励飞董事长兼CEO陈宁坦言道。

　　对于怎么解决让AI大模型平民化这个难题，在历经各种推翻和演练后，云天励飞推出了“深目”AI模盒。

　　在“算法芯片化”的核心能力下，云天励飞基于自研大模型边缘训推芯片DeepEdge10 Max以及自研多模态大模型“云天天书”的深度融合，做到了将大模型塞进一个仅凭单手便可轻松托起的千元级小盒子中。

　　“深目”AI模盒具备算法边缘侧在线%”算法场景覆盖超过90%、算法精度超过90%，使用成本降低90%。

　　也就是说，安防人都能够根据自身场景需求半岛体育，利用“深目”AI模盒，就可拥有自己“专属”的大模型，训练出实战应用的算法，。

　　如今，“深目”AI模盒已适配并可承载10亿级SAM、百亿级Llama2等大模型运算，可广泛应用于AIoT边缘视频、移动机器人等场景。

　　据了解，云天天书大模型包含语言大模型、多模态大模型等不同系列，在C-Eval半岛体育、CMMLU等权威测试中多次获得第一，并于去年正式通过中央网信办备案。

　　云天天书1.0版本于2023年初正式推出，至今已完成3个版本的迭代，预计今年6月将迭代4.0 V版本。

　　“深目”AI模盒不仅仅是“压缩”了大模型和芯片能力的一款全新产品，更是把云天励飞大模型通过算法芯片化能力平台“硬件化”的一次重要尝试。

　　在“深目”AI模盒的算法训练平台上，有大量与生态合作伙伴共同打造的算法商城，能够提供覆盖14个大类、100+个小类、千余种算法。

　　在演示中，以店外经营为例，当用户需要训练识别算法时，可以直接使用平台现成的算法对目标进行识别。用户只需要对识别结果标记“正确”和“误报”半岛体育，算法精度就能通过自主学习快速提升。

　　那数据几乎空白的场景，如天灾人祸等极端场景，面对这样“敏感数据”“无数据”的情况，用户该如何训练算法？

　　据介绍，以加油站场景的吸烟识别为例，“深目”AI模盒能够利用大模型能力，以加油站为背景，生成在该环境抽烟行为的人物，并将数据用于算法训练中，填补训练数据的空白。

　　“在我们AI合成数据的过程中，我们也会基于已有的一些线D引擎去精准微调、预训练我们的大模型，让生成的效果更加贴近真实的场景。”云天励飞董事长兼CEO陈宁解释道。

　　十年磨一剑，出鞘必锋芒。2014年，云天励飞推出基于CV小模型的“深目”1.0，为“AI+公共安全”市场开启了新；2024年，云天励飞选择二次创业，推出了基于自研芯片和大模型技术的“深目”AI模盒。