0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Liquid AI发布边缘AI模型LFM2,实现毫秒级实时推理与离线运行

Carol Li ? 来源:电子发烧友 ? 作者:李弯弯 ? 2025-07-15 08:59 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/李弯弯)近日,美国初创公司Liquid AI宣布正式推出下一代Liquid基础模型(LFM2),该模型在边缘模型类别中创下了速度、能效和质量的新纪录。

LFM2的诞生源于对AI底层逻辑的重构。与传统基于Transformer的模型不同,LFM2采用结构化、自适应的算子构建,其灵感源自动态系统理论、信号处理与数值线性代数的深度融合。

这种设计使模型具备三大核心优势:其一,训练效率较上一代提升300%,在CPU上吞吐量较Qwen3、Gemma等模型提升200%,延迟显著降低;其二,在长上下文处理(如32k token文档分析)和资源受限场景(如移动端、物联网设备)中表现卓越;其三,通过优化内存占用(LFM-3B仅需16GB内存,远低于Meta Llama-3.2-3B的48GB),实现毫秒级实时推理与离线运行。

“我们以第一性原理构建模型,如同工程师设计发动机般严谨。”Liquid AI联合创始人兼CEO Ramin Hasani在发布会上强调,“LFM2的目标是让每台设备都成为本地AI中心,释放生成式AI在边缘场景的潜力。”

从实测数据来看,在指令遵循、函数调用等智能体AI关键属性上,LFM2平均表现显著优于同规模竞品,成为本地与边缘用例的理想选择;

在MMLU(多模态学习理解)、RULER(长上下文推理)等权威评测中,LFM2-3B模型性能超越前代7B-13B模型,LFM2-40B则以混合专家(MoE)架构实现质量与成本的平衡;

生态兼容性方面,模型权重已开源至Hugging Face,支持通过Liquid Playground即时测试,并即将集成至边缘AI平台与iOS原生应用。

LFM2的发布,恰逢全球边缘AI市场爆发前夜。据预测,仅消费电子机器人、智能家电等领域的边缘AI技术,即可在2035年推动总潜在市场规模逼近1万亿美元。Liquid AI已与《财富》500强企业展开合作,通过提供超高效率的小型多模态基础模型与安全的企业级部署方案,助力客户实现数据主权与隐私保护。

“将大型生成式模型从云端迁移至设备端,是AI普惠化的必经之路。”Hasani指出,“LFM2的毫秒级延迟与离线能力,对手机、汽车、卫星等实时性要求极高的终端至关重要。”目前,该公司已与国防、航天、网络安全等领域达成战略合作,其技术栈正成为高安全性场景的首选方案。

LFM2的发布,只是Liquid AI技术长征的第一步。据透露,未来几个月内,公司将陆续推出系列强大模型,覆盖更广泛的模态与场景。随着企业从云端LLM转向经济高效、快速、私密的本地智能,LFM2或将成为AI技术民主化的关键推手。



声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 边缘AI
    +关注

    关注

    0

    文章

    176

    浏览量

    5562
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    【Sipeed MaixCAM Pro开发板试用体验】基于MaixCAM-Pro的AI生成图像鉴别系统

    能够有效捕捉AI生成图像与真实手绘扫描图像在纹理、笔触、光影、全局一致性等方面的细微差异。 边缘端部署:将模型量化、编译,最终高效运行在算力有限的MaixCAM-Pro开发板上。
    发表于 08-21 13:59

    边缘智能网关在水务行业中的应用—龙兴物联

    、重金属等),数据通过边缘网关实时处理。 优势:? 秒异常报警:? 边缘AI模型
    发表于 08-02 18:28

    爱芯元智重磅发布边缘计算战略

    近日,爱芯元智在2025世界人工智能大会上重磅发布边缘计算战略。展会现场汇聚了众多行业精英,共同见证了爱芯元智边缘计算与AI融合发展的新路径,为AI普惠美好生活擘画新的蓝图。
    的头像 发表于 08-01 10:45 ?636次阅读

    信而泰×DeepSeek:AI推理引擎驱动网络智能诊断迈向 “自愈”时代

    网络智能诊断平台。通过对私有化网络数据的定向训练,信而泰打造了高性能、高可靠性的网络诊断模型,显著提升了AI辅助诊断的精准度与实用性。该方案实现了网络全流量深度解析能力与AI智能
    发表于 07-16 15:29

    最新人工智能硬件培训AI基础入门学习课程参考2025版(离线AI语音视觉识别篇)

    端侧离线 AI 智能硬件作为 AI 技术的重要载体之一,凭借其无需依赖网络即可实现智能功能的特性,在一些网络条件受限或对数据隐私有较高要求的场景中,发挥着不可或缺的作用。本章基于CSK
    发表于 07-04 11:14

    Nordic收购 Neuton.AI 关于产品技术的分析

    与 Nordic 的 nRF54 系列超低功耗无线 SoC 结合,使得即使是资源极为有限的设备也能高效运行边缘 AI。Nordic 目前正在将 Neuton 深度集成到自身开发生态中,未来会提供更多工具、固件
    发表于 06-28 14:18

    英特尔发布边缘AI控制器与边缘智算一体机,创造“AI新视界”

    处理器的边缘 AI 控制器 和 基于英特尔锐炫 ? 显卡的边缘智算一体机 ,为工业AI的规模化落地注入强劲动力。 英特尔与诺达佳联合发布边缘
    发表于 06-24 17:50 ?1198次阅读
    英特尔<b class='flag-5'>发布边缘</b><b class='flag-5'>AI</b>控制器与<b class='flag-5'>边缘</b>智算一体机,创造“<b class='flag-5'>AI</b>新视界”

    Deepseek海思SD3403边缘计算AI产品系统

    海思SD3403边缘计算AI框架,提供了一套开放式AI训练产品工具包,解决客户低成本AI系统,针对差异化AI 应用场景,自己采集样本数据,进
    发表于 04-28 11:05

    首创开源架构,天玑AI开发套件让端侧AI模型接入得心应手

    套件2.0全面支持 DeepSeek四大关键技术:混合专家模型(MoE)、多Token预测(MTP)多头潜在注意力(MLA)、FP8推理(FP8 Inferencing),实现Token产生速度提升
    发表于 04-13 19:52

    新品 | Module LLM Kit,离线大语言模型推理模块套装

    ●●●PART.01产品简介ModuleLLMKit是一款专注于离线AI推理与数据通信接口应用的智能模块套件,整合了ModuleLLM与Module13.2LLMMate模块,满足多场景下的
    的头像 发表于 03-28 18:49 ?573次阅读
    新品 | Module LLM Kit,<b class='flag-5'>离线</b>大语言<b class='flag-5'>模型</b><b class='flag-5'>推理</b>模块套装

    Banana Pi 发布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 计算与嵌入式开发

    存储设计,轻松应对复杂AI模型实时推理。其坚固耐用的工业品质与超低成本,不仅适应严苛环境的应用,更为工程师提供了极致灵活的开发体验,堪称
    发表于 03-19 17:54

    FPGA+AI王炸组合如何重塑未来世界:看看DeepSeek东方神秘力量如何预测......

    和并行计算能力,将AI模型(如CNN、LSTM、Transformer等)部署到FPGA上,实现高效的数据预处理、实时推理和后处理。? 定制
    发表于 03-03 11:21

    当我问DeepSeek AI爆发时代的FPGA是否重要?答案是......

    资源浪费。例如,在深度学习模型推理阶段,FPGA可以针对特定的神经网络结构进行硬件加速,提高推理速度。 3.支持边缘计算与实时应用 ?
    发表于 02-19 13:55

    AI赋能边缘网关:开启智能时代的新蓝海

    的引入彻底改变了这一局面。通过在边缘网关集成AI芯片和算法模型,使其具备了实时数据分析、智能决策和自主控制能力。在工业质检场景中,搭载AI
    发表于 02-15 11:41

    英飞凌发布边缘AI软件新品牌DEEPCRAFT?

    随着边缘AI技术的日益普及,其在消费和工业应用领域的采用率不断攀升。作为全球功率系统和物联网领域的半导体领导者,英飞凌科技股份公司正在积极加强其AI软件产品组合。 为此,英飞凌正式发布
    的头像 发表于 12-18 14:03 ?836次阅读