欧宝官方站网站

设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色
首页 > >

端侧 AI 崛起:Mistral 发布 Ministral 3B / 8B,“全球最好的边缘模型”

2024/10/17 13:39:27 来源:IT之家 作者:故渊 责编:故渊

IT之家 10 月 17 日消息,Mistral 公司最新推出了 Ministral 3B 和 Ministral 8B 两款 AI 模型,并不需要连接云服务器,重点提高笔记本电脑和智能欧宝官方站网站-Opel ob(中国)等设备的本地化 AI 体验,官方声称是“世界上最好的边缘模型”。

Mistral 公司表示越来越多的企业希望能够在个人设备上运行 AI 模型,一方面确保安全的数据处理,另一方面也提高响应速度。

上述两个模型可在没有互联网接入的情况下,执行翻译服务、本地分析和机器人等多项服务。

这两个 AI 模型的上下文窗口均为 128K,相当于一次可以处理 50 页文档。

Ministral 8B 的价格为每百万个 tokens 售价 0.1 美元,而 3B 版本则为 0.04 美元,适合小规模操作或初创开发者。Ministral 8B 采用了特殊的交错滑动窗口注意力机制,这种设计可以在推理时更快且节省内存。IT之家附上相关性能图表如下:

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

欧宝官方站网站相关的文章

关键词:MistralAI

软媒旗下网站: IT之家 最会买 - 返利返现优惠券 Win7之家 Win10之家

软媒旗下软件: 软媒欧宝官方站网站-Opel ob(中国)APP应用 魔方