kaiyun官方注册
您所在的位置: 首页> 人工智能> 新品快递> 金山云发布MaaS互信推理专区方案2.0

金山云发布MaaS互信推理专区方案2.0

默认对接多个大模型
2024-01-09
来源:凤凰网科技
关键词: 金山云 MaaS 大模型

1月8日 全球数字化浪潮风起云涌,云计算作为数字经济重要的支撑基础,正发挥越来越重要的作用。顺应趋势,金山云深入探索前沿技术,围绕AIGC升级核心计算、存储、网络等产品。

近日,金山云发布MaaS互信推理专区方案2.0(以下简称“MaaS 2.0”),该方案以金山云IaaS和PaaS为底座,可实现云上LangChain的一键部署,默认对接多个生态合作商业大模型和开源大模型。

此外,MaaS互信推理专区方案2.0同时支持包括BGE、Bert等在内的Embedding模型,能无缝对接金山云全托管向量数据库Milvus,提供面向企业开发者的简单易用、安全可信的一站式推理应用部署平台。

1.png

在计算方面,金山云第七代云服务器X7搭载第四代英特尔® 至强® 可扩展处理器、支持英特尔® AMX原生加速能力,CPU性能较上代最高提升60%,内存升级至DDR5,频率较上一代性能提升50%。

面向大模型应用场景,金山云推出互信虚拟私有网络(简称“互信VPC”)。相对于标准VPC,互信VPC对进出VPC的通信行为有着更为严格的控制,帮助客户解决合规和互信问题。针对HTTP、HTTPS等应用层负载场景,公司推出应用型负载均衡ALB(Application Load Balancer),单实例最大支持100万QPS。

金山云公有云产品中心负责人孙晓表示,金山云深入探索前沿技术,人工智能升级核心计算、存储、网络、数据库等产品持续迭代,从多个维度全面拥抱人工智能。当前,金山云全栈技术体系已形成以云产品基础设施为底座能力,云产品平台服务为核心的技术能力。


weidian.jpg

本站内容除特别声明的原创文章之外,转载内容只为传递更多信息,并不代表本网站赞同其观点。转载的所有的文章、图片、音/视频文件等资料的版权归版权所有权人所有。本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如涉及作品内容、版权和其它问题,请及时通过电子邮件或电话通知我们,以便迅速采取适当措施,避免给双方造成不必要的经济损失。联系电话:010-82306116;邮箱:aet@chinaaet.com。
Baidu
map