第四范式推出SageOne Lite,可8.8万元运行满血版DeepSeek
3月25日消息,第四范式今日发布大模型推理一体机解决方案SageOne Lite,售价8.8万元,可在本地运行满血版本的DeepSeek。
SageOne Lite基于KTransformers架构,支持单机运行完整模型服务,提供极致性价比。该方案集成了ModelHub平台,支持模型管理及不同模型服务的灵活切换,可以根据需求快速调整模型服务。
一体机还内置智能算力池化管理平台,采用第四范式的GPU资源池化(vGPU)技术,可对算力和显存进行智能切分,动态调度计算任务,支持不同尺寸大模型之间的灵活切换,提升GPU资源利用效率。
SageOne Lite搭载大模型开发平台及开箱即用的AI应用套件,涵盖AIGC、智能办公、数字员工、智能问答等多个场景,可以帮助企业及开发者快速构建和部署生成式AI应用。(袁宁)
来源: 网易科技报道