指标项

技术规格要求

数量

总体要求

机架式服务器，服务器高度≤8U，自主研发，非OEM

1台

处理器

配置2颗英特尔至强 Platinum 8480+ 处理器或更高规格，单颗处理器主频≥2.0GHz，核心数≥56，缓存≥105MB

指标项

技术规格要求

数量

总体描述

需提供成熟的商用人工智能平台产品，产品内容包括但不限于数据管理；模型开发、训练、微调；推理服务接入、编排、部署和管理；异构计算集群调度、监控和管理等功能，支撑企业人工智能能力建设和运营的全过程

1套

数据管理

数据管理

支持用户数据存储到不同的目录，如用户家目录、组共享目录、全局共享目录，实现数据在不同用户之间的灵活使用

数据上传

具备本地文件接入能力。支持在Web页面多人同时并行上传文件；支持通过sftp、winscp等工具将数据上传至用户目录，实现文件（夹）的断点续传功能

数据下载

平台应提供开源模型和数据集的下载能力。支持http(s)、ftp/sftp、git clone的下载方式。

支持下载任务单条或批量的启动、暂停和删除。显示下载进度、下载速度、剩余时长

数据缓存加速

提供数据缓存加速机制，数据集可高速并行缓存到计算节点本地，并提供缓存数据的生命周期管理，支持缓存进度查看，可进行缓存数据的增量更新、手动清理等

数据集管理

用户可基于base版本数据集创建自己的数据集版本，平台可对接数据标注工具进行数据集的标注、以及相关修改操作、并创建、发布新的数据集版本，不同版本数据集采用增量式存储，节省存储空间

AI开发

交互式开发

用户通过平台可快速构建交互式AI开发环境，提供Jupyter、Webshell在线交互开发，支持对接第三方开发工具（如VSCode、PyCharm）

支持0.x张卡(GPU显存隔离/MIG)、单卡/多卡，单机/多机不同算力配置下的环境创建；支持开发环境的端口开放，可集成部署第三方自定义业务服务

分布式任务

支持AI模型的多机分布式训练，可提交Tensorflow、Caffe、pytorch、PaddlePaddle、MXNet框架的分布式训练作业，并支持MPI、PS/Worker、Master/Worker、Deepspeed、Megatron等分布式类型

支持大模型训练容错，平台自动检测异常训练节点、出现异常节点自动业务迁移，自动加载断点重新发起任务

支持弹性任务，设置任务资源配置的上下限，基于可用资源大小动态伸缩任务资源配置