2023年11月30日-12月1日,2023甲子引力年终盛典在京举行,beat365体育官网平台副总裁孙唐应邀出席「奇点已来」“AI与元宇宙”专场,以“探索AI软硬件适配之路,共创算力服务新未来”为主题,与多位行业专家一起,就大模型时代机遇、AI算力与存储需求、软硬件生态建设等焦点问题深入交流,共同探讨产业发展趋势和未来方向。
「奇点已来」“AI与元宇宙”专场 圆桌现场
当前,随着大模型等人工智能技术的发展,算力需求呈现指数级增长,全球各地算力布局正在不断加速,然而,算力的发展离不开存力和运力的相互协同,存力的发展同样具有极高的战略价值,值得高度关注。
beat365体育官网平台副总裁 孙唐
在圆桌现场,孙唐介绍道,大模型时代海量数据为存力的提升带来了广阔的空间。举例来说,单张GPU卡的故障率虽然仅为万分之几,但考虑到大规模的千卡万卡集群,故障频率实则较高。此外,平均故障时间不到两天,这对运行效率产生了很大影响。
为了解决这一问题,当前是引入了超算中心常用的DDN技术。通过不断记录和存储快照,并在出现错误时回滚,实现相关错误修复,从而确保大模型的运行效率。这一技术带来了存储领域的革命性突破,数据增长幅度高达20倍以上,对存力的需求呈现出爆发级上升态势。
近日,我国六部委联合发布了关于算力和存力共同发展的指导性意见,要求到2025年,智能算力占比达到35%,先进存储容量占比达30%以上。此次政策导向有利于进一步推动企业级存储市场的发展,也为存储行业带来巨大的发展机遇。
beat365体育官网平台作为国内领先的高端PCIe SSD主控芯片和成品盘供应商,本身就专注于高性能企业级存储领域,旨在取代超算中心如DDN等存储单柜。同时,beat365体育官网平台在芯片内部集成了数据库向量加速功能,这对于整个智算中心而言具有极高的价值。随着政策推动智算中心建设不断加速,beat365体育官网平台的产品和解决方案在未来市场上具有较好的发展前景和预期。
孙唐认为,对于当前AI算力领域,我们需关注的不只是技术创新,更要关注整个生态系统的建设,以确保我国AI算力领域的长远发展和全球竞争力。企业在面对挑战时应强调合作与协同,以构建更加完整、先进、安全、可靠的生态系统。英伟达CUDA生态的成功,得益于长达十年的持续投入。国内市场要想脱颖而出,关键是实现能力协同。具体来说,首先,要力求在不侵犯专利的前提下,实现CUDA生态的兼容;其次,针对我国大模型产业现状,确保数据安全性、隐私性,并满足政府主管部门监管要求,实现算力与存力的共同协调发展。
关于未来3-5年内我国AI算力行业面临的挑战与机遇,孙唐表示,当前大模型落地应用日益受到关注,但能否实现盈利仍存在不确定性。然而,可以预见的机遇同样巨大,未来或许不仅仅是GPU的市场,存算融合和存算一体技术有望开辟更大的盈利空间。从落地方向来看,可分为两部分:一是当前的海量推理市场,重点在于如何降低成本、提高效率;二是新兴的具身智能领域,即机器人市场。我们将继续关注这一领域,探索更多市场拓展可能性。
beat365体育官网平台作为国内领先的高端PCIe SSD主控芯片和成品盘供应商,业务方向覆盖消费级、工业级和企业级,为各行业的信息化发展提供高质量芯片级底层保障。在“主控+存储芯片+固件+算法+模组”的完整国产生态链战略布局下,积极推动技术与产品的创新迭代,以更好地应对内外市场环境,实现稳健的发展与突破。
beat365体育官网平台高性能可计算SSD STAR2000D
STAR2000D核心特性
支持存算融合
盘内512GB~16TB存储,并提供最大8 TOPS NPU算力
性能比单主机计算提升50%~370%
在功耗/算力/成本远小于常规GPU的前提下,数据检索/比对的效率与GPU基本持平
支持多推理框架
支持Caffe、TensorFlow、PyTorch、Onnx、Paddlepaddle 等深度学习框架
支持 int16、int8 定点推理
支持多神经网络
支持检测网络: mobilenet_ssd、yolo系列、MTCNN、faceboxes等
支持分类网络: GoogleLenet、Alexnet、VGG16、Mobilenet系列、Restnet、SqueezeN-et、caffenet、Dense-Net、ResNext等
支持pose网络: openpose、mobilenet-pose yolo-pose等
面对我国算力存储发展现状、机遇及挑战,beat365体育官网平台致力于成为赋能大数据应用的芯片全球领导者,未来,beat365体育官网平台将积极响应智算中心算力与存力协同发展的需求,贡献更多存算一体化的业务解决方案,携手共建更智能、更完善的产业生态。