电子中邦工程院院士刘韵洁:确定性搜集必需攻下远隔绝无损传输技巧
正在昨天实行的“GIIC2024 GPU Infrastructure Innovation Conference暨第四届中邦IDC 行业DISCOVERY大会”上,中邦工程院院士、紫金山尝试室光荣主任兼首席科学家刘韵洁应邀出席,并公告《确定性搜集为AI大模子成长供应苛重维持》要旨演讲。
刘韵洁指出,互联网正在消费范围获得了强盛胜利,但跟着向出产范围和实体经济的慢慢渗出,守旧互联网“悉力而为”的搜集才华仍旧很难知足需求,确定性是下一代搜集务必面临和处置的题目。这种确定性不光仅是实体经济和AI人工智能的需求,正在消费互联网中也必要。以苹果推出的可穿着电子修造产物Apple Vision Pro为例,有12个摄像头,5个传感器,6个麦克风,可能正在12毫秒内把一幅高清图像展示正在眼前,而这就必要确定性搜集才华。
正在大模子范围,大模子对算力的需求更为紧迫,2012年到2023年,算力需求扩展了数十万倍,迩来五年GPU的算力扩展了90倍,但全数搜集的带宽才扩展了10倍,这个差异现正在预示着他日对全数搜集带宽的才华、通信才华提出更高条件,缺口会越来越大。
数据因素确权也是个苛重使用范围,何如把数据因素使用好、照料好,把安好性庇护好口舌常具有挑拨性的题目。没稀有据因素,中邦正在AI方面也会遭遇很大的阻拦;要是不行对数据因素举行很好的隐私庇护和防护,这些数据因素就没法共享,没法流利,AI的成长就会遭遇阻拦。
其余,正在大算力期间电子,分散式算力是一定抉择,“不大概蚁合正在一个地方来做算力,电力题目就处置不了。”对此,我邦提出了“东数西算”的构造,但怎样把这种算力构造供职到寰宇各个行业、各个大模子?搜集题目何如处置?这就面对一个很大的挑拨奈何告竣远隔断无损的传输?
刘韵洁指出,远隔断无损传输是一项务必攻陷的困难,此中RDMA是一种万分症结的身手,微软的算力核心70%都是采用RDMA无损制定举行互联。华为的试验数据显示,100GE情况下,8节点VGG16模子练习RDMA机能是TCP-IP制定的8倍众。“由于AI高端芯片对中邦的封闭,中邦单点算力的差异跟美邦会越来越大。正在搜集才华方面,英伟达GB200相较于H100又有了成千上百被的擢升,证明什么题目?每个芯片正在互联网才华方面大大擢升,因而GPU算力跟搜集带宽的需求量延长速率,对搜集带宽的需求量会快速延长。”
华为提出“三个底座”新形式,加快创设行业智能化—— AI+创设行业峰会2024慎重实行
信通院云大所揭橥《DataOps实习指南2.0》,加快DataOps落地
Hitachi Vantara揭橥首份《可连接成长讲述》,深化其正在可连接成长范围的重心天性与愿意
Proficy软件亮相邦际智能创设论坛,以工业数据为重心赋能企业降低出产力
e-works CEO黄培博士被选东盟工程与身手科学院Foreign Fellow