首页 热点 业界 科技快讯 数码 电子消费 通信 前沿动态 电商

微软推出ZeRO++技术，可显著减少AI大模型训练时间和成本 环球焦点

2023-06-28 05:52:44 来源 : DoNews


(资料图片仅供参考)

据微软官方消息，微软研究人员日前推出了名为 ZeRO++ 的新技术，可显著减少大模型训练时间和成本。

ZeRO++ 建立在 ZeRO 传输技术基础上，提供增强的通信策略，可提高训练效率，同时减少训练时间和成本。ZeRO++ 可对权重进行量化，其利用基于块的量化方法来保持训练精度，这种优化的量化过程相对原始 Zero 传输技术更快更准确。

微软研究人员表示，与 ZeRO 相比，ZeRO++ 减少了高达 4 倍的通信量，提高了训练吞吐量和效率。

标签：

相关文章

最近更新
晋江：2023海丝艺术季开幕 符码演映艺术展国内首秀 2023-09-12 09:52:37
洛江区开展新闻出版（电影）行业安全生产标准化提升专项行动巩固提高现场观摩推进会暨安全生产工作会议 2023-09-12 09:58:38
第23届投洽会石狮现场签约两大项目 2023-09-12 10:05:03
全国“村BA”东南赛区今日开赛 宝盖队12日将在这个球场亮相 2023-09-12 09:52:09
泉州1—7月工业大盘企稳回升 主导产业支撑有力 2023-09-12 09:45:33
np-36006-5离线解决（nod32离线） 2023-09-09 15:25:29
一女子滥用职权威胁理发店？山东郯城通报：给予记大过处分 2023-09-09 15:13:48
证监会发布上市公司2022年年度财务报告会计监管报告 2023-09-09 15:13:50
杭州第19届亚运会火炬在湖州传递 2023-09-09 14:59:23
台风都是怎么取名字的（台风是怎么取名） 2023-09-09 14:36:28
每日速读!美迪凯：拟定增募资不超过7亿元 用于MEMS器件光学系统制造项目等 2025-12-01 20:04:24
焦作万方：40万吨再生铝项目在焦作万方铝业股份有限公司厂区内实施 2025-12-01 20:01:49
超大现代(00682.HK)拟折价15.09%配售最多3295万股 净筹719万港元 2025-12-01 19:49:09
SINCEREWATCH HK(00444.HK)：截至2025年11月30日止月份之股份发行人的证券变动月报表内容摘要 2025-12-01 18:56:10
卧龙新能：拟8.04亿元投建电网侧独立储能示范项目 2025-12-01 18:56:09
【新视野】多地探访 国产九价HPV疫苗接种量在部分地区现反超趋势 2025-12-01 17:58:33
WCBA新赛季揭幕广东女篮开门红，卫冕冠军继续冲击佳绩 2025-12-01 16:23:03
联测科技(688113):江苏联测机电科技股份有限公司关于股份回购进展公告 微资讯 2025-12-01 16:16:25
拙诚——唐浩明认为的湖湘文化的底色 2025-12-01 15:25:02
中东部气温将大面积创新低 降温过后升温迅速|速递 2025-12-01 15:12:04
概念动态|博迁新材新增“硅能源”概念 2025-12-01 15:09:29
零跑朱江明：和一汽股权合作正在探讨中，实控权不变是底线 即时看 2025-12-01 13:59:17
亚洲先锋娱乐(08400.HK)：截至二零二五年十一月三十日止股份发行人的证券变动月报表内容摘要 2025-12-01 13:51:55
速递！七牛智能午前涨超8% 上半年AI相关收入占比达22.2% 2025-12-01 12:10:32
阿莫林曝曼联逆转内幕！爱将芒特有突破，除了进球还有一举获赞誉|焦点热文 2025-12-01 12:09:18
实达集团录得8天6板 2025-12-01 11:50:55
【播资讯】生意社：11月28日MTBE外盘市场收盘价上涨 2025-12-01 10:44:49
《三山旧梦》上演 2025-12-01 10:04:17
高超音速导弹制造商凌空天行公开多个火箭设计专利 2025-12-01 10:00:29
每日精选：A股地板概念上市公司股票整理（2025/11/28） 2025-12-01 09:47:32
今日快讯:木薯资源发布中期业绩 股东应占溢利1007.2万港元 2025-12-01 09:21:32
今日热闻!今起，这些电动自行车全面禁售！ 2025-12-01 06:02:37
记者观察 | 投资的“终极智慧”：大道至简 2025-12-01 05:49:09
干货！五大变压器出海企业龙头（2025/11/28） 2025-11-30 21:03:20
共一家！PCB化学品概念龙头值得研究（2025/11/28） 看点 2025-11-30 20:50:44
汇洲智能子公司齐重数控三台产品通过黑龙江省首台（套）认定 每日速看 2025-11-30 20:08:46
每日快播:中国神华：子公司二期3号机组通过试运行移交商运 2025-11-30 17:40:16
【聚看点】次日真涨停了！股民发帖“拉个涨停吧，孩子重病钱不够了”火了，有人质疑唱多炒作是为了跟建工一样搭便车 2025-11-30 17:18:45
2025年有色锡上市企业2家龙头股，名单收好（2025/11/28） 2025-11-30 14:41:54
最资讯丨今天凌晨，中国女足0-8惨败英格兰 2025-11-30 09:14:18
实时焦点：苯胺相关公司前十名_11月28日成交量排行榜 2025-11-30 09:00:32
增亮又节能 岛内市政道路LED灯具改造三期工程全面启动 每日精选 2025-11-30 07:53:05
三星电子会长李在镕之子被授予韩国海军少尉军衔 2025-11-29 19:52:44
解放军战备警巡 黄岩岛尽收眼底 2025-11-29 19:12:42
光明乳业确认小西牛业绩补偿情况 2025-11-29 18:52:10
基金定投的止盈止损点该如何设置？ 2025-11-29 17:52:10
焦点播报:多氟多：六氟磷酸锂产品目前满产满销 2025-11-29 15:46:12
苏州相城黄桥街道举办“匠心箔艺，灼华成扇”传统技艺体验活动 每日热议 2025-11-29 15:12:57
“十四五”期间我国文化事业投入力度空前 速读 2025-11-29 14:25:57
2025年11月29日马鞍山市安民农副产品贸易有限公司价格行情-当前热议 2025-11-29 12:51:31
动态:汝城县远拓建筑装饰材料店（个体工商户）成立 注册资本2万人民币 2025-11-29 10:36:14
消息！建龙微纳：11月28日获融资买入824.41万元 2025-11-29 08:03:14
外资券商板块相关上市公司名单，进来看看！（2025/11/28） 每日热议 2025-11-29 06:56:04
柳州冬日限定“彩妆”如约上新 2025-11-29 06:16:14
双环传动：拟向全资子公司环研传动增资1亿元 焦点 2025-11-29 06:09:09
深康佳Ａ(000016.SZ)：拟将持有的6628.4万股武汉天源股份转让至资产深圳 2025-11-28 21:47:36
每日速递:长安汽车(000625.SZ)：拟投资设立机器人公司 2025-11-28 21:43:10
焦点信息:中国巨石：振石集团拟5.5亿元至11亿元增持公司股份 2025-11-28 21:04:06
每日精选：万祥科技：公司在消费电子方面拥有热敏保护组件、数电传控集成组件等日益丰富的产品线 2025-11-28 18:56:16
深圳是不是不行了…-速看料 2025-11-28 15:21:09
每日动态!三大人民币汇率报价全线贬值 2025-11-28 15:07:26
浦口农发行组织统计人员参加上级行跟班培训_今日热议 2025-11-28 14:12:12
卡倍亿: 最近三年的财务报告及其审计报告以及最近一期的财务报告（2025年三季度财务数据更新）内容摘要 2025-11-28 13:55:08
重点聚焦!京津冀文旅协同发展暨文旅消费促进活动在石家庄举办 2025-11-28 13:47:46
中汇集团：2025财年净利润同比减少26.43%-当前热议 2025-11-28 12:52:00
午评：先做多再做空不要做反了 2025-11-28 12:18:06
成都捷龙重振汽车科技公司成立 注册资本51亿元 2025-11-28 11:09:10
每日精选：哈啰出行在沈阳成立网络科技公司 注册资本3000万美元 2025-11-28 10:59:39
PriceSeek提醒：滨化环氧丙烷报价下降-今日观点 2025-11-28 10:51:23
11月28日人民币对美元中间价报7.0789元 下调10个基点 焦点热讯 2025-11-28 10:15:37
BC电池龙头如何（2025/11/27） 2025-11-28 09:57:24
视讯！理财产品靠“化妆”留不住用户 2025-11-28 09:51:33
微速讯：构建科学的体质监测评价体系 2025-11-28 09:22:52
新疆护林员：草方格里锁沙 大漠深处护绿_热门看点 2025-11-28 08:20:19
2025年金融科技概念核心龙头名单（11月27日） 焦点快报 2025-11-28 07:58:50
焦点！酉立智能：11月27日获融资买入8.45万元 2025-11-28 07:57:01
每日热讯!你能讲一个逆向思维的故事吗？网友：老汉眼角流下了不争气的口水 2025-11-28 06:18:26
每日关注!“双揭牌+一交付”落地 政企协同赋能广西医药产业高质量发展 2025-11-28 06:09:29
头条焦点：跌幅近70%！广州一次新小区房价从277万跌到94万，只跌剩一个首付 2025-11-28 06:08:30
内蒙古到2030年新改建穿沙农村公路2230公里 2025-11-27 22:14:35
盐南公安民警3次上门，让深陷“杀猪盘”的王女士244万终于保住了-每日关注 2025-11-27 22:13:17
东土科技：公司军品营业收入与民品营业收入合并披露 2025-11-27 20:12:00
海尔智家(06690)11月27日斥资725.99万元回购27万股 2025-11-27 19:44:28
时代电气：2025年前3季度，公司完成首款液冷集中式储能_时快讯 2025-11-27 18:54:34
中国东航东北分公司揭牌 2025-11-27 18:35:02
国家卫生健康委：全国基层医疗卫生机构数量增加到104万个_当前信息 2025-11-27 18:02:39
天福(06868)11月27日斥资2720港元回购1000股_热消息 2025-11-27 17:53:04
国家发改委：今年安排8000亿元超长期特别国债支持1459个“硬投资”项目 2025-11-27 16:26:58
医渡科技2026财年中期营收3.58亿元 几近盈亏平衡 焦点简讯 2025-11-27 15:47:00
今日热讯：亡人在阴间最缺什么？孟婆告诫：别只烧纸，这三样才是真正关键 2025-11-27 14:17:02

关于我们 加入我们 广告服务 网站地图

All Rights Reserved, Copyright 2004-2020 www.830036.com

如有意见请与我们联系 邮箱：435 227 67@qq.com

琼ICP备2022009675号-19    看点网 版权所有  营业执照公示信息