蚂蚁集团首席技术官:已建设超过万卡异构算力集群

IP属地:香港
108 0
脆脆鲨 2024-1-22 22:26:07 | 显示全部楼层 |阅读模式
  【CNMO新闻】11月9日,CNMO注意到,蚂蚁集团首席技术官何征宇表示,蚂蚁集团已经形成了包括大模型底层基础设施、基础大模型、行业大模型、应用产品在内的完整技术链条。


  据何征宇介绍,蚂蚁集团建设了超过万卡的异构集群,硬件算力效率(HFU)超过60%,集群有效训练时长占比90%以上。此外,RLHF训练在同等模型效果下训练吞吐性能相较于业界方案提升3.59倍,推理性能相较于业界方案提升约2倍。
  值得一提的是,就在11月6日,蚂蚁集团宣布,根据国家《生成式人工智能服务管理暂行办法》指导要求,蚂蚁百灵大模型已完成备案。
  蚂蚁集团起步于2004年诞生的支付宝,源于一份为社会解决信任问题的初心。经过多年的发展,已成为世界领先的互联网开放平台。蚂蚁集团通过科技创新,助力合作伙伴,为消费者和小微企业提供普惠便捷的数字生活及数字金融服务;持续开放产品与技术,助力企业的数字化升级与协作;在全球广泛合作,服务当地商家和消费者实现“全球收”、“全球付”和“全球汇”。
  2013年3月支付宝的母公司宣布将以其为主体筹建小微金融服务集团,小微金融成为蚂蚁金服的前身。2020年7月蚂蚁金服正式更名为蚂蚁集团。
            版权所有,未经许可不得转载
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Copyright © 2001-2025 Discuz Team. Powered by Discuz! X3.5 |网站地图