问答文章1 问答文章501 问答文章1001 问答文章1501 问答文章2001 问答文章2501 问答文章3001 问答文章3501 问答文章4001 问答文章4501 问答文章5001 问答文章5501 问答文章6001 问答文章6501 问答文章7001 问答文章7501 问答文章8001 问答文章8501 问答文章9001 问答文章9501

腾讯内部实践分享 | 千节点Alluxio 集群助力游戏 AI 业务

发布网友 发布时间:2024-09-27 04:05

我来回答

1个回答

热心网友 时间:2024-09-28 02:33

本文作者:郑兵、毛宝龙、潘致铮

Alluxio是一个面向AI和大数据应用,开源的分布式内存级数据编排系统。在游戏AI离线对局业务中,引入Alluxio解决分布式计算场景下的数据依赖问题,显著提升并发上限,同时业务对存储系统感知无变化。

游戏AI离线训练业务包含监督学习与强化学习场景。特征计算、模型训练与评估在监督学习中,对局信息还原生成特征数据。对局信息需特定版本游戏依赖。存储端gamecore大小在100MB至3GB,特定版本依赖特定游戏版本。本地存储读取性能佳,成本高且需本机权限;分布式存储如ceph更新快,部署简单,但元数据管理服务MDS可能成为瓶颈。

引入Alluxio on Ceph,解决业务痛点。游戏AI团队与运管团队提供支持,进行充分测试后在生产环境落地。Alluxio作为中间层提供分布式共享缓存服务,优化特征计算业务的小文件高并发访问场景。

Alluxio架构图展示与业务支持,Alluxio集群master节点HA模式,1000个worker规模,业务与worker亲和部署,通过distributedLoad预热热点gamecore版本数据。ratis功能抽象为ratis-shell工具,增加updateConf API,周期性同步配置变化。

业务侧并发访问挑战,开发工作包括ratis-shell工具、配置优化等。对比测试结果显示,使用Alluxio + cephfs方案后,业务失败率更低。元数据压力指标观察,任务初期冲击后master元数据压力降低,ceph mds qps几乎为0。使用kona jdk11后,master执行过程中的heap memory变化曲线平稳。

未来工作包括吞吐上限提升、设计更高并发访问的整体架构、利用Alluxio CSI解耦业务和Alluxio FUSE、建设kubernetes上Alluxio集群管理系统。基于Alluxio提供的helm chart模板,维护运维方案,实现底层存储mount、umount操作,job service可视化管理,load free服务化建设。

总结,Alluxio与游戏AI特征计算业务落地支持4000核并发稳定运行,为分布式存储元数据压力降低,任务失败率降低。在高并发大规模场景下暴露出Alluxio内核问题,优化稳定性和可运维能力,未来可适配更多场景。
声明声明:本网页内容为用户发布,旨在传播知识,不代表本网认同其观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。E-MAIL:11247931@qq.com
邪灯是什么意思? 趣头条怎么解绑微信 趣头条APP解绑微信教程 趣头条怎么解绑微信号 趣头条怎样解除微信绑定 魔兽世界7.0古龙之陨怎么做 咸阳男子欲带孩子轻生被救回,成年人的生活有多不易? 陕西咸阳,一男子欲带孩子轻生被救回,轻生带孩子是什么操作? 我是帅哥,为什么还没有人追? 为什么我这么漂亮就是没有一个男人来追我 气死了? 人不在本地,怎么实名制 初识StorageClass动态存储 K8S使用开源CEPH作为后端StorageClass 我为什么每次遇到的男人老是喜欢在外面朝三暮四的??? ...个小村子慢慢的一个个都没杀了 我记得一个女的是用钟给砸死了... 我刚进厂半个月,我们宿舍一个叼毛他妈的,昨天晚上两三点回宿舍翻我的... 厚街汀山菜市场在哪 汀山广场路到厚街镇沿河路/河田大道(路口)怎么走 我老公跟我吵架后长期跟我冷战,半年不理我,我最近跟他道歉他也不... ...骂他“你真他妈恶心”,今天跟他道歉,他不理我,也没挑明分手,他... 朋友来我家,和我小叔子谈恋爱,我又开始讨厌她怎么办 小叔子天天在家穿着短裤实在讨厌怎么办 下眼睫毛希少有什么办法可以化的很浓密 泸州市江阳区妇幼保健院在哪里? 泸州市江阳区妇幼保健院保健业务项目 大学一般在什么时候开学啊? 海南大学新大一什么时候开学 大学一般什么时候开学大学开学时间是什么时候? 2024大学一般什么时候春季开学 湖南各大高校新生什么时候开学? 为什么要控制电捕电流电压 兰妃茶属于什么茶,兰妃茶的产地是哪里 我想买做橱柜台面的石英石,听说市场上也有假的,不知哪个厂家好有防伪标... 谁能告诉我如何鉴别真假石因石?厨房橱柜用作台面,焦急中。 栗子色的门板橱柜搭配什么颜色的石英石台面好看呢 深一点还是浅一点好看... 天津热带鱼批发那里最便宜 买了从南京南到汉口的动车票!这个南京南到底是哪啊? 南昌市最大的花鸟鱼虫市场在哪里 南昌花鸟市场在哪里啊?? 2022无锡鼋头渚烟花最佳观看地点 附免费观看地点 无锡鼋头渚中秋烟火节最佳观赏点 比熊幼犬怎么看纯不纯 怎样才算认主 西湖龙井茶的特点 西湖龙井茶价格多少钱一斤,2023年西湖龙井均价172.19元一斤 7天连锁酒店会员预订前小技巧 7天酒店预订 七天酒店的77元特价房怎么订啊 2021国庆出去玩怎么订酒店便宜 工商卡可以在农行的取款机里取钱吗 我的农行卡,在工行、中行的ATM机上查询余额,但为什么在建行ATM机上不能... 在南昌画眉鸟一般可以拿到哪里卖?