活动简介
随着人工智能技术的不断发展,大模型训练与推理在金融行业中的应用越来越广泛。为了提高算力利用率,GPU资源池等计算技术逐渐成为金融行业中的重要基础设施。本次活动旨在探讨金融行业如何通过GPU资源池等提高算力利用率,提升大模型训练与推理效率,为金融行业的数字化转型提供有力支持。
目前,金融行业在大模型训练与推理方面存在算力利用率不足的问题。虽然GPU资源池等计算技术已经得到了广泛应用,但是由于缺乏统一的管理和调度,GPU资源池的算力利用率仍然不高。同时,由于大模型训练与推理的计算复杂度较高,传统的计算方法已经无法满足需求,需要探索新的计算方法和技术。
核心探讨问题:
1. GPU卡的跨物理机访问成为性能瓶颈, 如何建设多个GPU服务器的高效算力集群?
2. 如何提高GPU资源池的算力利用率,提升大模型训练与推理的计算方法和技术?
3. 如何将GPU资源池等计算技术应用于金融行业的大模型训练与推理中,并评估效果?
活动时间:2024年 1月 20日 14:00-17:00
地址:深圳站(报名后统一进行反馈具体会议的地址)
报名方式:
1、如您希望参与本次活动,请将您的联系信息(姓名、单位、职务、手机、邮箱)回复邮件至yan.sun@twtgroup.com.cn进行邮件报名,我们将在1个工作日内审核反馈;
2、活动平台上直接点击报名,报名后我们会与您联系!
支持企业:
日程
时间 | 安排 |
---|---|
13:30-14:00 | 签到,会前交流 |
14:00-14:20 | 开场介绍 |
14:20-14:50 | 银行大模型应用场景探索与基础设施建设趋势与挑战 |
14:50-15:30 | 银行大模型基础架构建设与算力资源利用率提升实践经验分享 |
15:30-16:00 | NVIDIA 加速计算解决方案在大语言模型方向的端到端应用 |
16:00-16:50 | 互动交流 |
16:50-17:00 | 结束、领取礼品 |
主持人
王洋 招商基金 系统架构师
硕士研究生学历,曾就职于蚂蚁金服金融云团队、政府机关信息技术部等。擅长领域:云计算IAAS和PAAS平台规划与建设、系统架构设计、API治理、一体化运维平台建设以及DevSecOps等。ITIL认证,并在IEEE Computer发表论文” on-demand security architecture”,撰写专利“一种数据保护方法、装置及数据保护系统”(专利号:201010538235.8)。TWT社区专家,零信任产业标准工作组成员,基金行业信息安全白皮书编者成员,DevOps Master认证等。
分享嘉宾
滕召森 某银行 数据分析师
多年从事大数据项目、AI相关、数据分析等方面从业经验,目前重点在大模型相关领域的建设和筹备工作。
邓俊峰 某金融行业 研发中心AI架构师
某金融拥有10多年金融行业算法研究及应用经验,熟悉大数据、人工智能领域技术及其应用场景,在金融AI领域发表多篇发明专利。紧密跟踪大模型技术,拥有大模型微调训练经验,曾在天池竞赛、kaggle竞赛等比赛中获得奖项。
张然 NVIDIA 金融行业解决方案架构师
NVIDIA中国区金融、零售方向资深解决方案架构师。在机器学习、深度学习方向从业多年,具备丰富的行业应用经验。
冯高锋 NVIDIA 技术市场高级总监
负责NVIDIA公司在中国区的高性能网络技术市场方案,提供关键大客户的技术支持和方案选型,长期从事云计算、人工智能,高性能计算行业支持,在 计算系统架构,软件优化等有多年积累。