大语言模型推理集群大语言模型预训练CudaNVAIE银行AI大模型大语言模型GPU资源池

金融行业如何通过GPU资源池等提高算力利用率提升大模型训练与推理效率?(1月20日·深圳站)

金融行业如何通过GPU资源池等提高算力利用率提升大模型训练与推理效率?(1月20日·深圳站)

活动简介

随着人工智能技术的不断发展,大模型训练与推理在金融行业中的应用越来越广泛。为了提高算力利用率,GPU资源池等计算技术逐渐成为金融行业中的重要基础设施。本次活动旨在探讨金融行业如何通过GPU资源池等提高算力利用率,提升大模型训练与推理效率,为金融行业的数字化转型提供有力支持。

目前,金融行业在大模型训练与推理方面存在算力利用率不足的问题。虽然GPU资源池等计算技术已经得到了广泛应用,但是由于缺乏统一的管理和调度,GPU资源池的算力利用率仍然不高。同时,由于大模型训练与推理的计算复杂度较高,传统的计算方法已经无法满足需求,需要探索新的计算方法和技术。

核心探讨问题:

1. GPU卡的跨物理机访问成为性能瓶颈, 如何建设多个GPU服务器的高效算力集群?

2. 如何提高GPU资源池的算力利用率,提升大模型训练与推理的计算方法和技术?

3. 如何将GPU资源池等计算技术应用于金融行业的大模型训练与推理中,并评估效果?


活动时间:2024年 1月 20日 14:00-17:00

地址:深圳站(报名后统一进行反馈具体会议的地址)

报名方式:

1、如您希望参与本次活动,请将您的联系信息(姓名、单位、职务、手机、邮箱)回复邮件至yan.sun@twtgroup.com.cn进行邮件报名,我们将在1个工作日内审核反馈;

2、活动平台上直接点击报名,报名后我们会与您联系!

支持企业:

图层-1.jpg

点击进入英伟达云社区

日程

时间安排
13:30-14:00签到,会前交流
14:00-14:20开场介绍
14:20-14:50银行大模型应用场景探索与基础设施建设趋势与挑战
14:50-15:30银行大模型基础架构建设与算力资源利用率提升实践经验分享
15:30-16:00NVIDIA 加速计算解决方案在大语言模型方向的端到端应用
16:00-16:50互动交流
16:50-17:00结束、领取礼品

主持人

王洋  招商基金  系统架构师

硕士研究生学历,曾就职于蚂蚁金服金融云团队、政府机关信息技术部等。擅长领域:云计算IAAS和PAAS平台规划与建设、系统架构设计、API治理、一体化运维平台建设以及DevSecOps等。ITIL认证,并在IEEE Computer发表论文” on-demand security architecture”,撰写专利“一种数据保护方法、装置及数据保护系统”(专利号:201010538235.8)。TWT社区专家,零信任产业标准工作组成员,基金行业信息安全白皮书编者成员,DevOps Master认证等。

分享嘉宾

滕召森  某银行  数据分析师

多年从事大数据项目、AI相关、数据分析等方面从业经验,目前重点在大模型相关领域的建设和筹备工作。

邓俊峰  某金融行业  研发中心AI架构师

某金融拥有10多年金融行业算法研究及应用经验,熟悉大数据、人工智能领域技术及其应用场景,在金融AI领域发表多篇发明专利。紧密跟踪大模型技术,拥有大模型微调训练经验,曾在天池竞赛、kaggle竞赛等比赛中获得奖项。

张然  NVIDIA  金融行业解决方案架构师

NVIDIA中国区金融、零售方向资深解决方案架构师。在机器学习、深度学习方向从业多年,具备丰富的行业应用经验。

冯高锋  NVIDIA  技术市场高级总监

负责NVIDIA公司在中国区的高性能网络技术市场方案,提供关键大客户的技术支持和方案选型,长期从事云计算、人工智能,高性能计算行业支持,在 计算系统架构,软件优化等有多年积累。

活跃参与会员

  • mxin
  • makosun
  • peima
  • wzpystcdc
  • EricChan
  • NVIDIA_EGX
  • wangshanshan
  • xuyy
  • 苟志龙
  • soap
  • lidhrandom
  • 先生_许
  • wangt981
  • mml
  • YuyuyuW
  • xxlinux
  • aixchina
  • 晓黎
  • caofei
  • faye
  • aigoppb
  • zhuqhua
  • twt运营
  • chenlii
  • 彬彬
  • iuff
  • evilada
  • wanggeng
  • haizdl
  • zhpeng01
  • xuchangjing
  • thomas_lhb
  • shomer23
  • purpose
  • 潘建星
  • wangyeye
  • superxray
  • zhong020808
  • twt主题树编辑组
  • cpc1989
  • lennychi
  • topzgm
  • 老赵
  • jxq
  • 卡尔
  • 1042802321m
  • acbogeh
  • 蓝调江南
  • lianggou
  • xushuhao11
  • redhat
  • Victorem
  • n1agaraf
  • sdwsdw8
  • zhangliv
  • halidav
  • jinhaibo
  • millslee
  • performer
  • hey000
  • H_18140224007
  • WT2000
  • nianyujun
  • tracy429
  • gfhfghfgh6
  • rootk
  • 一路走下去
  • chah
  • Tarrished
  • switchon
  • Jessie110
  • 没电的手机
  • derkzhu
  • aleckliang
  • 孔令炜
  • StanleyXu
  • 伊洛安安
  • supermeohh
  • hyaline
  • wingyee
  • ttkzeme
  • rgone
  • ruby_33
  • yourbest123
  • shouldit
  • X社区推广