大语言模型推理集群Cuda大语言模型应用场景NVAIE银行AI大模型大语言模型GPU资源池

金融行业大模型落地应用场景及基于GPU资源池提高算力资源利用率技术方案探讨(4月12日 杭州站)

金融行业大模型落地应用场景及基于GPU资源池提高算力资源利用率技术方案探讨(4月12日 杭州站)

活动简介

随着金融行业的蓬勃发展,客户数量快速增长,金融行业涉及的业务领域不断拓展。在此背景下,AI技术在金融公司的各类交易、业务处理、客户服务等众多场景中将得到更加广泛深入的应用,比如量化交易、极速交易、精准推荐、人脸识别、视频质检、智能客服等等。

目前,金融行业在大模型训练与推理方面存在算力利用率不足的问题。虽然GPU资源池等计算技术已经得到了广泛应用,但是由于缺乏统一的管理和调度,GPU资源池的算力利用率仍然不高。同时,由于大模型训练与推理的计算复杂度较高,传统的计算方法已经无法满足需求,需要探索新的计算方法和技术。为了提高算力利用率,GPU资源池等计算技术逐渐成为金融行业中的重要基础设施。本次活动旨在探讨金融行业大模型落地场景和通过GPU资源池等提高算力利用率,提升大模型训练与推理效率,为金融行业的数字化转型提供有力支持。

核心探讨问题:

1. 大模型在金融行业有哪些应用场景、实践难点以及应用案例?

2. 如何提高GPU资源池的算力利用率,提升大模型训练与推理的效率?

3. 如何将GPU资源池等计算技术应用于金融行业的大模型训练与推理中,并评估效果?

活动时间:4月12日14:00-17:00

活动地址:杭州市(具体地址会在您报名审核通过后通知)

报名方式:

1、如您希望参与本次活动,请将您的联系信息(姓名、单位、职务、手机、邮箱)回复邮件至yan.sun@twtgroup.com.cn 进行邮件报名,我们将在1个工作日内审核反馈;

2、活动平台上直接点击报名,报名后我们会与您联系!

支持企业:

图层-1.jpg

点击进入英伟达云社区


日程

时间安排
13:30-14:00签到,会前交流
14:00-14:20开场介绍
14:20-14:50 银行大模型应用场景探索与基础设施建设趋势与挑战分享
14:50-15:30券商大模型基础架构规划与实践经验分享
15:30-16:00NVIDIA 加速计算解决方案在大语言模型方向的端到端应用
16:00-16:50 互动交流
16:50-17:00 总结、领取礼品

主持人

卢金晨  浙商证券  基础架构部工程师

软件工程硕士,软考认证信息系统架构师、软件设计师,2项专利及5项软著,曾参与省数字化改革专班,多年银行和券商IT从业经验,熟悉云计算领域IAAS及PAAS建设、web应用开发等。

分享嘉宾

占可非  某股份制银行  科技部项目经理

负责行内各类nlp&cv项目的开发工作,目前正在着手大模型项目的规划以及落地工作。

唐登龙  某大型证券  信息技术部高级产品经理

长期深耕金融科技领域,负责多个智能化项目架构设计,在应用大模型、自然语言、智能语音、虚拟仿真等AI前沿技术赋能公司数字化财富管理转型方面,具有相关行业实践经验,多次参与并荣获金融创新奖项。

宋庆春  NVIDIA  网络亚太区高级总监

原Mellanox 亚太区技术总监, HPC和AI首席架构师,亚太区市场高级总监。负责NVIDIA InfiniBand 网络和以太网络产品及解决方案。

梁潇  NVIDIA  深度学习解决方案架构师 

现任NVIDIA深度学习解决方案架构师,曾作为AI 算法专家在工业 Al、互联网金融领域有着多年深度学习算法经验,目前在NVIDIA专注于金融服务领域的GPU 解決方案。


活动资料

活跃参与会员

  • NVIDIA_EGX
  • 苏十一
  • twt运营
  • priest
  • 彬彬
  • evilada
  • aditowh
  • shomer23
  • IT合作社
  • yclintthz
  • 侯守立
  • 存储小海
  • 陈恒龙
  • wangpengD
  • 驴驴酱
  • jinhaibo
  • xr713
  • yangzhneg
  • luguofeng1
  • aran1996
  • JaneLi
  • huhuuu
  • X社区推广