szhangkang
作者szhangkang·2011-04-21 16:41
项目经理·aaa

某省XX银行中间支付系统存储解决方案

字数 11646阅读 4779评论 2赞 3

方案名称

某省XX银行中间支付系统存储需求分析 (作者IDmophis)

方案作者:szhangkang

 

一、 方案描述

随着国内金融市场的竞争日趋激烈,建立“以客户为中心”的运行体系,通过结合国际化的先进理念,提升银行系统的统一监管和决策能力,是中国银行业所面临的关键问题之一。为此,中国银行业已纷纷完成了数据大集中,如:区域集中或全国集中等模式,为运营、管理、分析、决策提供数据层面的统一来源。

 围绕银行数据大集中工程,银行核心业务系统的移植和改造是关键,前置系统是核心业务系统的有力补充,提供对核心业务系统的路由和转发功能。同时,分行层面的前置系统还承担者应用间集成和和数据交换的功能,以及与总行核心业务系统之间的交互功能。

目前,银行业数据大集中后,普遍存在“重核心,轻前置”的情况。通常称为“胖核心”应用架构。这种IT体系架构和相关系统在一定程度上存在着和大集中的不适应性,突出表现在:

l  业务渠道扩展,致使渠道小前置增多。渠道小前置与核心业务系统多采用直连方式。众多功能单一的小前置造成资源浪费和管理复杂。开发和升级工作量大,不利于新产品快速推广,缺乏灵活性和可扩展性。

l  前置系统功能单一,侧重于渠道通讯和交易转发功能,缺乏系统集成功能和流程管理功能。从而未能真正体现出银行IT基础架构和神经枢纽的作用。缺少对分行和总行相关应用系统的集成功能,从而限制了分行和总行金融产品的创新能力。

l  渠道前置相互独立,且直接连接核心业务系统。分行区域性特色业务难以在总行层面统一规划和部署,分行层面缺乏足够的灵活性和多样性,从而制约了分行相应业务的发展和交叉销售的能力。

 

    给出日交易峰值,如何精确估算数据存储总容量,要求充分考虑到业务处理需求,文件系统因素,存储阵列本身的冗余 要求,充分考虑阵列RAID级别不同,损失的存储容量等等因素

 

二、 应用场景

 

1.   给出日交易峰值,如何精确估算数据存储总容量,要求充分考虑到业务处理需求,文件系统因素,存储阵列本身的冗余 要求,充分考虑阵列RAID级别不同,损失的存储容量等等因素。

2.   需考虑到数据存储1年的存储周期要求,5年的业务存储规划;

3.   银行中间业务的对存储写的性能要求一般,压力主要集中在某些时间段查询、汇总、分析出报表的时候,对   储的随机读性能要求较高。

4.   根据银行中间业务的特征,如何估算存储的随机读写的IOPS值,存储的缓存大小,存储的磁盘数量、容量、转速等选型。这里磁盘规定一定要用光纤磁盘。

5.    存储保存周期要求:中间交易流水账数据保存周期为12个月。

6.    主机平台: IBM POWER 770 16C 128G内存,AIX 6操作系统。

7.     数据库存储要求: 数据库采用归档模式工作,要求定期存储归档日志和回滚日志。

8.    数据备份要求:要求另外配置一台在线存储设备。

9.    其他存储要求:支持在线扩展,动态数据迁移,易于管理

 

 

 

三、 解决方案

 

1、整个系统的才用8GB SAN存储网络

由于该系统需要规划5年内使用,在5年后发展到1200个网点,达到6000-7000柜员,这样的业务高峰期对系统的IO要求非常高的,并且对存储的读写性能要去非常高,建议采用 IBM System Storage SAN40B-4 SAN

IBM System Storage SAN40B-4 SAN 光纤网络交换机提供 2432 40个活动端口,性能卓越,链路速度可达 8Gbps,并且具有向后兼容性,所有端口都可以自动感应1GB2GB4GB8GB链路速率,所有端口支持F端口、FL端口、E端口、M镜像端口和EX端口此款交换机可用性极高,适合在中端环境中用作核心交换机,或在可实现各种 SAN 基础架构简化和业务持续性配置的企业环境中用作边缘交换机。IBM Power SystemsSystem xSystem z 以及许多非 IBM 磁盘和磁带设备在许多常见操作系统 OS 环境中都受支持。

可选功能可提供专用的距离扩展、单独或异构光纤网络之间的动态路由、链路干线、IBM FICON®、服务器应用程序优化 SAO)、性能监控以及高级安全功能。

 

2、小型机服务器:IBM Power 770

 

产品概述

IBM Power770专为通过虚拟化整合关键型业务工作负载而设计,以行业独一无二的方式提供性能、可用性、效率和虚拟化。PowerVM虚拟化功能还可以独立于物理布局,跨所有分区和操作环境进行持续的资源动态调整,以便在最大限度降低能耗的同时优化性能。在同一个系统上支持的环境包括AIXIBMiLinux for Power x86Linux应用程序。对于数据库服务,Power 770提供了专门针对要求苛刻的关键后台工作负载而设计的系统。770跨多种数据库解决方案和多种操作系统表现出了卓越的性能,在负责公司最宝贵的IT 资产时,显示出了其真正的核心和灵魂地位。

 

产品技术参数

IBM POWER 770 16C 128G内存,AIX 6操作系统。Power7 CPU;最多支持83.5GHz POWER7处理器模块(每个模块6个内核);每个内核256KB 二级缓存;每个内核4MB 三级缓存(eDRAM);最高2TB6800MHz DDR3内存;24PCI Express 8x 插槽;最多32PCI-X DDR 12X I/O 抽屉;8Gb 光纤通道、10Gb 以太网、10Gb 基于以太网的光纤通道。

 

 

 

存储阵列:IBM TotalStorage DS8000

 

产品概述

    TotalStorage DS8000系列提供了高性能、高容量的存储系统,这些存储系统

专为提供下一代的性能、可扩展性、弹性和总体价值而设计。专为大中型企业中

的关键业务负载而创建的DS8000系列可以帮助客户整合系统存储,简化系统管

理和支持系统可用性,满足随需应变世界中企业运行的各种需求。

    DS8000IBM高端磁盘阵列的划时代产品,采用了大量IBM最新的存储

科研技术,这使得IBM DS8000在性能、可靠性、可管理性以及升级扩展能力方

面均达到了一个新的高度。

 

产品技术特点与参数

 

IBM TotalStorage DS8000系列可以提供:

 

 

-  线性可扩展性,物理存储容量可从1.1TB扩展到最高192TB

-  多种DS8000系列机型——DS8100(双2-POWER5+处理器)和 DS8300

(双4-POWER5+处理器,提供存储系统LPAR选项) ,能够实现机型之

间的升级,提供业界领先的长期价值。

-  硬件和高级功能4年保修,这也是同类产品中的“第一”

-  优异的连接能力和性能, 最多可支持32个新的4端口2GB光纤通道/FICON

适配器,提供最多128个主机适配器端口。  

-  支持最多32个新的 2端口ESCON18MB)适配器,为传统运行环境提供

丰富的IBM eServer z系列支持。

-  支持12 GB光纤通道/FICON ESCON混合连接

-  “混合和搭配” 使用73GB(15K rpm)46(10K rpm) 300GB(10K rpm)

光纤通道连接磁盘,提供了根据不同的负载需求确定磁盘性价比和存储容量的灵活性和机会。

-  全新的容错服务器“互连” ,通过带宽的增加帮助确保POWER5+双集群服

务器的性能平衡。

-  最高 256GB 高性能高速缓存,支持各种高容量/高性能负载,这些负载只

有在DS8000提供的可扩展性和性能的支持下才成为可能。  

-  自适应替换高速缓存(ARC),这是一种新的自主高速缓存负载优先级确定

和性能优化功能。

-  DS8000 4K高速缓存块设计提供的优异高速缓存效率和性价比

-  可变的写高速缓存大小,可帮助提高性能

-  NVS(非易失存储)增加到最多8GB

-  增强LUN(逻辑单元号)和卷管理

DS8000可支持LUN和卷的无中断创建和删除。当删除一个LUN或卷时,

它们的存储容量可以被重新格式化和使用。 LUN和卷可以跨多个阵列配置。

因此,卷/LUN 的大小不会受到阵列大小的限制。LUN 的最大存储容量可

以达到2TB。此外,现在还可以支持最多拥有 65520个柱面的CKD卷。

-  另外,DS8000还大大增强了寻址能力:

o  最多可支持256个逻辑子系统(LSS

o  最多可支持65280个逻辑驱动器

o  最多可支持 130560 FICON 逻辑路径(每控制单元 512 个逻辑路

径)

o  最多可支持8000个进程登录(每SCSI-FCP端口509个)

-  需要指出的是, 寻址边界可以延伸到DS8300上运行的每一存储系统LPAR

-  支持流行的IBM TotalStorage FlashCopy(以前的FlashCopy V2)功能  

-  标准价格中包括了为DS8000DS6000 ESS 750800800增强型混合

环境提供的城域/全局镜像支持,为客户提供了灵活性和投资保护。

-  标准价格中包括了为DS8000ESS 750800800增强型混合环境提供

IBM TotalStorage zOS  全局镜像和z/OS城域/全局镜像功能支持,为客

户提供了灵活性和投资保护。

-  并发支持所有的主要服务器平台,包括z/OSz/VMOS/400i5/OSAIXLinuxHP UXSOLARISNetWareWindows  

-  标准功能中包括了基于全新IBM TotalStorage DS存储管理器GUI的管理功

能。

-  标准功能中包括了对多路径子系统设备驱动器和命令标签队列进行优化的

开放系统性能

-  标准功能中包括了多应用和I/O优先级队列等 z系列性能优化功能  

-  随需备用容量,允许安装可在业务需要时轻松激活的非活动磁盘驱动器

-  安装服务为标准配置,不要求附加收费

 

高速缓存性能、灵活性和效率

 

DS8000 专为满足最高要求的性能而设计。通过IBM 的高性能POWER5 服务器,DS8000 最多可提供256GB 的内存,能够对高速缓存环境进行量身定制和性能优化,可以满足几乎任何负载的需求。拥有IBM 新的智能高速缓存功能的DS8000 可以动态自主调节随机和顺序列表的大小。这一新高速缓存功能(称为自适应替换高速缓存或“ARC )可以确定随机和顺序列表之间的最佳大小比例。它可以在不需要双目录结构的情况下接近这一最佳比例,并根据命中率调节这些列表的大小,由此而为用户提供的优异性能和高速缓存管理效率进一步体现了IBM 降低数据和存储管理成本的承诺。

 

使用4K 大小内存块设计的高速缓存优化了高速缓存的效率和性能,进一步强化了IBM 的高性能设计。此外,DS8000 将提供设置可变大小写高速缓存的机会,这同样会提高效率、灵活性和性能。当然,通过在高速缓存架构中避免出现单故障点,写高速缓存镜像可以帮助保持高数据可用性。

 

通过支持 RAID-5 RAID-10 提供灵活性

 

DS8000 系列中,物理存储容量可以被配置为RAID-5 RAID-10 或两者的组合。RAID-5 可以为大多数应用提供优异的性能,而RAID-10 可以为特定应用(特别是开放系统环境中拥有大量随机写内容的应用)提供更好的性能。RAID-10 RAID-1 (镜像)和RAID-0 (条纹化)结合在一起。RAID-10 阵列中的每一驱动器都被镜像到阵列中的第二个驱动器,而且为优化性能,数据以条纹化的方式存放到阵列中多个磁盘上。客户可以在任何时候做出将存储容量配置为RAID-5 RAID-10 的决定,并可以决定配置为每种类型的存储总量。RAID-5 RAID-10 阵列可在单一系统的内部混合使用,而且可以在以后对物理存储容量进行逻辑上的重新配置(例如,可将RAID-5 阵列重配置为RAID-10 阵列)。

 

通过 4 端口光纤通道 /FICON 主机适配器提供增强连接

 

DS8000 可通过4 端口光纤通道/FICON 主机适配器提供增强连接。这些2Gb 光纤通道/FICON 主机适配器包括长波和短波形式,能够通过自谈判来确定使用2Gb 还是1Gb 连接速度。这种灵活性允许客户在利用2Gb SAN 解决方案提供的更高潜在性能优势的同时,保持与现有1Gb 基础设施的兼容。此外,客户可以使用光纤通道协议(FCP )或FICON 协议来配置适配器上的个体端口。这将可以保护您在光纤通道适配器上的投资,并增强您移植到新服务器上的能力。此外,DS8000 系列还提供了2- 端口ESCON 适配器。DS8100 最多可支持16 个主机适配器,相当于最多64 个光纤通道端口或32 ESCON 端口。DS8300 最多可支持32 个主机适配器,相当于最多128 个光纤通道端口或64 ESCON 端口。

- z 系列性能优化

 

并行访问卷( PAV z 系列环境中的一项可选功能。PAV 允许单一z 系列服务器同时处理针对同一逻辑卷的多个I/O 操作,这将可以帮助大大提高吞吐量。这一功能通过为每一卷定义多个地址来实现。当使用动态PAV 时,可以对卷地址的指定进行动态的管理,帮助负载达到其性能目标并从总体上减少排队现象。

优先级 I/O 队列 是一种可以提高z 系列环境性能的DS8000 标准功能,能够通过与服务器负载管理器的通信以自主的方式完成。由于使用了这一功能,不仅提高了存储管理员的效率,而且改善了服务水平协议的管理。

 

多应用 DS8000 的一种标准功能,可以将同时访问多个逻辑卷的功能扩展到多个z 系列服务器。当这一功能与PAV 配合使用时,允许DS8000 以并行的方式处理更多的I/O ,因而能够帮助大大提高性能并改善大型卷的使用。

 

 

- AIX UNIX 性能优化(标准功能)

命令标签队列 提供了多个排队进入DS8000 AIX/UNIX I/O 命令,这些命令可以通过实现自主存储管理来提高性能,而不是使服务器一次对一个I/O 请求进行排队。

 

多路径子系统设备服务器( MSDD 为主机服务器和DS8000 之间拥有一条以上路径的配置提供了负载均衡和增强的数据可用性功能。负载均衡可以帮助减少或消除很多I/O 操作通过同一I/O 路径达到一个公用设备时产生的瓶颈。MSDD 还可以帮助消除潜在的单故障点,当一条路径发生故障时能够自动重新选择I/O 操作的路由,因而可以支持提高数据的可用性。MSDD 是一种标准功能,DS8000 提供这一功能时不要求附加费用。AIX HP-UX Windows 2000 Solaris 环境都可支持各种光纤通道连接配置。

 

IBM TotalStorage DS8000 提供了丰富的管理功能和灵活性,I/T 组织可以定制自己的存储环境,以最佳的方式满足自己的各种需求。

 

通过DS 存储管理器提供的管理功能包括:

 

离线配置 :允许用户创建和保存各种逻辑配置并将其用于一个在线DS8000 系列系统。这一离线配置工具安装在一个客户服务器上,可用于在初始安装时对一个DS8000 系列系统进行配置或以后进行的各种再配置活动。

 

在线配置 :提供实时配置管理支持。

 

拷贝服务 :允许用户执行各种拷贝服务功能。

 

在线配置和拷贝服务通过安装在DS 管理控制台上的Web 浏览器界面提供。

 

基于 DS8000 IBM TotalStorage 管理控制台:

这一管理控制台是进行各种配置、拷贝服务管理和维护活动的中心。该管理控制台是一个物理上位于(安装在)您的DS8100 DS8300 内部的专用工作站,能够主动监视您系统的状态,并在需要进行维护时通知您和IBM 。它还可以连接到您的网络之中,通过使用IBM TotalStorage DS 命令行界面或其它存储管理软件(这些软件使用IBM TotalStorage DS 开放API )实现系统的中央管理。此外,我们还以选件的方式提供了一个外部管理控制台,该控制台可在要求高可用性的环境中作为冗余管理控制台使用。

 

IBM TotalStorage DS 开放 API

2002 年中期,存储网络行业联盟(SNIA )发起了一项存储管理计划(SMI ),旨在为存储网络的管理创建一个高功能的开放接口,并推动这些接口的普遍采用。随着时间的推移,开放标准预期将能够为客户提供更大的灵活性、更强的控制能力和更低的长期成本,此外,IBM 也是开放标准的领先推广厂商,这是因为IBM 看到了开放标准可以长期帮助客户提高灵活性和降低成本的潜力。

 

IBM 始终如一地证明了自己在开放标准运动中的领先地位,而通过提供基于DS8000 、能够与SMI-S 标准兼容的IBM TotalStorage DS 开放API ,生动地证明了IBM 对开放标准所能提供优势的承诺。DS 开放API 可以支持日常的LUN 管理活动,如LUN 创建、映射和屏蔽以及时间点拷贝和远程镜像的管理。它们通过使用存储网络联盟(SNIA )存储管理规范(SMI-S )定义的标准接口来支持这些活动。DS 开放API 通过IBM TotalStorage 公共信息模型代理(CIM 代理)实现,这一中间件应用专为提供CIM 兼容接口而设计。这一接口允许Tivoli 和第三方CIM 兼容软件管理工具发现、监视和控制DS8000 系列系统。DS8000 系列提供的DS 开放API CIM 代理不要求附加费用。CIM 代理可用于AIX Linux Microsoft Windows 操作系统环境。

 

 

IBM TotalStorage DS 命令行界面( CLI

IBM TotalStorage DS CLI DS8000 的另一项标准功能,这一功能可以执行所有的配置和拷贝服务活动命令。这一应用将提供三种执行模型:

 

单一发出(Single shot )模式将连接并发出一个单一命令,然后返回到用户。

脚本(Script )模式将连接并执行一个预定义的客户脚本,然后返回到用户。

交互(Interactive )模式将会把用户放在一个命令解释程序环境之中,该环境以静态方式连接到存储子系统,这样用户就可以执行多个命令。

 

这一新的CLI 能够动态调用各种拷贝服务功能,不再象以前那样要求您使用GUI 创建和保存任务,因而可以帮助提高您的效率。此外,DS CLI 还可以向ESS 750 ESS 800 DS6000 系列系统发出拷贝服务命令。DS CLI 客户机可用于AIX HP-UX Linux Novell NetWare Sun Solaris Microsoft Windows 操作系统环境。

 

随需备用容量( CoD

IBM 提供的随需容量解决方案专为满足快速增长电子商务的不断变化的存储需求而设计。备用CoD 功能使您能够获得更多的存储,当您面临快速或无法预测的增长,或者您只需知道当自己需要时可以获得更多存储的情况下,这一功能特别有吸引力。通过这一功能,您可以在自己的系统中现场安装(或在出厂时安装)最多4 组备用CoD 磁盘驱动器(64 个磁盘驱动器)。当需要激活时,您只需对这些磁盘驱动器进行逻辑配置即可——这一不需要中断系统运行的活动不要求IBM 的干预。在激活备用CoD 磁盘驱动器组的任何部分以后,您必须向IBM 进行订购才能完成激活磁盘组的结算。那时,您还可以订购更换备用CoD 磁盘驱动器组。

 

另外,ESS 产品提供的IBM 随需备用容量功能还允许您根据系统的物理容量(不包括尚未配置的备用CoD 容量)来购买各种需要许可证才能使用功能,这将可以帮助降低您的拥有成本,因为您可以只在需要增加自己的磁盘容量时才扩展IBM 授权许可功能的适用范围。为进一步降低拥有成本,客户在购买这一功能时不要求支付溢价。备用CoD 磁盘驱动器组必须在安装后12 个月内激活;所有这类激活都是永久性的。

 

互操作性

DS8000 可以满足或超过多种异构运行环境的存储需求。多种专为进一步提高高要求z 系列、AIX UNIX 负载的性能而专门设计的功能使DS8000 成为这些环境的理想选择。DS8000 以标准配置的形式支持多种操作系统版本,包括:

 

- z/OS

- z/VM

- OS/400

- i5/OS

- AIX

- Linux

- HP UX

- SOLARIS

- NetWare

- Windows® 2000

 

 

IBM TotalStorage 弹性系列

IBM TotalStorage FlashCopy IBM TotalStorage 弹性系列中的关键成员)为DS8000 用户提供了业界领先的时间点拷贝和灵活性。通过提供高性能和NOCOPY (首次写拷贝)选项,Flashcopy 可支持多种高级功能,包括:

数据集 FlashCopy

数据集FlashCopy 允许在z 系列环境中创建数据的一份FlashCopy

 

多关系 FlashCopy

多关系FlashCopy 允许源数据同时与多个目标建立FlashCopy 关系。这种灵活性允许您在一个指定的逻辑单元号(LUN )、卷或数据集上建立多达12 FlashCopy 关系,而不需要首先等待以前的关系结束或终止以前的关系。

 

增量 FlashCopy

增量FlashCopy 提供了对一个FlashCopy 关系中涉及到的LUN 或卷进行“刷新”的功能。以后发起建立FlashCopy 时,将只拷贝将目标刷新到源数据的新时间点所需的数据。“刷新”的方向可以逆转,即以前定义为目标的LUN 或卷可以成为以前定义为源的LUN 或卷的源数据,而以前定义为源的LUN 或卷现在则变成目标。

 

到远程镜像主卷的 FlashCopy

这一功能允许您建立的FlashCopy 关系中的目标也是一个远程镜像主卷,该功能允许您在本地站点创建全时间点拷贝或增量时间点拷贝,然后使用远程镜像命令将数据拷贝到一个远程站点。

 

一致群组命令:

这一功能允许DS8000 系列在发出FlashCopy 一致群组命令之前挂起I/O 活动。一致群组可用于跨多个LUN 或卷、甚至跨多个DS8000 创建一致的时间点拷贝。

 

通过远程镜像链路执行的带内命令:

在远程镜像环境中,本地或中间站点可以发出管理远程站点FlashCopy 的命令并通过远程镜像光纤通道链路传输这些命令,这样就不必专为管理FlashCopy 而提供一条到远程站点的远程连接。

 

另外,作为IBM TotalStorage 弹性系列中的一部分,IBM TotalStorage DS8000 还可以提供业界领先的业务连续性功能,包括:

IBM TotalStorage 城域镜像

城域镜像是一种强大的同步镜像功能。利用IBM 领先的光纤通道技术,城域镜像可在最高30 公里的距离上支持性能极高的同步镜像。通过使用全局镜像实现的这一优异性能可以帮助最大程度地减少基础设施成本,进而降低客户的总拥有成本。在城域镜像环境中, DS8000 可与DS6000 以及ESS 750 800 800 增强型之间实现全面的互操作,而且主站点和辅助站点可以互换。

IBM TotalStorage 全局镜像

全局镜像是一种强大的异步长距离(可以实现跨大陆距离的镜像)镜像解决方案,同样利用了IBM 领先的光纤通道技术,能够通过一种高性能、富于弹性和低成本的方式提供长距离数据镜像,保护客户的关键任务数据。在全局镜像环境中,DS8000 可与DS6000 ESS 750 800 800 增强型以及新的IBM TotalStorage DS6000 之间实现全面的互操作,而且主站点和辅助站点之间可交换作为对方的镜像。

 

全局镜像和DS8000 提供了大量激动人心的功能,这些功能专为提供当今随需应变特性日益增强的世界所要求的可扩展性和保持数据当前性而设计。DS8000 全局镜像的关键组件包括:

 

出众的数据当前性:

客户可以在不需要主机/ 服务器自动化软件的情况下,保持镜像站点的数据一致性。远程站点FlashCopy 卷上的一致镜像与主机I/O 之间的数据延迟平均只有3 5 秒钟。全局镜像不仅提供了一个出色的恢复点,而且还提供了出众的恢复时间。

 

业界领先的性能提供了低响应时间和低成本

 

全局镜像可以为主机应用提供几乎感受不到的响应时间延长,通过使用异步解决方案,其设计能够提高应用与远程站点之间带宽的使用率。全局镜像还可以在不影响主机性能的情况下处理写操作活动的高峰。

 

通过基础设施简化和提供可扩展性来降低成本

全局镜像可以扩展到最多8 DS 8000 ESS 800 800 增强型或750 (本地和远程)组合存储阵列,同时为各种开放环境、z 系列环境和i 系列环境提供了一个公共的解决方案。此外,同一一致群组中可包括开放服务器、z 系列服务器和i 系列服务器。全局镜像在提供各种可以提高效率的自主、自适应功能的同时,还减少了所需要的存储管理资源。创建自主一致群组的能力不仅提高了数据完整性,而且减少了存储管理活动,因而可以帮助降低总拥有成本。

IBM TotalStorage 全局拷贝

不要求系统开销的高性能数据传输经常是数据中心移植和移动的基本要求。全局拷贝为满足这一要求提供了一个异步、长距离(跨大陆)解决方案。

如果觉得我的文章对您有用,请点赞。您的支持将鼓励我继续创作!

3

添加新评论2 条评论

nkj827nkj827项目经理长春长信华天
2011-05-10 11:27
mophismophis软件开发工程师杭州
2011-05-04 19:47
Ctrl+Enter 发表

作者其他文章

相关文章

相关问题

相关资料

X社区推广