有谁遇到过这样一个问题,kvm虚拟机里面搭建一套ceph,然后往ceph里面写数据,时不时会出现卡io。我目前定位到卡在d submitio以后等待io。 从内核block层看每次卡io的时候都有很多inflight io 。这是rados bench跑的结果。 而用fio direct = 1 engine =libaio测试磁盘发现一切都正常。
跑一会就会出现一串0. 而fio 往虚拟盘打压力都正常,用户是在虚拟机里面用虚拟盘做一个ceph. 我们交付的存储是没问题的,用户在我们提供的虚拟机上面又搭了一个ceph发现了这个问题。 我定位到问题就是卡在了 kernel block层。感觉跟qemu-kvm关系比较大,而且每次都卡12秒
OS的什么?是否update到最新的内核?qemu-kvm的版本是否有问题?如果是商业支持的OS的话,建议先从OS层面入手,排除问题
1、如果是基于KVM的还是方式搭建的话,可以尝试同时对宿主机的磁盘IO和虚拟机的磁盘IO同时监控。观察一下当虚拟机里的IO出现问题时,宿主机的磁盘IO状态是否正常?2、还有虚拟化平台是基于多副本的方式的话。虚拟机里CEPH的一次写操作(假设两副本),就会变成一份数据变成四份数据。这样子会对存储增加很大的压力。只是个人见解,希望有用。
关于TWT使用指南社区专家合作厂商入驻社区企业招聘投诉建议版权与免责声明联系我们 © 2024talkwithtrend — talk with trend,talk with technologist京ICP备09031017号-30