因为业务需要，我们机房中的大多数设备需要迁移到另外的机房，其中ceph集群也在搬迁计划中，其中涉及了一些配置的更改并遇到了一些问题，这里权当记录

关于InfiniBand的中文资料要么比较片面，要么太过于浅白，以至于无法解决我们的问题，本文将介绍传统的TCP/IP网路关于网络架构及路由转发相关内容及对InfiniBand网络的介绍，并尝试比较它们的异同，列举实际生产环境遇到的问题及解决方案

最近集群发生了一个奇怪的现象，微信端不断收到集群pg异常和osd down的告警，几经排查，最后找到了解决方案

ceph第二套集群正式上线一周，集群配置进行了调整并优化了系统的一些配置，运行稳定，然而，事情并不总是那么一帆风顺，这不，最近这个集群就发生了一些事情

由于公司业务的需要，大量商业智能(BI)和神经网络识别云API产生的图片需要一个有效、可靠的存储，于是笔者和另外一位同事开启了ceph调研、测试、上线、运维的一系列工作，从刚开始的调研来看，ceph存储小文件的问题被很多人诟病，它的rados架构注定不能完成这样的任务，但是我们大胆使用了ceph进行10KB-2MB的海量小图片的存储，上线一个月以来，表现还可以

ceph对象存储上线后，算是解决了一大问题，接下来要探索的是cephfs方面的应用，尤其现在使用的nfs时常出问题的情况下，cephfs还是十分需要的

由于业务需要，目前ceph已经上线并进行了业务的承载，运行还算稳定，趁机整改了一下集群自动化相关的东西

最近折腾了一下关于ceph中关于multi-site的一些东西，有不少坑，踩完之后感觉还是爽爽的。

上篇介绍了prometheus结合grafana的方式进行集群的监控，该组合可以实现很好监控效果，但是，如果设备出问题了，尤其是一些紧急问题，影响到业务，我们需要安排人员进行紧急处理，所以说及时知晓发生的紧急时间是非常有必要的

由于线上每天产生的数据量已经让现有的存储设施不堪重负，ceph项目着急上线用以缓解压力，性能优化告一段落，接下来进行了上线前稳定性测试和上线准备，最重要的莫过于集群的运维工作，其中监控和告警为首要任务。