大型互联网公司或机构是如何做到应用灰度发布的？

我们用haproxy软负载实现，将应用切成两份，写入同一个backend分配不同权重即可，nginx同理。
全套解决方案也可参考istio。