OPA627AU 输入为零输出有波形

输入信号为零（短接也一样），输出波形如图，电源正常很平滑，这是什么原因？

这就是噪声的影响的结果。

从波形看，峰峰值已经达到了 5mV以上。能大体看到有个小于 4Hz 的基波在里面。可以着重找找这个噪声源

输入端短接也是如此，把整个电路罩起来？

 把你的电路发上来看看，或者是不是地上有噪声？

正常的话应该到不了这个数，看上去像是低频的1/f  噪声。

采用的什么档位进行的测量?

电路设置了多少的增益，是否有做带宽限制？

正如wangda 所说，是否实际上有可能从你的GND带来的噪声，或VCC去耦处理不当？

双电源多少V供电，接成跟随器也会这样吗？

断开运放输出路径，重新测试看看。