你如果是用选区工具画的矩形，那就像一楼所说的一样，是不会发生这种情况的。
但是我看你的题意好像是用形状工具画的矩形，那么，选择菜单下的命令应该除了“全部”以外，全都是灰色的。原因很明显啊，因为“选择”菜单是让你调整选区用的，你没有建立选区(形状不是选区)，当然选择菜单下的命令就不可用了。你说的要将矩形平滑化，是不是想要将矩形的四个角变成圆角?因为矩形选区的平滑也就是将尖角变成圆角罢了。如果是这样，你只要选择形状工具里的“圆角矩形工具”就可以了。圆角的幅度可以在工具属性里的“半径”栏里调节。