上司に「今度ご飯行こう」と軽い感じで誘われました。 上司ということもあり断らずに日にちも決めましたが、既婚の私が上司と二人でご飯に行くのって間違っています

普段からどういう関係性なのか、社風なのかによっても大分変わると思います。
その上司が他の部下にも気軽に声を掛けているなら問題ないとは思いますが、李下に冠を正さずという言葉もありますので、疑われるような事はしないのが安全です。

私の場合上司ではないですが、指導係の先輩(男性)とラーメン食べに行っただけでしばらく嫌がらせ受けましたよ(女性の先輩から)。で、その先輩(男性)と不仲になったら急に仲良くして来たってこともありました。

自分や上司という当事者はなにも思ってなくても周りは変な勘ぐりを入れることもあるっていう事だけ頭に入れておけば大丈夫だと思います。