仕事が多忙すぎて退職を考えています。 7月、8月に残業100時間超えが続き、もう限界が来ました。 この場合12月31日に自己都合退職した場合でも会社都合

日本語がおかしい。

自己都合退職をしたのなら、自己都合退職です。不法な残業を理由に退職したのなら、会社都合退職です。

会社が自己都合退職でなければ退職に応じなかったり、離職票に自己都合と書かれる事が不満ならば、ハローワークで退職理由を修正してもらうことは出来ます。

自分でもある程度調べたのでしょうが、ここは確認の場所としては不適切なので、法テラスに電話で相談するなり、弁護士を紹介してもらい無料相談を受けるなりしたら良いと思います。