The Economist - 最強のビジネス英語 -

Eメールでもよくつかう（ことが本当はあってはいけない）表現ですね。

「返事が遅れてすみません」

英語ではなんと言ったらよいのでしょう？

【解答例】

難しい表現ではありません。

“Sorry for the tardy reply”

です。tardyという単語があまり知られていないようですね。

ただしこれは軽めの表現ですので、
「お返事が遅れて申し訳ございません」と言わざるを得ないようなときには
I really apologize for not having replied sooner
など、丁寧な表現を使う必要があります。

無論、このような事態を防ぐのが第一要件ですが。