No, it would be čtvrtého - the correct form of ordinal numeral 4. or 4th is čtvrtý, čtvrtá, čtvrté (masc., fem. and neut. sg.). Ordinal numerals are inflected according to corresponding paradigms of adjectives (hard or soft ones), so it is genitive here.
Further possibilities: O státním svátku ve středu 4. (čtvrtého) července bude naše kancelář zavřena. V den státního svátku ve středu 4. července bude naše kancelář uzavřena.