В довоенные годы он возглавлял штабы и командовал войсками ряда военных округов, участвовал в гражданской войне в Испании (1936-1939) в качестве советника при начальнике Генерального штаба республиканцев.

В период советско-финляндской войны (ноябрь 1939 — март 1940 г.) Мерецков командовал 7-й армией, взломавшей считавшуюся неприступной «линию Маннергейма» и взявшей Выборг.

С августа 1940 г. — начальник Генерального штаба Красной Армии.

Великую Отечественную войну генерал армии Мерецков встретил на посту заместителя наркома обороны СССР. 24 июня 1941 г. был арестован. Доставленный в Сухановскую (самую страшную) тюрьму Мерецков, уже побывавший в лапах НКВД в 1937 г., думал только об одном: как заслужить побыстрее пулю в затылок, избежав при этом пыток и мучений.

По указанию Сталина перед самой войной и в первые дни после ее начала арестантами стали те, кто еще уцелел после почти поголовного уничтожения высших командных кадров Красной Армии на исходе 30-х годов. Затевался новый грандиозный «процесс военных».

Кроме Мерецкова, в состав «заговорщиков» входили: нарком вооружения Б.Л. Ванников; помощник начальника Генерального штаба, дважды Герой Советского Союза, генерал-лейтенант авиации Я.В. Смушкевич; начальник управления ПВО, Герой Советского Союза, генерал-полковник Г.М. Штерн; заместитель наркома обороны, Герой Советского Союза, генерал-лейтенант авиации П.В. Рычагов; заместитель наркома обороны, командующий войсками Прибалтийского особого военного округа, генерал-полковник А.Д. Локтионов; заместитель начальника Главного артиллерийского управления НКО СССР Г.К. Савченко, начальник отдела этого управления СО. Склизков, начальник Военно-воздушной академии, генерал-лейтенант Ф.К. Арженухин, заместитель начальника управления вооружений Главного управления ВВС И.Ф. Сакриер; Герой Советского Союза, генерал-майор авиации И.И. Проскуров, виднейший артиллерийский конструктор Я.Г. Таубин и многие-многие другие.

В 1955 г. один из самых кровавых бериевских палачей Л. Шварцман давал показания уже в качестве подсудимого. «Физические методы воздействия, — заявил он, — применяли к Мерецкову сначала высокие должностные лица Меркулов и Влодзимирский, а затем и я со следователями Зименковым и Сорокиным. Его били резиновыми палками. На Мерецкова до ареста имелись показания свыше 40 свидетелей о том, что он является участником военного заговора». На вопрос: «Вы отдавали себе отчет в том, что избиваете крупнейшего военачальника, заслуженного человека?», — Шварцман ответил: «Я имел такое высокое указание, которое не обсуждается» (Ваксберг А. Тайна октября 1941 г. //Литературная газета. 1988. 20 апр.).

Зверски избитые жертвы (кроме Локтионова, героически выдержавшего все пытки) «признали» в конце концов то, чего от них добивались. Следователь НКВД Семенов позднее вспоминал: «Я лично видел, как зверски избивали на следствии Мерецкова и Локтионова. Они не то что стонали, а просто ревели от боли... особенно зверски поступали со Штерном. На нем не осталось живого места. На каждом допросе он несколько раз лишался сознания... Локтионов был жестоко избит, весь в крови, его вид действовал и на Мерецкова, который его изобличал. Локтионов отказывался, и Влодзимерский, Шварцман и Родос его продолжали избивать по очереди и вместе на глазах Мерецкова, который убеждал Локтионова подписать все, что от него хотели. Локтионов ревел от боли, катался по полу, но не соглашался...»

8 сентябре 1941 г. по указанию Сталина из тюрем и ссылок вернули часть командиров, ученых и конструкторов,1 в том числе и Мерецкова. Следователь В. Иванов вспоминал: «Будучи в сентябре 1941 г. в Харькове, я с огромным удивлением узнал, что Мерецков назначен командующим войсками фронта. А я знал на допросах с моим участием, какие он дал показания. Что состоял в шпионской группе и готовил против Сталина военный переворот».

Переодетый прямо в тюрьме в новую форму, Мерецков в тот же день предстал перед Сталиным. Вождь сочувственно заметил Мерецкову, что тот плохо выглядит, и справился о здоровье. А затем послал командовать фронтом (Мерецков К.А. На службе народу. М., 1968).

9 декабря 1941 г. возглавляемые Мерецковым войска выбили фашистов из г. Тихвина. Это было одно из первых поражений гитлеровской армии. В дальнейшем, командуя Волховским и Карельским фронтами,

Мерецков руководил прорывом блокады Ленинграда, разгромом фашистов под Новгородом, освобождением Южной Карелии, Советского Заполярья и северной части Норвегии.

В 1944 г. полководцу было присвоено звание Маршала Советского Союза.

С весны 1945 г. он командовал Приморской группой войск. В период войны с Японией войска 1-го Дальневосточного фронта под командованием маршала Мерецкова нанесли 9 августа 1945 г. мощный удар по японской Квантунской армии и освободили многие районы Северо-Восточного Китая и Северную Корею.

На XVIII и XIX съездах ВКП(б) Мерецков избирался кандидатом в члены ЦК партии, был депутатом Верховного Совета СССР. В послевоенные годы маршал командовал войсками Приморского, Московского и Северного военных округов, возглавлял Центральные стрелково-тактические курсы «Выстрел», был помощником министра обороны СССР по высшим военным учебным заведениям.,

Полководец был удостоен звания Героя Советского Союза, награжден семью орденами Ленина, орденом Октябрьской революции, четырьмя орденами Красного Знамени, орденом «Победа», двумя орденами Суворова и орденом Кутузова I степени, медалями. Похоронен в Москве у Кремлевской стены.

Имя К.А. Мерецкова носят Высшее танковое командное училище в Благовещенске, улицы в Москве, Новгороде и других городах.