Церковь была построена в 1803 году, на средства купца И.Воронова, на окраине города по тем временам, на новом кладбище. Прекрасную церковь возвели в достаточно распространенном для того времени амперном стиле. В 1939 году, в самый разгар антирелигиозного психоза церковь пытались разрушить как и многие другие храмы города. Однако, разобрав лишь колокольню, остановились. В 1946 году после длительного перерыва, в церкви «Всех Скорбящих Радосте» возобновилась церковная служба. И эта была единственная церковь в городе, действующая на протяжении всего советского периода. У подножия церкви были похоронены многие знатные жители
Козлова- Мичуринска. Среде них известные в прошлом купеческие фамилии Сафоновых, Вороновых, Стромиловых, Мягковых, почетных горожан Придорогиных, мещан Тарасовых и Еньковых. Однако, наибольшую известность городскому храму принесло то, что под сенью его нашла свой приют схимонахиня Серафима ( в миру
Белоусова Матрена Поликарповна). Радость ее беседы, исцеление телесных и душевных недугов разносили добрую молву о ней. В 1988 года состоялась церемония освящения часовни, воздвигнутой над ее могилой. И в настоящее время, к матушке Серафиме приезжают паломники со всей Тамбовщины и соседних областей. Не иссекают чудеса исцеления на месте упокоения матушки, растет ее почитание в народе. Утешение для своей души находит всяк к ней приходящий.