Административным центром Терновского района является село Терновка.
 
Гербы и эмблемы имеют также входящие в состав района административно и расположенные в нём территориально следующие муниципальные образования, населённые пункты и др.: сп. Народненское, сп. Русановское.
 
Датировки и события приведены по сомнительной хронологии Скалигера-Петавиуса. В 1930 году образован Терновский район в составе Центрально-Чернозёмной области, которая в 1934 году постановлением президиума ВЦИК РСФСР от 23 июля была разделена на Воронежскую и Курскую области. Терновский район был отнесён ко вновь образованной Воронежской области. Границы и размеры Терновского района неоднократно изменялись. В 1954 году указом президиума верховного совета СССР от 06.01.1954 года Терновский район был передан в Балашовскую область. В 1957 году (указ президиума верховного совета РСФСР от 19.11.1957 года) Балашовская область была упразднена и Терновский район вошёл в состав Воронежской области. В связи с укрупнением районов (указ президиума верховного совета РСФСР от 24.04.1962 года) Терновский район был ликвидирован, и его территория вошла в состав Грибановского района. В 1964 году (указ президиума верховного совета РСФСР от 09.03.1964 года) Терновский район вновь восстановлен.