До 1928 года Малая Сердоба была волостным центром Петровского уезда Саратовской области.

В 1934 году Малосердобинский район, как и многие другие районы, был включен в состав Саратовского края, который вскоре стал называться Саратовской областью.

С образованием 4 февраля 1939 года Пензенской области Малосердобинский район был включен в ее состав.

Однако на этом нестабильность его административно-территориального положения не исчезла, в 1963 году район был ликвидирован и восстановлен лишь 11 декабря 1970 года.

Из-за многочисленных реорганизаций в архиве суда сохранились документы лишь с 1970 года, то есть с момента последнего образования района.

Известно, что судьями в разное время работали Курочкина А.С., Икрянников Г.М., Удалов А., Рыбаков М.П.

В 1970 – 1971 годах судебной деятельностью занимались судьи Барсуков В.И. и Тальянов Г.П. Районные суд и прокуратура размещались в одноэтажном срубовом здании с печным отоплением.

В начале 1990-х годов суд переехал в историческое здание 1900 года постройки, где располагается по сей день.

31 января 1972 года народным судьей Малосердобинского районного народного суда был избран Арапов Н.П. Николай Петрович уроженец села Соколка Сердобского района, обучался в ГПТУ № 15 г. Сердобска по специальности фрезеровщик. После службы в армии вернулся в родной город, устроился работать на машиностроительный завод. В 1967 году поступил в Саратовский юридический институт, после окончания которого был назначен народным судьей, проработав в данной должности 16 лет. В 1987 году Арапов Н.П. был назначен председателем Колышлейского районного народного суда, откуда и ушел в отставку.

С 22 июня 1987 года руководство судом осуществляла судья Потапова О.Н., которая впоследствии была назначена председателем Малосердобинского районного суда. С 24 апреля 2005 года по настоящее время она является судьей коллегии по уголовным делам Пензенского областного суда.

В 1995 году суд стал двухсоставным и в октябре 1995 года судьей был назначен Феоктистов Н.Г., с 2006 года он назначен председателем Малосердобинского районного суда. С 2011 года Николай Григорьевич имеет почетное звание «Ветеран труда», в том же году был награжден Почетной грамотой Судебного департамента при Верховном Суде Российской Федерации, в 2015 году – медалью «150 лет судебной реформы в России».

Указом Президента Российской Федерации от 12 июня 2007 года № 745 на должность судьи Малосердобинского районного суда назначена Толкунова Е.А. В связи с уходом в отставку председателя суда Феоктистова Н.Г. в августе 2017 года, исполнение обязанностей председателя суда было временно возложено на судью Толкунову Е.А. С 1 мая 2019 года судья Толкунова Е.А. прекратила свои полномочия в связи с уходом в отставку. В 2018 году Елена Андреевна награждена медалью «20 лет Судебному департаменту при Верховном Суде Российской Федерации».

На протяжении более 35 лет при осуществлении правосудия обязанности секретаря судебного заседания добросовестно исполняла Субботина Л.В. За время своей работы в суде Субботина Л.В. награждена медалью «За заслуги перед судебной системой Российской Федерации» II степени, имеет почетное звание «Ветеран труда».

Указом Президента Российской Федерации от 20 февраля 2020 года № 142 судьей Малосердобинского районного суда назначена Дикова Н.В. Приказом Пензенского областного суда от 25 февраля 2020 года № 36 на Дикову Н.В. возложено временное исполнение обязанностей председателя суда.

Решением квалификационной коллегии судей Пензенской области от 28 февраля 2020 года № 2/20 судья в отставке Толкунова Е.А. привлечена к временному исполнению обязанностей судьи Малосердобинского районного суда.

Указом Президента Российской Федерации от 16 марта 2021 года № 147 председателем Малосердобинского районного суда Пензенской области назначена Тюина Н.Л.

В настоящее время штат работников аппарата суда составляет 5 человек: помощник судьи – Пчелинцева Л.М., секретарь судебного заседания – Недошивина Н.В., секретарь судебного заседания – Ларина М.А., ведущий специалист – Елизарова К.Н., ведущий специалист – Киреева С.А.

На территории Малосердобинского района Пензенской области создан судебный участок, в котором правосудие осуществляет мировой судья судебного участка в границах Малосердобинского района Пензенской области Мягкова О.С.