Ce palais est une réalisation de l'architecte Auguste Martin (1862). Sa façade d'ordre classique, est précédée d'une vaste esplanade. Au fronton, l'allégorie de la Justice est dûe au sculpteur Eugène Guillaume. C'est à lui qu'on doit également les reliefs représentant la Justice protectrice et la Justice répressive.