解放前，国民党县政府就设在旧时的县衙里，解放后，哈密县人民政府仍旧设在这里，旧县衙变成了新政府。这个旧县衙是一副简陋土气的破败象，没有想象中的气派，没有像样的房舍和环境，更没有角楼、凉亭之类的装饰性建筑。倒像个破落地主老财的宅院。这座旧县衙位于哈密市自由路。整座县衙座北向南，符合‘天下衙门朝南开，有理没钱莫进来’的说法。

    旧县衙大门是青砖大拱门，两边修有八字墙，门边没有石狮。拱门里面，有两个双开的硕大笨重的门扇，每个门扇约1.5米x2.5米，门扇下有三米左右长，五十公分高，十公分厚的门槛，两头嵌在门脚石里。大人进门要提高腿才能跨入，小孩进门则要趴在门槛上翻滚，才能进去。如果要出进车辆，还得把门槛搬掉。从大门中线向北直通头堂、二堂、三堂中线，有一条无形地中轴线，中轴线的东西两侧，房屋对称、空地相等。进大门到头堂有一片方正的开阔地，地面上有一层半寸厚的粉土，一脚踩下去，“扑哧”冒出一股粉土弥漫鞋面和裤腿，让人尴尬不快。

    据说，这个旧县衙建于清末民初，直到上世纪五十年代，原貌基本未变。除三堂是砖木结构外，其他房屋都是土木结构：青砖根土坯墙，纸顶棚泥土地，檩条、椽子纵横搭在墙上支撑草泥屋顶，屋顶一面出水没有廊檐，和普通民房无异。几经修补粉刷，仍然透着破败老态。

    这里完整的保留着旧县衙的头堂、二堂、三堂的格局，呈东西向。头堂中间有一间房宽的过厅，过厅将一排头堂房屋分成东西两段，过厅尽头一米处有一块木制简易照壁，没有任何修饰，也没上油漆，据说照壁是根据汉族道教习俗修建的，主要用于避邪。出进头堂需从照壁两侧走。二堂中间也有一间房宽的过厅，也将二堂房屋分成东西两段，但没有照壁。头堂、二堂之间有一个四合院，这里有新政府的各部门：民政科、财政科、建设科、文教科、工商科、卫生科、计委、统计科、交通科、财务室、会议室等。二堂、三堂之间也有一个四合院，这里有：县长办公室、秘书室、文印室、县长住室、单身宿舍、库房等。

    由于历史上的政审合一制度，解放后新成立的哈密县人民法院，就设在政府东院，由副县长兼任院长，第一任院长由副县长杨立群兼任。由于历史上县官升堂断案的原因，上世纪五十年代，县政府还留存着一些关押犯人的牢房，古时称“县狱”。特点是，墙厚房顶厚，有门无窗，关上门牢房里没有一丝光亮。这些闲置的牢房有时也做干部宿舍。

    在县府西侧还有一个大马厩，饲养着十几匹马，专供下乡干部骑乘。除此外，县府内还有一些“闲置”的空房子，这是为农牧民进城开会准备的“招待所”。开会时在空房子地上铺一层麦草，与会者自带行李就地而寝。有一个笑话：山区来的牧民代表，在麦草上打开行李睡觉，因关不灭电灯而困扰。吹也不灭，煽也不灭，一气之下，踩上凳子，拿皮靴把灯泡罩住，再用绳子把靴口扎住后才放心的睡了，次日清晨解下皮靴一看，靴筒被烤糊，不能再穿了。

    1960年，哈密行署机关迁入建国北路行署大楼，哈密县政府随之迁入原行署院，老衙遗址改做县政府家属院，八十年代家属院拆除后，新建了哈密市干休所，县衙遗址从此消失。