根据《行政复议法》规定，如果行政机关被撤销，但是对其撤销前作出的行政行为不服的，应当以继续行使其职权的行政机关作为被申请人，向该机关的上一级行政机关申请复议。继续行使定西公署权力的机关是定西市，所以，应当向定西市的上级机关甘肃省人民政府申请复议。
 
 
《行政复议法》
第十五条
对本法第十二条、第十三条、第十四条规定以外的其他行政机关、组织的具体行政行为不服的，按照下列规定申请行政复议：
(一) 对县级以上地方人民政府依法设立的派出机关的具体行政行为不服的，向设立该派出机关的人民政府申请行政复议；
(二) 对政府工作部门依法设立的派出机构依照法律、法规或者规章规定，以自己的名义作出的具体行政行为不服的，向设立该派出机构的部门或者该部门的本级地方人民政府申请行政复议；
(三) 对法律、法规授权的组织的具体行政行为不服的，分别向直接管理该组织的地方人民政府、地方人民政府工作部门或者国务院部门申请行政复议；
(四) 对两个或者两个以上行政机关以共同的名义作出的具体行政行为不服的，向其共同上一级行政机关申请行政复议；
(五) 对被撤销的行政机关在撤销前所作出的具体行政行为不服的，向继续行使其职权的行政机关的上一级行政机关申请行政复议。