1976年12月16日，张宪源被错误地隔离审查。医院工作由汾阳县委文教部、卫生局代管。1977年3月15日，中共汾阳县委任命武兰芳为院长、王云霞为副院长。4月25日，任命王祝康为医院党支部书记。1977年至1978年中，医院工作受当时社会上所谓“清查”的影响，管理水平有所下降。这一时期，医疗骨干张榬洪、吕云霞、段金梅、李兆明等赴国内著名医院进修。根据上级政策，两次为医务人员增加工资。医院管理方面抓了劳动纪律、处方权管理、值班及交接班制度建立、财产登记等。并派部分医务人员下乡支农。在后勤建设方面，打深井解决水源，更换线路，解决能源，招收护士，扩大服务范围，并举办了一期全省护士长培训班。    

中共十一届三中全会以后，医院开展了真理标准的大讨论。各项工作走上了恢复发展的道路。1978年县委派文教部副部长李志坚兼任医院支部书记。根据中央有关批示，落实政策，平反历次政治运动中的冤假错案，对医务人员进行行政职务任命、技术职称晋升、晋级、调资等工作。1979年有16名医务人员晋升为主治医师，1名晋升为副主任医师。当年错划右派和错处理的司政、封淑俊等返回工作岗位，王国威担任了科室领导。外科技术骨干刘凯担任了副院长并加入党组织。院领导还初步进行了“清查”善终工作，党的知识分子政策得到初步落实。与此同时，根据上级部署，医院开展了真理标准讨论，排除了思想干扰，制定了以医疗工作为中心、依靠知识分子办院的方针。

1981年3月，张宪源恢复院长职务，支部领导得到加强，院长负责制得以实现。医院认真落实党的知识分子政策，提出“解放思想、振兴医院”的号召，明确指出靠科学、靠技术、靠知识办院。从各个方面提高知识分子的地位，发挥知识分子的聪明才智。新的领导班子致力于处理历史遗留问题，以身作则，为民分忧。形成了全院向前看、讲团结的风气。任命和配备了院办公室、护理部、总务科、财务科等科室领导共40多人，完善了院、科两级领导班子。整顿劳动纪律，使指挥系统惯性运转。在此基础上进行医院工作的全面恢复、整顿。5月，召开了医院管理座谈会议。会后，医院组织院、科两级领导赴太谷县人民医院参观学习，结合医院实际，发动全院职工讨论，制定出岗位责任制，加强病房管理，恢复三级护理，陪侍率降到10%以下。1981年年底，又提出进一步改善服务态度，实现优质服务。院领导实行护理日制度，定期深入病房，为病人洗头、理发、洗脚、剪指甲，推动了全院生活护理的开展。这一年的思想整顿使工作走上正轨。省卫生厅高度评价汾阳医院的工作，以“十年内乱多遗患，一年整顿气象新”为题发出文件，在全省范围内作为经验介绍。   

1982年6月，万德生的后裔、美籍医生热希诺及其夫人、子女一行11人参观汾阳医院，并送来万德生50寿辰时（1929年）在汾阳医院与职工合影的相片。院领导向热希诺先生赠送山西省卫生厅编印、摄制的有汾阳医院图片的画册。1982年，管理工作进一步深化，由行政管理进而发展到技术管理，基础医疗管理加强，三级护理巩固发展。设立了科研单项奖、生活护理奖等多样化奖励项目。省卫生厅组织省厅直属8个医疗单位及各地区医院来汾阳医院参观。4月，吕梁行署在汾阳医院召开医院管理经验交流会议，同月院领导出席全省“全民文明礼貌月活动”总结表彰大会，被中共山西省委、省政府授予“全省文明礼貌先进集体”荣誉，院领导在大会上介绍了经验。10月，省卫生厅在省城召开医院管理经验交流会议，将推广汾阳医院经验作为议题之一。这一年共有96个医疗卫生单位、1700多人次来院参观。1982年，骨科、传染科和功能检查室成立；检验科形成一科五室的规模，900平方米的制剂室楼建成；脑电图、脑血流图、超声波等医疗设备投入使用。开展了肠腔静脉分流、腹膜外剖腹产、高血压脑溢血的开颅血肿清除等新技术。医院发展蒸蒸日上。张宪源院长及其他院领导为了让医院再发展、上等级。多次向省里提出申请，要求提升医院规格。经过一年多努力，1982年10月14日，山西省人民政府决定，将汾阳医院改为“吕梁地区第二人民医院”。山西省计划委员会下达文件指出：“汾阳县人民医院是技术力量较强、设备条件较好、历史较长的一所综合性医院，有完善的管理，在吕梁地区发挥着重要作用，经研究同意汾阳县人民医院从1983年1月1日改为吕梁地区第二人民医院，归吕梁行署领导。同时仍保留汾阳县人民医院的名义，承担汾阳县全县的防病治病和计划生育技术指导任务。”医院升格是汾阳医院发展史上一个重要里程碑。