济宁市第二人民医院始建于民国三十六年（1947年）4月21日，济宁县卫生院成立筹备处设在西门大街41号，同年山东省民人字262讯令设立济宁县卫生院，于湘圃首任院长。
　　五月十三日卫生院院址迁移到南门里城隍庙广徐家院（现军分区南院）。一九五一年成立济北县人民政府，同时卫生院院址迁移至济宁二十里铺镇，建立济北县二十里铺医院。一九五三年成立济宁县人民政府医院改名为济宁县二十里铺医院。一九六二年县市合并，医院改名为济宁市立第二人民医院，一九六四年县市分开，恢复济宁县二十里铺医院院名。一九六九年十二月份医院从二十里铺搬迁到市医(二十里铺医院出20余人，现附院出病床30张)即原地医疗养院，院址为济宁市红星东路，院名为济宁县六二六卫生防治院，一九七O年十二月份，经县政府批准改名为济宁县人民医院。一九八三年十月份，地改市后医院收回大市所管，改名为济宁市第三人民医院，一九八七年七月份医院改名为济宁市第二人民医院。一九八九年五月，医院经市政府编委明确为副县级卫生事业单位。一九九O年五月，根据市政府决定，济宁市第二人民医院由市卫生局负责业务、财政管理，由任城区政府负责人事、党群事务管理。一九九四年医院以全市很高分顺利通过验收，跨入全国二级甲等医院行列。一九九四年经市卫生局批准，济宁市创伤治疗中心在医院正式成立。国家卫生部陈敏章部长了解到市二院的辉煌成绩后，欣然挥笔为医院题词：“发扬成绩，再攀高峰”。二OO九年经市卫生局批准济宁市骨科医院为医院第二名称。二O一O年九月任城区政府与山东大学齐鲁医院合作办医在市二院成立山东大学齐鲁医院济宁分院。
　　近年来，医院发展进入快车道，整体面貌发生了翻天覆地的变化。医院占地面积2.2万平方米，医疗用房建筑面积5.2万平方米，开放床位650张，设有39个临床医技科室，在职职工700余人，其中卫生技术人员490人，高级职称120人，一批经验丰富专家及中青年技术骨干已经形成了一支医德高尚、医术精湛的医疗队伍。医院在创伤综合治疗方面积累了丰富的临床经验，尤其是骨外科、手足外科、胸部微创治疗等专业在鲁西南有较大影响，是济宁市的知名学科，“看骨科到二院”已在广大群众中广为流传。
　　2009年3月启用的新外科大楼功能齐全、设施优等，建筑面积为2.3万平方米，配有中央空调、中心供氧、中心吸引、护士呼叫、空气净化、消防自动报警、自动喷淋和智能化自动控制等系统，手术室、重症监护室设施配备均达到国内先进水平，体现了以人为本的设计理念，能充分满足患者的诊疗需求。医院装备有GE磁共振、螺旋CT、GMM数字胃肠X光机、爱克发X光数字成像系统、西门子数字减影X光机、史赛克胸腔镜、腹腔镜、施乐辉关节镜、富士能电子胃镜、东芝数字彩色多普勒超声诊断仪、Drager呼吸机、纽邦呼吸机、人工肾机、莱卡手术显微镜、大型全自动生化分析仪等具有世界先进水平的医疗设备。
　　在“仁爱、敬业、严谨、创新”医院精神的鼓舞下，开拓创新，奋发图强，先后被评为“全国百姓放心示范医院”、“山东省消费者满意单位”、“山东十大百姓放心品牌医院”、“济宁市文明单位”、“市卫生系统职业道德建设先进单位”、“新型农村合作医疗先进单位”、“慈善爱心单位”等荣誉称号。
　　医院学科体系完善，专业设置齐全，并形成了省、市、院三级重点学科群和一批特色专科。皮肤科是四川省甲级重点专科、济宁市卫生局重点学科，烧伤科是济宁市卫生局重点学科，肝胆胰外科是济宁市卫生局重点学科（建设项目），放射介入是济宁市卫生局重点学科（建设项目），心血管内科、医学影像科、神经外科为院级重点学科。有临床硕士培养点8个。
　　全院职工继承“勤慎服务，品德为先”的百年优良传统,以科学发展观为指导，不断提高团队素质、医疗服务质量和教学科研学术水平，推动医院发展，努力按济宁市卫生发展规划，建设现代化高水平城中医疗中心。