上海玉丹药业有限公司的前身是上海黄山制药厂,是在1968年为响应““上山下乡，支援建设”的号召，上海市医药管理局支援安徽，在著名的旅游胜地--黄山上山下乡，以上海市黄山茶林场职工医院中草药采制小组为骨干，创建上海市黄山茶林场中草药加工厂，那时候设备非常的简单，仅有不锈钢煎煮浓缩锅，离子交换器等工具，随着药业的发展，生产规模的不断扩大于1973年迁至畜副队，改名为上海市黄山茶林场中草药制药厂，生产移植上海延安制药厂的复方垂盆草糖浆。
    1974年改名为上海市黄山茶林场制药厂，新增“止咳敏糖浆”、“四季青片”等产品，1978年改革产品结构，从美国获得生产“三尖杉”抗血癌新药剂的信息，由技术厂赵正福等研制成功，生产“三尖杉”酯碱、“高三尖杉”酯碱，属国内首创。1980年起正式名为上海黄山制药厂。
    1985年开始回沪开拓，全厂迁至上海南汇地区，厂房建筑面积达3422。1平方米，设备也非常齐全，有二吨锅炉二台，烘房、冷藏库、压片机、浓缩锅、糖衣锅、灌封机等，具有可以进行糖浆、口服液、冲剂、针剂、片剂、胶囊等药品生产的规模，下半年的时候开始抽产生产由上海市中医学院技术转让，自己剂型改革研制成功的“还精煎”口服液，上市后深受欢迎，产品荣获1988年全国中成药评比健康杯金杯奖，1989年获“汉方世界”优秀奖，1990年获上海市优质产品奖，随后在各级领导的关心帮助下又进行了大规模技术改造，投资近千万元新增厂户1000平方米，新增设备200多台（件，年产值达到2500万元。 在上海市政府、市药监局的关怀下，于2000年正式更名为“上海玉丹药业有限公司”，全厂大力进行革新，完成了与国际先进技术水平和管理模式接轨的历史任务，已成为初具规模的国际型企业，当年，另一个高科技产品“参桂胶囊”投入大规模生产和临床应用，次年，玉丹药业被评为上海市高新技术企业。两个产品分别都被列入高新技术成果转化A类项目；中国科学院上海文献情报中心查新报告显示玉丹荣心丸和参桂胶囊：“属十·五‘国家重大科技专项创新药物和中药现代化’，其临床应用基础及疗效达到了国际类似复方中药的先进水平”。
    2003年，在市政府的大力扶持下，上海玉丹药业正式启动新一期的发展规划，在上海松江区投资建设更大规模的生产基地，这标志着药业发展的再一次飞跃。作为国家级心血管药物生产基地，国际心血管中医药研发基地，采用现代化全自动化生产设备，引进国际标准资源管理系统（ERP）和客户服务管理系统（CRM），不断开拓进取，使上海玉丹药业公司在科研和开发领域具国际领先水平。