流亡瑞士苏黎世的党刊《社会民主党人》编辑赫希尔博格、施拉姆、伯恩斯坦三人宣扬投降主义路线,鼓吹放弃阶级斗争,放弃革命,建“全面的”党,走“合作的、改良的”道路。马克思、恩格斯对“苏黎世三人团”的右倾路线进行了严厉批评,建议将他们开除出党,维护党的纯洁。1880年党的秘密会议决定撤销三人的党刊编辑职务。
同时,以福尔马尔为代表的党内另一部分人主张建立秘密组织发动暴动,反对合法斗争。福尔马尔本人两度被捕。李卜克内西和倍倍尔在马克思、恩格斯的指导下克服了左倾路线,采取合法斗争与秘密斗争相结合的策略,使党在这一时期依旧蓬勃发展,一跃成为德国最大的党派,并且积极参与第二国际的建立。
1888年,威廉二世登基,迫于工人阶级有力的反抗运动,不得不在1890年解除“非常法”,向工人阶级妥协。
同年,德国社会主义工人党改名“德国社会民主党”。在1890年、1893年和1897年三次帝国议会选举中,社民党分别占有19.7%、23.3%和27.2%的议席!1892年,社民党在埃尔福特召开党大会,通过了由倍倍尔、伯恩斯坦、考茨基起草的《埃尔福特纲领》。纲领强调了资本主义的必然灭亡、生产资料的社会主义公有制和反资本主义的政治斗争,认为当下的主要斗争方式是合法的政治参与、提高劳动者生活水平,而不是暴力革命。这部纲领成为了第二国际各国政党纲领的蓝本。不过,纲领没有按照恩格斯的意见明确无产阶级专政。
到1895年恩格斯病逝的时候,社民党已长年稳居议会第一大党。在社会主义者的不懈斗争下,德国的社会保障和工人待遇不断改善。