关胜乃三国时名将关羽嫡传子孙，长相与祖上关云长颇为相似，也使一把青龙偃月刀，精通兵法，绰号“大刀”，他熟读兵书，深通武艺，担任蒲东巡检，归降梁山经丑郡马宣赞推荐后得太师蔡京赏识，被调往梁山泊攻打宋江起义军。

关胜一人大战林冲、秦明，渐渐不敌，因宋江爱惜关胜人才，不忍伤关胜，下令鸣金收兵，关胜用计擒住水军头领张横、阮小七，呼延灼用诈降之计引关胜兵马进入宋江大寨，关胜被挠挂钩拖下马鞍活捉，关胜感宋江重义气，归顺了梁山。

劝降二将蔡京于是又调兵马进攻梁山，关胜和“圣水将”单廷珪大战