隋朝末年，隋将王世充的侄子王仁则（于承惠 饰）在督建河防工事时，杀死了起来反抗暴虐的神腿张，但令其儿子小虎子跳河逃离虎口。小虎子被少林僧人救起收入寺中后，为报父仇毅然削发为僧，法名“觉远”（李连杰 饰）。十年后，觉远武艺超群，又得少林真传。这年春天，山中突然出现了一伙草寇，他们四处抢掠，无恶不作。少林寺决定荡平这伙草寇。于是觉远率领少林弟子与隋将王仁则展开了一场血战。战斗中，王仁则失足掉下悬崖，摔死在山沟里。王仁则的叔父王世充见侄子被杀，决定亲自出马，率领大军围攻少林寺。这时，反隋义军也前来攻打王世充。于是双方在少林寺展开了一场激战。最终，少林寺战胜了王世充的军队，义军也杀退了反隋叛军。少林寺名声大振，觉远也得到了众人的赞扬。