程普早年在州府做小吏，因为长得帅又精通人事（情商很高），深受上级的器重赏识。孙坚起兵讨伐董卓，程普就是其手下的得力干将，战宛城、攻阳人，攻城野战，屡建战功，身上到处是伤疤。
孙坚战死后，程普又追随孙策在淮南举事，渡江之后，摧城拔寨，孙策收编刘繇等人的降军，程普跟周瑜是第一批被补充的部队主将，每人二千兵、五十匹战马。
之后，程普攻乌程、克石木，连下波门、余杭，一路所向披靡，锐不可当。攻占江东六郡后，主要的敌人虽然消灭了，但各种反对势力纷纷转入地下潜伏，随时准备颠覆新生政权，为镇压反动势力，不给这些人反攻倒算的机会，孙策把手下能战的武将派出镇守刚刚归附的郡县，程普作为主力战将被派到最重要的地区。
程普先后被派到吴郡、丹阳郡做都尉，专门负责镇压各地叛乱。郡治稳住后，程普又“下乡”到偏远郡县宣城、泾县一带围剿山贼。程普就像个推土机，将反对势力，一律铲平。