谁知道才过了50天，皇觉寺也断粮了，朱元璋只好被打发出去化缘，其实也就是以和尚的名义要饭而已。没有人知道朱元璋在外要饭的几年是怎么过的，总之他没有饿死，3年后他又回到了皇觉寺。郭子兴在濠州举行起义，元军把濠州城包围了起来。皇觉寺也被战火摧毁，朱元璋走投无路，干脆横下一条心，跑去投靠郭子兴。郭子兴当时正在招兵买马，他见朱元璋虽然面黄肌瘦，长得也丑，但却透着一股机灵劲儿，就任命他当了个十夫长。朱元璋在起义军中，每天都刻苦练习武艺，还学习兵法。他给郭子兴出了不少好主意，给郭子兴留下了很深刻的印象。郭子兴觉得朱元璋日后必有出息，就把自己的养女马氏嫁给了他。这下朱元璋的身份就不同了，成为主帅的干女婿，在军中的地位更高了。
郭子兴和起义军里另外几个首领关系不好，朱元璋多次在中间负责调停。有一次那几个将领居然把郭子兴抓了起来，准备杀害他。朱元璋知道后赶紧跑回来把郭子兴救了出来，从此更受郭子兴的信任。