因而他曾经当着开国功臣徐达等人的面，对元朝的政治制度进行过评价，认为元朝的没落主要是制度不行，造成权臣层出不穷，即使中间有些皇帝想要有所作为但受制于权臣，改革根本推行不下去，最后皇帝也就得过且过成为昏君了，这样一来搞得天下人心涣散，法令不能有效地传达到各地，如果这样元朝还不灭亡那真是没有天理了。作为元朝后期政治混乱的亲历者和最大既得利益者，可想而知朱元璋内心深处对元朝这一套政治制度的看法，朱元璋的话很明白，元朝的制度导致权力过于集中在中书省，而皇帝的权力反而受到限制，这对于白手起家的朱元璋是不能忍的，因为自己辛辛苦苦打下来的江山干吗要分给别人管呢？所以中央集权（主要是皇权）必须加强。
加强有两种办法，一种是对制度进行改革，另一种是推倒重来，这个问题朱元璋仔细考虑过，别看朱元璋文化水平不高，但是这么多年的南征北战下来，朱元璋本人也是见多识广了，虽然其内心不喜欢元朝这个制度，但是考虑到实际情况，他知道想要推倒重来是不可能的，难度大先不说，万一效果不理想那对新生的明朝来说可是毁灭性的打击，因而还是对这个制度进行改革，使其达到自己的要求吧。明朝刚刚建立那会儿事务繁多，当时朝廷上淮西集团和浙东集团斗得不亦乐乎，朱元璋就算有心要改革，估计也不会有人配合，而随着明朝逐渐步入稳定期，朱元璋感到改革政治制度可以提上日程了。