广州军政府被岑春煊等人宣布撤消并与北方统一后，并没有得到已经下野的孙中山等人认同。1920年10月31日，孙中山、唐绍仪、伍廷芳、唐继尧等以军政府政务总裁名义通告中外，否认统一。紧接着，孙中山率伍廷芳、唐绍仪等自上海启程前往广东，准备在那里重建军政府。
孙中山认为，民国十年，祸乱相寻，实际上并没有达到辛亥先驱所期待的共和境界，十年来的政治效果，不过是将满洲人的统治权转换到了腐败官僚和复辟派手里。在孙中山和南方革命党人看来，北京政府实际不是民国的正统，不代表民国的法统，所以他们南方革命党人要在广东重建真正的民国，要将辛亥革命未竟的事业做成功。1921年4月7日，非常国会两院联席会议在广州召开，议决中华民国政府组织大纲，选举孙中山为大总统。孙中山知道自己大总统当选缺少正当性，或者用章太炎的说法是“非法的”，因而孙中山在当选为总统后，称自己是非常大总统而不是正式大总统。
孙中山在就职后设法向各方面疏通解释，希望各方面支持。对于章太炎，孙中山当然不会忘记，他在就职前就写了一封热情洋溢的邀请信，真诚邀请章太炎南来，携手共进，共创伟业，重叙数年前携手合作的故事。
对于孙中山的这些做法，章太炎并不以为然。他认为孙中山成立民国政府，就是一种非法行为，但他也知道，孙中山如果不能得到这个总统大位，他必然会向北方的徐世昌让步，甚至可能会附北。而且，唐绍仪就在广州，他可是徐世昌的密友，所以此时反对孙中山，就等于让徐世昌和唐绍仪南北统一的阴谋得逞。基于这些判断，章太炎一方面建议孙中山将广东地方自治事务全部交给广东省长陈炯明；另一方面建议孙中山不得反对各地正在进行的联省自治。
对于章太炎的建议，孙中山给予积极回应。在随后发表的就职宣言中，坦然承认各省自治的必要性、合理性，认为只有让各省人民完成自治，自定省宪法，自选省长，中央分权于各省，各省分权于各县，这样或许可以使久已分离之民国，复以自治主义相结合，以归于统一，不必再穷兵黩武，祸害百姓。
孙中山的坦然表态在一定程度上消解了章太炎的疑虑，而且孙中山的这个非常总统毕竟是要与北方的徐世昌对峙，这在很大程度上合乎章太炎的心情，再加上孙中山的再三请求，章太炎终于表示有限度、有保留地支持孙中山出师北伐。
此时，北方的奉系与直系正在激烈争斗，全国的政治版图实际上是孙中山与奉系、直系三分天下。奉系的张作霖有意与孙中山联合反对直系，孙中山也觉得与奉系联合具有相当可能性。对于孙中山的这个认识，章太炎不愿苛同，他对孙中山分析道，直系吴佩孚多谋善战，远过于皖系段祺瑞，断不可小视。目前，南方之所以还能与直系相安者，在很大程度上是因为奉系张作霖在那里牵制着，使吴佩孚无法分兵南下对付南方。尽管如此，奉系对南方的压力还是相当明显，四川已经受到奉系重创，而广东虽然侥幸躲过直系攻击，但并没有达成永久和平。何况奉系、直系之间终有一战，奉系胜了，南方还有机会继续存在；假若奉系败了，也就没有什么力量能够牵制直系了。到了那个时候，南方就很难维持了，章太炎建议孙中山要充分利用三分天下而有其一的形势，好好建设内部，扩充实力，不要亟于北伐。
对于章太炎的建议，孙中山或许以为是书生之见。然而吴佩孚在直奉战争中轻易打败张作霖，紧接着，吴佩孚自以为羽翼丰满，图谋抬出黎元洪取代徐世昌；同时，以远交近攻之策，派代表到广东釜底抽薪，与陈炯明合作，支持陈炯明反对孙中山，准备以武力实现全国统一。于是陈炯明用武力手段逼退孙中山，孙中山想象中的北伐无疾而终，再度黯然离开广东。
连年的战乱早已引起国内外的反感和不安，直奉战争结束不久，北京知识界接续几年前浙江督军卢永祥提出的废督裁兵主张，呼吁政治家拿出勇气，废督裁兵，召开旧国会，制定新宪法，改良选举制度等。这些建议或许是获得胜利的吴佩孚暗示或指导进行的，但南北重开议和，废督裁兵，重建和平，对于一般百姓而言，无疑是一件早已期待的好事。
然而章太炎却不这样看。他强调，民国兵祸，先后十年，每战一次，军队陡增。现在南北各方军队人数的总和已是民国元年的三倍。由此看来，战争为因，增兵为果，不去战争之源，虽暂时裁兵，并不能从根本上杜绝增兵的大趋势。北京知识界的呼吁，哀音正辞，为民请命，但凡有意识、有感情的人，哪一个不被这样的呼吁所打动呢？不过实事求是地说，中国问题的真正解决必须从根本做起，如果没有根本解决的意识或框架，枝节改良，是没有希望的。章太炎强调，要说裁兵，至少要从这样四个方面做起，否则随意而为，是根本没有意义的。
一是先计分额，后定总额。章太炎指出，中国有22个行省，外加5个特别行政区，这27个行政单位。如果每个行省定编两个师，每个特别行政区定编一个师或一个混成旅，纵或以地域广狭山川夷险略有参差，而大纲要不逾此，总数不过50个师。然则以定存50个师为限，而各个行政单位的份额不加限制，这多者自多，少者自少。多者恃强以凌弱，少者不平而生心。这样的裁兵，正为造攻之本。所以章太炎说，不确定各省各区的兵员数额，空谈什么裁兵是没有意义的。
二是废巡阅使。章太炎说，份额已定，省区军队已均，而有巡阅使在，则一人兼制数省，恃有强权各省预有戒心，哪一个肯以裁兵自致削弱？所以，不能废除巡阅使制度，任何裁兵的想法都不可能成为现实。
三是撤驻防军。章太炎指出，辛亥首义，各省本自为谋，逮乎袁世凯当国，意存侵略。其后南北混战不已，湖北、江西、江苏、安徽、浙江、福建等省，长时期驻扎有北方军队。这些军队军机不饬，时有驿骚，浚民以生，赋敛无度。向者富庶之区，现在都有入不敷出的情形。夫无形之诛求，甚于有形之杀掠；永久之宰割，甚于一时之战争。南方六省之患驻防军，非但如直隶之患奉军。于是西南几省为了自保，为了抵御北方军队的南侵，又不得不豢养一批军队。所以从章太炎的观点看，裁兵的第三个关键，就是能否将驻防军裁撤。驻防军不裁撤，则东南无且夕之安，西南也必不肯接受裁兵约定。
四是裁撤中央直辖军。章太炎说，民国以来，战争虽多，皆以中央为祸始，帝国之复兴，国会之解散，其实都与中央政府大量无度增兵有关。现在的北京政府虽然不敢再蹈前辙，而以挟有重兵为总统者，但南北政客其实都有自己的私家武装，都有枪杆子在背后作支撑。所以，要说裁兵，就必须从裁撤中央直辖军入手，否则根本不可能成功。然而从南北军阀实际情形看，这无疑等于与狐谋皮，是根本不可能的。
在章太炎看来，南北军阀的存在，彻底毁灭了中国政治的一点生机，中国政治从全国、从中央政府的层面看，现在还真的没有什么新的希望，如果一定要说中国希望何在的话，可能还是各省的自治和诸省的联治。