我在上海一直住到6月下旬才去广州。途中经过香港。这时香港的工人已经开始罢工，许多工人挤在轮船上，要回广州去。码头上的货物堆积如山，无人搬运。6月24日，我到达广州。这天正是广州发生沙基惨案后的一天，群众都走上了街头，抬着血衣，高喊反对帝国主义的口号。“五卅”的影响是这样的深刻和广泛，全国人民的反帝怒潮，象火山一样爆发出来了。
我到了广州，找到廖仲恺先生，跟他谈了整顿四川国民党组织的计划，他非常赞成。这时广州刚刚镇压了杨希闵、刘震寰的叛乱，正在酝酿把大元帅府改组为国民政府。廖仲恺先生要我在国民政府成立以后再去四川，并且带我去参观了黄埔军校和其他地方，向我介绍了广州的许多情况。黄埔军校是在我党和苏联的帮助下建立起来的。这时廖仲恺任该校的国民党代表，周恩来同志任政治部主任，还有我们许多同志如恽代英、肖楚女等都在那里担任教官或其他工作。所以我们去参观时，看到的是一片朝气蓬勃的景象。1925年7月1日，国民政府在广州正式成立，汪精卫担任主席，廖仲恺担任财政部长，胡汉民担任外交部长，许崇智担任军事部长，至于蒋介石还只是以黄埔军校校长兼任军事参谋长的职务。革命形势发展很快，但在新成立的国民政府中，右派还有着很大的势力。要改变这种情况，必须继续发展工农运动，发展国民党内的左派势力。这时整顿国民党基层组织的工作已刻不容缓，我想回四川的心情更加迫切了。7月初，我离开广州赴上海，准备取道长江水路入川。临走时廖仲恺先生代表国民党中央给我一千元钱作为活动的经费。
这时，四川的国民党组织，正处于分崩离析的状态，内部派系很多。特别是谢持、石青阳等在党内组织的所谓“实业团”，借兴办实业为名，大种鸦片烟和做投机生意，在政治上又搞派别斗争，进行内战，影响极为恶劣。谢持和石青阳都是西山会议派的要人，他们当时虽然没有在四川，但四川国民党重庆党部是归他们掌握的。他们这帮人只顾借党营私，拒绝进步力量的集聚，以致党部冷冷清清，门可罗雀。1925年8月15日，我到了重庆，先找重庆国民党负责人黄复生、朱之洪商量，提出整顿国民党的计划。黄朱二人听了都摇头，说：“现在人家听到政治和党派就头痛，已经参加国民党的不过是挂个儿，没有参加国民党的，今后也未必肯加入。你的想法倒不错，只怕是白费力气。”我对他们说：“从前国民党的声誉，虽然被一些政客所玷污，但自从中山先生主张国共合作、实行改组国民党以后，情形就不同了。今后正要我们好好地去整顿。只要我们目标远大，做法正确，群众自然就会拥护我们，国民党的威信也就能够树立起来。”黄复生反问我：“你看这一堆烂摊子，怎样整顿法？”我说：“第一，要有一个严密的强有力的组织机构；第二，要培养一批效忠革命的干部；第三，要在群众中进行广泛的活动。做到这三件，我们的整顿工作就算成功了。我计划先办一个学校，一方面可以集合和培养一批干部，另一方面也可以作为进行组织和宣传活动的据点。”他们听了我的话，都说：“你以为办学校是容易的事情吗？我们很久想办学校，都没有办成呢。”我跟他们谈了很久，他们始终表示怀疑，没有信心。
国民党的旧人暮气沉沉，我就去找青年人商量。找到了我在成都办高等师范时和我共同组织“中国青年共产党”的杨闇公和杨伯楷（当时叫杨洵）、冉钧、张锡畴等，他们大多已是共产党员或青年团员，听了我的计划，非常赞成，立刻就动手干起来。我把廖仲恺先生给我的一千元钱全部作为办学校的经费，但是还差很多。又把我私人在川江轮船公司的两张股票拿出来押当，由于这个股票的利息很高，当了两千块钱，也把它全部充作了学校经费。
我们一方面筹备经费，联络熟人；一方面分头去找校址，买家俱。那几天，重庆格外炎热。可是大家干劲都很足，每天清晨就到外面去奔走；中午到杨闇公家里开会，交换情况；下午又出去奔走。大家累得汗水直流，但心里都很兴奋，反而觉得挺爽快。不几天，就在大溪沟找到了校址，而且把一切筹备工作都办妥当了。早些时候，华法教育会曾计划在北京、上海、汉口、广州、重庆办五个中法大学。我是华法教育会的发起人之一，于是就把新办起来的学校定名为“中法学校”（大学部称中法大学）。
学校的筹备工作差不多了，学生从哪里来呢？恰好江北中学、合川联合中学和重庆第二女子师范都因罢课而有许多进步学生被开除。我立即找到了这些学生，把他们招收入学。于是各地进步学生都闻风而来，一下子招了二百多9月4日，学校正式开学上课了。
与筹办中法学校的同时，我又着手整顿国民党的组织，把省党部迁到莲花池新址。我对四川各县国民党的情况是比较熟悉的。还在1921年搞四川自治运动的时候，我就有意识地物色了一批干部。现在全国工人运动蓬勃发展，革命势力日益高涨，群众的革命情绪很饱满，所以工作进行得很顺利。不久，许多重要县市的党部都成立起来了。我回到四川以后，不过两个月时间，居然办起了学校，建立了国民党的各县党部，以前对整顿工作缺乏信心的黄复生看到这种情形，非常惊奇。他对人说：“吴玉章的手段真髙明，好象有神仙帮助一样。”其实，哪里有什么神仙帮助？我所依靠的是党的领导和群众的支持，不过黄复生当时并不知道我是一个共产党员。
那时，我们接到广州的指示，定于1925年11月初在广州召开国民党第二次代表大会。接到电报已经很迟了，我们赶紧筹备起来。因时间仓促，便让各县市代表就地开会选举。选举结果，我和杨闇公同志等六人当选去广州出席大会。这六个人中间，除了黄复生以外，其他都是共产党员，可见当时四川的国民党内，左派势力已经占了很大的优势。
1925年11月，我们离开四川，经上海去广州。