1938年，国民党政府为显示民主，建立了国民参政会制度，不少民主人士成为参政员。参政会议上，蒋介石的独裁本质不断显露，但他也对敢于直言的民主人士感到头痛，张奚若、钱端升、罗隆基、周炳琳等人成为蒋介石最害怕起立质询的参政员。

　　在1939年的一次国民参政会上，张奚若严词批判国民党的腐败和独裁。当时，蒋介石为体现自己重视民意、重视民主，也来参加会议，但张奚若的发言让他十分难堪，于是打断张奚若说：“欢迎提意见，但别太刻薄！”张奚若对蒋介石的假意民主非常生气，当即拂袖而去。此后一届参政会举行时，国民政府给张奚若寄来了开会路费和通知。张奚若先生当即回电：“无政可参，路费退回。”

　　抗日战争胜利后，国民党政府迫于民意的压力，一面假意实行民主宪政，准备召开政治协商会议；一面暗中准备内战。当时，国民政府教育部规定，大学系主任以上人士一律加入国民党，并要填写表格。时任西南联大政治学系主任的张奚若，态度鲜明，当即拒绝。在国民党政治协商会议筹备期间，共产党和民主同盟会将张奚若列入无党派人士名单。国民党方面不同意，声明张奚若是国民党党员。张奚若闻听后立即联系报社，在《大公报》发出声明：“近有人在外造谣，误称本人为国民党党员，实为对本人一大侮辱，特此说明，本人不属于任何党派。”

　　1946年初，在一次四校联合举办的时事讲演会上，张奚若对国民党的专制腐败展开猛烈抨击：“现在中国政权为一些毫无知识的、非常愚蠢的、极端贪污的、极端反动的和非常专制的政治集团所垄断。”“在报纸上马路上常常可以看到一个名词‘赤匪’，假如共产党可以叫做‘赤匪’的话，我想国民党就可以叫‘白匪’。其实‘白’字还太好了，太干净了，他们简直就是‘黑匪’！”张奚若越说越气愤，他概括归纳国民党政府的行径是“好话说尽，坏事做绝”。他说：“为了国家着想，也为蒋介石本人着想，蒋应该下野。假如我有机会看到蒋先生，我一定对他说，请他下野。”

　　1949年，作为知名民主人士，张奚若参加了新政协筹备会议，对新中国的国名提出了自己的建议。

　　1948年，中共发布“五一口号”，得到各方面积极回应。毛泽东主席在8月1日给各民主党派的复电中，提出要“建立独立、自由、富强和统一的中华人民民主共和国”。此后一段时间，新中国的国名一直沿用“中华人民民主共和国”这个名称。在1949年6月15日新政协筹备会第一次全体会议上，毛泽东带领大家高呼的口号就是“中华人民民主共和国万岁”。

　　会议期间，一些代表对“中华人民民主共和国”这个名称提出了不同意见。黄炎培、张志让认为这个国名太长，“共和”即有“民主”之意，两者并无兼列必要，提出改为“中华人民民主国”。他们的意见引起筹备会常务委员会的重视。在6月23日的会议上，张奚若发言说：“有几位老先生称中华人民民主共和国名字太长，说用中华人民共和国之名。我看叫中华人民共和国比叫中华人民民主国好。有人民二字就可不要民主二字。焉有人民而不民主哉？且‘民主’一词来自希腊字，与人民同义。”他认为这个名称虽长，解释起来容易明白。“是共和而非专制，民主而非君主，人民而非布尔乔亚的国家。”在此后的讨论中，张奚若的建议得到了代表们的赞同，新中国国名正式定为“中华人民共和国”。