胡晋臣，字子远，是蜀州（今四川省成都市崇州市）人。他考中了绍兴二十七年（1157年）的进士，被任命为成都通判。制置使范成大以公辅的身份向朝廷推荐他，孝宗召他到都城。胡晋臣入朝答对，上疏陈述了当前士俗、民力、边备、军政四个方面的弊端。他应试学士院，被任命为秘书省校书郎，又升为著作佐郎兼右曹郎官。

在轮流上奏答对时，胡晋臣论述了三件事：一、不要忽视讲读官，要以仁宗为榜样；二、责成谏官纠察邪恶，责成宰相抑制奔竞之风；三、广泛听取意见、沟通下情，以消除尚未形成的祸患。他又极力论说近臣的弊端，孝宗看了奏章后，脸色都变了。胡晋臣口头陈述很详尽，谈到两税折变时，孝宗的怒气才稍微平息，点头赞许了很久。

赵雄当时执政，孝宗亲手写下诏书交给中书省询问近臣的姓名。胡晋臣第二天到中书省，执政官员责问他这样做的缘故，胡晋臣说：“赵丞相惯于揽权，难道不知道吗？”于是他逐条列举那些权势大的近臣上奏给孝宗。孝宗感悟到了这一点，从此近臣们对他严加敬畏。