1833年6月1日，约翰·马歇尔·哈伦出生于美国肯塔基州博伊尔县。

1950年，哈伦毕业于中心学院。

1853年，哈伦开始从事法律工作。

1858年，哈伦担任富兰克林县法官。

南北战争期间，哈伦在北方联邦军担任军官。

1863年至1867年，哈伦任肯塔基州总检察长。

1875年，哈伦作为共和党候选人竞选肯塔基州州长。

1877年10月16日，哈伦被美国总统海斯提名为美国联邦最高法院大法官。11月29日，提名在参议院通过。12月10日，哈伦正式就职。哈伦是美国最高法院历史上最有力的异议者之一，他最著名的不同意见是在“普莱西诉弗格森案”和一些保障黑人权利的民权案件，他认为种族隔离在《美国宪法》中是不能容忍的，所有公民不应受歧视。其他著名的不同意见还有联邦所得税的案子和一些根据1890年的《谢尔曼反托拉斯法》而引起的许多反对垄断的案件。