杜鲁门1884年5月8日出生于密苏里州拉马尔,是约翰·安德森·杜鲁门(John Anderson Truman)和玛莎·艾伦·杨·杜鲁门(Martha Ellen Young Truman)的长子。杜鲁门有一个弟弟和一个妹妹,分别叫约翰·维维安·杜鲁门(John Vivian Truman,1886年~1965年)和玛丽·简·杜鲁门(Mary Jane Truman,1889年~1978年)。
杜鲁门的父亲约翰·杜鲁门是一位农夫和家畜商贩,在杜鲁门只有11个月大的时候,便举家迁到密苏里州格兰德维尤的一个农场。那个农场由杜鲁门的祖父母所拥有,占地达600英亩(240公顷)。为了方便上学,杜鲁门一家在他6岁的时候又迁移到密苏里州独立城。1901年,杜鲁门高中毕业后,从事了很多种工作。1906年,杜鲁门回到了格兰德维尤的农场并在那里度过了约十年的时光。在这段时期里,他结识了贝丝·华莱士(Bess Wallace),并在1911年向她求婚,但却以失败收场。此后,杜鲁门说要比农夫赚到更多钱后,才再次向贝丝求婚。结果,他在1918年如愿以偿,当时他刚从第一次世界大战的战场回来,而且还获得了上尉军衔。