1922年4月19日，埃利希·哈特曼出生于德国符腾堡地区魏斯扎赫城，父亲是第一次世界大战时的军医。战争结束后，为躲避经济危机，于1925年全家离开德国，到中国的长沙开了一家诊所。
1929年，哈特曼随母亲和弟弟一同回国。3年后，老哈特曼也回到德国，在魏尔的俾斯曼大街开了一家诊所，行医谋生。
哈特曼的母亲是对他的飞行生涯产生了重大影响的第一人。哈特曼的母亲是一位富有冒险精神的飞行体育运动爱好者，这对哈特曼产生了巨大的影响。
1933年，希特勒上台，德国掀起了飞行热。希特勒大力支持建立滑翔俱乐部。1936年，哈特曼的母亲在魏尔建立了一个俱乐部，亲任教员，招收青年人学习滑翔飞行。
当时，哈特曼正上中学，他也加入了俱乐部。当他14岁时，已成为一名优秀的滑翔机驾驶员。1937年，他获A级和B级滑翔机驾驶员证书，取得C级后，成为希特勒青年飞行团中的滑翔机教员。
1939年9月1日，第二次世界大战爆发。高中毕业的哈特曼立即报名参加了空军。父亲希望儿子去从事救人生命的事业，而不是去杀人，而且他认为战争会以德国的失败而告终。母亲却支持哈特曼参军。
1940年10月15日，哈特曼加入德国空军第10训练团，驻扎在离东普鲁士的科尼斯堡15公里的新库伦地区。1941年3月，转入柏林加托夫第2空战学校。1941年3月24日，入校不到1个月的哈特曼放了单飞。10月14日，基本飞行训练结束，他转入第布斯特歼击机飞行学校，学习驾驶梅赛施密特公司生产的ME-109式战斗机。
在这里，哈特曼遇到了对他的飞行生涯产生过重要影响的第2个人瞿哈根教官——德国有名的特技飞行能手。教官对哈特曼也特别赏识，他教哈特曼基本战术动作和独自驾驶ME-109的技术，还传授了一些特技飞行的秘诀。
1942年3月，哈特曼顺利结束飞行训练，获驾驶员证章，并晋升为少尉。1942年6月转入空战和射击训练。1942年6月3日，哈特曼驾驶ME-109D型飞机用机枪对拖靶射击50发，命中24发，引起教官和同行的注目。
1942年9月，哈特曼随部队开赴东线战场，加入德国空军第52战斗机联队，参加对苏军作战。
