1888年6月17日，古德里安出生於維斯瓦河邊的庫爾姆一個德國軍官家庭。13歲時進入軍校進行學習，1907年畢業後成為一名見習軍官。年輕時的古德里安經常發表討論探討當代軍事問題的文章，用具有創造性的想象力，提出坦克將成為地面戰場主宰的新觀念。

1928年，古德里安前往蘇聯參加了一場軍事演習。古德里安在這場演習中把自己“機械化”的思想大幅實施，他坐在坦克中，指揮著一個由裝甲部隊組成的步兵班發起進攻。蘇聯人對古德里安的新型戰術思想嗤之以鼻。但數年後，他們就被古德里安的裝甲部隊打得屁滾尿流。

1936年，古德里安發表了他的著作《注意—坦克！》，他在書中表示：機械化才是未來的戰爭之道。並著重說明了機械化軍隊的優勢和相對應的戰術：快速、集中和奇襲。

1939年，德國閃擊波蘭，古德里安帶領第19軍利用坦克叢集帶來的優勢大破波軍，直抵維斯杜拉河，截斷了波軍的撤退路線。古德里安利用兩個裝甲師和兩個輕裝甲師強渡那累夫河，並於14日突破布列斯特—裡托夫斯克的築壘地域。裝甲大軍一路橫掃乾坤，17日與南方集團軍的先頭部隊勝利會師。

隨後，德國勢不可擋，佔領波蘭後，於1940年5月10日入侵法國。古德里安的第19裝甲軍在主攻的A集團軍中擔任先鋒，開戰後不到三日，古德里安的三個裝甲師就強行突破了阿登山脈長達100多公里的峽谷防線，佔領了馬斯河北岸的色當要塞。因為古德里安的攻勢迅猛，許多法軍士兵被打的丟盔棄甲，潰散而逃。而古德里安認為俘虜敵軍是浪費時間，便一路用擴音器喊話：“放下武器，離開道路，我們沒空管你們。”

古德里安的第19裝甲軍長驅直入，一路打到距離敦刻爾克只有10英里的阿布維利地區。但古德里安卻接到了希特勒的撤退命令。第二階段的“紅色方案”中，古德里安一路南下，直抵瑞士邊境，抹滅了法軍想從馬奇諾防線向瑞士撤退的想法。在“紅色方案”開始實施的10天內，古德里安的裝甲師進軍400公里，俘虜法軍25萬，令世界震驚。

1941年6月22日，巴巴羅薩行動拉開了序幕，古德里安負責突破莫斯科西南方的蘇軍。古德里安再次利用自己先進的戰術思想震驚了世界，開戰後20天，古德里安的軍隊已經佔領了整個白俄羅斯，7月16日，佔領斯摩梭斯克。但由於中線戰場的不順利，巴巴羅薩行動受阻。許多人向希特勒建議集中兵力圍攻莫斯科，古德里安十分贊同這一觀點，並稱：莫斯科只不過350公里遠。希特勒怒斥眾人，並指著古德里安罵道：“你懂什麼叫經濟嗎？冬天就要來了，沒有烏克蘭的小麥，我們會被餓死在行軍的路上！”

古德里安掉頭挺近基輔，著名的基輔戰役打響。古德里安再次指揮他的裝甲師以迅雷不及掩耳之勢衝破了蘇軍的防線，和南方集團軍合圍蘇軍。在這場“有史以來最大的一場保衛戰”中，60萬蘇軍淪為俘虜。

基輔會戰雖然勝利，但是蘇軍已經爭取到了足夠佈置莫斯科縱深防線的時間。當古德里安北上莫斯科時，已經是初冬時節了。