諸葛亮平定南中之后,經過兩年準備,公元227年冬天,諸葛亮到了祁山,決定派出一支人馬去占領街亭,作為據點。當時他身邊還有幾個身經百戰的老將。可是他都沒有用,單單看中參軍馬謖。
馬謖沒有打仗的經驗,自以為熟讀兵書,堅持要在山上扎營。王平一再勸馬謖沒有用,只好央求馬謖撥給他一千人馬,讓他在山下臨近的地方駐扎。張郃率領魏軍趕到街亭,看到馬謖放棄現成的城池不守,卻把人馬駐扎在山上,馬上吩咐手下將士,在山下筑好營壘,把馬謖扎營的那座山圍困起來。馬謖幾次命令兵士沖下山去,但是由于張郃堅守住營壘,蜀軍沒法攻破,反而被魏軍亂箭射死了不少人。蜀軍在山上斷了水,王平帶領一千人馬,穩守營盤。他得知馬謖失敗,就叫兵士拼命打鼓,裝出進攻的樣子。張郃懷疑蜀軍有埋伏,不敢逼近他們。王平整理好隊伍,向后撤退,不但一千人馬一個也沒損失,還收容了不少馬謖手下的散兵。這就是馬謖失街亭的故事。