在博浪沙行刺始皇之后，张良为了避祸，改名换姓，逃到下邳躲藏起来。
下邳濒临东海，是秦时的一个属县，距离博浪沙约有数百里之遥，张良避祸到此，幸好腰间留有余蓄，可资衣食，不致忍饥受寒。
起初，他还不敢出门。后来，始皇西返，捕役搜查渐松，他才敢放胆出门游走。
一天，张良闲着没事儿，来到下邳一座桥上散步、眺望四方景色。当地人常称桥为圯，所以桥上也就是圯上。张良到圯上只是为了排遣寂寞，消解烦闷。
这时，圯上有一个穿着粗布衣裳的老人，走到张良面前，故意把自己的鞋子甩到桥下，然后看着张良，说道：“小子，下去把鞋给我捡上来！”
张良有些惊讶，真想上去揍他，但见他年老，才勉强隐忍下来，不与他一般见识，下桥去捡回了鞋。
老人又说：“把鞋给我穿上！”张良想，既然已经替他把鞋捡了回来，那就索性至诚相待，替他把鞋穿上，在礼数上做得足足的。
老人把脚伸到张良面前，张良跪下来给他穿好鞋后，老人非但不表示感谢，反而仰面朝天，大笑而去。
张良一直惊讶于老人的举止，他注视着老人远去的身影，看着老人离开了约有一里路后，又返了回来，对张良说道：“你这小子是可以好好教导教导的，五天后，天刚亮时，与我在这里相会。”
张良觉得这件事很奇怪，便跪下来答应道：“是！”
五天后的拂晓，张良如约而至。老人已经先等在那里了，他生气地对张良说：“你与老人相约，反而后到，这是为什么？”说完，老人一边抬腿离开，一边说：“五天后，早早来此会面！”
五天后，这次鸡一叫，张良就去了。没想到，老人又先等在那里了，仍是生气地对张良说：“你又来晚了，为何又是后到？”老人说完就转身离开，并说：“五天后，再早点儿来！”
五天后，张良还不到半夜就去了。过了一会儿，老人也来了，一见张良就高兴地说：“就应当这样，理应如此！”
老人说完，拿出一部书，对张良说：“读了这部书，你就可以做帝王的老师了。十年以后，你将会发迹。十三年后，你到济北来见我，谷城山下的黄石就是我。”说罢，扬长而去，再没有别的话留下。
顺便插叙一下，这位圯上老人就是黄石公，大约是周秦时代的隐士，饱览兵书，参入心得，深悟其妙，只因人已衰老，不及待时，意在传授张良，使之成为帝师，故有“拾履-穿履-相约”之考验。十三年后，张良跟随汉高祖经过济北时，果然得到谷城山下的黄石，当做宝物供奉起来，直到张良死后，还与黄石并葬。
而此时，夜色深沉，张良目送着老人的身形隐于黑夜中，便怀揣着书返回去，待到天明时，一看老人送的书，见封面上写有《太公兵法》字样，当下惊喜。
张良知道，这“太公”就是姜子牙，他熟谙韬略，为周文王师，惟所传兵法，未曾读过，这次老人传授此书，令他诵读，想必是隐寓着玄机。
此后，张良勤奋读书，坚持不懈，把太公兵法读得滚瓜烂熟。古谚曾说：“熟能生巧。”张良既已熟读此书，自然是心领神会，温故而知新，能举一反三。后来，他关于兴汉的种种谋划，全靠这部太公兵法融会而出。
十年后，陈涉等人在大泽乡起兵反秦，张良也聚集了一百多位青年响应。当时，有个叫景驹的人自立为代理楚王，驻兵在留县城里。张良打算前去投奔他，半路上却遇见了沛公刘邦。
沛公刘邦当时正率领几千人马，攻取下邳以西的地盘，张良暂且归附了他，沛公就任命张良做厩将。张良多次依据《太公兵法》向沛公献计献策，沛公也因此很赏识张良，经常采用他的计策。
张良对别人讲太公兵法上的东西，别人都听不懂，不能领悟，只有沛公能够领悟。于是，张良就说：“沛公大概就是天授予人间的。”
从此，张良就跟随了沛公刘邦，没再去投奔景驹。此后，张良一直深受刘邦的器重和信赖，其聪明才智也得以充分发挥。
刘邦称帝后，曾问群臣自己为何能得天下时说：“夫运筹策帷幄之中，决胜千里之外，吾不如子房(张良)。”
后世的诸葛亮更是仰慕张良，曾赞叹：“仰其像不威，然运筹帷幄，决胜千里，成帝王之师。”
