赵匡胤出生于公元927年，是赵弘殷的次子。少年时的他气度不凡，神情威武，无论马术还是箭术都远在他人之上，有远见者均说他必非池中之物。

后汉之初，赵匡胤四处游历，在襄阳的一座庙里居住。有个擅长看相的和尚见了他后说：“我将可以资助你的都送给你，你向北而去，必有收获。”赵匡胤接受了和尚的建议，一路向北而去。公元948年，他投奔后汉枢密使郭威麾下，一同征讨李守贞，并立下汗马功劳。

公元951年，郭威建立后周，并自立为帝，将赵匡胤升为滑州副指挥使，而柴荣则转任开封府马直军使。三年后，柴荣登基，禁军由赵匡胤统领。北汉来袭时，柴荣亲率军队抗敌，战场设在高平。谁知战争一触即发的关键时刻，指挥樊爱能等人竟临阵脱逃，后周陷入危机之中。所幸赵匡胤带着同伴一路冲锋陷阵，将北汉军击溃。班师回朝后，赵匡胤很快就被升为殿前都虞候。

公元956年春，赵匡胤随着柴荣一同出兵淮南，首战大捷，击败南唐一万军马，斩杀兵马都监何延锡等人。之后赵匡胤一举击溃了在清流关驻扎的南唐节度使皇甫晖、常州团练使姚凤带领的十五万大军，并砍中皇甫晖的脑袋，将其与姚凤一同擒获。没多久，赵匡胤又率军在六合东面击溃李景达，杀敌万余人。就这样，赵匡胤节节升迁，很快升为定国军节度使。

公元957—958年，赵匡胤随柴荣出征时所立军功无数，接连攻克了连珠寨、寿州、泗州、楚州、淮南等地，其官爵也于公元958年改为忠武军节度使。

公元959年，柴荣北伐，并令赵匡胤任水陆都部署。来到瓦桥关，当地守将姚内斌选择归顺。紧接着，他们又一举击退了几千契丹兵，将关南扫平。柴荣在行军途中审批各地所呈奏折时，意外得到一个皮口袋。袋里装了一块长达三尺的木板，板上还写着：“点检作天子。”柴荣对此十分惊异。那时的点检姓张名永德，后来柴荣患病回到都城开封，将赵匡胤改任为检校太傅、殿前都点检，以此来替代张永德。