公元976年（开宝九年），赵匡胤在北征契丹的途中，十月十九日夜里，与其弟赵光义饮酒，共宿宫中；隔日清晨，赵匡胤暴死，享年50岁。谥曰英武圣文神德皇帝，庙号太祖。关于赵匡胤的死，《湘山野录》有“烛影斧声”的说法大行于世，认为赵匡胤是被意图篡位的赵光义谋杀。赵光义为了证明自己即位的合理性，提出了世所未见的“金匮之盟”一说，说赵匡胤生前承诺母亲杜太后，日后将帝位传给光义。正史中没有他患病的记载，野史中的记载又说法不一。他的死因，成了历史上一宗离奇的悬案。
说法一：《湘山野录》中说，开宝九年十月二十日，一个雪夜，赵匡胤急召他的弟弟赵光义入宫，兄弟二人在寝宫对饮，喝完酒已经是深夜了，赵匡胤用玉斧在雪地上刺，同时说：“好做好做”，当夜赵光义（原赵匡义）留宿寝宫，第二天天刚刚亮，赵匡胤不明不白地死了。赵光义受遗诏，于灵前继位。
说法二：《烬余录》说，赵光义对赵匡胤的妃子花蕊夫人垂涎之久，趁赵匡胤病中昏睡不醒时半夜调戏花蕊夫人，惊醒了赵匡胤，并用玉斧砍他，但力不从心，砍了地。于是赵光义一不做二不休，杀了赵匡胤，逃回府中。
说法三：《涑水纪闻》里说：太祖去世时已是四鼓。宋皇后叫内侍王继恩把皇子赵德芳叫来。王继恩考虑到太祖早就打算传位于晋王光义，却找来了赵光义，进宫后，宋皇后问：“德芳来了吗？”王继恩回答：“晋王来了。”宋皇后惊诧莫名，后来突然醒悟，哭着对赵光义说：“吾母子之性命，皆托官家。”
说法四：另外，据说赵光义以弟弟的身份继承兄长的帝位，是他母亲杜太后的意见。说是杜太后临终时，曾对赵匡胤说：“如果后周是一个年长的皇帝继位，你怎么可能有今天呢？你和光义都是我儿子，你将来把帝位传与他，国有长君，才是社稷之福啊！”赵匡胤表示同意，于是叫宰相赵普当面写成誓词，封存于金匮里，这就是所谓的“金匮预盟”，也就是赵光义“兄终弟及”的合法根据。但是“金匮预盟”在初版的《太祖实录》却未见记载，在第二次编修的新录中才被提及，因而是否确有其事，仍疑点重重。
宋太祖有四子，因为赵德芳兄弟在短时间内连续死亡，许多人怀疑德芳死因不单纯，定与宋太宗有关。
长子滕王赵德秀；母亲：孝惠贺皇后；结局：早亡；
二子燕王赵德昭，先后被封为魏王、武功郡王、燕王、吴王、越王。赵德昭亦是朝鲜半岛白川赵氏的始祖。母亲：孝惠贺皇后；结局：被逼自刎。
三子舒王赵德林；结局：早殇；
四子秦王赵德芳，宋太祖四子，是宋真宗的堂兄。其二叔宋太宗继位后被封为兴元尹。母亲：孝明王皇后；太平兴国六年（981年）德芳病死，英年早逝，年二十三。德芳死后，谥康惠，赠中书令、岐王。后加封太师，改封楚王。