，浑邪王便杀了休屠王，其众四万余人降汉汉武帝封浑邪王为列侯
金日磾因父亲被杀，无所依归，便和母亲阏氏、弟弟今伦随浑邪王降汉，被安置在黄门署饲养马匹，时年仅十四岁
汉武帝一次在宫中宴游欢乐之极，诏令阅马助兴当他看到一个体形魁伟、容貌威严、目不斜视的青年牵着膘肥体壮的骏马从殿上走过时，感到很惊讶，就问起这个牵马人的情况当汉武帝得知金日磾为休屠王之子后，就拜他为马监之后升迁为侍中、驸马都尉、光禄大夫
金日磾亲近汉武帝以后，不曾有过失，汉武帝很信任宠爱他，赏赐累积千金，汉武帝外出，他就随侍车驾；在宫中，金日磾就侍候身边一些贵戚在私下怨恨，说：“陛下不知道在哪得到一个匈奴小儿，反倒十分看重他”汉武帝听说后，不以为意，反而更加厚待他
金日磾的母亲教诲两个儿子，很有规矩，汉武帝得知后很赞许他母亲病死后，汉武帝下诏在甘泉宫为她画像，题名“休屠王阏氏”金日磾每次看见画像都下拜，对着画像涕泣，然后才离开金日磾的两个儿子都被汉武帝所宠爱，是汉武帝逗乐子的弄儿，常在皇上身边有一次，弄儿从后面围住汉武帝的脖子，金日磾在前面，看见后生气地瞪着他弄儿一边跑一边哭着说：“爹爹发火了”汉武帝对金日磾说：“干嘛生我弄儿的气！”后来弄儿长大，行为不谨慎，在殿下与宫女戏闹，金日磾正好看见，厌恶他的**，于是杀了弄儿这个弄儿就是他的长子汉武帝得知后大怒，金日磾叩头告罪，把为什么杀弄儿的情况一一说出汉武帝很哀伤，为弄儿掉泪，后因此对他以礼相待
马何罗兄弟策谋造反，金日磾发现他们神情异样，心里怀疑他们，暗中独自注意他们的动静，与他们一同上殿下殿汉武帝还未起床，马何罗袖藏利刃，从东厢而上，看见金日磾，神情大变，跑向汉武帝的卧室，不料撞到宝瑟，摔倒在地，金日磾得以抱住马何罗，随即高声呼喊：“马何罗造反！”汉武帝从床上惊起侍卫拔刀想杀马何罗，汉武帝恐怕伤到金日磾，阻止他们不要用刀杀金日磾揪住马何罗的脖子，把他摔到殿下，侍卫才能捉住捆绑起来，彻底审讯，最后都伏法受诛金日磾因此以忠诚笃敬、孝行节操而闻名
金日磾自从在汉武帝身边，几十年从不用目光直视汉武帝汉武帝赏赐给他宫女，也不敢亲近汉武帝要把他的女儿纳入后宫，金日磾不肯金日磾的为人就是像这样笃厚谨慎，汉武帝认为他的行为特别奇异少见
后元二年，汉武帝病重，嘱托霍光辅佐太子刘弗陵，霍光要谦让给金日磾金日磾说：“我是外国人，那样将让匈奴轻视汉朝”于是就成为霍光的助手，霍光把女