卫律的父亲原本是长水的胡人，卫律自小生长在汉朝。与协律都尉李延年关系友善，受到李延年举荐出使匈奴，等到使团返回的时候却恰逢汉朝诛灭李延年家。卫律害怕受到牵连一并伏诛便逃出汉朝投降了匈奴，匈奴喜爱他，常在单于左右。后来李陵投降匈奴，单于认为李陵壮勇，把女儿嫁给李陵为妻，立李陵为右校王，卫律为丁灵王，都受到尊崇而重用。但李陵居于外庭，有大事，才入内议事。

《汉书李广苏建传》【单于壮陵，以女妻之，立为右校王，卫律为丁灵王，皆贵用事。卫律者，父本长水胡人。律生长汉，善协律都尉李延年，延年荐言律使匈奴。使还，会延年家收，律惧并诛，亡还降匈奴。匈奴爱之，常在单于左右。陵居外，有大事，乃入议。】