汉文帝后元六年（前158年），苏建就离开武功，充军服役，参加了多次对匈奴的防御战争。亲眼目睹了侵略者掳掠西汉民众生命财产的暴行，增加了他对敌人的仇限。汉景帝8年（前149年），苏建因精骑善射，武艺高强，被提拔为宫中卫士。建元元年（前140年），汉武帝即位后，继承了“文景之治”，积极筹划御敌强国之策，向全国颁布求贤诏，号召宰相以下的官吏推荐人才，充实国家。苏建在大行（官名，掌管对外联络）王恢的举荐下，被汉武帝破格任命为八校尉之一的长水校尉。在斯川屯兵千余人，负责对宣曲少数民族部队的防务训练。他按照马背民族的作战特点，严格训练部队。元朔二年（前127年），匈奴贵族率3万骑兵入侵上谷（今河北怀来县），杀都尉，烧民房，抢畜产；卫青奉命率4万精锐之师北上抗击。苏建带领千骑劲旅打先锋，当部队行止鸿门（今神木县一带）时，和五千敌兵相遇。苏建冲锋在前，将士们在苏建的激励下，杀得敌军所剩无几。生擒了匈奴的楼烦王，取得了抗击匈奴的重大胜利。
元朔三年（前126年），汉武帝在今内蒙古乌拉特前旗的沙日召设置朔方郡。移民10万，边务农，边守卫。命苏建监修朔方城工程。他谨奉圣命，在建设过程中，能结合种族差异和地方实际，有机的将大汉王朝的法规法令贯彻落实。组织将士分段施工，用蒸土拌畜血之法筑城打夯，按期完工；抽调人员多方招兵买马，安排专人训练，为再战匈奴储备力量。真正把朔方城建成了为部队打仗提供物品和兵员的军事基地。发动民众修缮秦代长城，派兵驻守，以防外患；汉武帝据此于元朔五年（前124年）封苏建为平陵侯。并在其故里武功给他赐地百倾，建豪华宅院一座。
元朔六年（前123年），苏建奉命统领五百余骑，扑黑山侦察敌军情况，由于军中奸细告密，几乎全军覆没。苏建在身负箭伤，重兵围困的危急关头，带领十几名将士突出重围，回到了陇西（今甘肃境内）军营。卫青在严厉军法与至交深情的两难之余，命人将苏建押解回京。按照汉朝律条，导致士兵伤亡惨重的将帅，本应处死。而汉武帝却念苏建功大于过，不言死罪，不诛族亲，只是将他革除爵位，罚款代罪，贬为庶民。那时，苏建的三个儿子因为父亲的关系都已经在朝延做官了。面对这样的处理结果，全家人悲伤过后，自然从内心深处感激汉武帝的不杀之恩。
苏建在被贬为庶民的两年中，亲自撰写了《改革军制》、《经营边疆》和《文邦武论之削藩》等贯穿着儒家思想的文章，通过“公车上书”等形式，向皇帝谏诤言，献方略。后来这些建议成为汉武帝加强皇权，治理国家的理论依据之一。
元狩二年（前121年），苏建恢复侯位，被任命为代郡（今河北蔚县）太守。上任伊始，苏建就大力推行“兵农合一”的民兵制，他鼓励民众到塞外戌边屯田。采取筑房屋、置器物、免赋费等办法，吸引了万余民众自愿到塞外安家耕田，守卫边疆。同时，他对这些塞外居民实行军事管理，设专门机构负责训练其应敌本领和骑射技术。汉武帝将这种人称为“屯田民兵”。这一做法有效地解决了边境地区兵力不足的问题。
元狩四年（前119年），身为太守的苏建在漠北战斗中，亲自带领地方官员，积极协助霍去病大军作战。从代郡为部队准备了1万匹战马随行，以备换用；赶制了万余辆辎车，为部队转运粮草提供方便。由于军民团结一心，漠北之战彻底扑灭了匈奴贵族的嚣张气焰，解除了西汉自建国以来近百年的边疆大患。
战争结束后，苏建将精力转移到恢复农业生产，巩固边防和地方建设上来，重新修订了一系列有利于民族团结、有利于生产发展、有利于市场繁荣和有利于增加人口的好政策，极大地调动了当地军民的生产积极性。经过五年的大力整治，代郡地域出现了“边城晏闲，牛马布野”的和谐景象。元鼎二年（前115年），苏建因积劳成疾，病故于任所。灵柩运回故里武功时，承相严青翟率朝官均临灵致祭。 相关阅读