吴士智为吴汉(?—公元44年,字子颜,河南南阳人,东汉大司马,封广成侯)后裔,吴传之孙、吴汪社之五子。元朝元统三年(1335年),吴传从安徽省休宁县璜源村迁居大都(今北京),任翰林院宣使,官至户部员外郎。明朝洪武元年(1368年),徐达(1332—1385年,明朝开国军事统帅)攻克元朝大都城,元朝灭亡。元朝旧官僚被没收家产,或被杀被逐,或纷纷逃亡。吴传携子孙流徙于京师永平府迁安县(今河北省迁安市),寓居南门里,耕读为业,诗书传家。明朝永乐二年(1404年),明成祖朱棣(1360-1424年,明朝第三代皇帝)下旨移民,补充畿南地区(今海河以南、沿南运河两岸的河北省东南部,以及山东省德州市东部地区)人口。当时,吴汪社有六个儿子,除排行第四的吴士义留居迁安县南门里原籍外,长子吴士安、三子吴士爱、五子吴士智、六子吴士旺奉旨南迁海丰(今山东省无棣县)、盐山(今属河北省沧州市辖);留居文安(今隶属河北省廊坊市,古为燕赵之地)建城的次子吴士豹也奉旨举家起程,迁往海丰。从此,吴氏五兄弟分散齐燕之界、渤海之滨,各自立村。再以后,吴士义之子吴高崇、吴高仁又迁入盐山立村,形成了“海丰吴氏”的六大支脉。因长门吴士安居山东省济南府武定州海丰县东南关村(今属山东省滨州市无棣县海丰街道办事处),历史上俗称“海丰吴氏”。