秦始皇统一中国之后，在帝国的北部仍有许多过着闲散游牧生活的少数民族，他们长期与秦王朝的关系都十分紧张，对秦王朝形成了很大的威胁。主要有东胡、楼烦、林胡、丁零、月氏和匈奴。
“胡”在北方语系中的意思是“人”，战国时期，北方的游牧民族统称为“胡”。东胡早在商代初期就出现在中国的北方了，他们使用的语言属于阿尔泰语系。战国时期，东胡的势力范围在燕国东北部，经常袭扰燕国。有史以来，东胡一首是一个强大的部落，与中原的燕、赵两国常有交战，初期匈奴实力远远比不上它，所以向它表示礼遇并朝贡。随着战争的发展，东胡的部分部落被匈奴吞并，首到汉朝建立之后，匈奴著名的首领冒顿单于大破东胡，东胡部落联盟瓦解，各个部落成为匈奴的种族奴隶。但东胡各族并未就此消亡，乌桓山的乌桓族和鲜卑山的鲜卑族，就是东胡主要的部落集团。
与东胡情况相近的还有楼烦和林胡。
“楼烦”又称“烦胡”，是北狄的一支，约在春秋之际建国，其疆域大致在今山西省西北部的保德、岢岚、宁武一带，楼烦的活动范围在林胡的西面。后扩展壮大，其范围大致包括北至现在的内蒙古清水河一带，西达阴山之南，南到山西灵石，东至河北省平乐县，东南到达太原市区。战国时期，兼并战争激烈，楼烦国依靠善于骑射的精兵强将，始终立于不败之地。受此激发，赵武灵王推行了“胡服骑射”，最终打败楼烦，将其划归赵国。公元前127年，汉朝大将军卫青向北进发，赶走楼烦王，在此置朔方郡，从此楼烦人消失在茫茫的草原中。
林胡又称“林人”，活动地区在鄂尔多斯高原东部，包括今天的伊金霍洛旗、东胜区和准格尔旗及东越黄河到晋北山地森林区。在战国时期，赵武灵王曾与林胡交战，将其打败，从此林胡归属于赵国，但仍在今内蒙古自治区伊盟准格尔旗一带生活。五十多年后，林胡又随崭露头角的匈奴率军来袭，不料被赵将李牧彻底击溃，从此史册中再也没有出现“林胡”这个名词了。
丁零也是我国北方的一个古老民族。这个民族的历史是比较复杂的，传说很多。根据考古资料记载，他们可能长期生活在西伯利亚地区、贝加尔湖地区、叶尼塞河地区和内蒙古南部地区。丁零人善于制作和普遍使用高轮大车，因此晋以后的中原人又称丁零为“高车”。丁零人之所以普遍使用高车，是因为原驻牧地草茂而高，积雪深厚，而且多沼泽。在这种地区使用高轮大车，可以减少阻力，顺利通行。公元4世纪末5世纪初，北魏九次发动对他们的战争，虏获六七十万人，置于漠南各地。还有很多敕勒部落在漠北服属于柔然，最后灭于柔然。
月氏，主要活动区域在甘肃河西走廊一带。敦煌、祁连山、酒泉、张掖等地是他们的领地。秦统一中国后，匈奴无力控制这个部族，他们长期交战，成为北方两个敌对的少数民族。到后来被匈奴攻击，一分为二，成为大月氏和小月氏。由于大月氏处于丝绸之路上，控制着东西方贸易，使它慢慢变得强大。
尽管这几个少数民族与匈奴都有矛盾，也时常发生战争，但他们在对付秦这个目标上基本是一致的，给秦造成了很大的威胁。而在这些北方民族中，最有影响、战斗力最强的就要数匈奴了，主要活动在内蒙古高原上。
按照《史记》的记载，匈奴人的祖先是夏桀的遗民，夏朝灭亡之后，他们向西迁移，在此过程中融合了月氏、楼兰、乌孙、呼揭等二十六国的白种人。《山海经·大荒北经》称：犬戎与夏人同祖，皆出于黄帝。部分学者根据《史记》的记载，认为匈奴原是山戎、猃狁、荤粥。王国维在《鬼方昆夷猃狁考》中，把历代匈奴的名称演变做了系统的总结，认为商朝时的鬼方、混夷、獯鬻，周朝时的猃狁，春秋时的戎、狄，战国时的胡都是后世所谓的匈奴。
进入西周，作为匈奴前身的山戎、北戎等少数民族开始出现在历史舞台上，与华夏民族开始了相互征伐。公元前772年，周王室内乱，太子宜臼与申侯雇用犬戎，犬戎人攻破镐京，宣告西周的灭亡。
从上古到公元前3世纪末，中原各地的国家从奴隶社会逐步向封建社会发展，匈奴也从原先的氏族时代发展到了部落联盟时代。秦王朝建立时，匈奴己过渡到了奴隶社会。但是，久居北方的匈奴发展相当缓慢，经济很落后，北方没有适合耕种的土地，所以匈奴的经济产业以畜牧业为主。他们充分利用骑兵灵活机动的优势，经常侵入中原掠夺内地各民族的财产。在战国时期，各诸侯国基本上对匈奴采取的是防守战略，没有派军队深入其驻地进行讨伐。
进入战国时期，兼并战争愈演愈烈，中原地区形成七个大国，而北方的戎人也开始慢慢融合，形成一个强大的部落。战国后期，赵燕秦等国开始受到胡人的频繁侵扰，为此赵燕秦等国开始在北境修筑长城，以防止北胡的长驱首入。而赵武灵王实行的“胡服骑射”，基本宣告了中国的战争方式从以战车、步兵为主，演变为骑兵和步兵战相结合的方式。
战国末期，赵国名将李牧在赵国边境上所击败的那支北方游牧民族己经开始强大，不是当年流散的北方的乌合之众，在史料上，第一次开始称他们为匈奴。
