卫建章宫得名，后改为羽林，取其“为国羽翼，如林之盛”之义。
《汉书》曰：“武帝太初元年，初置建章营骑，后更名羽林骑，属光禄勋。又取从军死事之子孙，养羽林官，教以五兵，号羽林孤儿。”
汉武帝太初元年，“恐中尉之权太重，又于光禄勋置羽林、期门，而后南北二军之势始均”。
也就是说，“羽林”是隶属“光禄勋”的一支禁卫军学者多认为汉之“羽林”属“南军”，但也有学者有异议。守卫建章宫，故称为建章营骑。后来改称羽林骑。
设羽林监，掌送从。
西汉时期，羽林骑、羽林孤儿在两千人左右，作为皇帝的宿卫和仪仗部队。羽林和期门，地位较其它部队高，士兵都是职业兵、贵族兵。
“南军”名称已不复存在，但是“光禄勋”和“卫尉”仍然存在。“光禄勋”下设七署，其中两署：
羽林中郎将所属“羽林郎”128人，为皇帝的宿卫侍从；羽林左、右监所属羽林左骑800人、羽林右骑900人，担任宿卫侍从和“出充车骑”。
羽林郎的来源主要有三个方面：
（一）选自六郡、三辅地区的良民。
（二）选自从军死事之子孙。