6 sierpnia 1914 r., krótko po wybuchu Wielkiej Wojny, z krakowskich Oleandrów wymaszerowała 1. Kompania Kadrowa. Oddział ten stopniowo powiększany o formowane kolejne kompanie utworzył słynny 1. Pułk Piechoty Legionów Polskich pod dowództwem Józefa Piłsudskiego. Szybko się on rozrastał i w niedługim czasie z jednostki tej utworzono I Brygadę Legionów. Jednak ochotników do walki z Rosjanami nadal przybywało. Toteż w Krakowie z pozostałych członków utworzonych w l. 1908-1912 w Galicji polskich organizacji paramilitarnych, głównie ze Związku Strzeleckiego oraz Polskich Drużyn Strzeleckich rozpoczęto formowanie następnych oddziałów legionowych. Na początku września 1914 r. powstał złożony z 4 batalionów 2. Pułk Legionów (ponad 5500 bagnetów); stał się on później zalążkiem przyszłej II Brygady Legionów Polskich. 4 września legioniści złożyli uroczystą przysięgę na krakowskich Błoniach. Odebrał ją gen. Rajmund Baczyński – dowódca Legionów z nominacji austriackiej, w obecności przedstawicieli Naczelnego Komitetu Narodowego, prezesa NKN dr Juliusza Leo i szefa departamentu wojskowego NKN płk. Władysława Sikorskiego. Na czele zaprzysiężonych nowych oddziałów stanął 10 dni później płk Zygmunt Zieliński. Pułk ten wraz ze sformowanym wkrótce 3. Pułkiem Legionów, dywizjonem kawalerii (II i III szwadrony) i artylerią stworzyły II Karpacką Brygadę Legionów Polskich – oddziały ten wsławiły się niezwykłym męstwem podczas walk o przełęcze karpackie na przełomie 1914 i 1915 r. oraz jako jedyne walczyły ze armiami wszystkich państw zaborczych – do lutego 1918 r. z Rosjanami, a później, przez 3 miesiące – do bitwy pod Kaniowem z Austriakami i Niemcami.