Organizacja Wojskowa Związek Jaszczurczy została utworzona 14 lub 15 października 1939 r. w Warszawie przez kilku działaczy tzw. Grupy "Szańca", czyli przedwojennego Obozu Narodowo-Radykalnego. Należeli do nich: Władysław Marcinkowski, Otmar Wawrzkowicz, Tadeusz Salski. Otmar Wawrzkowicz zajął się tworzeniem struktury propagandy, natomiast W. Marcinkowski pionu wojskowego. Politycznie ZJ była podporządkowana tajnej Organizacji Polskiej. Jej nazwa nawiązywała do historycznego Związku Jaszczurczego, zorganizowanego przez szlachtę i mieszczan pruskich i pomorskich pod koniec XIV w. do walki z Zakonem Krzyżackim. Organizacja skupiała ludzi ideowych, wyznających ideę budowy Wielkiej Polski.
Działacze Grupy "Szańca" kwestionowali prawo którejkolwiek z organizacji konspiracyjnych do wyłącznego reprezentowania spraw politycznych i wojskowych w okupowanym kraju. Z tego względu ZJ uznawał władze RP na uchodźstwie, ale znajdował się w opozycji do oficjalnych czynników, czyli Delegatury Rządu RP na Kraj i ZWZ-AK. Z drugiej strony istniały jednak kontakty między ZJ a ZWZ i Delegaturą Rządu na Kraj, o czym m.in. świadczą meldunki Komendanta Głównego ZWZ-AK płk. Stefana Roweckiego ps. "Grot", który w kwietniu 1941 r. meldował Naczelnemu Wodzowi o zgłoszeniu w lutym tego roku przez ZJ swojej grupy wojskowej do współpracy bojowej, dzięki czemu znalazła się ona w I rezerwie ZWZ. Z kolei w marcu 1941 r. doszło do spotkania przedstawicieli Grupy "Szańca" i ZJ z oficerami kontrwywiadu ZWZ w związku z zastrzeleniem w marcu tego roku kolaboranta Igo Syma, ale zakończyło się ono bez konkretnych ustaleń. Działacze Grupy "Szańca" uważali, że ZJ i ZWZ są organizacjami równorzędnymi i możliwa jest jedynie współpraca na równych prawach, a nie, jak tego żądało dowództwo ZWZ, podporządkowanie się ZJ tej organizacji. Podobną postawę zajmowano w stosunku do Delegatury Rządu.
W ZJ istniały duże problemy z kadrą dowódczą, ponieważ brakowało oficerów zawodowych. W sztabie ZJ działał tylko jeden oficer służby stałej kpt. Tadeusz Boguszewski, a kilku innych służyło w komendach okręgów, jak np. ppłk pil. Piotr Abakanowicz, czy kpt. Antoni Dąbrowski. W późniejszym okresie do ZJ dołączyli inni wyżsi oficerowie, którzy mieli różne konflikty z legalnymi władzami podziemnymi, jak np. płk dypl. w st. sp. Tadeusz Kurcyusz. Przywódcy ZJ dotarli także do byłych wojskowych niechętnych przed wojną sanacji i tradycji piłsudczykowskiej, przede wszystkim do wysokich oficerów zwolnionych ze służby czynnej. Byli to m.in. generałowie w stanie spoczynku Tadeusz Jastrzębski, Mieczysław Poniatowski, Józef Plisowski, Radosław Dzierżykraj-Stokalski, Stanisław Bułak-Bałachowicz, a także płk Julian Skokowski, zwolniony z niewoli niemieckiej były dowódca obrony Palmir z okresu wojny obronnej 1939 r. W 1940 r. uzyskano również kontakt ze zdegradowanym przed wojną generałem Michałem Żymierskim, jednakże po dłuższym sprawdzeniu kierownictwo ZJ zrezygnowało z jego oferty. Ciekawostką jest fakt, że M. Żymierski i płk J. Skokowski – pomimo kontaktów z wywodzącą się od ONR ZJ – porozumieli się w późniejszym czasie z komunistami i po wojnie dosłużyli się wysokich stopni wojskowych i znacznych funkcji.
W 1942 r. ZJ liczył najprawdopodobniej ok. 7 - 10 tys. członków. Natomiast badacze z kręgów narodowych oceniają jego liczebność na ok. 60 tys. osób, co jest liczbą znacznie zawyżoną. Trzeba jednak przyznać, że organizacja rozrastała się szybko i w niektórych rejonach kraju dysponowała znacznymi siłami (szczególnie w Warszawie i okolicy, na Kielecczyźnie i Lubelszczyźnie).
20 września 1942 r. z połączenia ZJ i secesjonistów z NOW oraz mniejszych organizacji o charakterze narodowym powstały Narodowe Siły Zbrojne. Po zawarciu w marcu 1944 r. umowy o scaleniu NSZ z AK, w NSZ nastąpił rozłam. W maju 1944 r. narodowcy wywodzący się z ZJ podjęli samodzielną działalność pod nazwą NSZ-Z
