Mieszkańcy dużej podkaliskiej wsi Szczypiorno od dawna marzyli o powstaniu szkoły, ponieważ istniejąca placówka w Noskowie nie mieściła wszystkich uczniów. Dzieci z klasy pierwszej i trzeciej uczyły się w pomieszczeniach prywatnych w Szczypiornie, należących do rodziny Okrasów, natomiast młodzież z pozostałych klas pobierała naukę w Noskowie w pomieszczeniach należących do Państwa Sośnickich.
W latach trzydziestych XX wieku powstał projekt budynku szkoły, która miała nosić imię Józefa Piłsudskiego. Wydzierżawiono plac, zgromadzono materiały budowlane i wykonano popiersie na cokole Józefa Piłsudskiego – przywódcy Legionów.
Plany budowy szkoły zniweczył wybuch II wojny światowej w 1939 roku. Ze zgromadzonych materiałów budowlanych Niemcy wybudowali osiem baraków. Po wyzwoleniu kraju w 1945 roku dwa baraki zostały adoptowane na pomieszczenia szkolne.
W 1964 roku dzięki inicjatywie grona pedagogicznego, mieszkańców wsi Szczypiorno oraz Komitetu Gminnego PZPR w czynie społecznym rozpoczęto budowę szkoły, którą uroczyście otwarto 9 października 1968 roku. Budowa trwała cztery lata, a wkład społeczny i zaangażowanie mieszkańców Szczypiorna było bardzo duże – wynosiło 50 % wartości inwestycji.
Pierwszym kierownikiem, później dyrektorem placówki został Władysław Brzeziński.
W latach 1971- 72 ze składek mieszkańców Szczypiorna i dzięki pracy słuchaczy OSSW w Szczypiornie ogrodzono placówkę oraz wybudowano plac rekreacyjny przed budynkiem szkoły, a w roku 1975 oddano do użytku boisko szkolne.
Dzięki inicjatywie Komitetu Osiedlowego w 1979 roku powstał plac zabaw dla dzieci.
W 1976 roku Szczypiorno przyłączono do miasta Kalisza, dzięki czemu placówka zyskała statut szkoły miejskiej.
Lata osiemdziesiąte XX wieku to okres modernizacji szkoły. Dzięki funduszom uzyskanym z Wydziału Oświaty i Wychowania oraz Urzędu Miejskiego w Kaliszu wydzielono pomieszczenie dla higienistki, na szatnię i salkę gimnastyczną, zainstalowano ciepłą wodę i wymieniono stolarkę.
W roku szkolnym podjęto 1993/ 94 podjęto starania o nadanie szkole imienia Legionów Józefa Piłsudskiego. Uroczyste nadanie imienia szkole nastąpiło 11 listopada 1994 roku Uchwałą Rady Miejskiej nr XLIX ( 347) / 94 .
W dniu 01.09. 2003 roku Publiczne Przedszkole Nr 22, które mieściło się w Szczypiornie przy ulicy 29 Pułku Piechoty, zostało przeniesione do budynku szkoły.
09 listopada 2008 roku w Kościele Podwyższenia Krzyża Św. w Szczypiornie poświęcono sztandar Szkoły Podstawowej Nr 21.
DYREKTORZY SZKOŁY NA PRZESTRZENI LAT
Władysław Brzeziński – Kierownik/Dyrektor – 1963- 1984r.
Krystyna Juszczak – Dyrektor – 1984 – 1998
Iwona Musielak – Dyrektor – 1999 –2007
Izabela Pietrzak – Dyrektor – 2007 – 2010
Agnieszka Pawlak – wz. Dyrektor – 2010
Żaneta Żeśko – wz. / po. Dyrektor – 2010 – 2011
Grażyna Stępniewska – Dyrektor – 2011 – 2016
Jacek Konopczyński – Dyrektor – 01.09.2016r. – obecnie