A település régészeti feltárások és leletek szerint (neolitikus cserepek és kőeszközök), már ősidők óta lakott. A falu határában elterülő Várdombon, nyomokban fellelhetők az ie. 4. évezredből származó fazekas telephely maradványai, valamint, római kori kiserőd nyomai is. A jelenlegi település elődje a Csörnöc patak partjáról, az áradások elől vándorolt a dombtetőre.
Első okleveles említése 1277-ből ered. IV. Kun László, ebben az évben István napján tett látogatást a faluban, és akkor rendelkezett arról, hogy a község udvari mézadó hely legyen. Az itt élő szolgálónép látta el mézzel a királyi udvart és a nyugati határőrizet embereit. Innen eredhet a község neve is (mézadó-Mizdó).
1441-ben I. Ulászló a gersei Petőknek adományozta a települést. 1526-tól a „zarvas-kendi” Sibrik család is zálog-birtokos volt. Az 1529-es oszmán-török kőszegi ostroma alatt, a falu egy tűzvészben, szinte teljesen elpusztult. Az 1549-es összeírás szerint „Myzdo” csak pusztalelkekből állt. A győri katolikus püspökség 1733-as összeírásában, már szerepelt a falu neve: Nagy-Mizdó. Az 1760-as években a Festeticsek birtoka lett. Az 1880-as években itt épült a K und K stílusjegyeit magán viselő malom. 1886-ban Szent Anna tiszteletére római katolikus templom épült.
1926-ban a szarvaskendi körjegyzőséghez tartozott. 1950-től önálló, majd 1968-tól közös tanáccsal működött. Nagymizdó, fejlődésének csúcs-pontját 1960-as években élte. Ekkor a népszámlálási adatok szerint, a lakosság száma 410 fő volt.
A munkalehetőség hiánya miatt, azonban sokan elvándoroltak. Ma alig százan lakják.