Pirmieji muzikos instrumentai buvo mušamieji. Tai buvo akmenys, į kuriuos mušdavo ritmą akmenimis, kaulinėmis ar medinėmis lazdelėmis. Apie 9000-uosius prieš Kristų žmonės jau gamino įvairiausius būgnus: tuščiavidurius medinius, metalinius, molinius cilindrus, aptemptus gyvulių oda.
Vienas pirmųjų styginių instrumentų buvo pats paprasčiausias lankas. Kai kurios afrikiečių gentys dar ir dabar tais pačiais lankais ir šaudo, ir groja. Iš pradžių žmonės tiesiog džirindavo jį kitu lanku. Vėliau sugalvojo prie lanko pritaisyti molinį puodą, kokoso riešuto kevalą ar medinę dėžutę – virpinamų stygų skleidžiamas garsas pirmiausia patenka į tuščiavidurio daikto vidų ir tik tada, daug kartų sustiprėjęs, išsiveržia lauk.
Kiek vėliau atsirado fleitos – tuščiaviduriai bambuko vamzdeliai su keliomis skylutėmis. Švabijos aukštikalnių ganykloje rastos dvi iš gulbės kaulų ir viena iš mamuto kaulo pagamintos fleitos yra apie 37 tūkst. metų senumo. Kol kas tai seniausios rastos fleitos. Fleitų kūrėjai turėjo harmonijos jausmą, nes skylutės buvo padarytos taip, kad girdėdavosi muzikiniai intervalai. Prie seniausių žinomų instrumentų taip pat priklauso fleitos iš žmogaus kaulo, rastos Pietų Amerikoje, ir elnio kaulo fleita, rasta Prancūzijoje.
Apie senovės egiptiečių muziką daugiausia pasako jų paveikslai. Jau 3000 m. prieš Kristų juose buvo vaizduojama arfa ir liutnia. Šie instrumentai savo forma ir išvaizda nedaug kuo skiriasi nuo dabar naudojamų. Senesnių laikų arfos turėjo tik kelias stygas, bet vėlesniais laikais – iki 20. Instrumentai buvo aukštesni už žmogų, tad jais grodavo stovėdami.
Lietuvoje. Seniausi rasti muzikos instrumentai yra neolito, bronzos amžiaus ir vėlesnių epochų kaulo švilpynės, ūkai – gyvulių ar paukščių kaulai, sagos, metaliniai skrituliai, viduryje dažniausiai per 2 skylutes perverti ir galuose surišti virvele, keraminiai barškučiai, molinukai. Įvairius melodingus garsus skleidė raitelio ir žynių apeiginės lazdos, dambreliai, gausūs ir įvairiai skambantys papuošalai – kabučiai, raktai amuletai, varpelis, žvangutis, žvanguliai, skardelių ir žvangučių vėriniai, apyrankės, kario ir žirgo aprangos papuošalai.
Ypač unikalūs yra apeiginės, maginės, mirusiųjų kulto ir darbinės paskirties senieji muzikos instrumentai. Tai žvejų lenta, gūdas – ant dvišakos lazdos galų užvyniota viela arba sausa kadagio šaknis, rinkinė – lazda, ant kurios šakų užverta viryklės lankainių, džingulis – papuošta vienšakė, dvišakė ar trišakė lazda, vėjo varpeliai.
Lietuvos teatro, muzikos ir kino muziejuje saugoma itin reta XVIII–XX a. muzikos instrumentų kolekcija, kurioje yra ir patefonų pirmtakų – mechaninių muzikos instrumentų (polifonų, sinfonjonų, pianolų), kurių dauguma pagaminti garsiojoje J. H. Zimmermanno įmonėje.