Akmenys, manoma, buvo pirmieji mušamieji, medžioklės lankai – pirmieji styginiai, tuščiaviduris kaulas ar bambuko lazdelė – pirmieji pučiamieji.
Pirmieji muzikos instrumentai buvo mušamieji: akmenys, į kuriuos barbendavo ritmą akmenimis, kaulinėmis ar medinėmis lazdelėmis. Apie 9000 m. prieš mūsų erą žmonės jau gamino įvairiausius būgnus: tuščiavidurius medinius, metalinius, molinius cilindrus, aptemptus gyvulių oda.
Vienas pirmųjų styginių instrumentų buvo paprasčiausias lankas. Kai kurios afrikiečių gentys dar ir dabar tais pačiais lankais ir šaudo, ir groja. Iš pradžių žmonės tiesiog džirindavo jį kitu lanku.
Vėliau sugalvojo prie lanko pritaisyti molinį puodą, kokoso riešuto kevalą ar medinę dėžutę – virpinamų stygų skleidžiamas garsas pirmiausia patenka į tuščiavidurio daikto vidų ir tik tada, daug kartų sustiprėjęs, išsiveržia lauk.
Dar vėliau atsirado fleitos – tuščiavidurės bambuko lazdelės su keliomis skylutėmis. Švabijos aukštikalnių ganykloje rastos dvi iš gulbės kaulų ir viena iš mamuto kaulo pagamintos fleitos yra apie 37 tūkst. metų senumo.
Fleitų kūrėjai turėjo harmonijos jausmą, nes skylutės buvo padarytos taip, kad girdėdavosi muzikiniai intervalai.
Senovės egiptiečių paveiksluose 3000 m. pr.m.e. vaizduojamos arfa ir liutnia. Šie instrumentai savo forma ir išvaizda nedaug kuo skiriasi nuo dabar naudojamų.
Seniausi Lietuvos teritorijoje rasti muzikos instrumentai yra neolito, bronzos amžiaus ir vėlesnių epochų kaulo švilpynės, ūkai – gyvulių ar paukščių kaulai, sagos, metaliniai skrituliai, viduryje dažniausiai per 2 skylutes perverti ir galuose surišti virvele, keraminiai barškučiai, molinukai. Įvairius melodingus garsus skleidė raitelio ir žynių apeiginės lazdos, dambreliai, gausūs ir įvairiai skambantys papuošalai – kabučiai, raktai amuletai, varpelis, žvangutis, žvanguliai, skardelių ir žvangučių vėriniai, apyrankės, kario ir žirgo aprangos papuošalai.
Ypač unikalūs yra apeiginės, maginės, mirusiųjų kulto ir darbinės paskirties senieji muzikos instrumentai. Tai žvejų lenta, gūdas – ant dvišakos lazdos galų užvyniota viela arba sausa kadagio šaknis, rinkinė – lazda, ant kurios šakų užverta viryklės lankainių, džingulis – papuošta vienšakė, dvišakė ar trišakė lazda, vėjo varpeliai.
Lietuvos teatro, muzikos ir kino muziejuje laikoma reta XVIII–XX a. muzikos instrumentų kolekcija, kurioje yra ir patefonų pirmtakų – mechaninių muzikos instrumentų (polifonų, simfonjonų, pianolų).