郡上地域において、現在のところ発見された、最も古い遺物は、「有舌尖頭器(ゆうぜつせんとうき)」とよばれる石器です。槍の先に用いられたと考えられる有舌尖頭器が確認されたことにより、旧石器時代末から縄文時代草創期（約1万6000年前～1万4000年前）には、私たちの先祖が暮らしていたことがわかります。
　縄文時代になると、郡上地域各地に200を超える遺跡が分布するようになります。代表的な遺跡は、八幡町地獄穴洞窟遺跡、大和町中山薬師遺跡、白鳥町前田遺跡、高鷲町敬願寺(きょうがんじ)遺跡、和良町田平洞窟遺跡、明宝店町遺跡、美並町石亀社遺跡などがあげられます。様々な文様が施された縄文土器が多数出土し、東西文化圏や北陸や東海などの各地域との文化的な交流が盛んに行われていたことを物語っています。また、祈りのために用いられたとされる石棒、石剣、石刀、石冠や御物石器(ぎょぶつせっき)などの変わったかたちをした石製品が多数出土しているのも郡上地域の特徴です。
　弥生時代に該当する遺跡は10遺跡が確認されています。大和町中矢田遺跡では弥生時代早期の水神平(すいじんびら)式土器が、八幡町穀見遺跡では中期の大地式土器が出土しています。