Pierwsza namiastka roweru górskiego powstała już w 1933 roku, kiedy to Ignaz Schwinn opracował model topornego, ciężkiego roweru na grubych oponach i z płaską kierownicą. Schwinn Excelsior był używany do praktycznych celów - jako maszyna do przewożenia przedmiotów codziennego użytku.
Prawdziwym początkiem są jednak lata siedemdziesiąte. Kiedy władze zakazały jazdy motocyklami po zboczu stromej góry Mount Tamalpais (znanej także jako Mount Tam) w okręgu Marin (Marin County) w Kalifornii w USA ze względu na zły wpływ na środowisko, młodzi ludzie postanowili zjeżdżać na rowerach. Rowery - zazwyczaj mocne Schwinny Excelsior - były wwożone na górę na pace ciężarówki. O tego momentu sprawy potoczyły się szybkim biegiem. Rosnąca popularność nowego sportu wymuszała coraz to nowe przeróbki i poprawki oryginalnego "klunkera" (z ang. clunker - klekot, grat, rzęch) - bo też tak zwano ten rodzaj roweru. Problemów było wiele - począwszy od gotującego się smaru w łożyskach, rozgrzewających się hamulcach nożnych (torpedo), aż po niemożność wjazdu na górę o własnych siłach. To Gary Fisher - czołowy kolarz przełajowy - uznawany obecnie za "ojca" kolarstwa górskiego zastosował przerzutkę, kciukowe manetki biegów oraz wspornik podsiodłowy, który umożliwiał regulację wysokości siodełka w zależności czy rowerzysta jechał pod górę, czy z góry. Następnie Joe Breeze - konstruktor ram - postanowił przerobić geometrię roweru Schwinn Excelsior tak, aby zmniejszyć jej ciężar. W rowerze zastosowano 15-biegową przekładnię, hamulce cantilever oraz używane w motorach kierownice i dźwignie hamulców. To już był prawdziwy rower górski.
Nasz wywiad z Garym Fisherem - ojcem roweru górskiergo »
Fabrykę rowerów górskich z prawdziwego zdarzenia założyli w 1979 roku Tom Ritchey, Gary Fisher i Charlie Kelly. Produkowali oni wyłącznie rowery górskie - "MountainBikes", które następnie nazwano "Fisher MountainBikes", a potem "Gary Fisher Bicycles". Ponieważ każdy z założycieli miał inną wizję robienia biznesu, trzej założyciele w 1984 roku rozeszli się. Gary Fischer chciał popularyzować ten sport i robić rowery dla wszystkich. Charlie Kelly miał wizję produkowania najlepszych rowerów na świecie - w małych seriach i oczywiście drogich. Charlie Kelly ostatecznie wycofał się z rowerowego biznesu.
W 1980 roku zastosowano obręcze aluminiowe, zamiast stalowych, co wydatnie obniżyło wagę roweru. Pierwszym seryjnie produkowanym rowerem był od 1981 roku Specialized Stumpjumper w cenie 750 dolarów, produkowany przez Mike'a Sinyarda - producenta rowerów z San Jose w Kaliforni, a skonstruowany przez Tima Neena. Kolejny duży krok w rozwoju roweru górskiego to rok 1982. Dwie japońskie firmy Shimano i SunTour zaprezentowały kompletne grup osprzętu do MTB (łańcuch, kaseta - zębatki, korbowód, piasty, hamulce). Dzięki temu produkcja rowerów była prostsza i tańsza. Co dziesiąty kupowany w USA w 1983 r. rower należał do nowej kategorii MTB, a w roku 1989 sprzedaż stanowiła 70 procent amerykańskiego rynku. Podobny boom nastąpił także w Europie.