શિવના અઠ્ઠાવીસમાં અવતાર ગણાતા લકુલેશ ભગવાનનુ મુખ્ય મથક લકુલેશ છે. પ્રાચીન શૈલીમાં બનેલુ આ મંદિર લગભગ ચાલીસ વર્ષ પૂર્વે આશરે 30 લાખના ખર્ચે બનાવવામાં આવ્યું હતું.
અહીંથી થોડે દૂર કારવણ નામનું એક નાનકડું ગામ આવેલું છે જ્યાંનુ શિવાલય પણ જોવા જેવું છે. અગાઉ અહીં નાનકડુ શિવલિંગ હતુ પરંતુ એ સમયના યોગી શ્રીકૃપાલાનંદજીના પરિશ્રમથી આ મંદિરનો જિર્ણોધ્ધાર કરવામાં આવ્યો અને અહીં ભવ્ય મંદિર બાંધવામાં આવ્યું. આ મંદિરમાં યોગશાળા, પ્રવાસીઓ માટે રહેવાની સગવડ વગેરે છે. મંદિરનુ શિવલીંગ અત્યંત પ્રાચીન છે અને તેની દીવાલો પર યોગની વિવિધ મુદ્રાઓ દર્શાવતી તસ્વીરો છે. કાયવરોહણની ગણતરી ભારતના સુપ્રસિધ્ધ 68 તીર્થોમાં કરવામાં આવી છે. કાયાવરોહણ ગુજરાતના વડોદરા જિલ્લામાં આવેલુ પ્રસિધ્ધ તીર્થધામ છે.
અહીં ભગવાન લકુલેશજીના સમયમાં પશુપાતાચાર્યોં દ્વારા યોગદીક્ષા અને યોગશિક્ષા આપવામાં આવતી હતી. શિષ્યો અનેક વર્ષો સુધી શાસ્ત્રાધ્યયન અને વિવિધ યોગ-સાધના કરીને જ્યારે સિદ્ધપદ પાપ્ર્ત કરી લેતા ત્યારે શ્રી ગુરૂ તેમને વિવિધ પ્રદેશોમાં શિવભક્તિનો પ્રચાર કરવા મોકલતા. પ્રાચીનસમયમાં આ મંદિર દક્ષિણ કાશી તરીકે પણ ઓળખતું હતું. .
ભગવાન લકુલીશના ચાર તેજસ્વી શિષ્યો - કૌશિક, ગાર્ગ્ય, મિત્રા અને કૌરુષ્ય હતા જેમણે શિવપંથીઓને ભેગા કરીને શિવપૂજાનુ મહાત્મ્ય વધાર્યુ હતુ. ભગવાન લકુલીશે પોતાના માનવ શરીરનુ - કાયાનુ અવરોહણ કર્યુ હતુ ત્યારથી આ સ્થળ કાયાવરોહણ નામે જાણીતુ બન્યુ.
મંદિરના પાતાળ લોકમાં બ્રહ્મા, પૃથ્વી લોકમાં વિષ્ણુ અને સ્વર્ગલોકમાં પ્રાચીન જ્યોર્તિલીંગ બિરાજમાન છે. આ મંદિરની ચારેબાજુ હરિયાળી છે. રંગીન ફુવારા, અન્નપૂર્ણાગૃહ અને યાત્રીઓને રહેવા-જમવાની ઉત્તમ વ્યવસ્થા છે. મંદિરની ચારેબાજુ યક્ષ-યક્ષિણી અને દેવી દેવતાઓની મૂર્તિઓ કંડારાયેલી છે, જે મૂર્તિકલા વિદ્યાના અભ્યાસ માટે મહાવિદ્યાલયની ગરજ સારે છે. અહીં આવેલી લકુલેશ યોગશાળા અવારનવાર પ્રાણાયમની શિબિરોનુ આયોજન કરે છે.