అగస్త్య మహాముని కాశీ విశ్వేశ్వరుని వదిలి దేశం అంతా పర్యటిస్తూ ఆంధ్రదేశంలో అనేక చోట్ల శివలింగ ప్రతిష్టలు చేశాడు. అలా ఆయన ప్రతిష్టించిన క్షేత్రాలలో ఒకటి తెనాలి దగ్గరి నందివెలుగు గ్రామంలో గల ఆలయం. ఈ గ్రామం తెనాలిలోని భాగమే అని కూడా భావించవచ్చు. ఈ నందివెలుగు గ్రామం అత్యంత పురాతన, చారిత్రక ప్రాముఖ్యతగల గొప్ప శైవక్షేత్రం. ఆనాడు అగస్త్య మహర్షి ప్రతిష్టించిన ఈ శివలింగం, దేవాలయం కాలగతిలో దట్టమైన అడవులు పెరగడంతో మానవ సంచారం లేనిదై మరుగున పడిపోయింది.
ఆ తర్వాత ఈ ప్రాంతాన్ని చాళుక్యులు పాలించారు . వారు పరిపాలిస్తున్న రోజుల్లో శివభక్తుడైన విష్ణువర్ధన మహారాజు ఒకసారి ఈ అగస్త్యేశ్యరస్వామిని దర్శించారు. ఆ స్వామివారికి నిత్యార్చన జరగాలని భావించి, అమూల్యమైన రత్నాలను వినాయకుని బొజ్జలోనూ, నందీశ్వరుని కొమ్ములలోనూ నిక్షిప్తం చేయించారు. వినాయకుడి బొజ్జలోని రత్నాల నుంచీ వెలువడే తేజ పుంజాలు నంది కొమ్ములోని రత్నాలపైన పడి పరావర్తనం చెంది మూలవిరాట్టు పాదాలపై పడి నిత్యార్చన చేసేలా అతి గొప్పగా నిర్మాణం చేశారు అనాటి శిల్పులు.
నందికొమ్ములలోంచి వెలుగు రేఖలు రావటంవలన ఆ గ్రామం పేరు నందివెలుగగుగా మారిపోయింది. ఆలయ విగ్రహాలలో రత్నాలు పొదిగిన విషయం తెలుసుకొన్న కొంతమంది దుండగులు గణపతి విగ్రహాన్ని, నందికొమ్ములను ధ్వంసం చేయడంతో ఆ పూర్వ వైభవం కాలగర్భంలో కలిసిపోయింది.
ఈ ఆలయంలోని మూలవిరాట్టు శ్రీ అగస్త్యేశ్వరస్వామివారు. వారికి ఒకవైపు పార్వతీ అమ్మవారు, ఎదురుగా జ్యోతిర్నంది, ఓ పక్క జ్యోతిర్గణపతి, మరోవైపు శ్రీ ఆంజనేయస్వామివారు ఉన్నారు.
శ్రీ కనకదుర్గాదేవి రమాసహిత శ్రీ సత్యనారాయణస్వామివారు నటరాజస్వామి, చండీశ్వరుడు, కాలభైరవుడు, నవగ్రహాధిపతులు, జగద్గురు శ్రీ ఆదిశంకరాచార్య, శ్రీ కంఠశివాచార్యుల వారు కూడా ఈ క్షేత్రమునందు ప్రతిష్టితులై ఉన్నారు. ఇక్కడ నిత్యపూజలతో పాటు పర్వదినాలలో ప్రత్యేక పూజలు, ఉత్సవాలు కూడా జరుగును.