शिव जी ने अपने गले की कमल-माला उतारकर नंदी के गले में डाल दी और उन्हें अपना गणाध्यक्ष नियुक्त किया। इस प्रकार नंदी शिव जी के संकल्प, तप और करुणा के सजीव प्रतीक बन गए। पूर्वकाल में शिलाद नाम के मुनि थे, जो तप और शास्त्र ज्ञान में प्रतिष्ठित थे, पर उनके जीवन में एक पीड़ा थी। उनके पितरों ने उन्हें आदेश दिया था कि वह ऐसा पुत्र प्राप्त करें, जो अयोनिज हो (जिसका जन्म योनि से न हुआ हो) और जो मृत्यु से परे हो। शिलाद जानते थे कि ऐसा वर केवल वही दे सकता है, जो स्वयं मृत्यु से परे हो। उन्होंने पहले इंद्र की उपासना की, किंतु इंद्र ने कहा, मुनिवर! यह वर मेरे सामर्थ्य से बाहर है। ऐसा वरदान केवल महादेव दे सकते हैं। यह सुनकर शिलाद ने शिव जी की आराधना शुरू की। उनके शरीर पर लता-वृक्ष उग आए, पर प्रण अडिग रहा। उनकी तपस्या से प्रसन्न होकर एक दिन साक्षात महादेव प्रकट हुए। उन्होंने कहा, प्रिय शिलाद! कहो, क्या चाहिए शिलाद ने हाथ जोड़कर कहा, प्रभो! मैं आपके समान ही अयोनिज और अमर पुत्र चाहता हूं! महादेव मुस्कुराए। उन्होंने कहा, पूर्वकाल में देवताओं और ऋषियों ने मुझसे अवतार ग्रहण करने की प्रार्थना की थी। तुम्हारी तपस्या से प्रसन्न होकर मैं स्वयं तुम्हारे पुत्र के रूप में अवतार लूंगा। समस्त जगत का पिता होकर भी मैं तुम्हारा पुत्र बनूंगा। मेरा नाम नंदी होगा। फिर महादेव अंतर्धान हो गए। कुछ समय बाद शिलाद मुनि यज्ञ के लिए भूमि जोत रहे थे। तभी उनके सामने एक दिव्य बालक प्रकट हुआ। वह बालक युगांत की अग्नि के समान तेजस्वी था। क्षण भर के लिए उसने रुद्र का रूप धारण कर लिया-त्रिनेत्र, जटा-मुकुट, त्रिशूल और चतुर्भुज स्वरूप। यह दृश्य देखकर शिलाद को विश्वास हो गया कि भगवान शिव का वरदान फलित हो गया। शिलाद ने उसका नाम नंदी रखा और स्नेहपूर्वक उसका पालन-पोषण करने लगे। पांच वर्ष की आयु में ही नंदी ने समस्त वेदों और शास्त्रों का अध्ययन कर लिया। उनकी वाणी में गंभीरता, नेत्रों में तेज और आचरण में संयम था। सातवें वर्ष, मित्र और वरुण नामक दो मुनि वहां आए और उन्होंने शिलाद से कहा, तुम्हारा पुत्र सर्वज्ञ है, पर उसकी केवल एक वर्ष की आयु शेष है। यह सुनकर शिलाद का हृदय कांप उठा, परंतु नंदी ने शिलाद से कहा, पिताजी! आप शोक न करें। यमराज भी चाहें, तो मुझे नहीं ले जा सकते। भगवान शंकर की कृपा से मैं मृत्यु पर भी विजय प्राप्त कर लूंगा। यह कहकर नंदी वन में चले गए और उन्होंने हृदय में तीन नेत्र, पांच मुख, दस भुजाधारी सदाशिव का ध्यान किया और रुद्र-मंत्र का जप करने लगा। उनकी तपस्या की शक्ति से पृथ्वी तपने लगी और देवता भयभीत हो उठे। तभी उमा सहित भगवान शिव प्रकट हुए। उन्होंने नंदी से कहा, शिलादनंदन! मैं तुमसे अति प्रसन्न हूं। जो चाहो, मांगो! नंदी भाव-विभोर होकर उनके चरणों में गिर पड़े। महादेव ने उन्हें उठाया और कहा, वत्स! जिन मुनियों ने तुम्हारी अल्पायु की बात कही थी, वे मेरे ही भेजे हुए थे। तुम्हें मृत्यु का भय क्यों तुम तो मेरे ही समान हो। तुम अजर, अमर, दुखरहित और सदा मेरे पार्श्व में स्थित रहोगे। यह कहकर शिव जी ने अपने गले की कमल-माला उतारकर नंदी के गले में डाल दी। उसी क्षण नंदी दूसरे शंकर के समान त्रिनेत्र और दस भुजाओं से युक्त हो गए। महादेव ने प्रेमपूर्वक उन्हें अपना गणाध्यक्ष नियुक्त कर दिया। आकाश से पुष्प-वृष्टि होने लगी और देवता नंदी की जय-जयकार करने लगे। इस प्रकार नंदी शिव के संकल्प, तप और करुणा के सजीव प्रतीक बन गए। आज भी नंदी को धैर्य, सेवा तथा अडिग भक्ति का आदर्श स्वरूप माना जाता है, जो सदा अपने आराध्य के चरणों में स्थित रहता है। इसके बाद से नंदी सदा भगवान शंकर के समीप रहते हैं। ऐसा भी कहा जाता है कि नंदी, भक्तों की कामना को शिव तक पहुंचाने में समर्थ हैं, इसीलिए मंदिर में आए लोग, नंदी के कान में अपनी इच्छा कहकर चले जाते हैं।