จากหลักฐานในยุคอินเดียโบราณ โดยเฉพาะที่บริเวณลุ่มน้ำสินธุ ซึ่งเป็นแหล่งอารยธรรมโบราณแห่งหนึ่งของโลก ได้แสดงให้เห็นว่า ความรับรู้เกี่ยวกับพระศิวะนั้นมีปรากฏหลักฐานมาเนิ่นนาน โดยเฉพาะมีหลักฐานที่เมืองโมเฮนโจดาโรและเมืองฮารับปา ซึ่งเป็นแผ่นดินที่เผาทำเป็นรูปมนุษย์ และมีลักษณะคล้ายเขาสัตว์อยู่บนศีรษะ และนั่งในท่าโยคะ ซึ่งนักโบราณคดีได้สันนิษฐานว่า ภาพบุคคลดังกล่าวนี้น่าจะเป็นสัญลักษณ์ของเทพเจ้าองค์สำคัญ ซึ่งน่าจะมีความหมายถึง “พระศิวะ” ผู้ซึ่งเป็นเทพสูงสุดในศาสนาพราหมณ์ – ฮินดู และนอกจากนี้ ยังมีการค้นพบแท่งหินยาวที่มีรูปทรงกระบอกขัดมันและหินทรงกลม ซึ่งน่าจะความหมายถึง อวัยวะเพศชายและอวัยวะเพศหญิง อันน่าจะเป็นที่มาของการบูชาศิวลึงค์ในห้วงเวลาต่อมา

จากหลักฐานต่าง ๆ ที่กล่าวมา ทำให้นักโบราณคดีเชื่อว่า พระศิวะเป็นเทพเจ้าที่มีผู้เคารพบูชามาตั้งแต่ 3,000 ปีก่อนคริสตกาล ซึ่งเป็นหลักฐานที่เก่าแก่ที่สุดเกี่ยวกับการบูชาพระศิวะ

เรื่องราวเกี่ยวกับพระศิวะได้ปรากฏหลักฐานในคัมภีร์ฤคเวท ซึ่งเป็นคัมภีร์ที่มีอายุราว 3,000 ปีก่อนคริสตกาล แต่เวลานั้นพระศิวะยังเป็นที่รับรู้ในพระนามของเทพ “รุทร” หรือ “พระรุทรเทพ” พระนาม “รุทร” ตามนามศัพท์แปลว่า “ผู้ร้อง ผู้คำราม” หากเป็นคุณศัพท์จะแปลว่า “ดุร้าย หรือ ร้ายกาจ”

เหตุที่พระรุทรได้พระนามเช่นนี้ เนื่องจาก เมื่อเริ่มต้นกัลป์ ขณะที่พระพรหมกำลังทำสมาธิอยู่นั้น ได้มีเด็กผิวสีน้ำเงินเข้มปรากฎขึ้นที่ตักของพระองค์ เด็กคนนั้นวิ่งไปรอบ ๆ พร้อมกับร้องไห้ พระพรหมห้ามไม่ให้ร้อง เด็กคนนั้นขอให้พระพรหมตั้งชื่อให้ พระพรหมตั้งชื่อให้ว่า “รุทร” แต่เด็กคนนั้นยังร้องขอชื่ออีก 7 ครั้ง พระพรหมจึงตั้งชื่อให้อีก 7 ชื่อ ทำให้พระรุทรได้พรนามถึง 8 พระนาม คือ ภว ศรรวะ ปศุปติ (ปศุบดี) อุคร มหาเทพ รุทร อิสาน และอศนิ ซึ่งเป็นรูปปั้นทั้งแปดของพระรุทร อีกทั้งพระพรหมยังได้มอบน้ำ ดิน ลม ไฟ อากาศ พราหมณ์ ผู้ทำพิธี พระจันทร์และพระอาทิตย์เป็นเทพประจำรูปแต่ละรูปนั้น และได้มอบเทพี 8 องค์ให้เป็นชายา คือ สุวรจลา อุษา วิเกศี ศิวา สวาหา ทิศา ทิกา และโรหิณี

ในบางคัมภีร์ได้กล่าวว่า พระโอรสที่เกิดจากพระพรหมไม่สนใจที่จะมีบุตรเพื่อสืบเชื้อสาย พระพรหมทรงพระพิโรธ จึงได้มีร่างหนึ่งที่เกิดขึ้นจากหว่างคิ้วของพระพรหม และได้ขอชื่อจากพระพรหม พระพรหมจึงตั้งชื่อให้จำนวน 11 ชื่อ คือ มันยุ มหาน มนุ มหินส วามเทว ศิวะ ฤตุธวช กาม อุครเรตัส ภว และธฤตวรต ส่วนบางแห่งมีชื่อว่า อหิรพุธนย อช เอกปท รุทร ตวัษฏา หระ ตรยัมพก ศัมภุ อีศาน อปราชิต และตรีภุวัน หรือเรียกอีกอย่างหนึ่งว่า “เอกาทศรุทร” (รุทร 11 องค์)

สันนิษฐานว่า เดิมพระรุทรน่าจะเป็นเทพเจ้าของชาวพื้นเมืองที่อาศัยอยู่ตามป่าเขา ต่อมาชาวอารยันจึงรับเข้ามาเป็นเทพเจ้าของชาวอารยัน ดังที่ปรากฏหลักฐานในตราประทับรูปบุคคลซึ่งพบที่เมืองโมเฮนโจดาโร และเมืองฮารัปปา

แต่ตามคัมภีร์ของพราหมณ์กล่าวถึง ที่มาของพระรุทรไว้ต่าง ๆ กัน บ้างก็ว่า พระรุทรเกิดจากพระกาศยปะกับนางสุรภี บางตำรากล่าวว่า พระรุทรเกิดจากพระนลาฏของพระพรหมผู้สร้าง (พระพรหมประชาบดี) ส่วนบางคัมภีร์กล่าวว่า พระรุทรเกิดจากพระพรหมผู้สร้างบำเพ็ญตบะจนพระเสโทไหลออกมา พระองค์จึงเอาไม้ขูดที่พระขนงจนโลหิตไหลหยดลงไปในไฟ เกิดเป็นเทพบุตรนามว่า “พระรุทร”

อย่างไรก็ตาม ในคัมภีร์พระเวทถือว่า พระรุทรเป็นเทพผู้ทรงอำนาจมาก ทรงเป็นใหญ่เหนือการสรรเสริญและยัญกรรมทั้งปวง และเป็นผู้ทำลายล้าง ทำให้สะอาดปราศจากมลทิน เพื่อกำเนิดใหม่ นอกจากนี้ ชาวอารยันยังเชื่อว่า พระรุทรเป็นเทพที่มีชื่อในด้านความดุร้าย สามารถลงโทษมนุษย์ได้

คัมภีร์ฤคเวทซึ่งเป็นคัมภีร์พระเวทที่เก่าแก่ที่สุดกล่าวว่า พระรุทรเป็นเจ้าแห่งเพลง เป็นเจ้าแห่งการบูชายัญ สว่างรุ่งเรืองเหมือนพระอาทิตย์รวมทั้งกล่าวถึงความเชื่อมโยงระหว่างพระรุทรกับพระอัคนิเทพไว้ว่า “อัคนิ คือ รุทร”

ส่วนคัมภีร์อาถรรพเวทได้มีการกล่าวถึง “พระรุทร” ว่า พระรุทรมีร้อยกร และมีพันเนตร และนอกจากนี้ ยังได้กล่าวว่า “เพราะพระองค์สร้างโลกทั้งมวล พระรุทรนี้ เป็นนามแห่งอัคนี” พระรุทรยังได้มีนามว่า “ปศุปติ” อันมีความหมายถึง “ผู้เป็นใหญ่แห่งปศุ” อีกด้วย

ด้วยเหตุนี้ พระรุทรในคัมภีร์พระเวท แม้จะไม่ปรากฏเรื่องราวมากเท่ากับเทพในยุคของพระเวทองค์อื่น ๆ เช่น พระอินทร์ พระอัคนิ พระวรุณ ฯลฯ แต่พระศิวะซึ่งเวลานั้นออกพระนามเรียกว่า “พระรุทร” ก็เป็นเทพสำคัญที่มีการกล่าวถึงและมีการบูชามาตั้งแต่ยุคคัมภีร์พระเวท ดังที่ปรากฏหลักฐานทั้งในคัมภีร์ฤคเวทและอาถรรพเวท ก่อนที่จะได้รับความนับถือต่อมาในนามของ “พระศิวะ”