「芝大神宮」の歴史は古く、「伊勢神宮」の「内宮(ないくう)」と「外宮(げくう)」からそれぞれ「天照大御神(あまてらすおおみかみ)」と「豊受大神(とようけのおおかみ)」を勧請して1005(寛弘2)年に創建された。創建当時の鎮座地は、現在の「芝公園」内にある「芝丸山古墳」付近であったが、1598(慶長3)年に「増上寺」が芝へ移転してきたため、現在の社地へ遷座。かつては「飯倉神明宮」「芝神明宮」などと称されたが、1872(明治5)年に現在の「芝大神宮」となっている。
芝には平安中期創建といわれる古社「芝大神宮」が鎮座し、江戸初期には徳川将軍家の菩提寺の一つ「増上寺」も置かれるなど、信仰の地としても発展した。明治期に入ると、広大な「増上寺」の境内は国内最初の公園の一つ「芝公園」となった。