当社創建由来について，戦国時代初頭 明応九年に書かれたとされる『金王八幡神社社記※』が史料となる。その内容を纏めると次の様になるだろう。

寛治三年六月，八幡太郎 義家が奥州征討の際に，武蔵国で軍事徴集を行ったが，これに呼応する者が全くおらず，義家は，これに深く失望していた。 そのところ，秩父十郎武綱が三百騎を引き連れ，一番に参陣した。義家は，これに喜び，武綱に名誉ある先陣を務めることを許した。そして，同年七月，奥州征討戦において，武綱は，見事に先陣を努め，金沢柵を攻め破る。 義家は，堅牢な金沢柵を破った武綱に感心し，彼の父である武基の「基」と義家の「家」を合わせた「其家」を名乗る名誉を与えた。また，河崎の氏を与え（これは現在の川﨑市周辺の支配権を与えたものと思われる），また土佐守に任じ，さらに谷盛の庄（現在の渋谷周辺の村々）をも与えた。

義家は，武綱（其家）に対して，どうして堅牢な金沢柵を破れたのかと問うた。すると，武綱（其家）は，「かつてのこと，源頼信（八幡太郎義家の祖父。源頼光の弟。）の平忠常征討に，我が父である武基が付き従った際に，彼から貰い受けた秩父妙見八幡大菩薩の日月二流の旗が秩父家にある。その加護のお陰で自分は金沢柵を破れたに違いない」旨を申し上げた。 すると，義家は，「戦が終わったらそれを見てたい」旨を申し付ける。武綱（其家）は，これに応え，本拠地である秩父から拝領したばかりの谷盛の庄に，つまり渋谷に，その日月二流の旗を移し置かせた。

奥州征討後，寛治六年正月十五日，義家は，谷盛の庄に着いたところ，予てより望んでいた日月二流の旗を見た。そして，「これが金沢で望んだ旗か。日の旗の方は秩父妙見山に返しなさい。月の旗の方は当地に留め置いて，八幡宮を勘進させなさい。私は，常々八幡観音大菩薩を信じていたが，奥州で強敵に囲まれた際も，その大悲の擁護があったからこそ助かった。観音菩薩を当社に留め，私の名前を末代にまで残してほしい」と武綱（其家）に申し付けた。

と，この様な経緯で八幡宮は，創建されたそうである。

後に，金王丸との所縁から金王八幡宮と呼ばれる様になったそうであるが，江戸後期の地誌『新編武蔵風土記稿』は，この社記には間違いが多いとしている。そもそも，大概の神社縁起は，誇張されたものあるいは嘘八百のものが大半なので，目くじらを立てる様なものではないが，この点に注意を要することに間違いはない。

※『澁谷区史 全』780頁以下