Os membros da Geese creditam as suas habilidades musicais às suas experiências em um programa da School of Rock, que todos os membros frequentaram.⁠ ⁠ O baterista Max Bassin, o vocalista principal Cameron Winter e a guitarrista Emily Green frequentaram a Park Slope Rock School (PSRS), enquanto o baixista Dominic DiGesu e o ex-guitarrista Foster Hudson foram para a School of Rock New York.⁠ ⁠ No 'The New York Times', Hudson recorda ter descoberto a banda de rock Television aos 12 anos, quando seu programa lhe atribuiu a tarefa de tocar sua faixa emblemática, “Marquee Moon”—o mesmo programa que DiGesu também frequentou.⁠ ⁠ Bassin, Winter e Green eram presenças regulares nos palcos de Brooklyn e participaram de várias Sessões de Composição de Verão nos Bunker Studios através da PSRS. De acordo com o site da escola, Bassin trouxe uma “energia insana” atrás do kit, mesmo aos oito anos; Winter ganhou a reputação de “compositor extraordinário”; e Green, obcecada por Radiohead, parecia ter um novo pedal de guitarra a cada semana, o que a inspirou a escrever riffs de guitarra únicos e experimentais.⁠ ⁠ A PSRS ainda recorda a canção do trio “Cherry Skies” como uma das suas canções originais favoritas de todos os tempos da PSRS.⁠