De leden van Geese schrijven hun muzikale vaardigheden toe aan hun ervaringen in een School of Rock-programma, waaraan elk lid heeft deelgenomen.⁠ ⁠ Drummer Max Bassin, leadzanger Cameron Winter en gitarist Emily Green volgden de Park Slope Rock School (PSRS), terwijl bassist Dominic DiGesu en voormalig gitarist Foster Hudson naar School of Rock New York gingen.⁠ ⁠ In 'The New York Times' herinnert Hudson zich dat hij op 12-jarige leeftijd de rockband Television ontdekte toen zijn programma hem opdroeg hun kenmerkende nummer “Marquee Moon” te spelen—hetzelfde programma dat DiGesu ook volgde.⁠ ⁠ Bassin, Winter en Green waren regelmatig te zien op de podia in Brooklyn en namen deel aan verschillende Summer Songwriting Sessions in Bunker Studios via PSRS. Volgens de website van de school bracht Bassin “insane energy” achter het drumstel, zelfs op achtjarige leeftijd; Winter verwierf een reputatie als een “uitzonderlijke songwriter”; en Green, die geobsedeerd was door Radiohead, leek elke week een nieuw gitaarpedaal te hebben, wat haar inspireerde om unieke en experimentele gelaagdheid te schrijven.⁠ ⁠ PSRS herinnert zich het nummer “Cherry Skies” van het trio nog steeds als een van hun favoriete originele PSRS-nummers aller tijden.⁠