David se narodil 19. června 1864 v Hurlfordu. Jako hráč působil na pozici stopera a prošel kluby jako Queen of the South Wanderers nebo Notts County, se kterým dokonce v roce 1984 vyhrál FA Cup poté, co ve finále porazil Bolton v poměru 4:1.

Jeho manažerská kariéra je mnohem bohatější. V roce 1900 začal trénovat Lincoln City a světe div se, v sezóně 1906/07 vyřadil Chelsea z prvního kola FA Cupu! Paradoxní je, že jen o několik měsíců později se stal trenérem právě londýnského klubu. Calderhead na lavičce Blues strávil 26 let, čímž se stal suverénně nejdéle sloužícím koučem historie.

S týmem dvakrát sestoupil do druhé divize a to v ročnících 1909/10 a 1923/24, přičemž druhý sestup znamenal setrvání v druhé nejvyšší soutěži na dlouhých pět let. V roce 1915 dostal Chelsea do finále FA Cupu, v zápase hraném ve stínu 1. světové války však podlehl 0:3 Sheffieldu United. V sezóně 1919/20 to vypadalo na možný zisk doublu, avšak nakonec jsme se museli spokojit s 3. ligovu příčkou a účastí v semifinále FA Cupu.

O Davidovi bylo známé, že příliš neměl rád styk s médii, na druhou stranu se nebál proslavit přiváděním velkých hvězd do svého týmu. Proto postupně přišli Hughie Gallacher, Alex Jackson či Alec Cheyne. Navzdory tomuto posílení se však Chelsea herně příliš nedařilo.

V červnu roku 1933 tak došlo k výměně trenéra a na lavičku usedl Leslie Knighton. David o pět let později, tedy ve věku 73 let, zemřel.