Les responsables de la ville ont mis de côté pour les enterrements une partie de ce qui était alors le Boston Common afin de soulager la surpopulation du King’s Chapel Burying Ground voisin. Le Granary Burying Ground a pris son nom actuel en 1737 lorsqu’un granary, un petit bâtiment utilisé pour stocker le grain, a été déplacé sur le site actuellement occupé par l’église de Park Street. Toutes les inhumations ont cessé au Granary en 1880.
Le Granary Burying Grounds contient environ 2 345 pierres tombales et tombes, bien que l’on estime que 5 000 personnes sont enterrées sur ce site. Les pierres tombales sont principalement en ardoise, avec quelques-unes en pierre verte ou en marbre.
La configuration originale désordonnée des pierres tombales a été réarrangée en rangées plus droites au fil des ans pour s’adapter à la fois à l’esthétique du XIXe siècle et à la tondeuse à gazon moderne. Au milieu du XIXe siècle, de nombreux projets d’aménagement paysager ont été entrepris dans le Granary, notamment l’installation d’allées piétonnes et la plantation d’arbres d’ombrage et d’arbustes.
Les dépouilles de milliers de citoyens et de notables de Boston reposent entre les murs du Granary. Outre les gouverneurs du Massachusetts, les maires et les ecclésiastiques, les visiteurs trouveront les tombes de trois signataires de la Déclaration d’indépendance : Samuel Adams, John Hancock et Robert Treat Paine ; Peter Faneuil, bienfaiteur du célèbre point de repère du centre-ville de Boston ; le patriote et artisan Paul Revere ; James Otis, orateur et avocat révolutionnaire ; et cinq victimes du massacre de Boston. Près du centre du terrain, un obélisque de 25 pieds de haut commémore la tombe des parents de Benjamin Franklin.