A város tisztviselői a közeli King’s Chapel Burying Ground túlzsúfoltságának enyhítése érdekében temetkezési célra elkülönítették az akkori Boston Common egy részét. A Granary Burying Ground 1737-ben kapta mai nevét, amikor egy magtárat, egy gabonatárolásra használt kis épületet áthelyeztek arra a helyre, ahol jelenleg a Park Street-i templom áll. Minden temetés 1880-ban szűnt meg a Granaryben.
A Granary Burying Grounds körülbelül 2345 sírkövet és sírhelyet tartalmaz, bár becslések szerint 5000 embert temettek el ezen a helyen. A sírjelek túlnyomórészt palából készültek, néhány zöldkőből vagy márványból.
A sírkövek eredeti véletlenszerű elrendezését az évek során egyenesebb sorokba rendezték át, hogy mind a XIX. századi esztétikának, mind a modern fűnyírónak megfeleljenek. A tizenkilencedik század közepén számos tereprendezési projektet hajtottak végre a Magtárban, beleértve a gyalogosjárdák telepítését, valamint árnyékfák és cserjék ültetését.
Boston több ezer polgárának és neves személyiségének földi maradványai nyugszanak a Magtár falai között. A massachusettsi kormányzók, polgármesterek és egyházi személyek mellett a látogatók megtalálják a Függetlenségi Nyilatkozat három aláírójának sírját is: Samuel Adams, John Hancock és Robert Treat Paine; Peter Faneuil, a híres bostoni belvárosi nevezetesség jótevője; a hazafi és kézműves Paul Revere; James Otis, a forradalom szónoka és ügyvédje; valamint a bostoni mészárlás öt áldozata. A föld közepének közelében egy 25 láb magas obeliszk emlékezik Benjamin Franklin szüleinek sírjára.