Die Stadtverwaltung stellte einen Teil des damaligen Boston Common für Beerdigungen zur Verfügung, um die Überfüllung des nahe gelegenen King’s Chapel Burying Ground zu verringern. Der Granary Burying Ground erhielt seinen heutigen Namen 1737, als ein Getreidespeicher, ein kleines Gebäude zur Lagerung von Getreide, an den Ort verlegt wurde, an dem sich heute die Park Street Church befindet. Alle Bestattungen auf dem Granary wurden 1880 eingestellt.
Auf dem Granary Burying Grounds befinden sich etwa 2.345 Grabsteine und Gräber, obwohl schätzungsweise 5.000 Menschen an diesem Ort begraben sind. Die Grabsteine sind überwiegend aus Schiefer, einige wenige aus Grünstein oder Marmor.
Die ursprüngliche, willkürliche Anordnung der Grabsteine wurde im Laufe der Jahre in geradere Reihen umgewandelt, um sowohl der Ästhetik des 19. Jahrhunderts wurden zahlreiche Landschaftsgestaltungsprojekte im Kornspeicher durchgeführt, darunter die Einrichtung von Fußgängerwegen und die Anpflanzung von Schattenbäumen und Sträuchern.
In den Mauern des Kornspeichers liegen die sterblichen Überreste Tausender Bostoner Bürger und Persönlichkeiten. Neben Gouverneuren, Bürgermeistern und Geistlichen aus Massachusetts finden Besucher hier auch die Gräber von drei Unterzeichnern der Unabhängigkeitserklärung: Samuel Adams, John Hancock und Robert Treat Paine; Peter Faneuil, Stifter des berühmten Wahrzeichens der Bostoner Innenstadt; der Patriot und Handwerker Paul Revere; James Otis, Redner und Anwalt der Revolution, sowie fünf Opfer des Massakers von Boston. In der Nähe der Mitte des Geländes erinnert ein 25 Fuß hoher Obelisk an das Grab von Benjamin Franklins Eltern.