Construção de uma parte do que era então o Boston Common para ajudar a aliviar a superpopulação no terreno de enterro da Capela do Rei, nas proximidades. O cemitério do celeiro tomou seu nome atual em 1737, quando um celeiro, um pequeno edifício usado para armazenar grãos, foi transferido para o local atualmente ocupado pela Igreja Park Street. Todos os interiores cessaram no Granário em 1880.
O Túmulo do Granário contém aproximadamente 2.345 lápides e túmulos, embora se estime que 5.000 pessoas estejam enterradas neste local. Os túmulos são predominantemente em ardósia, com alguns em pedra verde ou mármore.
A configuração original das lápides foi reordenada em filas mais direitas ao longo dos anos para acomodar tanto a estética do século XIX como a moderna cortadora de relva. Durante meados do século XIX, muitos projectos paisagísticos foram realizados no Granário, incluindo a instalação de passadeiras para peões e a plantação de árvores de sombra e arbustos.
Os restos mortais de milhares de cidadãos de Boston e personalidades notáveis encontram-se dentro das paredes do Granário. Juntamente com os governadores, prefeitos e clérigos de Massachusetts, os visitantes encontrarão as sepulturas de três signatários da Declaração de Independência: Samuel Adams, John Hancock e Robert Treat Paine; Peter Faneuil, benfeitor do famoso marco do centro de Boston; o patriota e artesão Paul Revere; James Otis, orador e advogado revolucionário; e cinco vítimas do Massacre de Boston. Perto do centro do chão, um obelisco de 25 pés de altura comemora o túmulo dos pais de Benjamin Franklin.