Грайворон, основанный в XVII веке, с момента своего возникновения развивался как центр православной культуры. Первое упоминание о церкви Успения Пресвятой Богородицы в городе относится к 1681 году . С течением времени, в связи с ростом населения и увеличением числа прихожан, возникла необходимость в создании дополнительных религиозных сооружений, включая часовни на кладбищах, которые служили местом проведения заупокойных служб и поминовений.
Точная дата строительства Часовни Успения Пресвятой Богородицы на кладбище Грайворона не зафиксирована в доступных исторических источниках. Однако, учитывая архитектурные особенности и материалы, можно предположить, что она была возведена в конце XIX — начале XX века. Часовня выполнена в традиционном русском стиле, характерном для провинциальных религиозных построек того времени. Основным строительным материалом служил кирпич, что обеспечивало долговечность и устойчивость сооружения. Крыша часовни покрыта металлическими листами, а фасады украшены скромным декором, соответствующим канонам православной архитектуры.
В советский период, особенно в 1930-х годах, многие религиозные сооружения подвергались закрытию, разрушению или переоборудованию под хозяйственные нужды. Часовня Успения Пресвятой Богородицы, находясь на кладбище, возможно, избежала полного разрушения, но, вероятно, была закрыта и не использовалась по прямому назначению. В этот период она могла подвергаться разрушению и утрате первоначального облика.
С началом перестройки и последующим восстановлением религиозной жизни в России в конце 1980-х — начале 1990-х годов начался процесс возвращения и реставрации церковных зданий. Часовня Успения Пресвятой Богородицы была возвращена Русской Православной Церкви и начала функционировать как место проведения заупокойных служб и поминовений. Были проведены работы по восстановлению утраченных элементов, укреплению конструкций и благоустройству прилегающей территории.
В настоящее время часовня продолжает выполнять свою функцию как место молитвы и поминовения усопших. Она является неотъемлемой частью духовной жизни города Грайворон и свидетельством исторической преемственности православных традиций в регионе.