Berdasarkan pemaparan para tokoh masyarakat dan dokumentasi terdahulu, asal-usul Gampong Keuramat bermula dari sebuah hamparan lahan seluas sekitar 49 hektare yang dikuasai oleh Pemerintah Kolonial Belanda. Lahan tersebut ditanami pohon kelapa dan berada di wilayah Gampong Peunayong. Oleh karena itu, masyarakat pada saat itu sering menyebutnya dengan nama Lampoh-U (Kebun Kelapa).
Setelah Kemerdekaan Republik Indonesia pada tahun 1945, kebun kelapa tersebut dikontrakkan kepada keluarga besar Said Ali atau yang lebih dikenal dengan nama Habib Ali. Karena penguasaan lahan tersebut oleh keluarga Habib Ali, masyarakat kemudian menyebut kawasan itu sebagai Kebun Habib.
Seiring dengan diterapkannya sistem pemerintahan gampong di Provinsi Aceh, Kebun Habib kemudian ditetapkan sebagai salah satu dusun yang berada di bawah pemerintahan Keuchik Peunayong.
Pada masa penguasaan lahan oleh keturunan Habib Ali, berkembang berbagai legenda di tengah masyarakat. Salah satunya menyebutkan bahwa sejumlah keturunan Habib Ali dianggap memiliki hubungan dengan hal-hal yang dikeramatkan oleh penduduk setempat. Oleh karena itu, ketika wilayah tersebut ditingkatkan statusnya menjadi sebuah gampong pada tahun 1966, masyarakat sepakat menamainya Gampong Keuramat.
Nama Gampong Keuramat tersebut tetap digunakan hingga sekarang.