Kurtuluş yılları sırasında Kosova'dan göç eden Boşnak ve Arnavut'ların yerleşmesi ile kurulmuştur. Köyün eski ismi Şevketiye olup köy yemeklerinin meşhur olması üzerine Ünlüce olarak değiştirilmiştir.