Sejarah Desa Karangrejo atau Asal-Usul Desa Karangrejo sampai saat ini ada beberapa versi cerita yang sampai saat ini diyakini :
Cerita Turun-temurun dari Nenek Moyang
Cerita yang masih diyakini sampai sekarang adalah cerita yang berasal dari nenek moyang, yang diceritakan dari mulut ke mulut adalah dahulu kala sebelum tahun 1950an terdapat sebuah desa yang bernama "POEMAHAN", adapun jumlah kepala keluarga di desa tersebut diperkirakan kurang dari 50 kepala keluarga.
Desa Poemahan berada di wilayah sekitar tepi aliran Sungai Bengawan Solo. Penduduk Desa Poemahan sebagian besar adalah bekerja sebagai petani. Wilayah aliran sungai bengawan solo amatlah subur, dengan tekstur tanah berpasir berwarnah coklat, masyarakat desa menyebutnya dengan sebutan "Lemah Wedi", sehingga sangatlah cocok untuk lahan pertanian.
Karena tekstur tanah yang seperti pasir menyebabkan wilayah aliran sungai mudar tergerus dan terbawah arus sungai, sehingga sering terjadi banjir yang disebabkan oleh luapan Sungai Bengawan Solo. Wilayah Desa Poemahan yang berada persis di aliran sungai Bengawan Solo selalu terdampak banjir dari luapan air sungai. Karena sering terjadinya banjir di wilayah Desa Poemahan membawa dampak buruk bagi area persawahan, pemukiman dan juga bagi kesehatan penduduk desa, hal tersebut pula yang mendorong penduduk desa untuk mencari wilayah yang lebih baik dan tentunya tidak tedampak oleh luapan air sungai.
Seiring berjalannya waktu, penduduk yang telah menemukan sebuah wilayah yang dirasa sangat strategis dan aman yang tidak jauh dari Sungai Bengawan Solo. Wilayah tersebut diarasa aman dari banjir dan luapan air sungai, karena terdapat Tanggul yang mengelililingi wilayah tersebut. Adapaun Tanggul tersebut adalah peninggalan jaman Hindia Belanda.Penduduk Desa Poemahan berbondong-bondong melakukan babat desa ke wilayah tersebut.
Wilayah desa yang baru dinamakan "KARANGREJO", adapun makna dari Karang adalah batu atau tandus, sedangkan Rejo adalah makmur atau damai.