相传，宜阳县城南边的白杨镇一带，很久以前，是一片荒凉的不毛之地，没有村庄，没有树木，只有一些零零星星的人家，散居在窑洞和草庵内。
他们不仅温饱问题得不到解决，而且还经常受到匪盗流寇的骚扰。不少人家想离开这里，迁移到富庶的地方去住，可是又不知道去哪里。
一天晚上，这里的人们大都做了一个内容相同的梦：一个鹤发童颜的老人，乘祥云而来，拿一根树枝往地上一插。人们问他插的是什么，他不正面回答，只是说了四句偈语： 此处地荒凉， 匪多盗贼狂。 若想得富庶， 移居邻白杨。
果然，第二天，就有一棵白杨树破土而出，拔地而起，没几天，就长成参天大树，高有数丈，粗有数围。消息传开，人们都认为这是梦中那个神仙所栽，就把它称作神树，为它披红挂彩，焚香礼拜。
人们想起梦中神仙的四句偈语，认定白杨树周围是风水宝地，就争相向这里迁居。稀奇的是，原来的不毛之地，自从有了这棵白杨树，变成了土肥水美的良田，粮食打得多，鸡鸭长得肥。其他地方的人们听说这里百姓富庶，五谷丰登，也争相向这里移居。居民多了，成了大村子，村名就叫“白杨树村”，简称“白杨”。 当时，这里归嵩县管辖。由于地处偏僻，天高皇帝远，再加上从四面八方移来的居民性格不同，人命案件常有发生。
有的儿子为争夺家产，竟将亲生父亲杀死。当时朝廷有条规定，在一个县内，如果发生一次子戮父案，就要抹去该县的一个“城角”，如果一个县连续发生四次子戮父案，四个“城角”都将被抹掉，县官就要被削官为民。
某年，白杨村已连续发生了三次子戮父案，如果再发生一次，县官就要丢掉乌纱。嵩县县令急了，就将白杨村拱手让给了宜阳县。宜阳县令怕白杨村再发生类似的案件，呈请河南府向白杨村派驻官兵，建立了“白杨戍”。
自此，这里改称“白杨镇”。