由|x2-2x-3|-m+5=0得到|x2-2x-3|=m-5,作出函数y=|x2-2x-3|的图象,如图:由图象可知要使|x2-2x-3|=m-5,有4个根,则满足0<m-5<4,即5<m<9,故选:B.