据我所知,byherself是"独力、独自"的意思,亦即在没有其他人协助下独自完成某件事.
而herself是"她本人"的意思.
所以句中应该是用byherself还是用herself,完全取决於作者想要表达甚麼.
按该句的意思,作者应该是想说:"Debbie的妈妈本人就曾经在小时候游过海峡."(当中可以是有人协助,也可以是独力完成.这些细节,都不是本句要表达的重点.)
反过来说,如果作者想要说"Debbie的妈妈在小孩时就曾经独力游过海峡"这个意思的话,那麼该句就应该用byherself.
以上是个人理解,供楼主参考.