根据《史记》、《战国策》等史料的记载，早在赵武灵王这位君主在位时，廉颇就已经开始为赵国效力。赵武灵王去世后，廉颇又辅佐赵惠文王这位君主。赵悼襄王赵偃即位时期在郭开的诋毁和陷害下，廉颇不仅被夺走了兵权，还被迫离开了赵国。
廉颇离开赵国的原因
1、廉颇在赵孝成王时期，还是受到信任和重用的，但是到了赵悼襄王时期，廉颇就没那么好运了。赵悼襄王一即位就解除了廉颇的军权，赵悼襄王很信任郭开，并且要重用郭开，于是就罢免了廉颇，让郭开成为了赵国丞相。
2、廉颇在被解职后，非常生气，与代替他的乐乘打了一仗，乐乘战败逃走了。这样廉颇也就不能再待在赵国了，因为这是明显反对赵悼襄王的安排，对赵悼襄王是大不敬。如果廉颇不离开赵国，很可能会被小人陷害，受到处罚，这样廉颇就只好出走了。
和廉颇相关的故事
1、门客反复
廉颇从长平免职回家，失去权势的时候，原来的门客都离开了。等到再被重用当将军，门客们又都聚拢上来。廉颇很是感慨，要他们退去，门客告诉他：“这没什么奇怪。是以市场上的买卖方式交朋友，您有权势，我们就跟随您，您没有权势，我们就离开，这本是买卖常理。
2、赵军运沙
赵国为抗击秦军，派大将廉颇屯兵长平，在今高平市米山村西北的摩天岭驻重兵。一日廉颇到摩天岭察看阵地。发现山腰有大量黄沙，为迷惑秦军，便令士卒用牛皮和苇席，在山中修起一座座“粮仓”。又暗令士卒于夜间拉运黄沙，装入仓中。秦兵见赵军军粮积如山，不敢轻易来犯，直到长平之战赵军大败后，秦军来起运粮食时，才发现仓中装的全是黄沙。后人便将此山称为大粮山，把摩天岭改称营防岭。
3、巧计退秦军
秦赵交兵，秦国探知赵国粮草不丰、人心不稳，便派大将白起率大军来攻赵国都城邯郸，赵王速派名将廉颇带兵迎敌。
第二天，白起率大军攻入武安境内，忽然探子来报：“往东二十里，发现赵军粮营，大将廉颇带重兵把守。”白起听了将信将疑，亲自前去察看。不看还好，一看差点儿把他从马上惊下来，只见赵军营中粮食一袋袋、一层层堆积如山，下面军营，大帐连阡，号旗严整。于是仰天叹息道：“赵军粮足兵精，天不助我也!”急忙下令退兵。