牛存节任鄜州留后。潞州行营招讨使刘知俊据同州反叛，牛存节旋即任同州留后，不久，加封检校太保、同州节度使，不久又加封特进、太保、忠武军节度使，进封为开国侯，加封检校太傅，进封开国公，食邑一千户。
牛存节，严整军旅，总像大敌将至，在这以前，同州井水咸苦，人不能饮用，到并州人、岐人前来逼攻州城时，有人认为兵士干渴困乏，陷落将在旦夕。牛存节于是谨肃叩拜虔诚祷祝，选择地方开凿八十多口井，井水味道都甘淡，因此人马饮用洗涤有余，大家都认为是牛存节的至诚感动了神灵，人马未曾卸下铠甲，直到敌寇退走。第二年春天，牛存节加封为同平章事，被召赴京城，梁末帝召见慰勉他，赏赐甚厚，加封开府仪同三司，食邑二千户，任郓州节度使。
牛存节被加封为淮南西北面行营招讨使，负责控制扼守淮河岸边，任职期间边境安宁。徐州节度使蒋殷据徐州叛逆，当时牛存节正领大军戍守颍州，得悉蒋殷阴谋，便密报朝廷，随后奉诏与刘鄩共同讨伐蒋殷，驻扎于埇上。淮南吴军大将朱瑾领兵援救蒋殷，离宿州六十里，听到牛存节大军来到，便丢下粮草抛弃兵甲而逃，牛存节终于平定了徐州，朝廷下旨，加封他为太尉。
牛存节患上了消渴症，正当朝廷起兵河北用兵之时，梁末帝命他领军屯驻阳留以加强刘鄩的势力。牛存节忠心耿耿，接到命令不提生病的事，对付敌人带领部队，更加日夜奋发，结果不久他就病重了，朝廷诏令让他回汶阳，然而接到诏令的次日他就去世了，享年六十三岁。临终前，他告诫儿子牛知业、牛知让等要竭尽忠孝，而不谈及其他事，梁末帝下令辍朝三日，并让兵部侍郎崔昭愿、都官员外郎柳瑗，用竹简记录下他的丰功伟绩，追赠他为太师，谥号威。
喜欢史事讲将2隋唐五代请大家收藏：(m.zjsw.org)史事讲将2隋唐五代爪机书屋更新速度全网最快。