行政机关追究行政处罚违法责任的法律依据是《中华人民共和国行政处罚法》第七十六条和第七十。如果行政处罚决定违法，上级行政机关或有关机关可以责令改正，并对直接负责的主管人员和其他直接责任人员依法给予处分。此外，行政机关违反规定自行收缴罚款或财政部门返还违法所得的情况下，也会受到相应的处分。法律分析；若行政机关作出的行政处罚决定违法的，需要由上级行政机关或者有关机关来向作出处罚决定的行政机关追究责任；上级行政机关或者有关机关可以责令其改正，并且对该机关中直接负责的主管人员和其他直接责任人员依法给予处分。行政处罚违法的如何追究责任的法律依据。《中华人民共和国行政处罚法》第七十六条。