单位不可以随便开除退伍军人。除特殊情况外，如严重违反用人单位的规章制度的；严重失职，营私舞弊，给用人单位造成重大损害的；被依法追究刑事责任的等。单位辞退任何劳动者都要有合理合法的理由，否则就属于违法辞退，单位是要支付双倍经济补偿金的。经济补偿按劳动者在本单位工作的年限，每满一年支付一个月工资的标准向劳动者支付。劳动者有下列情形之一的，单位可以开除：被依法追究刑事责任的；在试用期间被证明不符合录用条件的；严重违反用人单位的规章制度的；严重失职，营私舞弊，给用人单位造成重大损害的；严重违反用人单位的规章制度的；其他。复员军人与退伍军人的区别。1、退伍军人叫退出现役服预备役，为预备役军人（30岁以前）。