男女离婚时候是否要退回彩礼，还需要看实际的情况是否构成了彩礼返还的条件，如果构成了彩礼返还的条件，可以依法要求退回。可以要求返还彩礼的情形包括3种。1、给付彩礼后悔婚，双方未办理结婚登记的。2、双方即使已经办理结婚登记手续，但确未共同生活过就离婚的。3、婚前给付彩礼导致给付人生活困难，离婚时也可以此为由要求返还彩礼。【法律依据】；《最高人民关于适用中华人民共和国婚姻法若干问题的解释(二)》第十条规定，当事人请求返还按照习俗给付的彩礼的，如果查明属于以下情形，人民应当予以支持。(一)双方未办理结婚登记手续的。(二)双方办理结婚登记手续但确未共同生活的。(三)婚前给付并导致给付人生活困难的。适用前款第(二)、(三)项的规定，应当以双方离婚为条件。