小孩刚出生时，女方可以提出离婚，男方只有在法定情形下才能提起诉讼离婚，女方可以选择协议离婚或提起诉讼离婚。协议离婚需要双方达成离婚协议并到婚姻登记机关办理，诉讼离婚则需女方持起诉状和相关材料到提起诉讼。法律分析；小孩刚出生的，女方可以提出离婚，但男方不可以提出离婚，男方只有在法定的情形下，才可以提起诉讼离婚。女方提出协议离婚，也可以提出诉讼离婚。女方提出协议离婚的，必须由双方当事人同意并达成离婚协议，到婚姻登记机关办理；女方提起诉讼离婚的，持起诉状和相关材料到提起诉讼。拓展延伸；婚姻中是否存在刚出生后的困境。