男方如果起诉变更抚养关系,与女方拒绝履行此前的探视权的义务,并不是一个直接因果关系。也就是说,法院并不会因为女方不履行此前探视权的义务,而判决变更抚养关系,把原本直接随女方生活的子女判归随男方直接生活。但男方能够找出其他证据证明女方不适合带小孩,那么法院改判的可能还是有的。