可以，依据《劳动合同法》第三十八条，用人单位有下列情形之一的，劳动者可以解除劳动合同：.......（三）未依法为劳动者缴纳社会保险费的；并且可以要求单位支付经济补偿。
未缴纳社会劳动保险，就说明没有社保备案劳动合同，因此单位对你没有任何约束力，你随时都可以不辞而别。
