我跟我老公没领结婚证，但有两个小孩，在一起生活了十年，他现在在外跟别的女人生活在一起了，还不跟我...

与这种人生活在一起有安全感吗？夫妻一世不求荣华富贵，但求同甘共苦，试想现在你失去了劳动能力，或者一病不起，他会跟你共苦吗？现在你已经知道应不应该跟他继续过下去了。忠告你，在这儿，任何人的回答对你都不能起到实质性的帮助，你现在要做的就是，找一个真心帮你的有主见的心眼儿多的亲属或朋友，让她陪着你悄悄的去找一位靠谱的律师，剩下的事情律师会告诉你怎样做，切记不要让别人知道你找律师。这人是靠不住了，那就要最大限度的保障自己的经济利益，要孩子，要孩子的生活费，别到最后人财两空。

脚踏两只船想的很好，起诉，来维护自己的权益毕竟和你们已经有两个孩子，就是要离婚一定要把孩子的赡养费弄清楚，到时他不要孩子都给你一个女人怎么带打两个孩子，你们连结婚证都没有这是不受法律保护的，。。。。。。

这种人就是人渣，你们没领结婚证，是不受法律保护的，但是你们有事实婚姻，弄清楚外面那个是不是领证了，如果没领就跟他们好好谈谈，协商解决，如果他们领了证了，建议你抓紧时间走司法程序吧

就你的说法，意思是他现在不离婚是因为他想你和他一起还债，对吧，既然，没有结婚证，当然也不存在离婚，但是还是有事实婚姻的存在，这就要看你还想和他过不，不想过可以立马走人，不需要任何理由，你觉得呢？就是他以后起诉你，你也不会有多大的损失，因为你们的婚姻不受保护？

没领结婚证，你们就是没有结婚，所以不存在离不离婚。
补充：没有结婚，哪来的共同分担债务呢？现在要考虑的是，你们的共同财产如何分割。我猜你们也没什么可以分割的了，就是以后的抚养权和抚养费的问题有待争议。就像楼上所说的，建议还是去咨询一下专业的律师。