A、大肠杆菌和酵母菌都含有细胞壁,A错误;B、所有细胞都含有细胞膜,B错误;C、大肠杆菌是原核生物,酵母菌是真核生物,原核细胞和真核细胞共有的一种细胞器是核糖体,C错误;D、大肠杆菌是原核生物,酵母菌是真核生物,原核细胞和真核细胞最主要的区别是大肠杆菌没有核膜,D正确.故选:D.