表现出色,他在北非的真正兵力只有两万人,而且后期也没增加,而法国 英国的兵力一直比他多。在意大利已经失败的情况下他仍然并出奇招,以少胜多打败敌人。如3月31日,非洲军团对布雷加的英军发动了一次成功的进攻。隆美尔使用其在法国成功的闪电战术给了英军狠狠一击。非洲军团继续向东追击撤退中的英军,一直深入昔兰尼加并攻占了班加西。
1941年6月,英国不再进攻了。隆美尔事实上胜利了。
但此时德国国内给隆美尔的补给开始减少。隆美尔在这种情况下仍表现出色。
1942年的阿拉曼战役中隆美尔只有2万军队,而蒙哥马利有20万军队,就算如此,蒙哥马利仍打的不顺手,这可以看出隆美尔虽败犹荣。
1941年1月隆美尔被提升为中将并在2月被召回柏林担任德国非洲军团的司令,2月12日,隆美尔接到命令抵达的黎波里。非洲军团由两个师组成,他们的使命就是支援已经在1940和1941年1月在北非同大不列颠军队战斗的意大利盟友。从40年12月至41年1月,英联邦的军队将他们逐出了埃及,意大利人已经被击退至利比亚境内。1941年2月14日,隆美尔的先头部队第5轻装甲师部分人员装备在的黎波里上岸。隆美尔意识到意大利人由于被英军击败而士气低落,他会见了意大利的指挥官。2月24日,德国非洲军团首次在的黎波里以东和英军发生小规模战斗,3月31日,非洲军团对布雷加的英军发动了一次成功的进攻。隆美尔使用其在法国成功的闪电战术给了英军狠狠一击。非洲军团继续向东追击撤退中的英军,一直深入昔兰尼加并攻占了班加西。4月13日,隆美尔的部队向南绕过港口要塞托布鲁克攻克巴迪亚,接着又于4月15日占领了埃及西部边境上第一个城市萨鲁姆。隆美尔的进攻迫使英军及其盟军退守到了托布鲁克要塞内。4月11日到13日,隆美尔第一次尝试攻占托布鲁克,但是失败了。托布鲁克对于整个北非的战线有着重大的战略地位。隆美尔第二次尝试攻占托布鲁克是在4月30日至5月2日,此时他的敌人和朋友都因为他狡猾的战术而称他为“沙漠之狐”。4月中旬至6月中旬,英军也发动了一些小规模的进攻,但是在德军威力强大的88mm炮的打击下损失惨重,被迫撤回了防御阵地。
1941年6月,无论是英军还是德意军队都无力再发动攻势,双方只有加固防御阵地的实力。在德国,宣传机构已经把隆美尔塑造成一个无敌的将军。
1941年8月中旬,非洲军团被改组为非洲装甲军团,实际上隆美尔已经成为整个非洲德军和意大利军队的总司令。同时,德军第5轻装甲师被重新编组为第21装甲师,非洲军团还得到了新的补充--刚运至非洲的第90轻型师(即后来的第90轻装甲师)。隆美尔不断的要求装备和补给,但是他仅仅得到很少的份额。10月,隆美尔又开始计划进攻托布鲁克并开始加强德意军队的防御阵地。11月17日,英国的突击部队冲进了隆美尔的指挥部计划暗杀隆美尔,但是行动失败了,因为隆美尔根本不在那里。11月18日,英军出乎隆美尔意料之外发动了“十字军”攻势,英军的目的就是突破托布鲁克包围圈并消灭非洲装甲军团。英军的攻势在11月22和23日停顿了下来,隆美尔发动了反击并穿插到了英军的后方。“十字军”行动在这期间双方作战异常惨烈,战场态势变化相当大。在锡迪-雷日弗机场战斗中,英军炮兵英勇作战,几乎都坚守炮位直至战死。尽管非洲军团摧毁了大量的英军坦克和装备,但是隆美尔的部队自己也损失极大,坦克只剩下了40辆,燃料弹药都已经消耗怠尽,同时,英军终于抵达托布鲁克要塞的外围,11月29日,英军冲进了托布鲁克。12月7日前,非洲军团撤出了托布鲁克外围,而且也开始撤出昔兰尼加。从1942年1月2日到1月17日,德意军队在巴迪亚和萨鲁姆都被击败。
1942年1月中旬,隆美尔开始重整他的部队,准备在得到足够的补给和装备后发动一轮新的攻势。隆美尔经常有一些巧妙的战术行动,比如他命令补给卡车和意大利的轻型坦克在后面绑上树枝和杂草在沙漠里运动,以形成漫天的沙尘,这些在敌人眼里会被认为是一次大规模的进攻,这使英军指挥官判断失误,而同时隆美尔却在其他的方向上集中装甲主力发起进攻。
1942年1月下旬,隆美尔发动了新的进攻,首先是重新占领了班加西,迫使英军撤退到加扎拉防线。2月初,双方军队形成对峙。1942年5月26日,隆美尔又开始进攻了,经过激烈交火后突破了加扎拉防线直接威胁托布鲁克。从5月30日起至6月11日,隆美尔对托布鲁克西南的比尔哈凯姆要塞发动了进攻,德军采取了不间断的空袭和炮击,要塞里4000名法国守军进行了顽强的抵抗,要塞直到6月11日才被德军攻占。6月12日和13日隆美尔的部队摧毁了大约140辆英军坦克。遭受沉重损失的英军开始撤离加扎拉防线,同时也撤出了在托布鲁克东南建立的补给基地。6月18日,德军再次包围了托布鲁克。6月20日,德军非洲军团向托布鲁克发动了突袭。按隆美尔的指示,德军装甲主力首先越过托布鲁克向东面的巴尔迪亚挺进,在距离巴尔迪亚仅有18英里的时候突然回头向西面的托布鲁克发动了进攻。在德空军的配合下,非洲军团的装甲部队和步兵终于在1942年6月21日攻占了托布鲁克要塞。6月22日,希特勒晋升隆美尔为陆军元帅。
攻占领托布鲁克后,隆美尔决定继续东进深入埃及。6月30日前,德意军队已经抵达了英军设在梅尔沙马特鲁布的防线,很快英军又抛弃了这个港口退向阿拉曼。阿拉曼距离亚历山大以西96公里,开罗以西240公里。隆美尔的非洲军团现在准备向苏伊士运河挺进,不过此时的非洲军团已经消耗完大部的燃料和弹药,英军在局部实施了一系列成功的反击暂时阻止了非洲军团的前进。从7月至8月,隆美尔一直在向德国最高统帅部要求补给和装备,但是此时德国战争机器的焦点已经集中在东线战场,只给予隆美尔很少的补给。1942年8月30日,隆美尔发动了一次进攻意图迫使英军撤出阿拉曼。德军在阿拉姆哈勒法山脊受阻,由于英军实力上占优以及德军的补给耗尽,隆美尔的非洲军团不得不撤回出发阵地。这次战斗之后隆美尔由于有病离开了非洲去德国治疗。德军在这期间沿阿拉曼战线埋设了大量的地雷带,这些防御地带就是隆美尔著名的“魔鬼花园”。英军第8集团军则正在积蓄反击力量,大量工兵部队为了排除“魔鬼花园”而专门训练,地中海上皇家空军频频出击摧毁德军运往北非战场的补给舰只,而且得到了500辆美制的M4谢尔曼坦克。1942年10月23日蒙哥马利将军指挥下的英军第8集团军发起了阿拉曼战役。当10月25日,隆美尔被急召回到非洲战场的时候,形势已经对德军相当不利了。英军步兵和坦克部队在优势空军和炮兵的掩护下突破了德军正面的防线。经过6天激烈的战斗,10月19日下午,隆美尔命令非战斗人员撤到了富卡防线更远的西部--梅尔沙马特鲁地区。11月1日至2日夜间英军全线向非洲军团防线发动进攻。德军正面开始崩溃了,刚开始希特勒再三严令隆美尔的非洲军团不许后撤,最后在11月5日希特勒勉强同意了隆美尔的撤退方案,非洲军团全线撤退。11月12日,英军收复了托布鲁克。而在此之前11月8日,美军已经在突尼斯登陆。英军继续追击溃退中的非洲军团,11月19日收复班加西,而隆美尔由于缺乏装备和补给根本无力去发动反击甚至建立新的防线,他唯一可以做的就是撤退,由于蒙哥马利的谨慎个性,非洲军团数次几乎要被英军包围,又奇迹般地脱离险境。英军于1943年1月23日收复的黎波里。隆美尔的非洲军团最后全部撤到了突尼斯。
1943年2月19日,隆美尔指挥非洲军团在卡塞林隧道战中重创美军部队,这也是隆美尔在非洲最后的一次进攻了。很快在盟军优势兵力面前,非洲军团的攻势在2月22日被阻止了。23日,隆美尔被任命为新成立的非洲集团军群的司令,尽管他并不愿意接受这个职务。不久他就被阿尔尼姆将军所取代。1943年3月6日,隆美尔被送回德国治病。3月11日,希特勒授予隆美尔骑士十字勋章以及钻石。两个月后,1943年5月13日,非洲军团向盟军投降。