，曼德拉先在一家金矿当警卫，还当过一段时间的拳击手。在这里，曼德拉结识了非国大领导人西苏鲁和奥利弗·坦博，随之加入非国大。

“民族之矛”总司令非国大成立于1912年，它在团结各部族联合维护非洲人利益方面起了很大作用，但始终不肯越过“温和、合法”的界限。曼德拉加入非国大后，一面函授修完文学、法学课程，一面与西苏鲁、坦博合作，于1944年在非国大内建立了非国大青年联盟，任全国书记和全国主席。在青年联盟推动下，非国大于1949年通过反对白人统治、争取民族自决的政治纲领，决定以群众运动反对白人种族统治。

1952年，针对南非国民党上台后颁布的“集团住区法”、“人口登记法”，曼德拉组织了全国性的“蔑视运动”，这是南非历史上首次有组织抗议种族隔离制度的群众运动，曼德拉任运动总指挥。曼德拉的指挥才能令非洲政治家们敬畏，同时吓坏了南非政府。成群结队有组织的有色人罢工罢市，强行进入仅供白人使用的商店、邮局、车站、住宅区等公共场所。这场运动持续了四个月，蔓延到全国，给白人政府以沉重打击。南非当局下禁令不许曼德拉参加政治活动，可他因指挥“蔑视运动”有功而当选为非国大副主席。