拿到学士学位后，曼德拉搬离了亚历山大，来到离约翰内斯堡12英里的奥兰多。这里在1930年曾被规划为黑人示范区，供“等级稍高的本地人”居住。这里有一大片一大片的农田，零零星星地矗立着几个房子。奥兰多比亚历山大要干净，但却远没有亚历山大热闹。
随后，曼德拉又报名参加了威特沃斯特兰大学的一个业余法律课程的学习。威特沃斯特兰大学是南非首屈一指的大学，它坐落在约翰内斯堡北边的山上，校园内绿树成荫。高楼成群，非常壮观。威特沃斯特兰大学与南非一般大学不同的是，它允许一小部分黑人和白人一起学习。但是，学校的游泳馆和网球场等运动场所却不对黑人开放。
能够和白人一起上课，这让曼德拉很兴奋，因为这是他梦寐以求的事情。而作为“次等公民”的他，依然会受到白人的歧视。当他来到图书馆，在一张桌子前打算坐下时，旁边的同学就会把椅子抽走；当他和几个白人朋友一起去咖啡馆时，会被门卫拦在外面，因为他们中间有个“卡菲尔人”（卡菲尔人是对南非黑人的一种蔑称）；当他和两名印度同学上了一辆白人专用的公交车时，售票员会把他们称作“卡菲尔朋友”，然后让警察把他带走……但是，曼德拉却并没有因此而对白人心存怨恨。50年后，当他再次来到威特沃斯特兰大学时，他对曾经瞧不起他的白人说：“我之所以有今天，不仅要感谢那些尊敬我、帮助我的人，还要感谢那些敌视我、恶待我的人。”
在威特沃斯特兰大学，曼德拉结识了一些新的朋友。如白人政治活动家乔·斯洛夫、激进的印度裔南非法律系学生辛格和伊斯麦尔·米尔，这3个人都是共产党人。在宿舍里，他们4个会整夜整夜地讨论政治和社交方面的问题，曼德拉从他们3个身上学到了不少知识。
曼德拉在威特沃斯特兰大学整整待了6年。说实话，他在学校的成绩并不突出。他一方面要做见习律师的工作，另一方面要处理青年联盟内部的事宜，所以学习的时间很少。
在临近毕业时，曼德拉的法学论文没有得到教授的认可。那位教授说：“纳尔逊，你这也叫论文？你了解我的意图吗？”
曼德拉解释道：“我经常晚上8点以后才能回到学校，又累又饿，没有办法集中精力学习，如果我有更好的学习环境，我的成绩会更好。希望您给我一次重考的机会。”
但性格孤傲的教授一向瞧不起这个黑人小伙子，拒绝了曼德拉的申请。所以，曼德拉最终没有拿到法学学士学位，这也成了他一生的遗憾。
由于长期客居在西苏鲁家，曼德拉认识了沃尔特·西苏鲁的堂妹伊芙琳·梅斯，两人迅速坠入情网。伊芙琳年轻漂亮，比曼德拉小4岁，在市立深矿医院当护士。伊芙琳当年的邻居后来评价她说：“伊芙琳是个非常谦虚的姑娘，她目光慵懒，脸上总是挂着腼腆的微笑。”
伊芙琳对曼德拉几乎是一见钟情，她说：“当我看到纳尔逊的第一眼时，我就爱上了他，他身上有一种非常特别的东西。”
很快，两人就在约翰内斯堡举行了婚礼。没有教堂的钟声，没有婚宴，甚至连住房都没有，他们只好一直借宿在西苏鲁家。伊芙琳回忆说：“每个认识我们的人都说我们很般配。”曼德拉回忆说：“伊芙琳是个举止优雅、娴静的女人，她对家中的摆设十分讲究，常常把家里打扫的一尘不染，为了我和家庭，她奉献了一切。”曼德拉的朋友菲利斯·尼坦塔拉回忆道：“与伊芙琳共同生活的那段时光，是曼德拉成长并大放异彩的时候，曼德拉之所以有今天的成就，和伊芙琳的帮助分不开。”
后来，曼德拉夫妇搬到一个叫索韦托的地方，住在一个“火柴盒”式的三间小房子里。这里一片荒芜，周围都是从城里倾倒的垃圾，由于白人当局拒绝供电，他们只好用煤油灯照明。因此，这里被政府称为“让黑人自生自灭的地方。”用曼德拉的话来说，是“在泥土路上修建了邮票大小的房子，锡板顶和水泥地板，窄小的厨房和厕所”。
就在这样的地方，他们的大儿子马迪巴·泰姆比出生了。每天下班后，曼德拉就会回家逗孩子玩，伊芙琳忙着做饭，日子过得平静自在。伊芙琳说：“纳尔逊非常喜欢和泰姆比玩耍，给孩子洗澡，喂孩子吃饭。有时候，他还会抢过我手里的厨具，亲自做饭。”
随着事业渐渐有了起色，曼德拉终于有了一套两居室的房子，有了属于自己的家。但很快这套房子就成了曼德拉乡下穷亲戚的临时旅店，很多来投奔他的人总是睡在地上，少则几天，多则几个月。曼德拉越来越忙了，他每天要出席政治活动，有时候伊芙琳一连好几天都见不到他的影子。
曼德拉的母亲和妹妹会经常过来帮忙，这使伊芙琳在孤独中感受到了一丝温情，三个女人相处得很好。
1948年，伊芙琳又生了一个女儿，但是不到9个月，她就夭亡了，这让曼德拉和伊芙琳很伤心。
