监狱是我的第二个舞台，在这个舞台上，我的工作不是斗争，而是团结。
——曼德拉自传《漫漫自由路》
狱方也知道曼德拉在这段时间里遭受的重重打击，以为他会从此消沉下去。谁知道他们并不了解曼德拉，曼德拉决不会因为任何打击而放弃斗争和抵抗。风雨无改赤子心，曼德拉痛定思痛，决定从自己能做的事开始，一点点改变这种艰难的状况。
外界的斗争工作他无法插手，也不能根据传来的只言片语为他们提供有价值的意见，亲人的去世他也没法改变，他现在能做的就只有尽快解决监狱内部的矛盾问题，并为被关押的温妮联系一个好律师。后者并不难，难的是如何将所有犯人团结在一起。
首先，曼德拉的个人魅力是毋庸置疑的，他既懂得以身作则，为所有犯人树立榜样，同时也热心地给予他们帮助。这两点使得曼德拉成为所有犯人的“官方代言人”。虽然曼德拉从未对任何人发号施令，但囚犯们都愿意忠实地执行曼德拉的意愿。
刚上岛时，曼德拉就表现了自己强硬的一面，当监工的狱警强迫他们不断增大劳动强度时，他就明确表示出了反抗。狱警威胁要揍他，他却站直了身子，盯着狱警说：“你别后悔！”害怕丢饭碗的狱警只得气冲冲地走开。而当狱警去催促别人时，曼德拉也不会置身事外，他会走到那位犯人身边，轻轻跟他说：“别急，慢慢来，能做多少做多少，我们都这样，他们就没办法了。”犯人受到曼德拉的鼓励，便加入了抵抗的行列。
其次，曼德拉的说话技巧也很有特色。有的人虽然雄辩，但是语气生硬，或者语速太快，影响听众接受信息的效率。而曼德拉十分重视细节，他努力使自己的每个发音和用词都精准到位，这样就能用最短的语言准确地表达自己的意思。很多人被他那种缓慢而目的明确的说话风格所感染，称他为“头脑清楚的谋略家”。
另外，曼德拉的泰姆布王室血统，以及高大的身躯，都为他的威信加分不少。与此同时，也有人觉得他有点高高在上。睿智的曼德拉用自己的谦卑与耐心化解了这个问题。他知道，如果别人觉得你太过高大，只能仰视你，那你就必须弯下腰，低下头来和他们交流，这样才能在平等融洽的氛围中把他们变成自己的盟友。所以，曼德拉将大量时间花在了帮助别人身上，他欢迎任何犯人来找他谈论问题，他会像一个慈爱的父亲那样耐心地解答他们的疑问。他还主动地开设了教育班，将白沙地当作黑板，用树枝当粉笔，组织大家进行讨论和交流，他负责就政治和法律等问题帮大家答疑解惑。这种小型的聚会增进了很多犯人之间的友谊，也使得曼德拉的领袖地位进一步提升。
当然，曼德拉的目的不是争取足够多的人数，而是让每个犯人都能在监狱中好好生存下来。为此，他不仅要团结多数人，还要照顾少数人的需要。在罗本岛上，丹尼尔斯是唯一一个自由党成员，所以他很容易被大家忽视。但曼德拉坚持将丹尼尔斯作为一个重要人物来对待。每次秘密会议结束后，曼德拉都会向丹尼尔斯单独汇报一些信息，丹尼尔斯看到德高望重的曼德拉如此尊重自己，实在有点受宠若惊。他说：“曼德拉是一个宽容和蔼的人，别人都在忽视我时，他却走向了我，给予我拥抱和心灵的安慰。这让我重拾了自我。当我们缺乏信心的时候，我就去找他，让他身上的力量流到我身上。我看不到未来，但我知道曼德拉看得到！”
最后，曼德拉还有一个特点很值得大家信赖，那就是他的务实精神。很多领袖也不缺个人魅力以及演讲技巧，但他们不具备踏实的进取心和清醒的头脑。他会教导其他犯人从多个角度去看待问题，例如之前在绝食活动中争取狱警支持的行为，就让很多人经历了从疑惑到不满再到叹服的心理过程。有一天，曼德拉还跟他们谈到利用政府颁布的恶法来对抗政府自己的可能性，很多犯人在曼德拉的启迪下打开了思路。
曼德拉的务实源于他对愤怒的克制，很多人一旦遭到冒犯就会怒火中烧，失去理智，但曼德拉接受的英式教育以及后来的斗争经验都告诉他：先解决心情，再解决事情。在他看来，一个愤怒的指挥官只会让所有士兵都跟他一起陪葬。所以，每当他遭受来自别人的打击或冒犯时，他都会冷静地想一想对方为何会这么做，凭借这多想的一步，他总是能以最恰当的方式做出回应。久而久之，他不仅受到了全体犯人的尊敬，也赢得了很多狱警的尊重。
狱警也是曼德拉需要努力团结的一股势力，这群掌握着压迫犯人权利的白人，其实也是社会的底层，他们大多来自贫困或离异家庭，受教育程度以及自信心都不高，所以当他们被派来罗本岛执行看守任务时，也会产生被流放的自卑和愤怒。最终，这些负面情绪就转嫁到了犯人身上。所以，曼德拉在率领犯人抵抗监狱不公待遇的同时，也告诫他们要尊重狱警。他自己则以身作则，例如有重要人物来看望他时，他都会在见面时给对方一一介绍带他过来的几位狱警。当然，这种“示好”并非卑躬屈膝，曼德拉拒绝像其他人那样称呼狱警为“主人”。恩威并施之下，很多狱警都选择了和曼德拉等人交好。曼德拉还发现，南非白人有一种特质很值得肯定，那就是一旦他们决定和你做朋友，他们就会做你真正的朋友，这种转变会十分彻底而持久。
但是，如何赢得阿扎尼亚泛非主义者大会成员的尊重，并将他们团结到所有犯人的队伍里，还是让曼德拉费了不少功夫。曼德拉希望将大家团结成一个紧密的家庭，即使有政治理念的分歧，他仍多次强调：“一起努力！和睦相处！”最后，曼德拉的诚心以及大势所趋使他们开始和非国大成员进行谨慎的合作。