वह अमृतसर में पांचवीं पार्टी कांग्रेस में पार्टी के केंद्रीय कार्यकारी और केंद्रीय सचिवालय के लिए चुने गए थे। इस समय भारतीय कम्युनिस्ट पार्टी के भीतर आंतरिक संघर्ष बढ़ गया था। एसए डांगे के तहत पार्टी नेतृत्व चीन-भारतीय युद्ध के समय भारतीय राष्ट्रीय कांग्रेस की अध्यक्षता में भारत सरकार का समर्थन करने के पक्ष में था। इसके अलावा, अंतर्राष्ट्रीय कम्युनिस्ट आंदोलन के चीन-सोवियत मतभेदों के बाद, डैंज के तहत पार्टी नेतृत्व यूएसएसआर लाइन का पीछा कर रहा था, जिसे पार्टी के भीतर समर्थक चीनी नेतृत्व ने संशोधनवादी कहा। डांगे के तहत समूह को " अधिकारियों " और दूसरे समूह, " वामपंथी " के रूप में जाना जाता था। सुंदरय्या वामपंथी समूह के एक प्रमुख नेता थे और उन्होंने पार्टी के प्रमुख नेतृत्व की नीतियों के विरोध में पार्टी के अमृतसर कांग्रेस के दौरान उन्हें दिए गए पदों से इस्तीफा दे दिया। भारत- चीन सीमा युद्ध के समय नवंबर 1962 के दौरान उन्हें गिरफ्तार कर लिया गया और कैद कर दिया गया।

विभाजन खुले में आया और बाएंवादियों ने अक्टूबर-नवंबर 1964 में सातवीं पार्टी कांग्रेस का आयोजन किया और भारतीय कम्युनिस्ट पार्टी (मार्क्सवादी) नामक एक नई पार्टी बनाई। सुंदरय्या को उनके महासचिव के रूप में निर्वाचित किया गया था। हालांकि, इस सम्मेलन के तुरंत बाद, सुंदरय्या और कई पार्टी नेताओं को कांग्रेस सरकार द्वारा उत्पादित एक फैसले के कारण गिरफ्तार कर लिया गया, और उन्हें मई 1966 तक हिरासत में लिया गया। फिर, वह तत्कालीन भारतीय प्रधान मंत्री की अवधि के दौरान गिरफ्तारी से बचने के लिए भूमिगत हो गए, इंदिरा गांधी, जिन्होंने 1975-1977 के बीच संवैधानिक रूप से गारंटीकृत ' मौलिक अधिकार ' को निलंबित करने के लिए भारतीय संविधान के आपातकालीन प्रावधानों का विकास किया था।

सुंदरय्या 1976 तक पार्टी के महासचिव बने रहे। उस वर्ष, उन्होंने पार्टी के महासचिव के रूप में अपनी पद से इस्तीफा देने का फैसला किया और पार्टी द्वारा अधिग्रहित "संशोधित आदतों" के लिए अपनी पोलिट ब्यूरो सदस्यता छोड़ दी। 

भारतीय कम्युनिस्ट पार्टी (मार्क्सवादी) में
विधान करियर
तेलंगाना पीपुल्स संघर्ष और सबक
कम्युनिस्ट आंदोलन में