克鲁泡特金主张进化的重要因素是合作而不是竞争，因此人类社会应该发展成分散的、非政治的、合作的社会，人们不受政治、宗教、军队的干预，充分发挥自己的才能。他提出的无政府共产主义主张取消私人财产和不平等的收入，按需分配，主张脑力劳动和体力劳动相结合。他认为要实现这种理想，需要从教育青少年入手，青少年不仅要学习书本知识，还要参加劳动和户外考察。这一设想，为现代教育理论学者普遍接受，克鲁泡特金根据自己监狱生活的经验，主张对监狱制度进行彻底的改革，应以教育为主，惩罚为辅。

1872年是克鲁泡特金一生中的一个重要的转折点。是年2月，他抱着了解西欧革命运动的目的出国旅行。他首先抵达瑞士，在苏黎世和日内瓦等地访问了不少俄国留学生(大多是巴枯宁的信徒)，并且与第一国际建立了联系。当时的瑞士，是无政府主义运动的一个中心，以米哈伊尔·巴枯宁为精神领袖的汝拉联合会正在那里展开积极的活动。这个派别在第一国际中激烈地反对以马克思、恩格斯为代表的总委员会的领导，大肆宣扬无政府主义思想。克鲁泡特金和他们一拍即合。他虽然因为未能与巴枯宁直接会晤而抱憾终生，但是与汝拉联合会的成员们相处的日子却使他毕生难忘。在这段时间里，他结识了一些著名的无政府主义活动家，如吉约姆、马隆等，阅读了大量宣传无政府主义思想的报刊和小册子，还深入到汝拉联合会的普通成员(主要是钟表工人)中去进行实际活动。眼见汝拉山区钟表工匠自愿组成互助的团体，更增加了他自由意志论的信念。所有这一切，不能不对克鲁泡特金无政府主义思想的发展带来深刻的影响。
1872年5月，克鲁泡特金从国外旅行归来。不久,经大学同学德米特里·克列门茨介绍，加入了彼得堡的一个革命民粹派的秘密组织——柴可夫斯基小组。当时，民粹派运动在俄国正方兴未艾。民粹派建立了不少革命组织，在农民和工人中展开了宣传和鼓动。柴可夫斯基小组建于1871年秋，是当时最大的民粹派组织。克鲁泡特金加入以后，立即成了它的一名重要的骨干。由于他在当时已蜚声于上层社会和知识界，又有公爵的贵族称号，因而以波罗丁的化名进行地下革命活动。他积极参加各种工人集会，向群众讲述国外工人运动的情况，包括第一国际的活动和巴黎公社的斗争，同时宣传无政府主义思想。
1873年，克鲁泡特金受组织的委托，为柴可夫斯基小组起草了一份纲领，题为《我们是否应该研究未来制度的理想?》这个纲领的主要思想是属于克鲁泡特金的。这个纲领指出：“我们的理想是这样一种社会制度，它的发展不是建立在人与人斗争的基础之上，而是建立在人与自然斗争的基础之上”。因此，在未来社会中必须废除“任何的个人所有制，任何的集股所有制和劳动组合所有制”，“以前各代人通过这样或那样的形式积累起来的全部资本应成为全体人民和整个社会的财产”。纲领还指出：“一切政府的共同特点在于它剥夺了社会成员决定自己事情的那部分权利，并将其交给了某些个人”，因此任何中央政权和政府都必须坚决反对，而应代之以农业村社和工业劳动组合的联合。为了实现这种理想，纲领认为必须以社会革命的方式推翻现存制度。从这个纲领大致可以看到克鲁泡特金后来所全面论述的无政府共产主义思想的基本雏形。
从1874年起，沙皇政府加强了对革命运动的镇压，柴可夫斯基小组首当其冲。在领导人先后被捕，组织遭到严重破坏的情况下，克鲁泡特金还继续进行活动。可是没有多久，他也因叛徒的告密而遭逮捕，并被投入彼得保罗要塞。他在这个要塞里被关押了将近两年，然后被转移到另一个地方等待审讯。那时他得了病，便又转到陆军医院的监房去就医。1876年，在狱外朋友们的精心策划下，克鲁泡特金从陆军医院中逃了出来。