大革命失败后，被迫出国，于1928年在法国巴黎参加了中国共产党。1931年秋回国，任中共鄂豫皖省委宣传部长兼鄂豫皖省苏维埃政府文化委员会主席。1934年被选为中华苏维埃共和国中央委员，从事宣传教育工作并主持中央党校。抗日战争和解放战争时期，历任陕北公学校长、华北联合大学校长、华北大学副校长等。中华人民共和国建立后，曾任中国人民大学副校长、校长，东北师范大学和山东大学校长，第一至五届全国人大代表，全国政协委员、五届政协常委等职。
他强调研究马克思列宁主义的教育理论和党的教育方针。提倡实事求是和独创精神，主张办适合中国国情的有中国特色的教育。他重视德智体全面发展，强调学校工作要在党的领导下，发挥各级组织的作用和师生员工的积极性，尤其应重视师资的培养和提高。著有《成仿吾教育文集》、《战火中的大学》等。
成仿吾的文学活动以文艺批评为主。他的文学批评思想主要表现在：
- 在肯定文学的社会使命前提下追求超功利的艺术的“全”和“美”，认为“内心的要求”是文学的原动力。
- 对文艺批评的任务、特质、批评家人格的修养等进行研讨。
- 对郭沫若、郁达夫、冰心、许还山、王统照、鲁迅等人的作品进行评论。
- 批判复古论调和整理国故运动，保卫新文学的正确方向。
- 发展五四文学成果，提倡革命文学。