1906年（1907年1月12日），科罗廖夫生于乌克兰日托米尔（Жито́мир）。因父母婚姻破裂，他童年的大部分时光是在外公外婆的家中度过的。
后在飞机设计师图波列夫领导的飞机工厂半工半读完成中学和高等专科学校的课程。
18岁那年，科罗廖夫进入基辅工学院的空气动力学系学习，在校期间他成为了一名真正的滑翔机飞行员，两年以后，他转入了著名的莫斯科国立鲍曼技术大学（这所大学成为日后苏联很多航空航天科技泰斗的摇篮），在以优异成绩毕业之后，科罗廖夫进入当时的图波列夫设计局任航空工程师。
1926年，科罗廖夫到莫斯科鲍曼高等技术学校学习，正式成为图波列夫的学生。
1929年，他拜齐奥尔科夫斯基为师，参与组建火箭喷气推进研究小组。
1932年，科罗廖夫成为喷气推进研究小组的负责人，出版了专著《火箭发动机》。
1933年，苏联成立了世界上第一个喷气科学研究所，科罗廖夫被任命为负责科研的副所长。第二年他出版了专著《火箭飞行》。
1936年，研究所成功地设计了苏联的第一代火箭飞机。
1937年，苏联大清洗运动中，图哈切夫斯基被以间谍嫌疑立即处决，科罗廖夫被当做同党处理，定为死刑，流放到西伯利亚服苦役。图波列夫在肃反运动中也被捕，只是由于苏联当时迫切需要飞机，所以让他继续从事飞机设计工作并领导工厂。经他的申请，最终将科罗廖夫调到工厂，从事飞机设计工作。
直到1944年科罗廖夫最终被释放。
第二次世界大战后，科罗廖夫利用德国V-2导弹的资料开展火箭研究。
1946年8月，被任命为弹道式导弹总设计师，组织科研生产。
1947年10月8日，仿制的近程弹道导弹试飞成功；
1948年10月10日，自行设计的近程导弹试飞成功；
1949年，中程导弹试验成功；同年5月，地球物理火箭发射成功；
1950年10月，改进的近程导弹发射成功；
1951年的8月、10月，曾两次用地球物理火箭将小狗送入高空；
1953年4月，远程弹道导弹和战术弹道导弹发射成功。
1957年8月3日，第一枚洲际导弹发射成功后，科罗廖夫采用捆绑火箭的办法，于同年10月4日将世界上第一颗人造地球卫星送入轨道；11月3日，第二颗人造地球卫星又载着小狗进入太空；
1958年5月，成功地发射了卫星式飞船。
1959年1月2日，发射月球1号探测器，它是世界上第一个摆脱地球引力的飞行器；9月12日发射的月球2号又成为第一个到达月面的人造物体；10月4日发射的月球3号拍摄了第一批月球背面照片。
从1959年底开始，科罗廖夫又开始研制金星和火星探测器，并为发射这些探测器研制了相应的运载火箭。
他还组织并实施了载人航天计划。1961年4月12日，东方1号飞船载着尤里·加加林进入太空，开辟了载人航天的新时代。在此后的3年中，他又领导实现了宇宙飞船轨道会合、女航天员太空飞行、多人飞行和太空行走等多项“第一”。
到1965年底，他已领导发射成功9个月球探测器、4个金星探测器和两个火星探测器。
但由于苦役折磨和长期工作，科罗廖夫于1966年1月14日病逝，没有能看到他倾注最后生命的礼炮号空间站上天。
1966年1月5日，在完成了月球8号探测器(Луна-8)发射工作后，科罗廖夫病倒了，医生诊断出其大肠有癌变症状并立即进行手术，但在手术进行时科罗廖夫就病逝了（有资料显示是因为医生处理不周所致）。