록키(실베스터 스탤론)에게 무시무시한 적수 이반 드래고(돌프 룬드그렌)가 도전장을 던진다. 소련이 정책적으로 키운 드래고는 첨단의 인체공학을 응용한 초현대식 장비로 훈련을 받아 강력한 파워와 테크닉을 갖춘 강철 같은 사나이. 드래고는 록키와 시범경기를 갖기를 원하지만, 록키의 절친한 친구인 아폴로(칼 웨더스)가 그의 도전을 받아들인다. 록키와 훈련을 하고 링에 오른 아폴로는 드래고의 살인적인 공격을 견디지 못하고 숨을 거두고 만다. 록키는 친구를 위해 드래고에게 도전하기로 결심하고 대결 장소인 소련으로 향한다. 드래고가 과학적이고 체계적인 훈련을 받는 동안, 록키는 열악한 환경에서 혹독하게 몸을 단련시키는데…