历史上海参崴曾自唐、辽、金起,这里已渐见人民活动。元时称为永明城。清时该地被划为吉林将军的领地内。
自17世纪中期,沙俄皇朝伺机东侵,寻求在远东地区开拓不冻港口。沙俄和清朝曾有着多次领土上的纠纷。虽然在清康熙年间清朝和沙俄签订的《尼布楚条约》中明确订明海参崴属清朝,但是,清朝中叶国势日衰,鸦片战争后,在1856年清政府和沙俄签订不平等的《瑷珲条约》,规定包括海参崴的乌苏里江以东地区为中俄共管。4年后,在第二次鸦片战争中,俄国又与清政府签订了不平等的《中俄北京条约》,清政府割让了乌苏里江以东包括库页岛在内的约40万平方千米的领土,其中包括海参崴。
随后其成为沙俄在远东地区的一个重要的军事基地,不过由于距离俄国本部太远,所以该地的发展缓慢。在1891年西伯利亚铁路开通至此,亦开始有海运路线由其往返日本神户、长崎及中国上海等地。
1904年至1905年间日俄战争中,其曾被日本海军派遣的分遣舰队突袭。幸有俄军巡洋舰队坚守,使日本海军转移目标攻击辽东半岛和大连。
1917年俄国十月革命后,由于苏联国内战争的混乱情况,反共产党的势力在此和俄国远东地区渗入。当中包括一些外来势力如英国、美国和日本,日英联军在1918年4月借口当地有日资设施被袭,进驻金角湾和此城,1920年远东滨海地区建立“远东共和国”,持续至1922年由苏联收复。
1930年代开始,此城成为苏联流放政治犯的主要地点,而在第二次世界大战前后,先后囚禁在这里的包括苏联和日本的战俘。
1954年苏共第一书记赫鲁雪夫到临此城,并表示其可以跟美国的旧金山相比,亦奠定了其作为苏联远东地区最重点的发展城市之地位。
在2001年7月16日,中国国家主席江泽民与俄罗斯总统普京,在莫斯科克里姆林宫签署《中俄睦邻友好合作条约》,代表中国正式透过官方文件,继续确认此城及邻近远东地区不再为中国的领土。不过,中国民间依然有声音抗议当年俄国强占海参崴。