1949年4月23日,华东军区海军在江苏泰州白马庙成立。张爱萍为华东海军司令员兼政治委员,以
第三野战军所属部分部队为基础(苏北海防纵队,
刘公岛起义时的海军教导队等为种子),贯彻团结改造国民党原海军人员并大量吸收青年知识分子的建设方针,利用国民党起义投诚缴获的舰艇,以及征用、购置的舰船组成,随着舰船的修复又增加
步兵第30军(6252人)和第35军(5398人)来扩充华东海军领导机关和部队。
机关先在江阴,后到上海接收舰艇,后又随军区机关迁,
南京,在原
国民党交通部大楼办公。
第四舰队1950年4月在上海组成,是海军舟山基地的前身,10月28日进驻
舟山,当时有战大四舰登大四舰,以及炮艇舟大等舰船38艘1300余人,司令员高志荣,政治委员张克辛。
第五舰队系东海舰队某登陆舰支队的前身,由“井冈山”型山字号登陆舰6艘和“黄河型”河字号登陆舰6艘及部分登陆艇组成。初建时称华东海军第1纵队江防舰队,胡大荣任司令员,谢立全任政治委员,组建后驻上海虬江码头。
第六舰队系东海舰队某驱逐舰支队前身,由“广州”、“沈阳”、“长沙”、“西安”、“武昌”、“济南”、“嫩江”舰组成,由原华东海军的第一、第二护卫舰大队舰艇整编而来,原第三十军军长饶子健任司令员兼政治委员,组建后驻上海高昌庙大来码头,后进驻舟山塔山。
第七舰队由“南昌”、“延安”、“瑞金”、“盐城”、“邯郸”、“兴国”共6艘护卫舰和炮舰组成,在南京成立后驻上海吴淞张华滨,司令员饶守坤,政治委员张雄,第二年进驻舟山,与原第四舰队合编为舟山基地兼第七舰队。
1949年4月28日,在新接收的原国民党海军江阴要塞司令部礼堂召开大会,宣布了华东军区海军领导机关成立及司、政、后办公机构名单,部署了部队组建,接收起义人员、装备等各项工作。
1949年5月27日,
上海宣告解放。翌日,张爱萍便率海军机关进驻原国民党海军部门比较集中的
上海市。
1949年8月10日,为便于接受华东军区暨
第三野战军的领导,华东军区海军机关从上海迁至南京,办公地点设在原国民党政府交通部办公大楼。