1949年5月，中国人民解放军某部八连在解放上海之后，负责警卫南京路。虽然上海已经解放，但是美蒋的残余势力仍在暗中活动，妄图用资产阶级的香风毒气来瓦解我们解放军战士的斗志。三排长陈喜在进驻南京路后，受到香风毒气的熏染，不仅扔掉有补丁的袜子，还嫌弃妻子春妮太土跟不上潮流。新战士童阿男自由主义思想严重，受到批评后竟离开连队扬长而去。班长赵大大看不惯这大上海，闹着要到有仗打的地方去。指导员路华和连长鲁大成觉察到这些问题的严重性，决定按照毛主席的指示，从阶级教育着手，进行“敌前练兵”。这时，童阿男的姐姐遭到特务分子的谋害，幸亏路华、鲁大成等掌握了情况及时搭救，并逮捕了特务阿七。这件事使战士们提高了觉悟，在路华等的教育下，他们决心痛改前非，纷纷报名参加志愿军赴朝参战，陈喜、赵大大、童阿男等被光荣批准了。
《霓虹灯下的哨兵》最初是南京军区前线话剧团于1962年创作演出的话剧。故事蓝本取材于驻守上海南京路上的好八连。该剧公演后获得极大反响，全国各地剧团争相排演。1963年，前线话剧团进京演出期间，周恩来总理指示一定要把该剧搬上银幕，并且特别关照：电影要用前线话剧团的原班人马，一句台词不能改，一个演员不能换。为了方便拍摄，文化部决定由好八连所在地的上海天马电影制片厂摄制，而周总理又点名要八一厂的王苹执导，因为她既熟悉部队生活，也熟悉上海。
王苹接到任务后，与沈西蒙一起研究修改剧本，还到八连体验生活，听取战士看完话剧的感受和对未来要拍的电影有什么希望。在创作中，她根据电影特点对剧本修改提了意见，以打破舞台框框，丰富片子的情节和细节。比如，话剧中有的戏发生在连队宿舍，王苹考虑宿舍空间窄小，在场面调度上受制约，摄影机镜头拉不开，就提议把剧情发生地点改在南京路
先施公司门口。
分镜头剧本完成后送到时任文化部副部长的夏衍审阅，夏衍提出片子不能超过两小时，要遵循严谨的现实主义创作方法，建议删掉“反美斗争”一场戏。所以，在拍摄时，王苹按照他的意见没有拍“反美斗争”。但是等到样片完成送审时，负责审查的领导指出话剧中“反美斗争”一场是得到过毛泽东主席肯定的，不能删除。于是，王苹又补拍了相前情节。
该片既保持了舞台演出的许多优点，又发挥了电影艺术的特长，有了新的创造与发展。影片一开始的几个战斗的镜头，既交代了时代和环境，又突出介绍了主要人物。而陈喜在读完春妮的信后出现的那些回忆场面也是非常精彩的。陶玉玲在银幕上把春妮这个典型的农村妇女干部演得更加光彩四射，表演没有舞台痕迹，非常自然。（戏剧导演
欧阳山尊评）
该片激荡人心的力量在于它的深刻的主题思想是通过鲜明的艺术形象体现的，特别是其中的一群革命战士的英雄形象，在主题思想的完满体现上承担着重大的任务。他们有共同的品质，又生活在同一个集体中，但丝毫不妨碍他们各具鲜明的个性。创作者们通过剧烈的冲突使每个人物的思想都从不同的起点有所发展，通过性格化的语言动作，让人物表现出性格差异。当然，如果将银幕与舞台对比，那么某些角色或是由于银幕上某些场次情绪不如舞台那么连贯，或是由于表演上还留有舞台痕迹，比舞台上似显逊色一些。而春妮一角在银幕上却进展显著，导演镜头调度突出了剧场观众不易充分察觉的人物的细腻表情和情绪变化，演员也准确地掌握了分寸。（中国电影评论学会名誉会长
罗艺军评）