1938年日寇侵占威海后，在全区推行保甲制，组织保甲自卫团。威海人民在中国共产党的领导下，同日伪军进行针锋相对的斗争。10月，在桥头区的墩前、雅格庄等村，建立青年抗日先锋队（简称“青抗先”）。随后，民兵组织便在威海城乡普遍建立。

    建制演变在抗日战争期间，始为青年抗日先锋队、青年妇女队、游击小组，村设抗日自卫团，组织各抗日组织站岗放哨，夜间巡逻，防奸捉特，或到日伪据点贴标语、撒传单，打击伪军。各区设区队部，一面指挥区中队的对敌斗争，一面领导各村抗日自卫团开展抗日活动。各区区队部受威海卫行政办事处武装科领导。

    解放战争期间，农村抗日自卫团改称自卫团，下设班、排、连。1945年9月29日，城市成立工人纠察大队，大队部设大队长、政委，下辖中队，中队设班、排。

    建国后，民兵制度逐步完善健全。1953年，全市普遍建立民兵班，并建立民兵基干团，1958年，全市开展全党抓武装、全民皆兵的活动。市和公社建民兵师，厂矿建民兵团，学校建民兵营。12月13日，威海市民兵师成立。

    组织整顿大办民兵师以后，每年进行一次民兵组织整顿，任务是：总结工作，表彰先进，办理民兵入队出队，改选民兵干部，健全和改进各项制度。1981年，民兵组织进行全面整顿：缩小民兵组织范围，压缩民兵年龄，简化民兵组织层次，建立防化、通信、侦察等专业分队，由单一兵种发展为多兵种。同时，把民兵制度同预备役制度、民兵工作同战时兵员动员工作结合起来，加强后备力量建设。