Відзнака заснована Указом НКВС від 6 листопада 1940 р. для нагородження особового складу органів та військ НКВС СРСР за заслуги у справі керівництва або безпосереднього виконання роботи з охорони державної безпеки СРСР. Матеріалом для нагороди було обрано срібло.
В експозиції Музею «Пам'ять єврейського народу та Голокост в Україні» представлено знак «Заслужений працівник НКВС», який належав Дерябіну Івану Костянтиновичу.