Общественная медаль «В память о службе в Военно-Морском Флоте» представляет собой золотистый круг, диаметром 32 мм. На аверсе (лицевой стороне) медали помещены профильный портрет адмирала А.Г. Головко и стилизованное изображение большого противолодочного корабля. В верхней части надпись: «АДМИРАЛ А.Г. ГОЛОВКО». На реверсе (оборотной стороне) медали, на фоне сопок изображены подводная лодка, большой противолодочный корабль и самолет палубной авиации. По кругу расположена надпись: «В ПАМЯТЬ О СЛУЖБЕ В ВОЕННО-МОРСКОМ ФЛОТЕ».

Медаль при помощи ушка и кольца соединяется с пятиугольной колодкой, обтянутой белой шелковой муаровой лентой, шириной 24 мм. С правого края расположена темно-синяя полоска, шириной 6 мм. С левого края, с отступом в 4 мм расположены три красные полоски, шириной 1 мм. Расстояние между полосками по 2 мм.

На оборотной стороне колодки имеется булавочный зажим для крепления медали к одежде.