این باشگاه در سال ۱۳۴۸ با نام باشگاه نیروی دریایی بندر پهلوی، با حمایت ناوبان کریم رستگاری راد و با مربیگری بهمن صالح نیا، که بازیکن این تیم نیز بود، تأسیس گردید. این باشگاه به صورت انحصاری در رشتهٔ فوتبال تیم‌داری می‌کرد پس از حضور تیم نیروی دریایی در مسابقات انتخابی جام تخت جمشید منطقه جنوب در حالی که دو تیم صعود می‌کردند به عنوان تیم سوم به لیگ یک تخت جمشید صعود کرد. در سال ۱۳۵۲ برای حضور در جام تخت جمشید سه اسم آرتمیس، ملوان و بایندر برای حضور در مسابقات پیشنهاد شد که ملوان انتخاب شد و نام این تیم به ملوان نیروی دریایی بندر پهلوی تغییر کرد با وقوع انقلاب ۱۳۵۷ و سرنگونی دودمان پهلوی و بازیافتن نام پیشین شهر انزلی نام این تیم نیز به ملوان نیروی دریایی بندر انزلی تغییر یافت.
صالح نیا که معلم ورزش مدارس انزلی بود تیم را با جمعی از شاگردان خود تشکیل داد. این تیم که کار خود را از مسابقات دانش آموزی کشور و مسابقات استانی شروع کرده بود طی مدت کوتاهی پا به عرصه لیگ دسته اول کشور گذاشت و از همان ابتدا با ارائهٔ بازی‌های زیبا و کسب نتایج شایسته، توجه همگان را به خود جلب نمود. ملوان از سال ۵۲ در لیگ ایران حاضر بوده‌است و سه بار در سال‌های ۷۵، ۷۸، ۸۱ و ۹۵[۵] به دستهٔ پایین‌تر سقوط کردند.
ملوان تا سال ۸۰ بهترین تیم شهرستانی تاریخ لیگ ایران بوده‌است. گرچه بعد از آن سپاهان و فولاد ملوان را به پله سوم سکوی افتخار شهرستانی‌ها بردند اما هنوز ملوان با کسب سه عنوان قهرمانی در جام حذفی کشور و چهار نایب قهرمانی، دو مرتبه حضور در بازیهای آسیایی و کسب عناوین متعدد بهترین شهرستانی در لیگ ایران و در جام تخت جمشید صاحب رکوردی قابل توجه در تاریخ فوتبال کشور است.