Tướng Hùng sinh năm 1962 tại Phú Thọ nhưng có quê tại Từ Sơn, Bắc Ninh. Ông Hùng đã từng theo học tại Trường Đại học Kỹ thuật Quân sự, sau đó du học tại Liên Xô cũ và Úc.
Tướng Hùng có bằng Thạc sĩ Quản trị kinh doanh, Thạc sĩ Điện tử Viễn thông, Kỹ sư vô tuyến điện.
Năm 1995, ông Hùng bắt đầu công tác tại Công ty Điện tử Viễn thông Quân đội, tiền thân của Tập đoàn Viettel ngày nay từ năm 1995 với các vị trí trợ lý kỹ thuật, Phó trưởng phòng rồi Trưởng phòng Đầu tư Phát triển.
Từ tháng 6/2000 đến nay, ông giữ các vị trí Phó giám đốc Công ty Điện tử Viễn thông Quân đội và Phó tổng giám đốc Viettel.
Ngoài vị trí Phó Tổng giám đốc Tập đoàn Viettel, đến nay ông Hùng còn đại diện phần vốn của Viettel và giữ nhiều chức vụ quan trọng tại nhiều doanh nghiệp khác:
+ Thành viên hội đồng quản trị Tổng công ty cổ phần Xuất nhập khẩu và Xây dựng Việt Nam (Vinaconex)
+ Phó chủ tịch HĐQT Ngân hàng TMCP Quân đội (MB Bank)
+ Thành viên HĐQT Công ty Tài chính cổ phần Vinaconex-Viettel (VVF)
+ Thành viên HĐQT Công ty Đầu tư Quốc tế Viettel (Viettel Global)
+ Chủ tịch HĐQT Liên doanh Viettel – CHT...
Ông Hùng được thăng quân hàm từ Đại tá lên Thiếu tướng vào cuối năm 2012, sau Trung tướng Hoàng Anh Xuân và Thiếu tướng Dương Văn Tính.
Hiện Viettel còn 4 Phó tổng giám đốc khác là ông Dương Văn Tính, Lê Đăng Dũng, Tống Viết Trung và Hoàng Công Vĩnh.
Tướng Hùng được đánh giá là một trong những người góp công rất lớn giúp Viettel trở thành một Tập đoàn hùng mạnh như ngày nay.
Ông Nguyễn Mạnh Hùng được giới truyền thông bình chọn là 1 trong 10 nhân vật ICT Việt Nam tiêu biểu vì có nhiều đóng góp quan trọng, thiết thực và hiệu quả của họ cho sự phát triển của ngành CNTT-TT Việt Nam trong một thập kỷ (giai đoạn 2000 - 2009).