Celý príibeh Mafie 2 je zasadený do obdobia druhej svetovej vojny. Hlavný hrdina, Vito Scaletta, sa vďaka vojnovému úrazu vráti späť domov, do svojeho rodného mesta - Empire Bay. Vito ešte ani sám nevie, čo má v pláne, no na to stretáva svojho dobrého priateľa, Joea Barbara.
Ten mu porozpráva o dianí v meste a vo svete. Medzi rečou, Vito spomenie aj svoj návrat späť do armády, čo Joea zaskočí. Rozhodne sa mu pomôcť a vďaka svojim kontaktom mu vybaví papiere na to, aby mohol ostať v Empire Bay.
Keďže Vito nemá nič na práci a potrebuje zohnať peniaze, s pomocou Joea si vybaví svoju prvú "prácičku" - krádež auta. No, vtedy ešte ani netušil, na čo sa dal. A ani sa mu nemohlo zdať, čo ešte bude robiť...
