Historia opowiedziana w „Mafii” dzieje się w latach 30-tych XX wieku i traktuje o karierze Tommy’ego Angelo, gangstera z przypadku. Ten młody taksówkarz z miasta Lost Heaven miał nieprzyjemność załapać kilka kursów do „szemranych” dzielnic. Właśnie w trakcie jednego z takich kursów został zaatakowany przez zakapiorów niejakiego Morello. Gdyby nie przytomność umysłu i szybkie nogi, skończyłby jako przynęta dla ryb w mętnych wodach zatoki św. Piotra. W trakcie ucieczki przed zbirami schronił się we włoskim barze... i już tam pozostał. Oferta pracy złożona przez Dona Salieri - właściciela baru i całej dzielnicy włoskiej w mieście, wydawała się ciekawsza niż ciężkie życie taksówkarza, poza tym i tak nie miał wyjścia. Został gangsterem.
Gra jest podzielona na 22 misje, które ukazują jak ciężkie jest żołnierza mafii. Zbieranie haraczy od właścicieli knajpek i stacji benzynowych, przejmowanie transportów nielegalnego alkoholu, przekazywanie kradzionych aut do złodziejskich „dziupli”, likwidowanie zdrajców i członków konkurencyjnej rodziny – oto chleb powszechny Tommy’ego.
Zabawa odbywa się na dwóch płaszczyznach: kierowania samochodem oraz sterowania poczynaniami bohatera w perspektywie TPP. Umiejętna jazda autem jest ważnym czynnikiem w grze, bowiem misje rozgrywają się w różnych zakamarkach miasta, do których się trzeba jakoś dostać, i tutaj wóz jest niezbędny; jest jeszcze jedna alternatywa – jazda tramwajem.
Aby jeździć autem, wcale nie trzeba sobie go kupować. W barze u Salieri’ego zawsze jest jakaś wolna bryczka, poza tym można samochód po prostu ukraść. Tommy ma dobrych nauczycieli złodziejskiego fachu: jąkałę Ralpha i sprytnego mechanika Lucasa Bertone, którzy chętnie się swoją wiedzą dzielą.
Policja w Lost Heaven jest prawie wszędzie, co rusz napotyka się wozy stróżów prawa lub piesze patrole. Za nadmierna prędkość lub przejazd na czerwonym świetle można otrzymać mandat, za spowodowanie kraksy i ucieczkę z miejsca wypadku czeka areszt, a cięższe przestępstwa (no. potracenie policjanta) kończą się zaalarmowaniem wszystkich gliniarzy w miesicie i nieprzejednana ich chęcią do ukatrupienia Tommy’ego bez zabawy w zaobrączkowanie.
Zadania wykonuje się po kolei, czyli następne jest dostępne po zaliczeniu poprzedniego. Liniowość ta zostaje niekiedy zachwiana za sprawa subquestów. Dodatkowa prace zleca mechanik Bertone i polega ona zazwyczaj na obiciu komuś facjaty, ostrzeżeniu lub ratowaniu kumpli Lucasa lub załatwienie mu jakiegoś auta. Oprócz trybu fabularnego „Mafia” zawiera dwa dodatkowe mody: Free Ride oraz Race. Pierwszy z nich to jakby przedłużenie zabawy z części fabularnej gry. Gracz zwiedza miasto i zarabia na życie wożąc pasażerów jako taksiarz, eliminując gangsterów, biorąc udział w wyścigach itd. Wszystkie te czynności maja wspólny cel: zarobić jak najwięcej kasy, która jest tu najważniejsza.
