Se afirmă că Mafia ca organizaţie s-a născut în 1282 la Palermo (capitala Siciliei, Italiei), atunci când cetăţenii de aici, luând arma în mână, au reuşit să elibereze Sicilia de dominaţia franceză. Cuvântul de ordine al insurgenţilor „Moarte francezilor, intruşi abuzivi!” („Mort aux Francais, intrus abusifs!”) a devenit sigla formată din primele litere ale acestor cuvinte. Alţi lingvişti consideră că la origine se află un cuvânt arab care exprimă o negaţie hotărâtă.
Este greu de stabilit cine are dreptate, sigur este însă că Mafia s-a născut ca o societate secretă pentru protecţia libertăţii şi a intereselor celor săraci. Mult mai târziu, în secolul al XIX-lea ea a degenerat într-un clan terorist, membrii ei punându-se în serviciul feudalilor bogaţi, organizaţia devenind instrumentul aservirii ţăranilor.
Istoricul italian Francesco Marchese afirmă că statutul secret al Mafiei a ieşit la iveală pentru întâia oară în timpul procesului unor membri ai săi, la Palermo, la 14 august 1877. Potrivit depoziţiilor făcute de aceştia la proces, regulile Mafiei erau: să se ajute între ei pentru a răzbuna sângele ofensat al oricărui membru al confreriei, să se facă totul pentru a scăpa un „frate” căzut în mâinile justiţiei, să se împartă echitabil, conform deciziei şefului „familiei” tot ceea ce se câştiga indiferent prin ce mijloace, să rămână fidel jurământului dat şi să păstreze toate secretele societăţii, orice infracţiune de la aceasta fiind pedepsită cu moartea în răstimpul a 24 de ore.