1942년 미국 뉴욕 브롱스에서 이탈리아 이민자의 아들로 태어난 그는 가난한 어린 시절 10대 때부터 웨이터, 캐디 등의 아르바이트를 하며 지냈다. 마리오 가벨리는 캐디의 일을 하며 자연스럽게 주식을 알게 되었고 이러한 관심들로 가치투자의 원조로 불리는 칼럼비아대학에 진학하게 된다. 마리오 가벨리는 스승 로저 머리 교수의 영향을 받아 최고의 가치투자자로 인정받게 된다. 1967년 대학 졸업 후 자동차부품 담당 애널리스트로 월가에 데뷔했으며, 1977년 독립하여 '가벨리자산관리회사' 를 설립한 후 1998년까지 21년간 연평균 21%라는 경이적인 수익률을 기록했다.