Матти Ярвинен родился 18 февраля 1909 года в городе Тампер, Финляндия. Рос в семье Вернера Ярвинена - победителя внеочередных Олимпийских игр 1906 года и бронзового призера IV летних Олимпийских игр 1908 года в соревнованиях легкоатлетов. Поэтому не удивительно, что Матти с детства занимался спортом, мечтая стать чемпионом в метании копья. Кстати, впоследствии два его старших брата также добились успехов в спорте на международном уровне.
В 11 лет он уже участвовал в различных соревнованиях по метанию копья среди школьников. Огромное впечатление на юного спортсмена произвела встреча в 1920 году с Йонном Мююря - олимпийским чемпионом VII летних Игр в метании копья, после которой Матти, получив от чемпиона наставления, стал еще настойчивее тренироваться. Он принимал участие в различных соревнованиях и, начиная с 1930 года, стал выигрывать одно соревнование за другим.
Его главной победой в спортивной карьере стало золото X летних Олимпийских игр 1932 года - Матти стал олимпийским чемпионом в метании копья, улучшив при этом олимпийский рекорд более чем на 6 метров - его результат 72 метра 71 сантиметр. Кстати, во время награждения победителей в метании копья весь пьедестал почета заняли финские спортсмены, а на самой верхней ступени стоял Матти Ярвинен. В честь этой победы на Олимпийском стадионе в Хельсинки была сооружена башня высотой, равной рекордной длине полета копья Матти.
Помимо титула олимпийского чемпиона Ярвинен также дважды становился чемпионом Европы - в 1934 и 1938 годах, а еще он был многократным рекордсменом мира в метании копья.
В период с 1930 по 1936 год Матти десять раз улучшал мировые рекорды, доведя результат от 71 метра 06 сантиметров до 77 метров 23 сантиметров.
А в 1936 году он вновь принял участие в Олимпиаде, которая проходила в Берлине, но в этот раз неудачно - 5 место с результатом 69 метров 18 сантиметров. По мнению современников, только вывихнутый локоть помешал ему стать чемпионом этих Игр.
С началом Второй мировой войны Ярвинен в числе других спортсменов ушел на фронт и служил на Карельском перешейке, где обучал солдат в метании ручных гранат. В послевоенные годы он, получив образование, работал в области экономики, не забывая и про спорт.
Матти Хенрик Ярвинен скончался 22 июля 1985 года в городе Хельсинки, Финляндия, в возрасте 76 лет.