Матьяш Ракоши родился 9 марта 1892 года в городе Ада, Сербия. Являлся шестым ребенком в бедной еврейской семье. В годы Первой мировой войны воевал на Восточном фронте, где попал в плен и вступил в Коммунистическую партию Венгрии.
Вернувшись в Венгрию, Ракоши занимал посты сначала заместителя наркома, затем наркома торговли. Командовал Красной гвардией и Красной армией. После падения Венгерской советской республики эмигрировал в Австрию, арестован и через девять месяцев выслан из страны.
С 1920 года Матьяш Ракоши работал в исполкоме Коминтерна. В 1921 году избран его секретарем. В декабре 1924 года возвратился в Венгрию, чтобы организовать нелегальную компартию. В сентябре 1925 года арестован, предан военному суду, на котором прокурор требовал смертной казни, однако протесты европейской левой интеллигенции привели к передаче дела в гражданский суд, который приговорил его к восьми с половиной годам заключения.
В 1934 году после отбытия срока Ракоши вновь предстал перед судом по обвинению в преступлениях, совершенных в период советской республики, и приговорен в 1935 году к пожизненному заключению в каторжной тюрьме. В октябре 1940 года правительство Советского Союза обменяло его на трофейные знамена, захваченные при подавлении венгерской революции. С этого времени в Москве руководил заграничным бюро ЦК Коммунистической партии Венгрии. В феврале 1945 года вернулся в Венгрию вместе с советскими войсками и возглавил Компартию Венгрии, также стал заместителем премьер-министра.
В период его руководства Коммунистическая объединилась с социал-демократической партией в Венгерскую партию трудящихся и путем террора стала единственной легальной политической силой. Политик установил личную диктатуру, занимаясь копированием сталинской модели. С конца 1940-х годов развязал кампанию против сионистов, устранив своего политического конкурента - министра внутренних дел Ласло Райка.
При Ракоши происходила национализация экономики и ускоренное кооперирование сельского хозяйства. Экономическая ситуация в стране осложнялась тем, что Венгрия, как союзник Германии по Второй мировой войне, обязана несколько лет выплачивать СССР, Чехословакии и Югославии контрибуцию, иногда доходившую до четверти национального продукта.
В 1952 году Матьяш Ракоши занял должность премьер-министра Венгрии. В 1953 году предпринятые правительством меры принесли заметное облегчение, но лишь на короткое время. Провал планов индустриализации и изменения в СССР после смерти Сталина привели к тому, что на пленуме Центрального руководства партии 27-28 июня подвергнут критике и освобожден от поста главы правительства.
Пост генерального секретаря заменен постом первого секретаря Венгерской партии трудящихся, который сохранили за Ракоши. Серьёзные позиции в партии занял новый глава правительства Имре Надь и его сторонники. Проведена амнистия, прекращено интернирование и запрещено выселение из городов по социальному признаку. Капиталовложения направлены на развитие легкой и пищевой промышленности, ослаблено давление на сельское хозяйство, снижены цены на продукты и тарифы для населения.
Однако, сворачивание индустриализации и кооперирования в сельском хозяйстве вызывали резкую критику со стороны Матьяша Ракоши и его приверженцев. В конце концов, использовав привычные средства закулисной борьбы, сумел одержать победу над соперником, которого немалая часть трудящихся уже считала символом новой политики, гарантом лучшей жизни. В итоге 18 апреля 1955 года Имре Надь смещен с поста премьер-министра и исключен из партии.
Внутрипартийная борьба в Венгерской партии труда между сталинистами и сторонниками реформ усилилась после доклада Хрущева на XX съезде КПСС в начале 1956 года, и к 18 июля привела к отставке Первого секретаря Венгерской партии трудящихся Матьяша Ракоши.
Вскоре после восстания в Венгрии 1956 года Ракоши вывезен в СССР, где после Москвы и Краснодара помещен по личной просьбе Яноша Кадара в более отдаленные места и в менее комфортные условия. В результате бывший глава партии жил вместе с супругой в киргизском Токмаке, затем, в Арзамасе, а последние годы в Нижнем Новгороде. В 1970 году ему предложено отказаться от активного участия в венгерской политике в обмен на возвращение в Венгрию, но Ракоши отказался.
Умер Матьяш Ракоши 5 февраля 1971 года в возрасте семидесяти восьми лет. Похоронен на кладбище Фаркашрети в Будапеште.
В 1950 году в американском фильме «Виновен в измене» роль Ракоши исполнил актер Нестор Пайва
Жена - Феодора Федоровна Корнилова (1904-1979), уроженка Олекминского района Якутии и дочь якутского самодеятельного композитора, хормейстера и педагога Федора Григорьевича Корнилова. В браке с 1944 года.