Рудольф Пёх родился 17 апреля 1870 года в городе Тернополь, Королевство Галиции и Лодомерии.
Работа в этнологическом музее в Берлине вдохновила Рудольфа Пёха провести экспедицию в Новую Гвинею (1901-1906), где он был первым, кто предложил научные доказательства существования пигмеев на этом острове. Техническое оборудование Пёха состояло из фотокамеры, кинокамеры и фонографа, что позволило записывать коренное население на видео и фото. Его 72 записи песен и повестей папуасского языка в то время были большой сенсацией.
Между 1907 и 1909 годами состоялась вторая экспедиция под руководством Пёха в Южную Африку. Во время Первой мировой войны он проводил этнологические исследования в лагерях для военнопленных.
Хотя многие из теорий Пёха о коренных жителях Новой Гвинеи оказались ложными, однако современные исследователи и музеи и в дальнейшем пользуются его исследованиями и коллекциями. Его техническое оборудование экспонируется в Музее естествознания в Вене.
Умер в Инсбруке 4 марта 1921 года. Похоронен на Центральном кладбище в Вене.
В 1931 году в честь Рудольфа Пёха названа улица в Вене в районе Пенцинг.