Родился в бедной крестьянской семье; в 1910—1913 — учился в начальной школе. В 1917 окончил двухклассное казахско-русское училище. В 1917—1919 батрачил у баев. С декабря 1919 — учитель.
В 1921—1923 — секретарь Текинского волостного исполнительного комитета. В 1923—1926 гг. работал в органах уголовного розыска. В 1926—1928 — ответственный секретарь Петропавловского окружного комитета союза «Кошчи».
В 1928—1938 — на оперативной работе в органах ОГПУ-НКВД. С 1936 — заместитель начальника областного Управления НКВД (Северо-Казахстанского, в 1938 — Алма-Атинского).
В 1932—1933 учился в Московском институте востоковедения имени Нариманова.
С 1938 года — третий, с 1939 года — второй, в 1946—1954 — первый секретарь ЦК КП Казахстана. Шаблон:Начало цитаты«В отличие от своих предшественников он был более активным и аккуратным руководителем, хорошим организатором. Под его руководством ещё более высокими темпами стала развиваться экономика Казахстана в послевоенные годы».Шаблон:Конец цитаты
С 1950 по 1954 годы — Председатель Совета Национальностей Верховного Совета СССР. Сталин называл Жумабая Шаяхметова «Орёл Востока»[2].
На Февральском (1954 года) пленуме ЦК КП Казахстана за несогласие с масштабом предлагаемой программы массового освоения целины был снят с должности: «Недостатки в руководстве промышленностью, сельским хозяйством, идеологической и организационно-партийной работой. Новые условия требуют новых масштабов и методов работы. В связи с этим…» Учитывая тот факт, что Казахстан должен превратиться в крупнейшую животноводческую базу на востоке СССР согласно принятой ранее программе, Шаяхметов считал: целину надо осваивать постепенно, создавая для этого необходимые условия и возможности, «иначе мы можем потерять свои земли». Шаблон:Начало цитатыЗемли в Казахстане хватает. Ежегодно мы планово, с учётом возможностей и потребностей осваиваем значительные площади для возделывания зерна. Эта работа обязательно будет продолжаться. Но мы решительно против того, чтобы за 2-3 года перевернуть 20—25 миллионов гектаров! Нельзя не брать во внимание, что в Казахстане растёт число скота, которому нужны хорошие пастбища, сенокосные угодья для заготовки нескольких миллионов тонн сена.Шаблон:Конец цитаты По мнению, которого придерживался сам Н. С. Хрущёв, в противостоянии его программе освоения целины Шаяхметовым двигали националистические мотивы, дескать, как писал Хрущёв в своих воспоминаниях, «Шаяхметов понимал, что если увеличить площади под зерно, то обрабатывать их казахи сами не смогут… придется звать на помощь добровольцев, желающих поехать на освоение целинных земель… А он этого вовсе не хотел, ибо тогда ещё сильнее снизится удельный вес коренного населения в Казахстане». Как пишет современный казахский историк Азимбай Гали, «Шаяхметов не смог противостоять колонизации Казахстана»[3].
Он не дал казахскую земля. Ер Азамат!