извиняясь, «если госсекретарь был обижен словами, которые приписывают министру»

Моше Яалон родился под фамилией Смилянский в городе Кирьят-Хаим, в семье выходцев с Украины. Прозвище «Буги» он получил в детстве, от друзей. При переезде в кибуц поменял фамилию на Яалон по имени группы из движения «Учащаяся и работающая молодёжь».
В кибуце работал в коровнике и трактористом. Женат, трое детей.
Окончил Хайфский университет.
В 1968 году призвался в ЦАХАЛ, в пехотную бригаду Нахаль. В 1971 году заканчивает службу в армии в звании старшего сержанта. С началом войны Судного дня призывается в 55 дивизию и вместе с ней участвует в захвате Суэцкого канала. После окончания войны возвращается на действующую службу и с отличием заканчивает офицерские курсы. В конце 70-х гг. Яалон назначен на должность командира спецподразделения бригады Цанханим. В должности заместителя командира Сайерет Маткаль принимал участие в операции «Мир Галилее» (Ливанская война (1982)). В 1985 году ранен в схватке с террористами. После выздоровления направлен на учёбу в штабной колледж Кимберли, в Великобританию, после его окончания назначен командиром Сайерет Маткаль в звании полковника. В 1990 году возглавляет бригаду Цанханим. В 1998 году назначен командующим Центрального военного округа. 9 июля 2002 года меняет Шауля Мофаза в должности начальника Генштаба Израиля.

В 2005 году, министр обороны Израиля Ш. Мофаз не продлевает каденцию Яалона ещё на год, и «Буги» подаёт в отставку. По мнению самого Яалона, причиной не продления его каденции стали его разногласия в оценке ухода армии и поселенцев из Газы с премьер-министром Израиля Ариэлем Шароном.