Необходимо скомпилировать PHP с опцией --with-mhash[=DIR]. Можно принудительно указать директорию с mhash.
Начиная с PHP 5.3.0, модуль mhash эмулируется через модуль Hash. Поэтому указание директории установки mhash не будет иметь никакого эффекта, и требуется включённый модуль хеширования для того, чтобы сделать поддержку mhash доступной.