Suponiendo que Sphinx 0.9.9 es la más reciente procedemos a instalarlo, por si acaso échale un vistazo la sección de descargas de Sphinx.

$ mkdir src
$ cd src
$ wget http://www.sphinxsearch.com/downloads/sphinx-0.9.9.tar.gz
$ tar xvzf sphinx-0.9.9.tar.gz
$ cd sphinx-0.9.9.tar.gz
$ ./configure --with-mysql-includes=/usr/include/mysql --with-mysql-libs=/usr/lib/mysql
$ make
$ sudo make install

Fin, ahora buscate la vida con Ultrasphinx o Thinking Sphinx si lo quieres usar con Rails. Por cierto, Thinking Sphinx es el único compatible con Rails 3 hasta la fecha.