Google日本語入力のオープンソース版であるMozcが公開されています。
Webデータから抽出された語嚢データは含まれていないようです。
http://code.google.com/p/mozc/

このMozcのUbuntu用の野良パッケージを作成してくれている方がいたのでインストールしてみました。
Mozc - Google日本語入力のオープンソース版 - 憩いの場【Linux/ソフト紹介】

インストール方法は、すべて↑の通り。
Anthyは使いにくいなぁ、と思っていたので助かりました。