Забудьте про checkinstall.
rpm-файл строится при помощи команды
rpmbuild -bb <имя>.spec
spec-файл содержит порядок и параметры сборки/компиляции, зависимости, формирование rpm-пакета и его инсталляции и удаление из системы.
Это полный сценарий действий. Причём он может быть специфичным для конкретного дистрибутива или общим, но зачастую всё-же требуется привязка spec-файла и скриптов которые в него входят к реалиям конкретного дистрибутива.
spec-файл можно написать самому в любом текстовом редакторе или воспользоваться специализированными редакторами spec-файлов (есть такие).
Сейчас в большинстве архивов с исходниками уже есть spec-файл, но его обычно нужно править перед сборкой rpm.
Вообще, самостоятельная сборка rpm - это не очень простая штука, учитывать приходится много параметров и при этом разбираться в системе для которой вы rpm`ку собираете.
Почитайте
http://tigro.info/blog/index.php?id=375 там некоторые вещи чуть устарели, но вы получите представление и в целом эти заметки вполне актуальны (на русском языке более толкового описания сборки я не встречал).
Лучше ищите готовый rpm пакет, не ставьте софт из исходников пока вы не почуствуете что понимаете что как и куда ставится и что от чего зависит.
Удалить из системы то, что вы поставили из исходных текстов для новичка практически невозможная задача.
Ещё в сети существуют онлайновые сервисы по компиляции и сборке пакетов - это отдельная интересная тема.