Existem diversas alternativas para usar o Bittorrent na shell, incluindo o próprio cliente oficial (eu uso bastante o btdownloadheadless), mas este artigo do Linux.com apresenta o uso conjunto do Rtorrent com o Screen. O Rtorrent usa a Libtorrent, que costuma ter desempenho bastante superior (até 3x mais rápida, em situações em que o fator limitante não seja a banda) que o cliente original.
Saiba mais (linux.com).