Вот теперь открывайте логи и смотрите почему 500.

Вы адрес откроете, нет?

500 - Internal Server Error

У вас в конфиге единственный рабочий адрес - это http://localhost/RPC2.

Откройте его уже и посмотрите чего будет.

И самодеятельность из седьмого и восьмого пунктов откатите.

Необходимо скачать версию и развернуть полученный архив в корень веб-сервера. Делать это лучше из под пользователя, под которым работает собственно веб-сервер. Если это по каким-либо причинам невозможно (например, данный пользователь не имеет доступа к шеллу) - после разархивации необходимо убедиться, что все файлы ruTorrent доступны пользователю веб-сервера на чтение, а директория rutorrent/share со всем своим содержимым - на чтение и запись. Причем последняя должна так же быть доступна на чтение/запись пользователю, из под которого работает rTorrent.

Вот. Зато в том конфиге есть /RPC2, который связан с портом 5000, который указан также в rtorrent.rc.

Вынужден согласится с marlock. При всем уважении к новичкам

Прочитайте http://nginx.org/ru/docs/http/ngx_http_core_module.html#location и ответьте, есть у вас в конфиге /rutorrent/ или нет. И самодеятельность из седьмого и восьмого пунктов откатите.

Скажите, а с чего вы взяли, что адрес будет http://localhost/rutorrent/ ? У вас в конфиге nginx есть такой адрес?

#user html;
worker_processes  1;

#error_log  logs/error.log;
#error_log  logs/error.log  notice;
#error_log  logs/error.log  info;

#pid        logs/nginx.pid;
events {
    worker_connections  1024;
}
http {
    include       mime.types;
    default_type  application/octet-stream;

    #log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
    #                  '$status $body_bytes_sent "$http_referer" '
    #                  '"$http_user_agent" "$http_x_forwarded_for"';

    #access_log  logs/access.log  main;

    sendfile        on;
    #tcp_nopush     on;

    #keepalive_timeout  0;
    keepalive_timeout  65;

    #gzip  on;

    server {
        listen       8080;
        server_name  localhost;

        #charset koi8-r;

        #access_log  logs/host.access.log  main;

        location / {
            root   /usr/share/nginx/html;
            index  index.html index.htm;
        }

        location /RPC2 {
            include scgi_params;
            scgi_pass localhost:5000;
        }

        #error_page  404              /404.html;

        # redirect server error pages to the static page /50x.html
        #
        error_page   500 502 503 504  /50x.html;
        location = /50x.html {
            root   /usr/share/nginx/html;
        }

        # proxy the PHP scripts to Apache listening on 127.0.0.1:80
        #
        #location ~ \.php$ {
        #    proxy_pass   http://127.0.0.1;
        #}

        # pass the PHP scripts to FastCGI server listening on 127.0.0.1:9000
        #
        #location ~ \.php$ {
        #    root           html;
        #    fastcgi_pass   127.0.0.1:9000;
        #    fastcgi_index  index.php;
        #    fastcgi_param  SCRIPT_FILENAME  /scripts$fastcgi_script_name;
        #    include        fastcgi_params;
        #}

        # deny access to .htaccess files, if Apache's document root
        # concurs with nginx's one
        #
        #location ~ /\.ht {
        #    deny  all;
        #}
    }
    # another virtual host using mix of IP-, name-, and port-based configuration
    #
    #server {
    #    listen       8000;
    #    listen       somename:8080;
    #    server_name  somename  alias  another.alias;

    #    location / {
    #        root   html;
    #        index  index.html index.htm;
    #    }
    #}
    # HTTPS server
    #
    #server {
    #    listen       443 ssl;
    #    server_name  localhost;

    #    ssl_certificate      cert.pem;
    #    ssl_certificate_key  cert.key;

    #    ssl_session_cache    shared:SSL:1m;
    #    ssl_session_timeout  5m;

    #    ssl_ciphers  HIGH:!aNULL:!MD5;
    #    ssl_prefer_server_ciphers  on;

    #    location / {
    #        root   html;
    #        index  index.html index.htm;
    #    }
    #}

}