Нашел решение проблемы, действительно когда xbmc запускается не как окно, а как отдельная рабочая среда, то соответственно он и ведет себя не как программа в окне. Для того что бы xbmc вел себя как обычная программа, нужно при запущенном xbmc нажать ‘\’, это переведет его в оконный режим, теперь он всегда будет запускаться в оконном режиме (пока вновь не нажмем ‘\’),осталось только средствами системы перевести его в фуллскрин. Вот скрипт для запуска xbmc во весь экран:
#! /bin/bash
# Запускаем xbmc
xbmc  &
# Ожидаем пока появится окно xbmc
status=0
while [ $status -eq 0 ]
do
status=`wmctrl -x -l | grep "XBMC Media Center" | wc -l | awk '{print $1}'`
done
# Переводим окно xbmc в режим фуллскрин
wmctrl -x -r XBMC Media Center -b toggle,fullscreen

Скрипт срабатывает на столько быстро, что рамка окна даже не успевает появиться.