El comando Busy, además de reproducir los tonos, le envía al teléfono el código SIP 486 que significa Busy here. Ya depende de tu teléfono como interpretar esta señal y que mostrarle al usuario.
Por ejemplo, yo tengo un Yealink T48G y al invocar el Busy escucho el tono de ocupado por 3 segundos y la llamada se corta después de eso. En tu caso, me imagino que estás usando un softphone pues esos en vez de reproducirte tono solo te despliegan un mensaje en pantalla.
Si forzosamente quieres el audio, necesitas primero contestar la llamada y luego usar el playtones. El problema de esto es que esto marcaría tu llamada como contestada en el CDR, pero se vería así:
exten =>_XXXX,1,Dial(SIP/${EXTEN},60,Ttr)
same => n,Answer
same => n,Busy(5)