Begoguay, ExecuteSync bloquea el Form desde el que se ha lanzado hasta que el programa llamado no sea cerrado. Así que el SetFocus lo tienes que hacer antes.
Puedes hacer lo siguiente, para que no se abra la ventana de DOS:
Código COBOL:
INVOKE BT-SALIR "SetFocus"
INVOKE POW-SELF "ExecuteSync" USING 'rundll32 url.dll,FileProtocolHandler "C:\guia.pdf"'