@Neekiinh0Instalar una máquina virtual, incluso usarla en un computador externo, analizarlo con antivirus, puedes usar un antivirus local o los servicios como virus total, nodistribute, etc, usar el comando netstat, usar Wireshark para ver qué paquetes envía el ejecutable, hacer un volcado, posteriormente leer ese volcado en un editor de texto hexadecimal y ver su código fuente, verificar las rutas temporales dependiendo que usuario es y con que privilegios esta siendo ejecutado.
Es cuestión de ir probando, tambien puedes leer información de informática forense para que te ayude un poco mas en este tema.