Si puedes acceder desde tu LAN ya es buena noticia, luego de abrir el o los puertos en tu Router también debes asegurarte de obtener la IP Pública correcta,
esta debería de mostrarse en tu mismo Router en su apartado WAN, debes probar esa IP antes de continuar. Si la IP no funciona es porque no es una IP Pública
propiamente dicha o tu ISP también bloquea puertos, debes corroborarlo con tu ISP comunicándote con ellos.

También deberías revisar si tu Servidor tiene alguna configuración extra para bloquear/permitir conexiones, por ejemplo podría solo permitir LAN. Si puedes acceder
desde otro equipo en tu LAN no creo que sea Firewall del PC Servidor.