Máš několik možností:
1. Vypnout defaultní nether v server.properties a vytvořit si další nether svět pro tvůj dungeon přes plugin MultiVerse. (
https://www.spigotmc.org/resources/multiverse-core.390/ ) Tím pádem žádný nether jakoby nebude existovat a nether portály tak nebudou nikoho nikam teleportovat. (Dle mého asi nejlepší varianta pro pohodlí hráčů. Asi bude trošku složitějši na nastavení pro tebe. Budeš muset aktuální nether přesunout do nového nether světa, možná upravit nějaké permisse atd.)
nebo
2. Používat normální nether, ale zablokovat hráčům možnost vytvářet nether portály. (Někteří hráči používají nethery jen na ozdobu, takže tímto o tuhle možnost přijdou) Musíš mít plugin EssentialsProtect a následně v essentials config.yml v sekci EssentialsProtect nastavit
nebo
3. Přesměrovávat teleportace z nether portálů na určité souřadnice. Našel jsem nějaký plugin, ale je trochu zastaralý. Nezaručuju funkčnost.
https://dev.bukkit.org/projects/portal-destinations-redirection