Also grundsätzlich legt die JMonkeyEngine uns eigentlich keine großen Steine in den Weg
Der Hauptzweck, den sie erfüllt, ist mittlerweile eigentlich überwiegend nur noch das Rendering, und das macht sie eigentlich schon sehr gut. Direkten Support für so eine Sorte von Spiel gibts afaik nicht, aber wir machen sowas lieber selber als irgendwas in der Hinsicht "out-of-the-box" zu benutzen.
In puncto Lightning benutzen wir ohnehin ausschließlich eigene Shader und ein eigenes Beleuchtungssystem (braucht auf jeden Fall auch noch ne Menge Arbeit).
Viele grafische Effekte lassen sich bei solch einem Spiel meist leider nicht ohne Weiteres umsetzen. Ein Beispiel: Fackeln (oder Lampen), das Licht könnte deutlich schicker aussehen, und sehr spektakuläre Schatten in Echtzeit werfen (Schatten machen sowieso viel aus). Schatten sind allerdings sehr teuer (performancetechnisch), und angenommen, man platziert nun hunderte von Fackeln/Lampen auf engstem Raum (und jede Fackel braucht wie gesagt ihre eigenen Schatten), so würde selbst der beste Computer unter der Last zusammenbrechen.
Nun gäbe es auch hier wieder Tricks, wie Lightmaps bzw. statische Shadowmaps, aber auch da haben wir es etwas schwierig, aufgrund der Vielzahl an vorhandenen Materialien (weshalb wir bereits viel RAM und VRAM brauchen).
Die größten Hürden sind also die zufallsgenerierte Welt (welche darüberhinaus Features wie Überhänge und Höhlen unterstützt, also nicht aus einer einfachen Heightmap besteht), die Vielfalt der Materialien, und nicht zuletzt auch sowas wie der Multiplayer (besonders in dieser Kombination).
Wäre das bspw. eine vordefinierte Welt, oder zumindestens eine Welt, in welcher das Terrain nicht verändert werden kann, könnte man schon wieder deutlich tiefer in die Trickkiste greifen 
Was auch zum Gesamteindruck beiträgt: Anständige Modelle und Animationen, wir werden auch auf jeden Fall vieles im Laufe der Zeit überarbeiten (besonders in nächster Zeit die Spielerfigur und -animationen), hier ist es oftmals eine finanzielle Frage. Aber aus dem Grund ist das Spiel ja bereits als Alpha bzw. Early Access verfügbar, um die Entwicklung zu finanzieren (und besonders derartige Anschaffungen zu ermöglichen).
Einen Wechsel der Engine streben wir übrigens nicht an. Abgesehen davon, dass dies in 99% der Fälle einen Wechsel der Programmiersprache mit sich ziehen würde (dann können wir eigentlich direkt nochmal von vorne beginnen^^), ist der Bedarf wirklich nicht gegeben bei der derzeitigen Engine (was uns daran stört ersetzen wir einfach durch eigene Lösungen) 