Es muy raro éso que cuentas... ¿un archivo log que crece (y solo en un par de dias) hasta un tamaño decenas de veces superior a lo que puedas descargar efectivamente?
El archivo JDownloader.log, como casi todos los logs es un archivo de texto plano, y en texto plano, dudo que todas las guias telefónicas de España lleguen a ocupar 980 GB, y mucho menos que Jdownloader sea capaz de generar tal cantidad de info... algo tiene que haber mal ahi.
En JD, lo del guardado de eventos en un log se controla desde:

Yo suelo tenerlo en OFF, y con ello, el archivo JDownloader.log raramente pasa de 200 KB... he hecho la prueba, mientras descargaba cosas, de poner la opción a ALL, y aún asi, en media hora apenas ha aumentado el tamaño del log en unos pocos KBs, asi que, insisto, lo que dices que te pasa se sale de lo normal.
Supongo que, además, te será imposible abrir el log con ningún editor de texto, si tiene ése tamaño ¿no? Quizás deberias hacer lo siguiente: Borra el archivo log, abre JDownloader y pon a descargar algo, pero solo un par de minutos como mucho, detén la descarga y cierra JD. El archivo log generado debería tener ahora un tamaño manejable, asi que ábrelo con el block de notas (o cualquier otro editor de texto) y
comprueba que en él solo hay texto plano, y nada de carácteres extraños. Luego nos cuentas...