Beh dipende ... è
arctan( (sqrt(x)-sqrt(x-1))sqrt(x) )
oppure
sqrt(x)arctan( sqrt(x)-sqrt(x-1) )
?

Cioè, sqrt(x) moltiplica l'arcotangente o il suo argomento? Comunque in entrambi i casi credo si debba innanzitutto cercare di liberarsi della differenza tra infiniti:
sqrt(x)-sqrt(x-1) va moltiplicato e diviso per sqrt(x)+sqrt(x-1), razionalizzando. Magari provaci tu <!-- s:P --><img src="{SMILIES_PATH}/icon_razz.gif" alt=":P" title="Razz" /><!-- s:P -->