谢玄同谢道韫一样从小聪慧过人，长大后的谢玄逐渐展示了他的军事才能。朝廷好几次召唤他进宫参与治理政治之事，但是他都推辞不去，后来受到了桓温的器重。当时东晋边境常受外敌干扰，皇上下令征收可以抵御外敌的人才。谢安不避亲属关系，直接推荐了谢玄。即使是向来与他不和的郗超也赞同谢安的举荐，认为谢玄确实是个人才。当时有很多人不赞同郗超的看法，然而郗超说他曾经看到谢玄做人做事都各尽其才，所以才觉得谢玄是个可以征收的人才。

谢安一直很喜欢他的侄女和侄子，侄子谢玄从小就被谢安抚养，两个人感情深厚，谢玄小时候很喜欢女孩子用的香囊，谢安看到此景很是担心，毕竟谢玄是堂堂男儿，大不可被这女人的玩意唬弄。于是在与谢玄的一次游戏中，谢安以香囊做筹码，若是谢玄输了就得把香囊交出来，最后香囊被谢安烧毁，从此以后，谢玄再也没有碰过那类事物。