大叶黄杨是灌木或小乔木，高0.6-2.2米，胸径5厘米；小枝四棱形（或在末梢的小枝亚圆柱形，具钝棱和纵沟），光滑、无毛。叶革质或薄革质，卵形、椭圆状或长圆状披针形以至披针形，长4-8厘米，宽1.5-3厘米（稀披针形，长达9厘米，或菱状卵形，宽达4厘米），先端渐尖，顶钝或锐，基部楔形或急尖，边缘下曲，叶面光亮，中脉在两面均凸出，侧脉多条，与中脉成40-50度角，通常两面均明显，仅叶面中脉基部及叶柄被微细毛，其余均无毛；叶柄长2-3毫米。