L’origine légendaire de leur nom reste relativement obscure. Certains affirment qu’il s’agit du nom du papier à cigarette utilisé à l’époque par les membres du groupe. Pour d’autres, le groupe aurait pris ce nom pour que leurs albums soient toujours les derniers dans les bacs à disques (vinyles à l’époque) de tous les disquaires (le classement dans ces bacs étant le plus souvent alphabétique). Une rumeur persiste par ailleurs quant au fait qu’il s’agirait tout simplement d’une faute de frappe, le groupe devant s’appeler initialement « 22 top » et non « zz top ». Le nom peut aussi provenir de l’artiste de Blues ZZ HILL ; hill signifiant « colline » d’où « top of the hill » (sommet de la colline) = ZZ Top.
Billy Gibbons explique dans le livre consacré au groupe Rock + Roll Gearhead que le nom est choisi en hommage au maître du blues B.B. King. Ils auraient d’abord choisi de s’appeler « ZZ King » mais cela ressemblait encore trop à l’original et considérant que ce « King » était au « Top », ils auraient ainsi opté pour ZZ Top