据说18世纪末期，一位住在英国东北部约克郡的矿工，由于矿上鼠满为患，整日疲于奔命应付，为灭鼠患．以保持通风口的流畅，便用斯开岛梗、玩赏梗、丹第丁蒙梗和马尔它犬杂交培育出约克夏梗。1861年，约克夏梗首次在英国参展，当时被称为“苏格兰梗”，1870年更名为约克夏梗。1872年传人美国，尔后传到世界各国。到20世纪已遍及世界各地。 约克夏梗，一个充满着神奇、小巧迷人和让我们的生活充满快乐的狗，最初生活在19世纪中期阴暗、冰冷的矿井隧道里和北方工业城市黑暗的磨坊里，专门消灭那些繁殖力旺盛、让工人们饱受疾病折磨的老鼠。

约克夏梗从前因为特别小能放在矿工的口袋里而避人耳目，到今天已成为世界上最有名的伴侣动物之一，是耐心、聪明的英国劳动人民创造的。当然，他们从没想到过他们的小约克夏梗竟如此受欢迎，约克夏硬高雅、娇贵、有着丝状毛发，但这丝毫没有影响约克夏硬在那些岁月所做的工作。

可能有些人不喜欢把他们漂亮的小狗与粗野的硬类联系起来，但是事实无可争辩，虽然约克夏梗具有玩具狗的体型，但是他们的祖先曾经是普通的梗类。在有文字记录以前，小而凶猛的梗类就已经在爱尔兰岛上频繁地出现了，他们被养在家园周围和工人的家中以驱赶对家禽和羊羔造成威胁的老鼠和其他动物，比如狐狸。而梗类怎么来的则是个谜，也许永远也没法解释。“terrier”（梗）这个词源于拉丁文“terra”，意思是土地，即狗要钻到地下去捕捉猎物。任何养梗类的人都知道要想阻止他们的狗钻洞是一件多么困难的事，即使在这之前他们从未见过洞，甚至最时髦的约克夏硬在野外时也会愿意钻到地下去，因为猎手的本能并没有因为他们体型的改变而消失。

约克夏梗据说那些约克夏梗改良成功的英国北方工人，因为不愿把配种成功的秘密泄漏给那些以赚钱为目的的人，所以没有留下任何配种纪录。实际上有些苏格兰人南下到约克夏毛织厂找工作时，随身携带了斯开岛梗等各种梗类犬一起前往，后来这些梗和当地类似梗的土著犬异种交配成约克夏梗。另外本犬也含有玛尔济斯犬，黑褐梗，曼彻斯特梗，短脚长毛梗的血液。初期的品种远比现在的体形大，因为长前选择小型犬配种， 结果使体形逐渐小型化了。