世界上最早的手榴弹是我国的“瓷蒺藜”。据资料记载，西夏时期（1038~1227年），瓷蒺藜就大量装备军队了。顾名思义，瓷蒺藜由陶瓷烧制而成，只有人的拳头般大，圆球形表面全是钉刺，只有底部扁平。瓷蒺藜的中间是空的，内装火药，点燃引线后，投掷到敌军中，爆炸杀伤敌人。瓷蒺藜已经具备了手摇弹的几个要素：弹体、火药和引信。

瓷蒺藜是我国古代一个“马背上的民族”所发明的武器，但它之所以能够建立起一个强大的西夏王国，却得益于不少自制的军器火器。瓷蒺藜就是一个类似近代地雷的有着巨大威力的武器。在《西夏文物精品展》布展现场我们看到，这种只有拳头般大小的圆球形瓷体表面几乎全部呈钉状，唯有接地处扁平，以便置于地上而不翻滚。作战时，西夏人将它抛到地上，当敌人马军进攻时，马蹄就会踩中蒺藜，导致人仰马翻。元太祖成吉思汗曾多次征讨西夏无功而返，最后一次更是直接被蒺藜掀下马，不久便因病而逝。虽然瓷蒺藜直接导致了后来蒙古大军对西夏人和西夏文明实施了灭绝性的毁灭，但它的威力也可见一斑，因此在军事史上留下了浓重的一笔。

15世纪，欧洲出现了装黑火药的手榴弹，当时主要用于要塞防御和监狱看守。17世纪中叶，欧洲一些国家在精锐部队中配备了野战手榴弹，并专门训练一批士兵使用这种手榴弹。这种士兵称为掷弹兵。