乞丐们身处社会最底层，为了在长期行乞中维持生计，他们走到一起，结成了自己的组织——丐帮。丐帮最早出现在城市经济繁荣的两宋时期，孟元老《东京梦华录》中记录说：“至于乞丐者亦有规格，稍有懈怠，众所不容”。
经过元、明发展，到清朝、民初达到鼎盛。三百六十行，各行各业都有自己的祖师爷，丐帮也不例外。被丐帮弟子尊为祖师爷的有范丹、朱元璋、武松、秦琼、伍子胥等，其中范丹是最具“神威”的一个，因为孔老夫子的命就是他救的。
说到丐帮，不能不说打狗棍，关于这打狗棍的由来，有个说法：京师丐首使用的杆子相传是从朱元璋一代代传下来的。当年朱元璋落魄江湖，沿街乞讨，曾被两个乞丐接济食物。
朱元璋平定四海，不忘二丐昔日恩情，就下令寻找他们，召入皇宫封赏。二丐谢绝为官，朱元璋就赐他们各持一根一尺长的木棒，棒上缠布，垂有穗，一色黄，一色蓝，赐名曰：“杆”。后来这杆子就成了丐首权威的信物。
杆子通常要漆成红色，外面再套上红色的丝绸袋，高高悬挂在帮主家中或帮众据点最显眼的地方。新帮主继任都要冲着祖师爷画像和这根棍子行磕头大礼;有新的乞丐入伙，也要先对棍子磕头。因为杆子不便携带，有时丐首就以一根极粗极长的旱烟管代行其权威。
或许因为传说中的杆子有黄、蓝两种，后来北京丐帮的两大派也就各自以此得名了。“黄杆子”是“屌丝”中的“高富帅”，成员大都是落魄的八旗子弟。作为帮主的“丐首”，无不是王公贝勒级别的人物。这些人平时不会上街讨饭，只在春节、端午和中秋出来向商铺乞讨。
贵族就是乞讨，也有一套庄重的规矩。他们常是两人同行，一人唱曲，一个敲鼓板。这时候有经验的掌柜就要跑出店来，先把手略微举过头顶，再将钱币放到鼓板上。店家必须在乞讨者唱完第五句前，完成前述程序，且施舍不能少于五枚大钱。按规矩给了钱，则一切罢了，如果不然，那么掌柜的麻烦就来了。
