这个成语的来源说法不一，一种说法是出自《景德传灯录．赵州东院从稔禅师》：“时有一僧便出，礼拜，师曰：‘比来抛砖引玉，却引得个坠子。’”
另一种说法与两位诗人有关。唐朝有一位诗人叫常建，还有一位诗人叫赵嘏，常建对赵嘏的才华非常佩服，他总想得到赵嘏的诗作，只是没办法。
常建与赵嘏平日素无来往，常建只是仰慕名声，如果直接去信索诗，未免显得太唐突冒昧。后来，他还真想出一个索诗的法子。
常建打听到赵嘏到苏州游玩，料他可能去灵岩寺，就先赶到灵岩寺，并在墙上题了两句诗，然后就躲到一边去了。赵嘏后来果然来到灵岩寺拜佛、游玩。当他发现一堵墙壁上面题着两句诗，端详片刻后心想：“诗写得不错，为什么只写了两句呢？”于是，他提起笔来，在常建的诗后，又补上了两句，成为一首完整的七言绝句。
赵嘏走后，常建赶过来观看，一字一字地琢磨，认为补写的这两句，确实比自己的诗作高明，便抄写了下来。后人因赵嘏所补诗句比常建的好，便说常建是“抛砖引玉”。然而常、赵二人，并非是同时代的诗人，这只是传说罢了。──转自“正见网”◇
