来俊臣的父亲名叫来操，陕西西安人。是个赌棍，他有一个邻居，叫蔡本，也是个赌棍。于是自然，两人同声相应，同气相求，惺惺相惜，关系好得可以合穿一条短裤。后来他们发现，合穿一条短裤也不足以表达互相之间的友谊，于是，他们之间也赌了一把。
这把蔡本输了，输了很多钱。怎么办？干脆把已经怀孕的老婆送给来操抵债。没多久，生下了来俊臣，其实他本该姓蔡，叫蔡俊臣。但他的养父来操这个名字太强势了，等于直言不讳，我就是要来操你的。来俊臣后来继承了养父的风格，告诉天下：我要来操你们了。
生在赌徒之家，生父和养父都是赌棍，无论是遗传基因还是耳濡目染，都昭示着来俊臣不会是个本分人。他自小就不爱劳动，后来流落到和州客居，专门干偷盗勾当，一次失手，被捕入狱。他很狡诈，假称有谋反大事要上奏。地方政府不敢怠慢，把来俊臣送到和州刺史处核实，当时的和州刺史是东平王李续，召来俊臣讯问，发现他满嘴胡说，气得打了他一百棍。后来武则天称帝，大肆杀戮李唐宗室，李续也被杀，来俊臣趁机又上书告发琅琊王李冲谋反，说之前就已经告了，却被李续刻意遮盖。武则天自然喜欢这种人，当即将其擢拔为官，很快就升到御史中丞。
自从徐敬业起兵反抗，武则天怀疑天下人都在图谋自己，也知道自己得位不正，宗室大臣都很怨恨，想狠杀一批立威。于是广开告密之门，有告密的，地方各级政府不许直接审讯，要提供高铁卧铺，直接送到京师，按照五品官员的标准招待饮食，由她派人亲自审讯。即使是农夫樵夫，也可以得到召见，安排住宿高级宾馆。若告密属实，立刻授官；不属实，也不惩罚。因此天下告密成风，大家都胆战心惊，不敢随便说话。
当时除了来俊臣，靠告密升官的还有索元礼、周兴。这些人官越做越大，各自花钱私自畜养了无赖数百人，专门把告密当成事业。如果想陷害某人，就通知自己分布在各地的党羽，一起行动，显得不像是孤证。
武则天非常喜欢，诏令在宫廷丽景门内设立推事院，让来俊臣等人在里面审案。酷吏王弘义戏称丽景门为“例竟门”，“丽”和“例”同音，“竟”的意思是“完结”，也就是说，一旦进入此门，照例会性命完结，没有人能活着出来。
来俊臣和同事司刑评事万国俊一起，殚精竭虑，批阅十载，增删五次，撰写了一部《罗织经》，总共才几千字，但真是黑色浓缩鸡精，司法界的《道德经》。共十二卷，专门教授党羽如何网罗无辜，如何把人构陷成死罪，做得天衣无缝。其中《刑罚》卷说：“诱人以服，非刑之无得焉。”一旦有人告密，武则天就委派他们去审理，于是各种酷刑如万舟竞发，各擅胜场，“定百脉”、“突地吼”、“死猪愁”、“求破家”、“反是实”，总有一款适合你。把你手脚扭转，称之为“凤皇晒翅”；让你跪下捧着木枷，在上面累积砖块，称之为“仙人献果”；用铁圈箍住人的脑壳，然后往缝隙处钉楔子，很快就脑壳崩裂，脑髓流出。
《罗织经》，字字看来皆是血，十年辛苦不寻常。
每次审讯之前，先将刑具陈列，犯人吓得魂飞魄散，只好违心承认造反。每次碰到大赦，来俊臣总是立刻让狱卒把想杀的囚犯先杀，再宣布赦令。武则天对他宠幸得不得了，而朝野对这几个人渣的恐惧甚于虎狼。
在这种肃杀的气氛下，也有几个坚持原则的好官，比如司刑丞徐有功、杜景俭，那些被诬告的人都说：“遇到来俊臣、侯思止一定死，遇到徐有功、杜景俭一定能活下来。”
天授二年(691)春，曾经帮助武则天杀害章怀太子李贤的左金吾卫将军丘神????，也被人告发谋反。武则天把他像一条狗样的抛弃，在闹市口斩首。有人告发文昌右丞周兴和丘神????有过勾通，武则天让来俊臣去审问。当时来俊臣和周兴正在一起吃饭，讨论案件，他对周兴说：“囚犯多不承认罪状，有什么办法？”周兴说：“这太容易了，取一个大瓮来，架起木炭四面烧烤，然后把囚犯扔进去，没有什么口供得不到。”来俊臣当即叫人架起木炭，放上大瓮，烧了一阵，站起来对周兴说：“有人告发老兄，太后让我审理，请老兄进瓮去吧。”周兴当即瘫倒，叩头服罪，按律当斩，但武则天特意免他一死，流放岭南，在路上被仇家截杀。周兴与索元礼、来俊臣三个人曾经互相竞赛，看谁杀的人多。周兴、索元礼各杀了几千人，来俊臣则屠灭了一千多家。这一年，索元礼也被告发谋反，丢掉了性命。三大奸恶酷吏，只剩下来俊臣一人，当然略次一级的人渣酷吏如万国俊之类，依旧混得风生水起。
这年八月，玉钤卫大将军张虔勖被人告发谋反，来俊臣审讯，张虔勖却要求向徐有功自辩。来俊臣大怒，命令卫士直接将张虔勖乱刀砍死，割下首级示众。九月，来俊臣又奉命审讯岐州刺史云弘嗣，他懒得花时间，依旧直接把云弘嗣斩首，然后伪造狱辞上奏。武则天也不说什么，照例嘉奖。
凤阁舍人张嘉福为了讨好武则天，指使洛阳人王庆之等数百人上奏，请求立武承嗣为皇太子。文昌右相、同鸾台凤阁三品岑长倩表示反对，说朝廷已经有皇太子，不应该又生是非，并奏请严肃处理上书者。武则天不高兴，又问地官尚书、同平章事格辅元，辅元也坚决反对立武承嗣为太子。武承嗣等人怒不可遏，找了个理由将岑长倩下狱，还胁迫岑长倩的儿子岑灵原，让他诬告格辅元以及司礼卿兼判纳言事欧阳通等几十人一起谋反，武则天让来俊臣审理。来俊臣当然不负武则天所托，伪造了欧阳通等人的狱辞，锻造成铁案。这年十月十二日，将岑长倩、格辅元、欧阳通等人全部处决。
武则天当时准备称帝，王公百官都上奏表劝进，只有右卫将军李安静反对，于是也被诬告下狱，来俊臣讯问，李安静说：“我知道，说我谋反，只因为我是唐朝李氏老臣。你们要杀就杀，至于谋反，根本没有的事。”很快也被来俊臣杀死，同时被杀的还有鸾台侍郎、同平章事乐思晦。
长寿元年(692)，来俊臣又诬陷上了宰相狄仁杰，狄仁杰知道厉害，入狱就承认谋反，却暗中让人帮忙伸冤，最后武则天发现来俊臣在诬告，却依旧没有惩罚来俊臣，还把狄仁杰贬为彭泽县令。高丽族猛将、左卫大将军泉献诚对朝廷忠心耿耿，来俊臣向他索取贿赂，没有如愿，照例诬陷他谋反，最终在狱中将其勒死。
长寿二年(693)，前尚方监裴匪躬、内常侍范云仙因为私自拜见皇太子李旦，被判腰斩，从此公卿们再也不敢去见李旦。还有人因此告李旦想谋反，武则天又让来俊臣审讯李旦身边的人，都熬不住酷刑，想违心承认。太常工人安金藏对来俊臣大叫：“你既然不相信我的话，我请求剖开肚子，把心给你看，以证明皇太子没有谋反。”随即划开了自己的肚子，五脏六腑滑落在地，到处是血。把变态佬武则天也感动了，让人抬进宫中，派医生把他五脏收回肚子，用桑皮线缝好，敷上良药，经过一晚上才苏醒。武则天亲自去探视，叹道：“我儿子不能自证清白，导致你这么受苦。”下令来俊臣销案，李旦因此得以幸存。
延载元年(694)九月，来俊臣自己也被人告发贪污，按律当斩，但武则天认为他忠心，只予以免职。不久又启用，再次犯罪，贬为同州参军。另一个酷吏王弘义被流放琼州，在路上假称有诏书追他回去，在汉北碰到侍御史胡元礼，胡元礼一审问，发现他是胡说，将其用棍子活活打死。但来俊臣很快又被武则天重新启用。
神功元年(697)，箕州刺史刘思礼向术士张憬藏学习看相，张憬藏说刘思礼会做到太师。太师是一品官，唐朝宰相也只是三品，基本不授予大臣一品官职。刘思礼寻思，除非是佐助新君开国，否则不可能做太师，于是和洛州录事参军綦连耀谋反。明堂尉吉顼听说了这事，向来俊臣告发，武则天让新进酷吏武懿宗审讯。武懿宗指示刘思礼尽量诬告牵连，许诺可以免其一死，刘思礼绞尽脑汁，凡是和自己有点小过节的，都诬告进去，最后总共牵连了三十六家，大多是海内名士，最后全部族诛，亲戚朋友被连坐的都有一千多人。
来俊臣感觉自己这次没捞上油水，很遗憾，又诬陷吉顼。吉顼见势不妙，也赶紧自称有谋反案件上奏，得被武则天召见，最终获得昭雪免罪。武则天却因此再次重用来俊臣，将其擢拔为洛阳令，升司仆少卿。来俊臣的党羽又告司刑府史樊惎谋反，樊惎随即处决。樊惎的儿子在朝堂喊冤，没人敢搭理，一时气愤，引刀剖腹。秋官侍郎刘如璿偷偷叹息哭泣，被来俊臣发现，诬告他谋反，判处绞刑，最后获得赦免，流放瀼州。
来俊臣生性好色，士民妻妾有漂亮的，想尽办法也要搞到手。不行就让人诬告其谋反，再矫诏将其妻妾抢走，为此前后陷害杀害的人不计其数。从宰相以下，按照名籍来陷害，仗着武则天的庇护，无法无天，因此越发骄傲，自称才华可以和前赵开国皇帝石勒相比。监察御史李昭德特别厌恶他，秋官侍郎皇甫文备曾被李昭德当廷侮辱，因此和来俊臣勾结，一起诬陷李昭德谋反，李昭德因此下狱。
大概是过于膨胀，来俊臣最后竟然罗织武氏诸王和武则天的女儿太平公主的罪状，还诬陷皇太子伙同庐陵王及南北禁军一起造反，想因此盗窃国柄，被河东人卫遂忠告发。武氏诸王和太平公主又惊又怒，都在武则天面前说来俊臣坏话，随即来俊臣也被下狱，判处死刑。武则天看了狱状，舍不得杀他，奏表递上去三天，都没有批复。
重臣王及善劝武则天：“来俊臣凶狡贪暴，是国中最大的恶棍，不杀他，会动摇朝廷。”武则天在圆苑中游玩，吉顼帮忙牵马，武则天问他外面的事，他回答：“外面的人只奇怪判决来俊臣的奏书没有回复。”武则天说：“来俊臣有功于国，朕再想想。”吉顼说：“来俊臣聚结党羽，诬陷良善，贪污财物堆积如山，冤魂满路，是国家的巨贼，有什么可怜惜的？”武则天也被打动，终于批复，同意将来俊臣处死。
神功元年(697)六月三日，李昭德和来俊臣同日斩首，时人无不为李昭德的死悲痛，为来俊臣的死欢呼。仇家抢着去吃来俊臣的肉，眨眼之间，就抢得干干净净，只剩一副骨架。武则天知道后，专门下诏列举来俊臣的罪恶，说：“杀他一人还不够，还应该灭他的族，抄他的家。”之后无论官吏还是百姓，走在路上都感到亲切，纷纷互相祝贺：“从今日起，睡觉可以安稳了。”
