来俊臣,京兆府万年县(今陕西西安)人。父亲来操是个赌徒,与同乡蔡本要好。蔡本欠来操赌债数十万钱无法偿还,来操就娶了蔡本的妻子,她到来家以前先已怀孕,生下了俊臣,所以俊臣冒用来操的姓。
来俊臣天性残忍,喜好反覆无常,不从事生产。客居和州干违法犯禁的偷盗勾当,被逮捕入狱,在狱中向朝廷密告谋反叛乱事件,经和州刺史东平王李续审查讯问没有事实根据,李续于是用刑杖打了来俊臣100下。武则天天授年间,李续因犯罪被杀,来俊臣上书受到武则天的召见,他在武则天面前自称从前向朝廷密告琅邪王李冲谋反的实情,受到了李续的压制。武后认为他的话可信,经多次提拔让他当了侍御史,负责审问奉诏令特设的监狱里的囚犯,多次审讯都符合武后的旨意。武后暗中放任来俊臣的残酷,以威力控制群臣,他前后杀灭了一千多家。有生以来与他有细微仇恨的人,全被他杀害。来俊臣被提拔为左台御史中丞,朝廷内外官吏都吓得不敢呼吸,以至于在路上相遇时不敢交谈,只用眼睛示意。
来俊臣于是带领侯思止、王弘义、郭弘霸、李仁敬、康、卫遂忠等人,暗中招集为非作歹之徒百人,指使他们用流言蜚语诬蔑公卿大夫,向朝廷上密告有关谋反叛乱紧急情况的文书。每揭发一件事,总是在千里范围内几处同时告发,一查验几处说法都一样,当时人称为“罗织”,又都在告密文书的左边写道:“请交给来俊臣或者侯思止追问,一定能得到实情。”武后相信他们的话,下诏在丽景门另外设置监狱,命令来俊臣等人专门审查谋反事件,一百人中也没有一个人能得到宽赦。王弘义戏称丽景门为“例竟门”,意思是说进入这门的人照例都得死。来俊臣同他的部属朱南山、万国俊编写《罗织经》一篇,教自己的门徒如何罗织罪名,文中陈述主脉支脉、大纲由来,全有头有尾,门徒可依此行事。来俊臣审问囚犯,不问轻罪重罪都用醋灌鼻,挖地为牢关押囚犯,或者让囚犯睡在满是屎尿的地方,或者不给囚犯饭吃,囚犯甚至啃衣服里的棉絮充饥,大概不是死亡就终究无法出狱门。每次武后发布赦令,来俊臣必定先杀掉重罪囚犯然后才传达赦令。来俊臣又制造大枷,各有名称:一叫“定百脉”,二叫“喘不得”,三叫“突地吼”,四叫“著即臣”,五叫“失魂胆”,六叫“实同反”,七叫“反是实”,八叫“死猪愁”,九叫“求即死”,十叫“求破家”。后来又在枷上加一个用铁做的盖头,披上枷戴上铁盖头的人直在地上打滚,一会儿便被闷死了。凡囚犯到监狱,都先在他面前陈列各种刑具,囚犯见了无不震惊恐惧,全都无罪而自动认罪。
武则天如意初年,来俊臣诬告朝廷大臣狄仁杰、任令晖、李游道、袁智弘、崔神基、卢献等人,将他们关进监狱。来俊臣专门把杀戮大臣当成功劳,于是奏请武则天为囚犯的事而下诏,一问就服罪的人同自首一样,依法可减罪免死。狄仁杰等人已判处死刑,等待日子执行刑罚,来俊臣等人对他们的看管略微放松一些,狄仁杰于是派自己的儿子拿着自己写在丝织物上的书信到武后那里诉说冤枉。武则天见信后很惊讶,责问来俊臣,来俊臣回答说:“没有剥夺这个囚犯的官帽官服,如果不是确实有罪,为什么肯服罪?”武则天派通事舍人周綝到监狱里看狄仁杰,来俊臣马上借给狄仁杰帽子腰带命他穿戴好站立于西厢,周綝畏惧来俊臣,只往东看了看便唯唯诺诺地退下,不敢有所见闻。在这以前,宰相乐思晦被来俊臣杀灭全家,有个儿子九岁没入官府为奴,隶属于司农寺,他向朝廷说有非常情况要报告,得到了武则天的召见,对武则天说道:“来俊臣凶恶狠毒,欺骗君上,大逆不道,如果陛下虚假地逐条列出谋反罪状交给来俊臣审理,事无大小全会弄假成真按照陛下列出的罪状结案。臣父死家灭,不求活命,只可惜陛下的法律被来俊臣所玩弄!”武则天醒悟,因此狄仁杰等六家都得以免死。来俊臣又审问大将军张虔勖、内侍范云仙,张虔勖受不住冤枉向大理寺徐有功告状,来俊臣让卫士用乱刀砍张虔勖,范云仙自述曾侍奉先帝,来俊臣下令割掉他的舌头,两人都当即死亡,人人吓得不敢喘气。
过了很久,来俊臣接受商人的金银,被御史纪履忠弹劾,关进监狱,罪该处死。武则天认为他向朝廷密告谋反叛乱事件很忠诚,没有处死他,而将他免职为民。武则天长寿年间,来俊臣被召回朝廷,授殿中丞职务。又因犯贪污罪被贬为同州参军事,在同州暴虐放肆,不受拘束,强夺同僚的妻子,又侮辱他的母亲。不久被召回任合宫县尉,又提拔为洛阳县令,升任司仆少卿,武后赐给他司农寺的官奴婢十人。来俊臣认为司农寺的官奴婢没有长得漂亮的,听说西突厥酋长阿史那斛瑟罗有个婢女擅长歌舞,便让自己的党羽诬告阿史那斛瑟罗谋反,以求得到他家的婢女,各族酋长数十人,到皇宫门前用刀割耳划脸替阿史那斛瑟罗诉冤,阿史那斛瑟罗才得以免罪。綦连耀等人有反叛的图谋,吉顼把这事告诉来俊臣,于是杀灭了数十家。来俊臣想要独占揭发坏人的功劳,就借助法律来陷害吉顼,吉顼非常害怕,请求见武则天为自己申冤,才得以免罪。来俊臣诬告司刑史樊戬,樊戬以谋反罪被杀,他的儿子到皇宫前诉冤,有关官吏无人敢于受理,于是自己剖腹而死。秋官侍郎刘如璇看见后为他而流泪,来俊臣上奏说刘如璇偏袒、同情坏人,刘如璇申诉说自己是因年老而流泪,官吏判处刘如璇绞刑,武则天赦免他的死罪,将他流放到汉州。武后万岁通天年间,三月三日上巳节,来俊臣和他的党羽一起聚集于龙门,分别把士大夫的名字写在许多立着的石板上,然后从远处扔石块打这些石板,谁的石板先被击倒就先告发谁,他们掷打写有李昭德名字的石板没有击中。有人把这事告诉李昭德,李昭德谋划检举来俊臣的罪恶,但还没有付诸实行。卫遂忠虽然行为不端,但是能言善辩,一向同来俊臣要好。起初王庆诜的女儿嫁给段简,她长得很美。来俊臣诈称皇帝的命令强娶她为妻。有一天来俊臣同妻子娘家的人在自己家里聚会,酒正喝得高兴,卫遂忠来看来俊臣,看门的人不肯替他通报,卫遂忠直接闯进屋里肆意辱骂,来俊臣因妻子被侮辱而感到羞耻,命人将卫遂忠赶出屋,绑在院子里,最后又放了他,从此两人结下怨仇,来俊臣的妻子也感到惭愧,自杀身亡。段简有一个妾长得漂亮,来俊臣想要,派人向他暗示,段简害怕,把妾送给了来俊臣。
来俊臣知道群臣不敢指责自己,于是有了反叛的图谋,常常把自己比成石勒,准备诬告皇嗣(唐睿宗)和庐陵王(唐中宗)与南衙各卫及北衙禁军一起图谋造反,希望因此得以展露自己的心志。卫遂忠揭发了来俊臣的阴谋。起初,来俊臣多次指摘武氏诸王、武后的女儿太平公主、张昌宗等人的过错,武后不采取行动。到这时候武氏诸王怨恨来俊臣,一起证实他的罪恶。武后下令在西市将来俊臣处斩,当时他47岁,人们都相互庆贺,说道:“现在能够背挨着床睡觉了!”大家争着挖他的眼睛、摘他的肝、将他的肉剁成肉酱,一会儿功夫肉都被割尽,又用马踩他的骨头,最后什么也没剩下。他的家属被没入官府为奴。
来俊臣正当权的时候,嘱托吏部选授了二百多名官员,等到来俊臣败亡,有关官员都向朝廷自首,武后责备他们,他们回答说:“我们违犯了陛下的法令,自身被杀;如果违背了来俊臣的意思,就得全家覆灭。”武后赦免了他们的罪过。