孔融回来后就责备祢衡，顺便说了曹操对他的诚意，祢衡说：“我肯定会为了你而过去。”到了十月初，孔融再次拜见曹操，说祢衡得有狂病，如今祢衡请求亲自来谢罪。曹操大喜，命令守门的有客人来就通报，且等待祢衡很晚。祢衡却穿着普通单衣、缠着普通头巾，手里拿着三尺长的大杖，坐在曹操大营门口，用大杖捶着地大骂曹操及其先祖，无所不至。吏对曹操说：“外面有个狂生，坐在营门那里，言语悖逆，请求收捕治罪。”曹操很生气，命外厩备好精马三匹，并准备两个人，打算送走祢衡。曹操对孔融说：“祢衡这小子，怎敢如此！我杀他就像杀死鸟雀、老鼠罢了。但这个人一向有虚名，为远近之人所闻。今日我杀了他，众人都会说我不能容人，现在把他送给刘表，看看会怎么样？”（另一种记载，曹操说：“刘景升天性险急，忍受不了此人，必定会杀了他。”）之后让那两个人带着他前往南阳。

临行前，众人祖道为祢衡送行，先在城南设供帐，并互相约定：“祢衡多次出言不逊，如今趁他到时，我们就不起来，以报复他。”祢衡到后，众人果然皆坐不起，祢衡便号啕大哭。众人问他原因，祢衡说：“坐着的是冢，卧着的是尸体，我行于尸冢之间，能不悲伤吗？”

刘表和荆州的士大夫早就佩服祢衡的才气、名声，祢衡来后非常尊敬地对他，写的文章、言谈议论，没有祢衡的意见就不能定下来。刘表曾经和几个文人共同草拟奏章，大家都极尽才力。当时祢衡正好外出，回来时看了他们拟的奏章，觉得刘表等对奏章的解释不严密，就撕掉奏章扔在地上。刘表感到奇怪而且害怕。祢衡于是要来笔纸，立刻写成，言辞、语义可观。刘表十分高兴，更加器重他。后来祢衡又侮辱、轻慢刘表，刘表深感耻辱，不能容忍，认为江夏太守黄祖性情急躁，所以把祢衡又送给江夏太守黄祖。

另一说，祢衡结交刘表，刘表非常高兴，待祢衡为上宾。祢衡满口称赞刘表，却说刘表身边的人不废绳墨，这些人因此在刘表面前诋毁祢衡，说：“祢衡称赞将军仁德，就是西伯也不为过，但只是优柔寡断，最终不能成事，必是由此。”刘表没有详察，渐渐疏远祢衡，把他赶到黄祖那里。

当时黄祖屯兵夏口，黄祖的长子黄射和祢衡关系好，与他一同到夏口。黄祖也能善待祢衡。祢衡替黄祖做文书方面的事，孰轻孰重、孰疏孰亲，都处理得很恰当。黄祖拉着祢衡的手说：“先生，这正合我的意，和我心中要说的话一样啊。”黄射为章陵太守，二人曾一同出游，共读蔡邕所作碑文，黄射喜爱碑文，可惜自己没记下来。祢衡说：“我虽然只看一遍，但还能记得，只是碑石上缺了两个字不知道罢了。”就写出来了。黄射派人抄写碑文回来校对，完全如祢衡所写，无人不为此叹服。

黄射一次宴请宾客，有人送给他一只鹦鹉，黄射举着酒杯对祢衡说：“祢处士，今日没什么能让宾客欢乐，我认为此鸟从远方而至，明彗聪善，羽族之可贵，希望先生就为它作一篇赋，以此来使嘉宾高兴高兴，不是很好吗？”祢衡提笔就写（参照词条“鹦鹉赋”），中间没有任何改动，一气呵成，文辞色彩也很华美。

十月初，黄祖在艨冲舟上宴请宾客，做黍臛款待他们。黍臛做好后，先放到祢衡面前，祢衡自己吃饱而不顾身边的人，之后又拿着黍玩起来。当时有个叫张伯云的人也在座，拿祢衡开玩笑说：“礼教云何而食此？”祢衡不回答，依旧在玩弄黍。黄祖说：“处士，不应该回答他吗？”但祢衡出言不逊，对黄祖说：“君子宁闻车前马屁？”黄祖很难堪，就斥责祢衡。祢衡熟视黄祖，骂道：“死锻锡公！”黄祖非常生气，派伍伯抓着祢衡的头拉他出去，想要用鞭杖打他，祢衡却大骂不止，黄祖气愤到极点，就下令绞杀祢衡。黄祖的主簿一向讨厌祢衡，即刻就勒死了祢衡。黄射得知消息后，光着脚来救祢衡，但没赶上，他哭着对黄祖说：“此人有异才，曹操与刘荆州都不杀他，大人为何就要杀他？”黄祖说：“他骂你父亲做锻锡公，为何不杀？”但黄祖最终也后悔了，便将祢衡厚葬。祢衡时年二十六岁。

祢衡的代表作《鹦鹉赋》是一篇托物言志之作。赋中描写具有“奇姿”、“殊智”的鹦鹉，却不幸被“闭以雕笼，剪其翅羽”，失去自由。赋中“顺笼槛以俯仰，窥户牖以踟蹰”，“顾六翮之残毁，虽奋迅其焉如”的不自由生活，显然是以鹦鹉自况，抒写才智之士生于乱世的愤闷心情，反映出作者对东汉末年政治黑暗的强烈不满。此赋寓意深刻,状物维肖,感慨深沉，融咏物、抒情、刺世为一体，是汉末小赋中的优秀之作。另有《吊张衡文》，《文心雕龙·哀吊》称为“缛丽而轻清”。

《隋书·经籍志》有《祢衡集》2卷，久佚。今存文、赋见严可均《全上古三代秦汉三国六朝文》。

蔡邕以前避难去吴地，读了曹娥碑的碑文并在边上刻上“黄绢幼妇外孙齑臼”八个字，后来曹操看到不解其意，这时候江边一个洗衣服的女人说在第四辆车中的人可以解开，那人正是祢衡，祢衡即刻便解出“绝妙好辞”四字，有人说那名洗衣服的女人就是曹娥的灵魂。（另一说此故事的主角为杨修，见《世说新语》）

祢衡在京师诋毁朝中人士后南下荆州，当时赵戬也在荆州客居避难，祢衡与赵戬相见后便感叹赵戬就是那所谓的“剑则干将、莫邪，木则椅桐、梓漆，人则颜冉、仲弓。”

《水经注》记载，沔左有却月城，也叫作偃月垒，为戴监军所筑。黄祖曾镇守于此地，祢衡亦遇害于此。

孔融：“淑质贞亮，英才卓砾。初涉艺文，升堂睹奥。目所一见，辄诵于口；耳所瞥闻，不忘于心。性与道合，思若有神。弘羊潜计，安世默识，以衡准之，诚不足怪。忠果正直，志怀霜雪。见善若惊，疾恶若仇。任座抗行，史鱼厉节，殆无以过也。鸷鸟累伯，不如一鹗。使衡立朝，必有可观。飞辩骋辞，溢气坌涌，解疑释结，临敌有余。昔贾谊求试属国，诡系单于；终军欲以长缨，牵致劲越。弱冠慷慨，前世美之。路粹、严象，亦用异才，擢拜台郎，衡宜与为比。如得龙跃天衢，振翼云汉，扬声紫微，垂光虹蜺，足以昭近署之多士，增四门之穆穆。钧天广乐，必有奇丽之观；帝室皇居，必蓄非常之宝。若衡等辈，不可多得。”

曹操：“祢衡竖子，孤杀之犹雀鼠耳。顾此人素有虚名，远近将谓孤不能容之，今送与刘表，视当何如。”

黄祖：“处士，此正得祖意，如祖腹中之所欲言也。”

黄射：“此有异才。”

葛洪：“虽言行轻人，宁愿荣显，是以高游凤林，不能幽翳蒿莱，然修己驳刺，迷而不觉，故开口见憎，举足蹈祸。赍如此之伎俩，亦何理容于天下而得其死哉？犹枭鸣狐嚾，从皆不喜，音响不改，易处何益。许下，人物之海也。文举为之主任，荷之足以至到，于此不安，已可知矣。犹必死之病，俞附越人，所无如何。朽木铅铤，班输欧冶所不能匠也。而复走投荆楚间，终陷极害，此乃衡懵蔽之效也。盖欲之而不能得，非能得而弗用者矣。于戏才士，可勿戒哉！”

范晔：“情志既动，篇辞为贵。抽心呈貌，非雕非蔚。殊状共体，同声异气。言观丽则，永监淫费。”

郦道元：“衡恃才倜傥，肆狂狷于无妄之世，保身不足，遇非其死，可谓咎悔之深矣。”

刘勰：“孔融气盛于为笔，祢衡思锐于为文，有偏美焉。”

李白：“魏帝营八极，蚁观一祢衡。黄祖斗筲人，杀之受恶名。吴江赋《鹦鹉》，落笔超群英。锵锵振金玉，句句欲飞鸣。鸷鹗啄孤凤，千春伤我情。五岳起方寸，隐然讵可平？才高竟何施，寡识冒天刑。至今芳洲上，兰蕙不忍生。”

张元晏：“祢衡垂一噪声之名，关羽荩万人之敌。御众布投胶之德，礼贤怀比饭之恭。智略出群，忠果成性。”

胡曾：“黄祖才非长者俦，祢衡珠碎此江头。今来鹦鹉洲边过，惟有无情碧水流。”

佘翔：“汉运昔云颓，烟云四塞起。魏武奋鹰扬，群策皆披靡。雄辨哉祢衡，猖狂无与比。阿瞒非所论，馀子安足齿。江夏褊心人，豪强甘杀死。至今鹦鹉名，遗恨沧浪水。”

2010年，陕西省西安市长安区出土了祢氏家族墓，三位墓主均为唐代官员。其中祢仁秀的墓志铭记载，其祖先正是“东汉平原处士”祢衡，隋末莱州刺史祢善为躲避战乱，东渡朝鲜半岛的百济国，得到国王的重用。祢善之子祢寔进（祢植）在660年苏定方东征百济时扭送义慈王投降唐军，此后落户并入仕唐朝。此外该家族还有祢寔进、祢素士、祢军的墓志铭出土，但这三人的墓志铭就没有提到祖先是祢衡。

祢衡的墓在湖北省武汉市汉阳区中铁大桥集团宿舍(汉阳莲花湖公园西北)，是武汉市1983年公布的重点文物保护单位。

祢衡的事迹主要见《三国志·荀彧传》裴松之注《平原祢衡传》、《文士传》，及范晔《后汉书·文苑列传》。

《三国志·卷十·魏书十·荀彧荀攸贾诩传第十·裴松之注》

《后汉书·卷八十下·文苑列传第七十下》

小说《三国演义》中，祢衡登场于第23回《祢正平裸衣骂贼，吉太医下毒遭刑》。与孔融是好友，孔融声称祢衡的才能十倍于自己，并上表把他推荐给天子。祢衡见到曹操后，骂遍了曹操手下的文武官员。曹操欲羞辱祢衡，令他担任鼓吏。之后曹操在省厅大宴宾客时，祢衡击鼓为《渔阳三挝》，又大骂曹操污浊，结果被曹操强行派去荆州劝降刘表。刘表被祢衡讥讽，但清楚曹操欲借刀杀人，便让祢衡去江夏见黄祖。祢衡到江夏后，又出言讥讽黄祖，最终被黄祖斩杀。刘表下令将他葬于鹦鹉洲边。