原居陇西（郡治在今甘肃临洮县），东汉光武帝建武年间，其先人东迁。当初，辛毗跟随其兄事袁绍。

官渡战后，辛毗事袁绍的儿子袁谭。

建安十年（205年），曹操消灭了袁谭，袁尚、袁熙率残部逃往乌桓，河北纳入了曹操的势力范围。他器重辛毗的才干，上表朝廷，拜辛毗为议郎，兼任侍中。

建安二十一年（216年），曹操自进爵为魏王。辛毗以汉议郎、侍中身份兼任魏王侍中。

当时在立谁为魏王太子这个问题上，曹操一度犹豫不决。

曹丕以年长得立，曹植以才高得宠，文武大臣又各有所向。辛毗坚持以国立嫡长的礼法，坚决支持册立曹丕。

次年，曹丕被立为魏王太子后，得意忘形，搂着辛毗的脖子说：“辛先生你知道吗？我好高兴！”辛毗不禁对曹丕的举动感到愕然。

公元220年，曹操病故，太子曹丕继位为魏王。魏王侍中、汉丞相长史辛毗联络群臣上书曹丕，劝他代汉称帝。

曹丕早有此意，不久就威逼汉献帝退位。曹丕建立魏国，辛毗也因此被赐爵关内侯，任侍中之职。

黄初元年（220年），魏文帝曹丕想从冀州迁徙士家十万户到洛阳。当时连年干旱，蝗灾肆虐，中原大地发生了严重的饥荒。

群臣都认为在饥荒之年不宜这样做，曹丕刚愎自用，一意孤行。

担任侍中的辛毗坚决反对，再次劝谏，想让文帝收回成命。

曹丕十分生气地对辛毗说：“我不想和你谈论此事。”

辛毗从容地说：“陛下既然不认为臣不肖，让臣随侍左右。密室之议，朝堂之论，为臣都应该切问应对，拾遗补阙，陛下怎么能不同臣下商议？何况臣所谈论的并非个人私事，事关社稷安危，臣不能不说！”

文帝无言以对，站起来要回后宫，辛毗拉住他的衣襟不放，文帝用力夺回衣服，悻悻回宫。

过了一会儿，他火气稍消，又出来责问辛毗：“佐治，你为什么要苦苦地同我作对呢？”

辛毗诚恳地说：“在这种饥荒年月，强行把他们迁徙到河南，没有粮食来救济他们，这样会使他们心怀怨恨，失去人心，因此我不得不力争陛下收回成命！”

最后文帝下令，迁五万户，这不能不说是辛毗力争的结果，虽如此，仍是巨大的人民迁徙，给迁徙人民带来极大的困难。

魏文帝喜欢围猎，有一次随从时，文帝说：“打猎真高兴啊！”

辛毗说：“对于陛下您来说很高兴，对于臣等是跟着受苦。”之后，文帝便很少射猎。

黄初三年（222年），魏文帝命大将军曹真出兵伐吴，以辛毗为军师，进攻东吴的军事重镇江陵。江陵久攻不下，后因长江涨水，魏军才撤军北归。这时，辛毗被封为广平亭侯，仍任侍中之职。

黄初五年（224年），魏文帝准备御驾亲征，出师伐吴，辛毗极力劝阻，他指出：天下初定，便大举兴兵，势必会使刚刚得以恢复发展的社会经济遭到破坏。

当年曹操曾多次南征，都因江海湖泊阻挡不见成效。如今军力并不比当年强盛，不如让老百姓休养生息，待民富国强之日，自可一举灭吴。

但他的建议被魏文帝拒绝。结果兴兵十万，征战数年，仍然望江兴叹，无功而返。

黄初七年（226年），魏文帝病故，魏明帝继位。

辛毗进封为颍乡侯。当时中书监刘放，中书令孙资深得魏明帝宠，他们专断朝政，朝中大臣纷纷投靠。

辛毗却不肯趋炎附势，凡事秉公而断，从不假以词色。他的儿子辛敞怕老父遭到谗言陷害，劝他同刘放、孙资搞好关系，遭到他的严厉斥责。

魏明帝青龙二年（234年），蜀汉诸葛亮六出祁山，大举伐魏，魏明帝命大将军司马懿率军抵抗。

两军对垒，司马懿以逸待劳，诸葛亮屡次挑战他都置之不理。后来诸葛亮派人给司马懿送去女人穿的衣服，以此来刺激他出营作战。