Общественный деятель, историк, публицист и поэт, член-корреспондент Императорской Санкт-Петербургской академии наук, автор многотомного издания «Русская история в жизнеописаниях её деятелей», исследователь социально-политической и экономической истории России, в особенности территории современной Украины, называемой Костомаровым южною Русью и южным краем. Родился 4 (16) мая 1817 года в слободе Юрасовке Острогожского уезда Воронежской губернии (ныне село Юрасовка, Ольховатского района Воронежской области). Отец — дворянин-помещик, мать — крестьянская девушка, прежде крепостная его отца, учившаяся в одном из московских пансионов. Позднее отец Костомарова женился на ней, но Костомаров родился до брака, и хотя отец собирался усыновить его, но не успел этого сделать.
Отец Костомарова, поклонник французской литературы XVIII века, идеи которой он пытался прививать и малолетнему сыну, и своей дворне, был вместе с тем жестоким помещиком; в 1828 году он был убит своими дворовыми людьми, похитившими при этом скопленный им капитал. Мать Костомарова отдала его в воронежский пансион, но, пробыв там около двух лет, он был исключён за шалости. Затем он поступил в воронежскую гимназию и, окончив здесь курс, в 1833 году стал студентом Харьковского университета.
Уже в первые годы учения сказались блестящие способности Костомарова, доставившие ему, от учителей московского пансиона, в котором он при жизни отца недолго учился, прозвище «enfant miraculeux» (фр. «чудо-ребёнок»). Природная живость характера Костомарова с одной стороны, низкий уровень учителей того времени — с другой не давали ему возможности серьёзно увлечься занятиями. Первые годы пребывания в Харьковском университете, историко-филологический факультет которого не блистал в ту пору профессорскими дарованиями, мало отличались в этом отношении для Костомарова от гимназии. Сам Костомаров много работал, увлекаясь то классической древностью, то новой французской литературой, но работы эти велись без надлежащего руководства и системы, и позднее Костомаров называл свою студенческую жизнь «беспорядочной». Лишь в 1835 году, когда на кафедре всеобщей истории в Харькове появился М. М. Лунин, занятия Костомарова приобрели бо́льшую системность. Лекции Лунина оказали на него сильное влияние, и он с жаром отдался изучению истории. Тем не менее, он так ещё смутно сознавал свое настоящее призвание, что по окончании университета поступил было на военную службу. Неспособность его к последней скоро стала, однако, ясна и начальству его, и ему самому.
Увлекшись изучением сохранившегося в городе Острогожске, где стоял его полк, архива местного уездного суда, Костомаров задумал писать историю слободских казачьих полков. По совету начальства, он оставил полк и осенью 1837 года вновь явился в Харьков с намерением пополнить своё историческое образование. В это время усиленных занятий у Костомарова, отчасти под влиянием Лунина, стал складываться взгляд на историю, в котором были оригинальные черты сравнительно с господствовавшими тогда среди русских историков воззрениями. По позднейшим словам самого Костомарова, он «читал много всякого рода исторических книг, вдумывался в науку и пришёл к такому вопросу: отчего это во всех историях толкуют о выдающихся государственных деятелях, иногда о законах и учреждениях, но как будто пренебрегают жизнью народной массы? Бедный мужик-земледелец-труженик как будто не существует для истории; отчего история не говорит нам ничего о его быте, о его духовной жизни, о его чувствованиях, способе его радостей и печалей»? Мысль об истории народа и его духовной жизни, в противоположность истории государства, стала с этой поры основной идеей в кругу исторических воззрений Костомарова. Видоизменяя понятие о содержании истории, он раздвигал и круг её источников. «Скоро, говорит он, я пришёл к убеждению, что историю нужно изучать не только по мертвым летописям и запискам, а и в живом народе». Он научился украинскому языку, перечитал изданные народные украинские песни и печатную литературу на украинском языке, тогда очень небольшую, предпринимал «этнографические экскурсии из Харькова по соседним сёлам, по шинкам». Весну 1838 года он провёл в Москве, где слушание лекций Шевырева ещё более укрепило в нём романтическое отношение к народности.
В эту пору Костомаров сам начал писать по украински, под псевдонимом Иеремии Галки, и в 1839—1841 годах выпустил в свет две драмы и несколько сборников стихотворений, оригинальных и переводных. Быстро продвигались вперед и его занятия по истории. В 1840 году Костомаров выдержал магистерский экзамен, а в 1842 году напечатал диссертацию «О значении унии в западной России». Назначенный уже диспут не состоялся вследствие сообщения архиепископа харьковского Иннокентия Борисова о возмутительном содержании книги. Хотя речь шла лишь о нескольких неудачных выражениях, но профессор Н. Г. Устрялов, по поручению министерства народного просвещения разбиравший труд Костомарова, дал о нём такой отзыв, что книгу велено было сжечь. Костомарову дозволено было написать другую диссертацию, и в конце 1843 году он представил в факультет работу под названием «Об историческом значении русской народной поэзии», которую и защитил в начале следующего года. В этом труде нашли яркое выражение этнографические стремления Костомарова, принявшие ещё более определенный вид благодаря сближению его с целым кружком молодых украинцев (Корсун, Кореницкий, Бецкий и др.), подобно ему с энтузиазмом мечтавших о возрождении украинской литературы.
Немедленно по окончании своей второй диссертации Костомаров предпринял новую работу по истории Богдана Хмельницкого и, желая побывать в местностях, где происходили описываемые им события, стал учителем гимназии сперва в Ровно, затем (1845) в Киеве. В 1846 году совет Киевского университета избрал Костомарова преподавателем русской истории, и с осени этого года он начал свои лекции, вызвавшие сразу глубокий интерес слушателей.
В Киеве, как и в Харькове, около него составился кружок лиц, преданных идее народности и намеревавшихся проводить эту идею в жизнь. В кружок этот входили П. А. Кулиш, Аф. Маркевич, Н. И. Гулак, В. М. Белозерский, Т. Г. Шевченко. Дружеский кружок преобразовался в общество, получившее название Кирилло-мефодиевского братства.
Панславистские мечтания юных энтузиастов скоро были оборваны. Студент Петров, подслушавший их беседы, донес на них; они были арестованы весной 1847 года, обвинены в государственном преступлении и подвергнуты различным наказаниям.
Костомаров, просидев год в Петропавловской крепости, был «переведён на службу» в Саратов и отдан под надзор местной полиции, причём ему на будущее время воспрещалось как преподавание, так и печатание его произведений. Ссылка указала Костомарову настоящие размеры пропасти, лежавшей между его идеалами и действительностью, но она не убила в нём ни идеализма, ни энергии и способности к работе. В Саратове он продолжал писать своего «Богдана Хмельницкого», начал новую работу о внутреннем быте московского государства XVI—XVII веков, совершал этнографические экскурсии, собирая песни и предания, как прежде на Украине, знакомился с раскольниками и сектантами. В 1855 году ему дозволен был отпуск в Петербург, которым он воспользовался для окончания своего труда о Хмельницком; в 1856 году отменено было запрещение печатать его сочинения и затем снят с него надзор. Совершив поездку за границу, Костомаров опять поселился в Саратове, где написал «Бунт Стеньки Разина» и принимал участие, в качестве делопроизводителя губернского комитета по улучшению быта крестьян, в подготовке крестьянской реформы. Весной 1859 года он был приглашен петербургским университетом занять кафедру русской истории, освободившуюся с выходом в отставку Устрялова. Тяготевшее ещё над Костомаровым запрещение педагогической деятельности было снято по ходатайству министра Б. П. Ковалевского, и в ноябре 1859 года он открыл свои лекции в университете. Это была пора наиболее интенсивной работы в жизни Костомарова и наибольшей его популярности.
Известный уже русской публике, как талантливый писатель, он выступил теперь в качестве профессора, обладающего могучим и оригинальным талантом изложения и проводящего самостоятельные и новые воззрения на задачи и сущность истории. Эти воззрения находились в тесной связи с теми взглядами, какие выработались у него ещё в Харькове.
В 1875 году Костомаров перенес тяжёлую болезнь, сильно подорвавшую его здоровье. В этом же году он женился на Ал. Л. Кисель, урождённой Крагельской, которая была его невестой ещё до ареста его в 1847 году, но после его ссылки вышла замуж за другого. Работы последних годов жизни Костомарова, при всех их крупных достоинствах, носили на себе, однако, некоторые следы пошатнувшейся силы таланта: в них меньше обобщений, менее живости в изложении, место блестящих характеристик заменяет иногда сухой перечень фактов, несколько напоминающий манеру Соловьёва. В эти годы Костомаров высказывал даже такую точку зрения, что вся задача историка сводится к передаче найденных им в источниках и проверенных фактов. С неутомимой энергией работал он до самой смерти.
Умер 7 (19) апреля 1885 года, после долгой и мучительной болезни. Николай Иванович похоронен в Санкт-Петербурге на Литераторских мостках Волковского кладбища.
Именем Костомарова названа улица в Харькове.