Богдан Иванович ещё в молодые годы, находясь на службе в Петербурге, начал собирать произведения мирового искусства. На аукционных распродажах он знакомился с авторитетными отечественными и зарубежными антикварами, постоянно посещал Апраксин двор - в то время центр торговли предметами старины. Апраксин двор с его лавочками длительное время служил для коллекционера основным источником пополнения собрания. Именно в Петербурге были приобретены полотна итальянцев Ладзарини, Франческини, Либери, Рупполи, голландца Веникса, нидерландца П. Брейгеля Младшего, которые ныне украшают экспозицию музея. Варшавский период жизни Б.И.Ханенко отмечен приобретением значительного количества произведений живописи старых мастеров и прикладного искусства. Большинство их происходило из частного собрания графа Брюля. В 1880-х годах окончательно определились вкусы и симпатии коллекционера. Он отдаёт предпочтение живописцам Нидерландов, Фландрии, Голландии, а также итальянским мастерам конца 14 - 18 веков. Уже после выхода в отставку, во время проживания в Москве, коллекционера ожидала редкая удача - он приобрёл две ценные коллекции живописи: одну - у купца-любителя Н.Постникова, который распродавал богатое собрание картин князя Кочубея; другую - у известного коннозаводчика Н.Малютина. Уникальной находкой был натюрморт Хуана де Сурбарана, датированный 1640 годом.
Во второй половине 1880-х годов начались постоянные и длительные контакты с заграницей. Ханенко внимательно следит за европейским художественным рынком, заказывает каталоги зарубежных аукционов. Он пополняет коллекцию на аукционах Вены, Берлина, Парижа, Мадрида. Но наиболее плодотворными были поездки в Италию. Около 100 ценных, уникальных полотен, значительная часть скульптурных произведений и изделий прикладного искусства приобретено из выставленных на распродажу в Риме и Флоренции известных семейных собраний принца Боргезе, герцога С.Е. ди Вердуа, графа Л.Паар, Л.Борг де Бальзан, М.А. Альберичи и других. Именно эти произведения стали ценнейшим пополнением музея. Полотна живописцев эпохи раннего Возрождения, а также «Портрет инфанты Маргариты» прославленного испанского художника Д.Веласкеса, уникальный диптих «Поклонение волхвов», принадлежащий нидерландскому художнику 15 ст. с условным именем «Мастер Ханенковского Поклонения волхвов» и ныне приносят славу музею. Уже в начале 20 столетия коллекция фактически была музеем. Ханенко подготовил и опубликовал каталоги картин. В трёх альбомах были воспроизведены работы художников нидерландской, фламандской и голландской школ. После участия в выставке, организованной в Петербурге журналом «Старые годы», коллекция была высоко оценена в прессе и признана лучшей среди новых частных собраний Российской империи. Она не только отличалась высоким художественным уровнем, но и была единственной частной коллекцией, где школы и направления были представлены в их эволюции. Живопись и скульптура, гравюра, фарфор и майолика, старинная мебель, великокняжеское и византийское золото, русская икона и украинское народное искусство, художественные изделия Ближнего и Дальнего Востока - таким был состав ханенковского собрания.
В 1919 году коллекция Ханенко была национализирована и получила статус государственного музейного учреждения. Невосполнимые утраты понесло собрание в 1920-30-х годах. При распределении экспонатов между украинскими музеями в соответствии с их профилем ушла из собрания вместе с русской иконой и украинским народным искусством ценная коллекция европейского и восточного оружия 15-17 вв. Были изъяты для конторы «Антиквариат» и отправлены на экспорт несколько лучших произведений живописи и прикладного искусства. В госбанке оказалась бесценная для Украины коллекция великокняжеского и византийского золота и серебра. Значительные потери претерпела коллекция в годы Второй Мировой войны. Но, не смотря на эти горькие утраты прошлых десятилетий, коллекция Ханенко до сих пор остаётся наиболее ценной частью современного собрания.
В течение своего существования музейная коллекция постоянно пополнялась. Среди поступлений - произведения нидерландской, фламандской и голландской художественных школ 17 века петербургского коллекционера В.Щавинского, произведения из яготинского собрания князей Репниных, Кабинета искусств Киевского университета, частных коллекций Терещенко, Сахновских, Гудим-Левковичей, музеев Москвы, Ленинграда, Киева. Ценным поступлением стал подарок Т.Жаспар - коллекция произведений китайской живописи и прикладного искусства 14-20 веков.
Среди первых научных сотрудников музея были известные учёные, искусствоведы: Георгий Лукомский (1884-1952), Николай Макаренко (1887-1938), Борис Рерих (1885-1945), Сергей Гиляров (1887-1946). Опираясь на опыт предыдущих поколений, коллектив музея проводит научно-исследовательскую, выставочную и просветительскую работу. В 1998 году в отреставрированном помещении музея открыта новая экспозиция, где представлены лучшие произведения искусства 14-19 веков стран Европы. Впервые в музейной практике Украины создан мемориальный зал, посвящённый основателям музея Богдану и Варваре Ханенко. В 2004 году в отдельном помещении музея открыта экспозиция в которой представлены уникальные византийские энкаустические иконы 6-7 веков, в 2006 году была создана экспозиция «Восточная коллекция», а в 2009 - «Искусство Древнего мира».
