Родился 26 мая 1944 года в Москве.
Сын трубача Михаила Фрумкина, игравшего в 1930—1940-е в джаз-оркестре Александра Цфасмана.
Начал играть на фортепиано уже в пять лет. В 1962 году с серебряной медалью окончил Центральную музыкальную школу при Московской государственной консерватории имени П. И. Чайковского по классу фортепиано, в 1962−1963 годах учился в этой же консерватории на фортепианном отделении.
Начал играть джаз в 1959 году, в 1965 выступал на фестивале в Москве со своим квинтетом (с Андреем Товмасяном и Виталием Клейнотом).
В 1966—1973 годах — пианист и аранжировщик в Концертном эстрадном оркестре Вадима Людвиковского.
В составе оркестра, а также квинтета солистов («РТ-квинтет», «Крещендо») выступал на фестивалях в Москве, Таллине, Праге и Варшаве (1967—1968). Также возглавлял при оркестре ансамбль солистов «Граммофон», с которым записал и выпустил на пластинках несколько композиций собственного сочинения и аранжировок популярных зарубежных мелодий.
С 1973 года — пианист и аранжировщик в ансамбле «Мелодия», после ухода Георгия Гараняна стал художественным руководителем и дирижёром ансамбля — с 1982 года и до конца существования ансамбля.
В 1988 году Борис Фрумкин со своим ансамблем участвует как пианист и дирижёр в первой совместной советско-американской постановке мюзикла на музыку Дюка Эллингтона «Настоящая леди» (Sophisticated Ladies) при спонсорской поддержке «American Express» и под патронажем первой леди США Нэнси Рейган.
С 2007 года — художественный руководитель Государственного камерного оркестра джазовой музыки имени Олега Лундстрема
Стиль исполнения Фрумкина — блестящий, виртуозный. Фрумкин отличается плотным, тембристым звуком, безукоризненной техникой, чутким и верным прочтением материала музыкальной пьесы. Будучи по складу характера лидером, солистом, Фрумкин успешно исполняет аккомпанирующие партии в инструментальных ансамблях и для вокалистов.