Родился в 1881 году в еврейской семье в Житомире. Был учеником фотографа в Одессе, увлекался революционными идеями. В 1906 году как активный участник Бунда был вынужден эмигрировать из России в Вену. С 1907 по 1917 жил в Париже. В Париже занимался фототипией и учился живописи сначала в Школе изящных искусств, а затем в академии Витти. Среди его сокурсников был голландский художник Кеес ван Донген. Жил Штеренберг в известном парижском фаланстере «Улей».
Художник испытал влияние творчества Поля Сезанна и кубизма. С 1912 года принимал участие в экспозициях Парижского салона. Позже примкнул к Салону Независимых, сблизившись с другими художниками парижской школы: Липшицем, Кислингом, Диего Риверой, Марком Шагалом и прочими. Картины Штеренберга парижского периода часто противоречивы и неоднородны. Узнаваемый стиль у художника выработается только к концу пребывания в Париже.
Когда в России происходит революция, Штеренберг возвращается на родину. Здесь политическое прошлое и парижский творческий опыт неожиданно делают его руководителем художественной политики страны: нарком просвещения А. В. Луначарский, знавший художника еще во Франции, назначает его заведующим Отделом ИЗО Наркомпроса.
Рядом со Штеренбергом — самые решительные новаторы. Именно они, отвергавшиеся прежде официальным искусством, охотнее всех сотрудничают с новой властью. Конечно, Штеренберг тоже новатор, — картины, которые он начинает выставлять, не похожи на привычную старую живопись. Но они строго изобразительны и очень конкретны. Почти всегда это натюрморты, изображения простых вещей. Ничего специально красивого: губка и мыло. Керосиновая лампа. Нож. Бутылка. Две селедки на блюде и полбуханки черного хлеба… Одна, самое большое — три вещи, грубые и бедные, на голой пустоте холста, подчеркнуто плоскостного, лишенного и пространственной глубины, и объединяющей, обволакивающей предметы атмосферы. Зато подчеркнут материал, структура поверхности вещей: гладкий фаянс и шероховатая хлебная корка, слоистая доска и скользкая рыбья чешуя.
Художник прибегает даже к рельефу — некоторые изображения выступают из поверхности холста. Обращаясь к зрению, такая живопись возбуждает скорее осязательные, материально-конкретные ощущения. Одинокие предметы будто просятся из нее наружу, в живые человеческие руки. Простейший натюрморт насыщен драматическим напряжением, говорит нам об элементарных, но необходимых человеческих ценностях. «Вся его живопись есть рассказ о хлебе насущном, которого надо припасти так немного, чтобы прожить, но над которым надо помучиться так много, чтобы достать», — сказал о Штеренберге проницательнейший художественный критик А. М. Эфрос.
Главным делом Штеренберга была живопись, но он также оформлял спектакли, работал в графике — гравировал, рисовал книжки-картинки, используя принципы схематичного и плоскостного детского рисунка, во многом близкого к его «взрослому» почерку.
В 1920-х гг. Штеренберг — видный деятель художественной жизни страны. Он преподает, возглавляет ОСТ, организует международные выставки, участвует в художественных советах.
Среди учеников Штеренберга такие известные российские художники, как А. А. Дейнека, Ю. И. Пименов, А. А. Лабас, П. В. Вильямс, А. Д. Гончаров и другие. В 1930 году Штеренбергу было присвоено звание заслуженного деятеля искусства.
После 1930-х годов Штеренберг был вынужден работать в более реалистичной манере, так как с середины 1930-х его творчество стало диаметрально расходиться с изменившейся государственной линией в области искусства. В 1940-х годах подвергался резкой критике за формализм. Его независимый стиль перестал пользоваться спросом, постепенно его работы были изъяты из поля зрения общественности. Нападки критики тяжело отразились на моральном состоянии художника и нашли отражение в его поздних работах. Штеренберг глубоко осознал своё еврейское происхождение. Он писал своей жене Надежде: «У меня в жилах течёт восточная кровь, кровь моего предка, который написал „Песнь Песней“, и нет лучше песни» . В самом конце жизни в эскизных «Библейских мотивах» (1947—48) у художника наметился новый живописный язык, стали проявляться новые драматические интонации. Развить их он уже не успел. После его смерти в 1948 году он был практически забыт. Похоронен Штеренберг на Ваганьковском кладбище в Москве.
В контексте общего восприятия мирового изобразительного искусства творчество Штеренберга отличается особенным своеобразием. Его заслуга перед мировым искусством в том, что будучи солидарным с авангардным искусством, отстаивал в то же время основополагающее значение станковизма в формировании новой эстетики двадцатого века. «Основа творчества Штеренберга — предмет, воплощённый в оригинальной, неповторимой системе живописного натюрморта. В своем самодостаточном значении объекта аналитического искусства натюрморт художника тем не менее в полной мере наделен богатством социального и философского содержания»