Самоходная установка СУ-122 разрабатывалась на основе опыта создания и боевого применения САУ в годы войны. Была создана в Омске в 1949 году на базе шасси среднего танка Т-54 конструкторским бюро под руководством И. С. Бушнева. В ходе разработки имела обозначение «Объект 600». Ведущим конструктором проекта являлся А. Е. Сулин. На вооружение машина была принята в 1954 году и серийно выпускалась в Омске в 1955–57 годах. Всего было изготовлено 77 машин.
СУ-122 относилась к типу закрытых САУ. Отделение управления было совмещено с боевым отделением, поэтому все члены экипажа имели свободное общение. В боевой рубке размещались командир машины, механик-водитель, наводчик, правый и левый заряжающие.
Пушка Д-49 по характеристикам бронепробиваемости была равноценна пушке тяжелого танка ИС-3. Она имела углы возвышения и горизонтального наведения, равные 16 градусам. Для стрельбы с закрытых огневых позиций у наводчика был установлен прицел с панорамой, а для стрельбы прямой наводкой — телескопический прицел.
На вращающейся командирской башенке был смонтирован оптический дальномер ТКД-09 с базой 900 мм. Боекомплект пушки составлял 35 выстрелов раздельного заряжания, а для облегчения работы заряжающих использовался электромеханический досылатель. С целью уменьшения загазованности боевого отделения сначала была применена продувка ствола сжатым воздухом от комрессора, а затем впервые для 122-мм пушек — эжекционная продувка.
С пушкой был спарен 14,5-мм пулемет КПВТ с пневматической системой перезарядки, второй пулемет КПВТ был установлен в качестве зенитного. Боекомплект пулеметов составлял 600 патронов.
Лобовой броневой лист корпуса и боевой рубки толщиной 100 мм был сплошным и имел угол наклона от вертикали 51 градус. Бортовые листы рубки толщиной 80 мм были наклонены под углом 26 градусов.
Силовая установка, трансмиссия и ходовая часть с некоторыми конструктивными изменениями были заимствованы у танка Т-54. В систему воздушного запуска двигателя впервые в нашей стране был введен компрессор АК-150В. Изменена конфигуpация внутpенних топливных баков, вместо тpех наpужных — два. В связи со смещением центра тяжести машины вперед было изменено взаимное расположение опорных катков.