Плодами, наверное? У каперсов же цветки...

Только один плод виден.

В данном случае наверное особенно важно употребить "ё" а не "е" - лёссовые?

Конечно.

А почему не Capparis herbacea?

Возможно поэтому: https://www.biotaxa.org/Phytotaxa/article/view/phytotaxa.174.1.1

И как теперь быть? Смотри также https://forum.plantarium.ru/viewtopic.php?id=29362

Логично, все эти разновидности явно не тянут на виды или даже подвиды (и даже в рамках разновидностей не ясна их целесообразность). С другой стороны, два ихних подвида имеют странное распространение, - это, скорее всего, тоже просто такие формы или, наоборот, отдельные виды.