Древний Курземский город Кулдига находится на берегу Венты, где удобно расположился водопад Румба. Ранее здесь находился центр района куршей Бандава.

Городище Вецкулдигас, расположенное на левом берегу Венты недалеко от нынешнего города, уже в стародавние времена являлось самым большим городищем куршей. Уже в 9-м веке рядом с ним образовалось поселение. В первой половине 13-го века эти земли завоевали немецкие крестоносцы, которые сожгли Кулдигский замок. Чтобы усилить военное влияние в данном районе, крестоносцы занялись постройкой каменных замков, один из которых вознёсся прямо напротив водопада. Строительство его началось в 1242 году – и именно тогда впервые в документах упомянуто имя Кулдиги. В 14-м веке рядом с замком уже стоял город, а в 1368 году Кулдига вошла в Ганзейский союз. С 1596 по 1616 год Кулдига являлась столицей Курземского герцогства.

Свои лучшие времена город встретил под правлением герцога Екаба (1642-1682 гг). Во время Северной войны шведские войска разграбили и частично разрушили замок, и он снова стал нежилым.

На гербе города изображена святая Катрина. Основательное строительство церкви её имени началось в 1567 году (впрочем, самое первое деревянное здание относится аж к 1252 году), и в более поздние века церковь была неоднократно обновлена.

Гордость Кулдиги – это старинный мост через Венту, а также старый город со зданиями 17-18 веков. Чтобы увековечить память о герцоге Екабе, его именем была названа новая эстрада в Парвенте, где летом проходят концерты.