W tym samym roku muzycy odnieśli swój pierwszy zagraniczny sukces, zdobywając nagrodę dziennikarzy na festiwalu piosenki Schlagerfestival w Dreźnie, gdzie wykonali niemieckojęzyczne wersje hitu „Piechotą do lata” oraz piosenki „Żal prostych słów”. Wkrótce z przebojami „W drodze do jej serca” i „Co mi Panie dasz” trafili na szczyt Listy Przebojów Programu Pierwszego Polskiego Radia. W 1983 wydali debiutancki album studyjny, zatytułowany po prostu Bajm, na którym umieścili m.in. przeboje: „Co mi Panie dasz”, „Józek, nie daruję ci tej nocy” i „Nie ma wody na pustyni”. Krążek rozszedł się w 200-tysięcznym nakładzie, za co zespół odebrał certyfikat złotej płyty. Wyruszyli w ogólnopolską trasę koncertową i zagrali recital w ramach programu Bajm na dachu, który wyprodukowała i wyemitowała Telewizja Polska.
W 1984 zaczęli nagrywać bardziej surowe brzmienia i nagrywać piosenki z bardziej zaangażowanymi politycznie tekstami inspirowanymi przeżyciami w stanie wojennym. Wyrazem buntu był też bardziej ekspresyjny styl śpiewania Kozidrak, który był inspirowany wokalem Niny Hagen. Odbyli także trasę koncertową po Wietnamie. Następnie wydali album pt. Martwa woda, który nagrali w studiu Radia Lublin. Na płycie znów umieścili swoje komentarze do bieżących wydarzeń politycznych.