Stępki pod oba okręty typu U-3 zostały położone 12 marca 1907 roku w stoczni Germaniawerft w KiloniiBaumgartner & Sieche The Austro-Hungarian Submarine Force (tłumaczenie na język angielski z książki Die Schiffe der k.(u.)k. Kriegsmarine im Bild Erwin Sieche) [dostęp 16 marca 2017]. U-3 został zwodowany w sierpniu, a U-4 w listopadzie 1908 roku. Po ukończeniu obie jednostki zostały przyholowane do Puli przez Gibraltar. U-3 przybył do Austro-Węgier w styczniu, a U-4 w kwietniu 1909 roku.
Służba Oba okręty zostały wprowadzone do służby w Kaiserliche und Königliche Kriegsmarine w 1909 roku: U-4 w sierpniu, a U-3 we wrześniu. Podczas testów porównawczych okręty typu U-3 okazały się lepsze od typów U-1 (Lake) i U-5 (Holland) pod względem niezawodności i warunków życia załogi. Miały jednak najgorsze możliwości zanurzenia ze wszystkich trzech konstrukcji, a ich silniki wytwarzały ogromne ilości spalinTesty porównawcze doprowadziły do zamówienia przez Austro-Węgry pięciu kolejnych okrętów podwodnych w Germaniawerft, które otrzymały oznaczenie U-7.. By przeciwdziałać problemom z zanurzaniem, kilka razy zmieniano wielkość i kształt kiosków.