W 1839 roku rozpoczął badania archeologiczne w Mangup oraz na cmentarzu karaimskim w Czufut-Kale na Krymie. W 1843 roku wyjechał na Bliski Wschód, skąd przywiózł bogaty zbiór manuskryptów hebrajskich. Osiągnięcia, których dokonał, zyskały zainteresowanie rosyjskich środowisk orientalistycznych, a w 1856 roku najcenniejszą część zbiorów jego rękopisów zakupiła Cesarska Biblioteka Publiczna w Petersburgu.
Abraham Firkowicz pod koniec życia osiadł w Trokach koło Wilna. W 1856 roku został powołany do grona Wileńskiej Komisji Archeologicznej, która powstała z inicjatywy Eustachego hr. Tyszkiewicza. Został uhonorowany również członkostwem w odeskim i petersburskim towarzystwie naukowym. W 1871 roku odwiedził gminę karaimską w Haliczu. W trakcie przejazdu przez Wiedeń, na polecenie cesarza Franciszka Józefa I, został jedyny raz w życiu sfotografowany. Rok później wydał w Wilnie Awne Zikkaron zawierający zbiór inskrypcji z nagrobków karaimskich w Czufut-Kale, pamiętniki i opisy podróży na Wschód.
Dzięki swoim wpływom Firkowicz wyjednał u władz zaboru rosyjskiego zgodę na utworzenie niezależnego Karaimskiego Zarządu Duchownego z siedzibą w Trokach, co miało wpływ na autokefalię Karaimskiego Związku Religijnego w Polsce.