Gew.98式步枪虽然具有性能可靠和射击准确的优点，但740mm长的枪管在埑壕战中使用时却显得太长而极为不便，因此德国陆军武器局在1908年曾考虑采用卡宾枪来取代它。由于原来的Kar.98式卡宾枪的枪管太短，射击时后坐力和枪口焰都太大，因此新设计的卡宾枪把枪管长增加到600mm，这种新卡宾枪被命名为 “98AZ式卡宾枪”（Karabiner 98AZ）。除了枪管比标准型短外，Kar.98AZ还采用了下弯式拉机柄，背带环改在枪身侧面，无论徒步士兵还是骑兵都方便携行，但Kar.98AZ只使用到1912年就撤装了。

Kar.98AZ在四个兵工厂中生产，包括：Amberg、Danzig、Erfurt和Spandau。在一战早期阶段主要装备德军的骑兵，后来也装备了部分常规部队。在一战后由于定型了新的Kar.98b卡宾枪，因此Kar.98和Kar.98AZ都被重新命名为Kar.98a。波兰仿制的Kar.98AZ被命名为Kbk wz. 1898式，与德国Kar.98AZ原型的区别主要在于枪托上的背带环移到左侧。

第一次世界大战中使用的Gew.98步枪和Kar.98AZ卡宾枪的外观比较

98AZ卡宾枪改用下弯式拉机柄

背带环的位置

98AZ卡宾枪独特的枪口设计

改用斜板式表尺的98AZ卡宾枪，而98式步枪直到1922年才改用这个设计