日本陆上自卫队成立初期曾装备美军的M20A1B1“超级巴祖卡”火箭筒作为反坦克武器，并将之命名为“89mm火箭筒”。在1970年代末，陆上自卫队觉得这种89mm火箭筒的性能已经很落后了，于是先后引进了两种武器来取代仿制的“超级巴祖卡”火箭筒，先进来的是瑞典的卡尔-古斯塔夫M2无后坐力炮，后一种则是德国的铁拳3火箭筒。

对于引进的卡尔-古斯塔夫M2无后坐力炮，自卫队按照他们的习惯，很没有创意地命名为“84mm无后坐力炮”（84mm無反動砲），而在自卫队内则有“84RR”或“卡尔先生”（カール君）之类的昵称。自卫队在1978年预算购买85门，以此为装备该武器的开端。最初几年只是从瑞典进口，但从1984年开始，由丰和工业获得授权生产。

日本仿制的84mm无后坐力炮与瑞典原产的卡尔-古斯塔夫M2差别不大，由合金钢制成的身管由燃烧室和导向管两部分组成，导向管内有24条膛线。身管下方有手柄、握把、支架联接支耳，左侧有光学瞄准具支座，右侧有背带环，前面有加强箍，后面有联接喷管的紧定器。护板用隔热材料制成，由护板箍固定在发射筒燃烧室外面，以保护射手面部不被高热的筒壁灼伤。喷管、两脚架组件也用钢制成。除保险卡笋和保险扳把之外，还设有阻铁保险，以确保使用安全。发射时，竖起握把后面的保险扳把，向前推压撞击杆到待发位置，再打开阻铁保险，才可扣压扳机进行射击。

但丰和工业生产的84mm无后坐力炮在炮口还增加了一个喇叭形的护筒，用于防止炮口溢出的燃气灼伤射手面部，或是减小炮口击波对射手面部的冲击。不过瑞典原产品一般不见此附件，而有些自卫队的炮手在实际射击时也拆掉此附件来减轻重量，所以这个喇叭护筒可能作用不大。

配用的弹药有反坦克的空心装药破甲弹（FFV551）、人员杀伤的榴霰弹（FFV441）、烟雾弹（FFV469）、照明弹（FFV545）以及训练弹（FFV552）共4种。其中破甲弹的有效射程700m，破甲深度大于400mm；榴霰弹的有效射程1000m，破片杀伤战斗部有800枚钢珠。

在陆上自卫队，通常每个步兵班配1门84mm无后坐力炮，炮手携带的自卫武器是9mm手枪，而弹药手则携带步枪。

丰和工业生产的84mm无后坐力炮，可以看到炮口增加了一种喇叭形护筒

在自卫队基地开发日上这具84mm无后坐力炮的炮口护筒变形了，但实际并不影响使用

在富士综合演练中进行实弹发射的84mm无后坐力炮

2004年第20步兵团在与美国海军陆战队的联合演练中发射丰和84mm无后坐力炮，但此炮口的喇叭形护筒被拆掉

用于展示或操作练习用的教练弹

在1991年，萨伯-博福斯公司对卡尔-古斯塔夫M2进行改进，部分部件采用轻型材料以减轻重量，并配上新的瞄准装置，从而推出了卡尔-古斯塔夫M3，而新研制的破甲弹虽然射程略减，但破甲深度提高到超过500mm。当时陆上自卫队并没有跟进这个改进。从2001年开始，陆上自卫队采用新研制的01式轻型反坦克导弹逐步替换原有的84mm无后坐力炮，但后来发现84mm无后坐力炮在用途上更广，并非反坦克导弹可以轻易取代，而且成本也要低得多。所以陆上自卫队在2012年以大约1,000万日元的价格采购了3门卡尔-古斯塔夫M3进行试装备，当时称之为“多用途炮”（多用途ガン），后改称“84mm无后坐力炮(B)”（84mm無反動砲(B)），并于2013年开始陆续引进更多的84mm无后坐力炮(B)型去取代剩下的84mm无后坐力炮。

最新84mm无后坐力炮(B)型，其实是1986年推出的卡尔-古斯塔夫M3