像许多早期的航空技术一样，空中加油技术是少数"飞行幻想家"异想天开的产物。
1917年，俄罗斯海军飞行员亚历山大·塞维尔斯基提出空中加油的设想，十月革命后他移居美国，并为自己的空中加油技术申请专利。1923年6月27日，美国陆军航空队的L.H.史密斯上尉利用软管加油技术为一架DH-4B型飞机加油，创造了持续留空飞行6小时38分的记录，这是航空史上第一次真是意义的空中加油。随着第一次世界大战的结束，商业航空迅速发展，为了弥补运输机航程不足的缺陷，实现跨大西洋的商业空中航运，需要采用空中加油技术。
在商业利益的驱使下，民用空中加油技术迅速发展，1929年1月1日至月7日，通过空中加油，美国的C-2A飞机创造了留空飞行一个星期的壮举。早期的加油技术由于空中加油传输管路连接技术复杂，一直难以推广发展，后来英国人发明了"曲型软管"加油装置，这种装置利用拖曳系统释放加油管和导引索，受油机抓住导引索，从而链接加油管进行加油。
这种加油技术对接复杂，需要受油机受油员手动操纵，且只能进行重力加油。一战结束后迎来了短暂和平时期，空中加油技术在军事上的运用始终没有引起人们足够的重视，然而，有远见的军事家已经看到空中加油技术巨大的军事潜力。1936年，Hap Arnold在他所著的《This Flying Game》中断言："在空军独立成军前，它就会执行全球性质的使命，装备精良、训练有素的空军，在全球范围的作战影响力将会全面超过陆军和海军。空军全球作战的设想，在有了空中加油技术后，就能够更加容易的实现"。
也许是二战来得太突然了，同盟国和轴心国把大量的资源投入到轰炸机、战斗机的研制生产中，空中加油技术在强大的战争压力挤压下几乎没有发展空间。
在太平洋战争期间，尽管美国曾几次探讨运用空中加油技术的可能性，但都没有付诸实施。空中加油技术没有在二战中发挥作用有一定的偶然性，否则二战的历史也许会改写。二战以后，空中加油技术的战略意义得到人们充分的重视。1948年，第一架专用加油机KB－29M装备美军，它依然采用"曲型软管"加油装置 。
1949年，英国空中加油公司试验成功"软管锥套"加油装置，很好地解决了空中对接的技术难题。1950年，波音公司开发了"伸缩套管"加油装置，即著名的"波音探管"，美国人很快将这一技术使用到KB-29P飞机上。
为了区别这两种加油技术，人们习惯地把软管锥套加油装置称为"软式加油"，把伸缩套管加油装置称为"硬式加油"。
"软式加油"装置通过加油吊舱放出加油软管，受油机飞行员操纵飞机使受油探头与加油锥套对接，顶开锥套内的单向活门实现加油。"软式加油"技术可以同时为多架飞机加油，还可以给直升机加油，缺点是加油速度较慢，受大气紊流影响较大，对受油机飞行员的技术要求较高。
"硬式加油"装置由伸缩式加油管、压力供油机构和控制机构组成，加油对接主要由加油员完成。其优点是加油速度较快，对受油机飞行员的技术要求较低，但一次只能为一架飞机加油，而且无法给直升机加油。加油机通常由大型运输机改进而来，因此，较大的载油量、改装易于实施、作战适应性强和研制成本低就成为选择加油机平台的重要指标。
