这个问题并没有一般人想象的那么简单，它至今仍没有一个确切的答案，科学界只能尽量提出站得住脚的理论来解释它。
曾经，最为流行的解释是“潜水呼吸说”：大象的祖先始祖象生活在沼泽与河畔地区，大部分时间都待在水中，类似于今天的河马，为适应这种生活模式，它产生了一个向前凸出的鼻子，以便在游泳时伸出水面换气。后来大象转向陆地生活，祖先的长鼻子还是遗留了下来。
这个解释可信度很高，但只把问题回答了一半。今天的象鼻，比其祖先的要更长出许多，而且它也并不只是长度有所发展，而是包含4万块肌肉（分为15万个肌肉束），外加由上颌神经和面神经形成独特的长鼻神经，变成了大象身上最为多功能的器官。
通过精确协调的肌肉收缩运动，象鼻可以做许多事，如我们熟悉的卷取物体、吸水喷水。象鼻力量很大，能举起350千克的重物，同时又支持细致操作，能被大象用来擦拭眼睛。在运动能力如此强化的基础上，大象并没有牺牲其嗅觉，它的嗅觉可能有猎犬的四倍灵敏。
至于大象为何会进化出这样一副长鼻子，一篇发表于2015年的论文提出了新的解释：长鼻子是帮助大象进食，使它维持巨大体形的关键。
对于草食动物而言，体形越大，需要面对的天敌越少，大象几乎可以算是站在了食物链顶端的生物。但同时，它新陈代谢消耗的能量也与体形正相关，必须大量进食，才不至于饿死。
然而，由于咬合频率低，吃东西慢悠悠的，单靠口腔容量本身，大象根本吃不完日常所需的足量食物。因此，它的长鼻子就变得尤其重要，在灵巧的鼻子的辅助下，大象一次性进食量显著提升，等于帮它扩大了“软的口腔容积”，使其进食量能够与体重相称。同样的情形也发生在长颈鹿身上，它的长舌头也是其“软的口腔容积”的一部分，只不过不及大象的鼻子显眼。
象鼻为进食提供的好处还不止于扩大吃进食物的数量，同时，它还提升了大象进食的质量。
由于体形巨大，大象选择的食物一般都是比较大型的植株，而植物随体积增长，叶子的比例和含氮的比例都会降低。若是仅仅一股脑吃进口中，摄取营养的效率很低。换句话说，一头3500千克的大象，与一头350千克的羚羊相比，并不能靠吃进十倍于后者的食物就能获得十倍于后者的能量。
这就要求大型动物在吃进食物之前，先剔除那些营养少、难消化的部分，再吃进剩余的叶子。纯粹的口腔当然无法做到这点，而有灵活器官辅助的“软的口腔”，则正为扮演这一角色进化而来。
遗憾的是，尽管研究者用现存的18种草食动物建立量化模型，检验了他们关于“软的口腔”提升进食效率的理论。但因为软组织很难留下化石，他们还缺少证据来证明确实就是这一因素决定了象鼻的进化。所以，这也只能看作目前最靠谱的假说，而非确切的答案。
