１８４０年１月２３日アイゼナッハにて生まれる。父は紡績工場で働いていたが毎日１４時間以上働きづめの状態で貧困な生活を送っていた為、息子のアッベをギムナジウム（高等中学校）に進学させる余裕はなく、まして大学教育を受けさせることなど念頭になかった。しかし父の雇用主がアッベの類稀な頭脳を見抜き、アッベが奨学金を受けられるよう計らった。お蔭でアッベはでイエナ大学に入学し、博士号習得。そして若くして教授に任命された。
　積極的に研究に打ち込むも、大学から出る研究予算は微々たるもので、思うような研究はできなかった。１８６６年のある日、２６歳のアッベは５０歳のツァイスと面会しスポンサーを依頼。交換条件に顕微鏡製作上での理論式を導くことになった。これがきっかけとなりアッベの数学理論が応用された顕微鏡が製造される。その後、ツァイスの精神と新種ガラスの研究にアッベは徐々に惹かれ、カール・ツァイス社の共同経営者として迎えられる。
　ツァイスの没後、アッベはツァイスの息子を説得し、カール・ツァイス財団を設立。アッベの幼少の心に焼きついた父の苦悩の為か、いち早く社会保障制度を導入する。これは当時、経営者が１日１４時間労働か１２時間労働か議論をしていた時代に９時間労働を規定したものであり、１９００年４月１日には念願通り８時間労働を実現。現在の労働時間の先鞭をつけた。
　財団設立後、社名は自分の名前に変えることも可能であったが、律儀なアッベは尊敬するツァイスの名前を引き継いだ。しかし残った人々の心にアッベの名前は深く刻まれ、今でもその功績が讃えられ、旧東ドイツのイエナ市内では、今でもあちこちにアッベのモニュメントが残され、町のシンボルになっている。