欧姆出生在一个锁匠世家里，他父亲有着出色的手艺，对哲学和数学都十分爱好，也希望自己的两个儿子能在数学方面有所造诣。最终欧姆和他的弟弟都没有让父亲失望，后来他弟弟成为柏林大学的数学教授，欧姆则成为名扬世界的物理学家。
1805年，欧姆中学毕业后，考进了离家很近的埃尔兰根大学，学习数学、哲学和物理。那时候的欧姆非常贪玩，滑冰、打台球，什么有趣玩什么，还频频出现在舞场里。父亲责怪他荒废了学业，就勒令他中途退学，把他赶到瑞士。他在教了四年多数学，1811年春天，他才重新回到埃尔兰根大学，通过考试获得了博士学位，随后留校当教师。以他当时的资历，只能当个编外教师，收入菲薄，而且提升无望。无奈之下，他只好前去班贝克的一所中学教书。他授课认真，还利用课余时间撰写出了一本书，名叫《作为智力教育工具的几何学大纲》，渐渐有了名声。1817年9月，科隆的一所高级文法学校聘请他前去教数学和物理。
欧姆承担的教学任务很繁重，他想做些电学方面的实验，只能利用业余时间进行。学校里有关电学的图书资料和实验仪器都很缺乏，他又没有机会接触那个时代伟大的物理学家，只好自己摸索。欧姆所生活的时代正是电学飞速发展的时期，不断涌现的电学成果激励着欧姆去探索一个重要的问题：在使用伏打电池的电路中，电流强度可能随电池数目的增多而增大，这中间到底存在着什么规律呢？
当时还没有测量电流强弱的仪器，欧姆设想用电流的热效应去测量电流的强弱，但没有成功。1821年，施韦格发明了一种原始的电流计，这使欧姆受到了启发，他也要制作出一种测量电流的仪器来。欧姆从小就养成了爱动手的好习惯，而且他心灵手巧，做什么像什么，还从父亲那里学到了一些机械方面的知识，如今这些知识都派上了用场。他向不同工种的工人求教，木工、车工、钳工样样都能来一手，于是便亲自动手制作电学仪器。他巧妙地利用电流的磁效应设计了一个电流扭秤：用一根扭丝挂上一个磁针，让通电的导线与这个磁针平行放置，当导线中有电流通过时，磁针就偏转一定的角度，由此就可以判断导线中电流的强弱了。他把自己制作的电流计连在电路中，在放磁针的度盘上划上刻度，以便记录实验的数据。
1825年，欧姆经过多次实验，得出了一个公式，可惜是错的，但他当时没有意识到，便迫不及待地写成论文发表了出去。等到他发现用这个公式计算的结果与自己做的实验不一致时，这才感觉到问题的严重性，打算收回已经发出的论文，可是已经晚了。有些科学家由此认为他假充内行，对他很反感。
欧姆决心挽回影响和损失，继续埋头做实验，寻找正确的答案。有位名叫波根多夫的科学家很钦佩欧姆不屈不挠的精神，很欣赏他追求真理的勇气，就写信鼓励他继续干下去，还建议他在实验中使用更加稳定的塞贝克温差电池。欧姆接受了这个建议，用温差电池重新认真地做实验，终于在1826年发现了电学上的一个重要定律——以他的名字命名的欧姆定律。
1827年，欧姆出版了他最着名的着作《伽伐尼电路的数学论述》，从理论上论证了欧姆定律。他满心以为他的研究成果一定会受到学术界的承认，可是他想错了。有不少人瞧不起他这个中学老师，甚至认为这个定律太简单，不足为信。面对着这些讽刺和诋毁，欧姆感到万分痛苦和失望，他在给朋友的信中这样写道：“《伽伐尼电路的数学论述》的诞生给我带来了巨大的痛苦，我真抱怨它生不逢时，因为深居朝廷的人学识浅薄，他们不能理解它的母亲的真实感情。”
不过，当时也有一些有识之士对欧姆定律的价值深信不疑。《化学和物理》杂志的主编施韦格（电流计的发明者）写信给欧姆说：“请您相信，在乌云和尘埃后面的真理之光最终会透射出来，并含笑驱散它们。”
说来也巧，1831年，有位叫波利特的科学家发表了一篇论文，内容与欧姆定律完全相同，这才引起科学界对欧姆的重新注意。又经过七八年之后，随着电路研究工作的进展，人们逐渐认识到欧姆定律的重要性，欧姆本人的声誉也得到了大大提高。1841年，英国皇家学会授予他开普勒奖章，这是当时科学界的最高荣誉。第二年，英国皇家学会又吸收他为国外会员。1852年，欧姆终于从一个中学教师成为一名慕尼黑大学的教授，但只过了两年他就去世了。后人为了纪念他，把电阻的单位命名为“欧姆”。
