形成温室效应的气体主要有：二氧化碳、甲烷、臭氧、一氧化二氮等。这些气体被称为温室气体。大气中的温室气体可以吸收地面发出的长波辐射，而它们在大气中的数量极少。由于人类活动增加了温室气体的数量和品种，从而导致地球表面温室效应不断加强。
温室效应指的是温室效应是指透射阳光的密闭空间由于与外界缺乏热对流而形成的保温效应，地面增暖后放出的长波辐射却被大气中的二氧化碳等物质所吸收，从而产生大气变暖的效应。
温室效应的直接原因主要是由于现代化工业社会过多燃烧煤炭、石油和天然气，产生的和大量排放的汽车尾气中含有的二氧化碳气体进入大气造成的。
如果没有大气，地表平均温度就会下降到-23℃，而实际地表平均温度为15℃，这就是说温室效应使地表温度提高38℃。大气中的二氧化碳浓度增加，阻止地球热量的散失，使地球发生可感觉到的气温升高，这就是有名的“温室效应”。
生活中我们可以见到的玻璃育花房和蔬菜大棚就是典型的温室。
使用玻璃或透明塑料薄膜来做温室，是让太阳光能够直接照射进温室，加热室内空气，而玻璃或透明塑料薄膜又可以不让室内的热空气向外散发，使室内的温度保持高于外界的状态，以提供有利于植物快速生长的条件。
大气中的二氧化碳就像一层厚厚的玻璃，“玻璃层”允许太阳辐射能透过，但却阻止地面热量散发，致使地面温度上升，使地球变成了一个大暖房。因其作用类似于栽培农作物的温室，故名温室效应。
由于大气的存在，地表的辐射平衡温度将比它不存在时的辐射平衡温度要高得多。大气的这种增强向下辐射的作用与温室玻璃屋顶和四壁的作用有相似之处，故称温室效应。
但实际上大气的保暖作用与玻璃温室不尽相同，玻璃还有隔绝空气流动，减少室内外对流热交换的作用，因而有人建议改称为大气效应更为合适。起温室效应的主要因子有大气中的水汽、二氧化碳和云，其中最主要的是云。
所以在多云和高湿的热带地区，大气的温室效应较强；而在干燥的极地和沙漠地区，大气的温室效应则较弱。由于二氧化碳在大气中的含量不断增加，它所引起的温室效应越来越被人们所重视。
当前大气中CO2的含约为340PPmv，如果增加到600PPmv，根据气候模式的计算，全球气温可上升 1．5-4．5℃。痕气体如甲烷，氮氧化物可产生温室效应，且痕量气体的浓度近来增加很快，估计将来的影响可能达到或甚至超过CO2的增加。
所以人们有时也把CO2与痕量气体合称“温室气体”，即产生温室效应的气体。此外，高云亦可造成温室效应。