低级饱和脂肪酸（甲酸、乙酸、丙酸）是具有强烈刺激性气味的液体；中级的（C4-C9）羧酸是带有不愉快气味的油状液体；C10及C10以上的羧酸为无味的油状固体，挥发性很低，脂肪族二元羧酸和芳香族羧酸都是固体。

低级脂肪酸易溶于水，但随着相对分子质量的增加，在水中的溶解度减小，以至难溶或不溶于水，而溶于有机溶剂。

羧酸的沸点比相对分子质量相近的醇还要高。例如，甲酸和乙醇的相对分子质量相同，但乙醇的沸点为78.5℃，而甲酸为100.5℃。这是因为羧酸分子间能以氢键缔合成二聚体，羧酸分子间的这种氢键比醇分子间的更稳定。例如，乙醇分子间的氢键键能为25.94kJ·mol-1，而甲酸分子间的氢键键能则是30.12kJ·mol-1。低级羧酸即使在气态也是以二缔合体的形式存在。