Словарь русских фамилий:
В имеющихся у меня источниках такая фамилия не объясняется. Можно предложить следующие. Основа фамилии имя Карл. В русском языке такого имени нет. Возможно, первый Карлов был сыном кого-нибудь шведа, немца или другого иностранца с именем Карл. С другой стороны, в русском языке человека маленького роста именуют карла, карло, но форма карл у Даля не упоминается, но она могла существовать.
© «СловоТолк.Ру» — толковые и энциклопедические словари, 2007-2025