桐朋学園大学指揮科卒業。斉藤秀雄氏に師事。NHK交響楽団指揮研究員、旧西独ライン・ドイツ歌劇場副指揮者を経て、78年N響を指揮して正式デビュー。日本を代表する国際的指揮者の一人である。一方、NHKテレビ「名曲アルバム」やテレビ朝日系「題名のない音楽会」の指揮者としてお茶の間にも幅広い人気を持っている。また、多忙な演奏活動の傍ら大阪芸術大学教授を務め、オーケストラや後進の指導にも情熱を傾けている。現在、ロシアの名門サンクト・ペテルブルグ(旧レニングラード)交響楽団をはじめ、プラハ交響楽団、スロヴァキア・フィルなどの常任客演指揮者を務める。
2001 年には北欧にも活動の場を広げ、大作曲家グリーグが音楽監督をつとめたノルウェーの名門ベルゲン・フィルの定期演奏会を指揮して北欧デビューを果たす等、世界にはばたくマエストロである。95年11月には日伯修好100周年記念で歌劇「夕鶴」公演(南米初演)をブラジルで指揮し、オペラの分野でも文化大使として大きな成果をあげた。2002年からは、中米グアテマラのグアテマラ国立交響楽団の常任客演指揮者も兼務、両国の文化交流・オーケストラの発展など、文化大使として大きく尽力した。
2003年7月から埼玉県芸術文化振興財団の芸術監督に就任。2004年1月には世界最高のオーケストラの一つ、名指揮者ムラビンスキーが育て、テミルカーノフに引き継がれているロシアの名門サンクト・ペテルブルグ(旧レニングラード)フィルへのデビューで大成功を収め、直ちに2005-6年のシーズンに再出演が決定、世界第一線で活躍・評価されるマエストロの仲間入りを果たす。2006年2 月プラハ交響楽団定期演奏会でモーツァルト生誕250年記念プログラム、サンクト・ペテルブルグ定期演奏会ではショスタコーヴィチ生誕100年記念プログラムを指揮し絶賛された。2008年にはハンガリー国立フィルハーモニー管弦楽団定期演奏会を指揮してハンガリーにもデビューする。
現代作品・邦人作品の演奏に於いても第一人者の評価を確立しており、芥川作曲賞など年間数多くの新作初演に取り組む一方、大正・昭和初期の作品の復元・紹介、特に“夭折の天才”といわれる貴志康一作品の監修・蘇演・CD化(ビクター)にはライフワークとして取り組んでおり、日本洋楽史の欠落したページを埋める仕事として高い評価を受けている。著書に「実践的指揮法」(音楽之友社刊)、エッセー集「小松一彦の音楽紀行」等がある。これまでイタリア放送協会賞、大阪府民劇場奨励賞等を、そして2001年度、現代音楽での長年の優れた業績に対し、第19回中島健蔵音楽賞を受賞した。
アマチュアの指導育成と地域文化向上に大きなエネルギーを注ぎ続けている指揮者として著名である。
2000年ふくやまシンフォニーオーケストラの音楽監督に就任。
2011年福山シンフォニーオーケストラの名誉指揮者に就任。
2013年3月30日 逝去(享年65)