Леонид Семёнович Каневский родился 2 мая 1939 года в Киеве Украинской ССР. Его родители не имели отношения к искусству, хотя мать в молодости училась в консерватории. Отец же был профессиональным фруктовщиком-технологом и всю жизнь мечтал, чтобы его сын продолжил семейное дело. Но Леонид уже с детства мечтал стать артистом.
Едва получив школьное образование, молодой человек отправился в Москву и поступил в Щукинское театральное училище. Вместе с Каневским курсы посещали Андрей Миронов, Василий Ливанов... Закончив училище в 1960 году, Каневский поступил в труппу театра имени Ленинского комсомола, а уже спустя семь лет он появился в театре на Малой Бронной.
В кино Леонид Каневский дебютировал в 1965 году, снявшись в сказке «Город мастеров». А спустя три года на экраны вышла кинокомедия «Бриллиантовая рука». Каневскому досталась небольшая роль контрабандиста.
Всесоюзную славу артисту принесла роль майора Томина в известном телесериале «Следствие ведут знатоки». Первые четыре кинофильма вышли в 1971 году и сразу обеспечили главным героям славу. На протяжении двух десятилетий зрители с неослабевающим интересом наблюдали за приключениями знатоков. Хотя снимался актёр и в других картинах. Всего он сыграл роли в более чем семидесяти фильмах и много ролей в театральных спектаклях.
В 1991 году Леонид Каневский эмигрировал в Израиль, где совместно с режиссёром Евгением Арье создал в Тель-Авиве драматический театр «Гешер» (в переводе с иврита — «Мост»); основу труппы составляют актёры, игравшие на сценах московских и ленинградских театров.
В 2001 году исполнилась давняя мечта актёра — на «Мосфильме» вновь начались съёмки сериала «Следствие ведут знатоки». Премьера нового сериала состоялась зимой 2002 года. А вскоре после его выхода на экраны заместитель министра внутренних дел РФ Владимир Васильев наградил Леонида Каневского и Георгия Мартынюка знаком «За содействие МВД России». Также он является Заслуженным артистом РСФСР и кавалером ордена Дружбы. Входит в состав общественного совета Российского еврейского конгресса.
Леонид Каневский женат на Анне Березиной, дочери знаменитого клоуна Штепселя — выдающегося актёра Ефима Березина.
В настоящее время Леонид Семёнович Каневский продолжает свою карьеру артиста — он снимается в кино и играет в театре, а ещё известен как ведущий документального сериала «Следствие вели…» на «НТВ».