Question: Каково происхождение слова "матерый" и является ли оно родственным слову "мать"?

Answer: 
Дело в том, что слово "мать" - одно из древнейших в русском (и не только русском) языке, вероятно еще ностратической (допраиндоевропейской) общности. Проводить сравнительный генезис таких корней обычно не представляется возможным.  

Но на современном уровне слова не родственны. Матерый (как и матерный) судя по всему, происходит от индовропейского корня "mat" с общим значением "взрослый", "сформировавшийся".
В кинологии используются выражения "матёрый кобель", "кобель заматерел", но многие и не подозревают, что это означает "повзрослевший кобель", "кобель сформировался".