[object AVLayer].containingComp

そのレイヤーの入ってるコンポを返す

alert(app.project.item(1).layer(1).containingComp.name);