Чтобы понять, что это значит, надо прежде всего сообразить: слово «погибель» здесь не то, что «гибель» в смысле «кончина», «смерть». Здесь оно прямо связано по корню со словами «сгибать», «изгибать». «Три погибели» — это три колена, три изгиба, и «согнуть в три погибели» означает, собственно: троекратно согнуть.
Есть мнение, что выражение это возникло в страшном месте — в «пытошных избах» Московской Руси, где палачи, вздергивая людей на дыбу, сгибали их буквально в три погибели. Тогда понятно, почему оно в языке означает: полностью покорить, сломить окончательно.