Задача построить дерево, по которому можно за минимум ветвлений найти нужную точку. То есть например "облако" неизвестной сложной формы в 100-мерном пространстве перекодировать в 3-мерное где оно представляет собой аккуратный кубик.

Забавно из-за случайности. Напоминает животных, укладывающихся спать в тесной коробоке.
Там некоторая проблема с инициализацией, иногда в начале много центров попадает в одну область, а в другую ни попадает ни одной. Они потом переползают в другую, но, как мне показалось, слишком вяло, вот и сделал чтобы прыгало. Число итераций она знает и к концу прыгает меньше, это искусственное ускорение сходимости. Если долго прыгает значит можно уменьшить число итераций, или уменьшить число кластеров k, оно берется с потолка.

Точки следующего уровня считаются просто как центр кластера. Они не обязательно сопадают с одной из точек 0 уровня.

Задача организовать поиск в множестве образов, у них сравнение очень дорогая операция. Просто найти среди точек похожие на заданную. Векторы на самом деле переменно-мерные, может быть и по 10 и по 1000 000 размерностей.

Для чего это нужно. Попробую немного вломиться в семантику.

Критерии качества классов:
1. Четкость. Один объект не должен попадать в разные классы.
2. Значимость. Классы должны быть одного объема, иначе отнесение к классу близкому ко всей совокупности объектов ничего об объекте не скажет.
3. Однородность. Например множество отдаленных от основной группы объектов желательно относить к одному классу. Даже если их мало, этот критерий может противоречить 2.

Это все касается никак не систематизированного набора классов, когда классы просто идентификаторы, а распознавание идентификация. Но идентификатором класса может быть что угодно, например популярны деревья классов, тут идентификатором будет путь или папка "класс\класс\.."
Здесь значительно больше возможностей и менее ясно как такой классификатор строить. Например может использоваться какой-то удобный признак, в корне будет список значений этого признака. И может быть класс объектов для которых признак завис. Во втором уровне может быть тот же признак, например в первом ярусе делили по его первой цифре, а во втором по второй. Или другой, например в первом ярусе делили по цвету во втором по массе. Для таких независимых признаков идентификатором класса может быть уже не упорядоченная цепочка идентификаторов подклассов, а просто набор. Весь набор классов будет не деревом, а массивом. Если число таких размерностей меньше чем у исходного объекта такая классификация называется понижением размерности. Она означает выявление зависимостей между параметрами объектов и разделение объектов по типам этих зависимостей.
Можно дальше усложнять структуру классов. В пределе очевидно получим в качестве идентификатора класса алгоритм генерации образа. А классификация превращается в формализацию.

Вопрос в генерации признаков, абстракций и интерпретаторов.

Эта проблема не стоит у владеющих одним любимым универсальным инструментом, у них нет выбора и тем более нет желания научить компьютер делать это выбор.

Числа тоже множества, вложенные одно в другое. Если правильно, то когда образ относится к числу-классу N, то он должен относиться и ко всем N-1, a<b == a in b. То есть если образ состоит из N объектов то в нем есть и меньше. Счет это тоже классификация

А нечеткие от нечистого. Интересны упорядоченные классы, а в нечетких и значения весов можно переставлять и целые значения-распределения не понятно как относятся друг к другу. Хотя можно по величине принадлежности сортировать, оттуда как-то дискретизировать.

Если 2!=3 истинно, а 2<3 ложно, то так слишком уж обобщенно. Можно и еще обобщить, объявить, что "все равно", тогда и идентификаторов тоже не будет.

По правильному числа это идентификаторы ярусов мета-классификации. Там 1-томия, на каждом уровне никаких вариантов нет, класс только один, зато ярусов много. Это вертикальная система мета-классов. Горизонтальные классы, относящиеся к одному уровню абстрактности, тоже можно обозначить номерами, но на сами числа от этого точно никак не повлияет, они от этого не перестанут быть упорядоченными, скорее упорядоченными станут эти классы. Хотя я знаю одного пацана, ему без разницы в каком порядке называть числа. И знаю много молодежи с африканской мозговой болезнью либолибо, они до 3 не умеют. Очевидно, если не различать уровни абстрактности то различать уровни абстрактности невозможно.

Это все понимают, просто терминологии общей нет. Иерархия классов в ООП тоже разные уровни абстрактного-конкретного.
Абстрагирование просто отрезание деталей, было 10 бит стало 9. Множество значений разделили на два класса, один бит ушел в идентификатор класса, а 9 на идентификатор одного из 512 элементов этого класса, их придется переименовать. Так например записываются числа в двоичной записи. А сам такой класс 10-битных значений это 1024-битное значение. Это значение на самом деле предикат. А когда предикаты являются объектами это уже логика 2 порядка. 1-арный предикат это свойство, а 2-арный это отношение, при еще одном условии это отношение является функцией, то есть методом абстрагирования.

Для практического разума важны не столько сами объекты сколько связанные с ними разные возможности и опасности, прецеденты и обстоятельства. Такие анти-абстрагированные объекты несут много информации и в дерево она выстраивается почти всегда.

На разные классификации была мода в 16-17 веке, между художественно-гуманитарным ренессансом и новым временем с науками и технологиями. Есть классификация наук от Френсиса Бэкона, родоночальника английского материализма и твоего научного метода Был типа продолжателем Аристотеля, написал "Новый Органон", у Аристотеля Органон был как у нас ИИ. Считал что наука занимается устранением заблуждений и предрассудков, но создавать их не умел, то есть ставил науку в зависимость от совсем анти-науки. Мне вот заблуждения тоже очень интересны, и не только как с ними бороться, а и как создавать. Вот его классификация заблуждений из энциклопедии. Как раз пример не абстрактного, с совсем левыми театрами и пещерами, зато понятно (семантабельно) :