1. вы никогда не знаете какую архитектуру применить для той или иной задачи или подзадачи...
2. вы никогда не знаете сколько времени займет обучение или переобучение...
3. вы никогда не имеете никаких гарантий ни по выходу, ни по изменению входа...
4. ваша сеть насыщается быстро и навсегда...
5. ваша работа с сетью никогда не отличается от матричной алгебры, просто оборачивание матрицы в ИНС
происходит непонятным для вас (и для ИНС) образом...
6. если вам надо расширить классы, вам нужно начинать все сначала
7. ваша ИНС всегда неустойчива и вы не знаете областей в который незначительные изменения приводят к нелинейности выхода
8. ваша сеть не ведает представления об ошибки, она всегда отвечает уверенно, даже, если ошибается
9. ваша работа с сетью всегда похожа на потерянное время
1. это похоже на недостаток опыта. В зависимости от цели, архитектура задана с точностью до нескольких параметров (типа числа нейронов), оптимум которых достаточно легко выявить экспериментально.
2. уж разумеется всегда знаем, в зависимости от метода конечно, и объема обучающей выборки.
3. 100% нет, но 99% - вполне. Для практических задач - кто предложит лучше?
4. ну так надо нормально выбирать архитектуру и обучающую выборку, я с этой проблемой не столкнулся ни в одной практической задаче.
5. ну и заявочки! Я своими руками писал алгоритм псевдообращения.
6. для некоторых архитектур - да. Для некоторых - нет.
7. то что этой особенностью обладает перцептрон, придуманный 50 лет назад, не значит, что нет других нейросетей
8. только для архитектур, где степень уверенности не предусмотрена.
9. если знать только о перцептроне, и не знать где его уместно применять - то да, потерянное время в чистом виде
В целом - у меня сложилось впечатление, что ничего, кроме MLP, вы в реальных задачах не применяли. Потому как некоторые ваши вопросы имеют хоть какой-либо смысл только в контексте этой парадигмы, для других они лишены смысла.