>>783109
1. Стекловидное тело
2. Зубчатый край
3. Ресничная (аккомодационная) мышца
4. Ресничный (цилиарный) поясок
5. Шлеммов канал
6. Зрачок
7. Передняя камера
8. Роговица
9. Радужная оболочка
10. Кора хрусталика
11. Ядро хрусталика
12. Цилиарный отросток
13. Конъюнктива
14. Нижняя косая мышца
15. Нижняя прямая мышца
16. Медиальная прямая мышца
17. Артерии и вены сетчатки
18. Слепое пятно
19. Твердая мозговая оболочка
20. Центральная артерия сетчатки
21. Центральная вена сетчатки
22. Зрительный нерв
23. Вортикозная вена
24. Влагалище глазного яблока
25. Жёлтое пятно
26. Центральная ямка
27. Склера
28. Сосудистая оболочка глаза
29. Верхняя прямая мышца
30. Сетчатка

>>784160

> примеры

Сами базы данных на сервере универа, но вот 4 рандомных плана.
Я их пережимаю в 64х64 Grayscale.

>MxPooling

Ну, примерно это я и планировал.
Нижние слои учаться понимать линии (толстые, тонкие), а воблее верхние объединяют их в количество комнат и из относительный размер.
Использую увеличение страйда вместо МаксПулинга, потому что нашёл интересную статью по теме, которая выдавала таким образом лучшие результаты, да и решение кажется более элегантным.

>Интенсивность паттернов и разные их параметры тоже практически полностью уничтожаются

Видимо я севсем неверно понял то, что читал по нейросетям.
В обеих книгах говорилось, что чем выше уровень, тем более абстрактные пэттерны проявляются.
Похожие на то, что я видел под грибами.

Параллельно я ещё второй веткой гоняю обычный Dense по таблице с float64 (Количество комнат, расстояние от центра города, координаты)

>>784490

>но слабо подойдет для распознавания площади комнаты.

Это мне и не нужно. Там настолько разные пикчи, что это принципиально невозможно.

>Ту же задачу гораздо лучше и более эффективно решит простенькая архитектура с двумя conv-слоями (чтобы извлечь расположение объектов на изображении) и последующей регрессией при помощи SVM

Но SVM же говно, которое уделывает любой ML ensrmble?

А вообще, скинь что-нибудь по этой теме, пожалуйста.
Как таковой мой диплом про важность планировок в предсказании цены с использованием конволюций.

Если они хоть как-то улучшат мои предсказания, я доволен.

>>782397 (OP)
>>783561

ОП продолжает свою простыню

Итак, а сейчас я попытаюсь пояснить, при чем же тут теория оптимизации.

Любой сложный механизм - это с точки зрения математики куча разных параметров, которые можно оптимизировать. Представь себе, например, велосипед. Цель велосипеда (с точки зрения людей) - развивать какую-то определенную скорость и мощность, потребляя при этом минимальное количество энергии, сохранять равновесие во время движения, нормально рулиться итд. Для тех, кто шарит в машиностроении, не будет секретом, что любой велосипед - это куча разных подогнанных друг под друга оптимизированных под определенную задачу механизмов, соединенных определенным образом. Если мы, разумные существа, хотим создать крутой велосипед, то нам нужно подобрать и оптимизировать эти параметры

Для простоты давайте представим, что у нашего велосипеда есть только два параметра - размер колеса и расположение педалей. От того, насколько хорошо мы подберем эти параметры, будет зависеть пиздатость (или наоборот хреновость) нашего велика. Т.е. качество велика это функция, зависящая от двух параметров - размера колеса и расположения педалей. Понятное дело, что где-то у этих параметров будет идеальное соотношение, которое нам, как разумным существам и предстоит найти.

Как это сделать? Для начала нужно представить, что мы изобретаем велосипед в первый раз, и вообще не представляем себе с чего начать. Мы могли бы попробовать тысячу разных велосипедов с рандомными параметрами, и посмотреть, какой из них будет самым крутым, но это будет стоить довольно дорого, очевидно это не самый лучший способ. Более разумный способ - это построить для начала один велосипед, посмотреть какие у него есть проблемы, постараться немного подогнать параметры в лучшую сторону и попробовать построить новый велосипед, который должен быть лучше чем старый. Если мы проделаем этот процесс достаточное количество раз, то рано или поздно достигнем какого-то оптимального соотношения параметров (что нам и было нужно).

На первой гифке можно наблюдать, как выглядит этот процесс с точки зрения матана. Ось Z - это херовость нашего велосипеда, которую мы должны попытаться минимизировать, подбирая параметры. Оси X и Y - это собственно параметры, которые нам нужно подобрать. Здесь важно понимать, что на пикче показаны все возможные варианты решения этой проблемы, но дело в том, что когда мы с нуля создаем какой-то механизм, то мы не можем видеть всю эту область решений. Мы можем только построить какой-то один конкретный велосипед (который на этом графике будет выглядеть как одна точка) и оценить его пиздатость. А еще мы можем предположить, исходя из наших знаний и интуиции, в какую сторону нам нужно на этом графике двигаться.

Теперь прошу обратить внимание на второй пикрил. Так, в теории, может выглядеть область решения проблемы велосипеда. Как ты можешь видеть, анон, на этом графике видно целых два оптимальных варианта решения, но один из них более пиздат чем другой (ямка поглубже). Проблема в том, что если мы во время разработки велосипеда попадём в маленькую ямку, то нам будет казаться что мы нашли самое оптимальное решение и на этом можно заканчивать. А про существование более оптимального решения мы можем так никогда и не узнать.

Эта проблема называется "конвергенция в локальном минимуме", и это не просто абстрактное свойство каких-то математических функций, а вполне реальный феномен который ты скорее всего встречал в своей жизни не раз и не два в самых разных местах, но об этом позже

>>784969

бро, я почитал твой пост и узнал себя два года назад, когда я еще довольно поверхностно понимал тему. На самом деле всё гораздо сложнее чем ты думаешь. Я пытался объяснить в предыдущем посте, но по ходу у меня плохо получилось. Комбинация conv и макс пулинга в несколько слоёв призвана отыскать паттерны на изображении если у тебя просто конволюшены с большим страйдом, то это ничего не меняет - принцип работы тот же самый. Паттерном может являться, например, человеческое лицо, или морда собаки, или какой-то другой объект. Но это свойство никак не поможет тебе для решения твоей задачи. Я не спорю, твоя сетка может выдавать какие-то результаты которые будут лучше рандомных, но это всё только лишь благодаря статистической оптимизации. Твоя CNN архитектура будет скорее мешать чем помогать.

Давай возьмем твою архитектуру и представим, что ты не делаешь макс пулинг, а делаешь конволюшены до тех пор пока не получишь тензор с размерностью [batch size, 1, 1, features], где features - это вектор с какими-то числами, которые в идеале будут характеризовать наличие каких-то паттернов в твоём изображении. По сути этот тензор - это компактная репрезентация твоего изображения, которая содержит определенную информацию.

Моя мысль, которую я пытаюсь донести, состоит в том, что для классификации фотографий такой вектор использовать еще как-то можно. Он содержит информацию про наличие каких-то паттернов, этого будет достаточно чтобы отличить на изображении собаку от бутылки с пивасом. классификацией обычно занимается парочка последующих fully connected слоёв, но подумай, будет ли этот вектор вообще иметь хоть какой-то смысл для твоей конкретной задачи? Будет ли он содержать нужную тебе информацию или нет? Я, исходя из своего опыта, очень сильно сомневаюсь.

Если тебе интересно, то можешь почитать статьи Хилтона. Этот чувак в свое время создал глубокие нейронные сети, а полтора года назад выкатил новый вид нейронок - Capsule Networks, которые как раз призваны решать те проблемы которые я тебе выше описал. Советую погуглить и почитать, чтобы лучше понять проблематику с которой ты имеешь дело. Но вот использовать capsule networks я пока не советую, т.к. они еще очень сырые. Я сам пробовал и достигал неплохих результатов на задачах похожих на твою (нужно было при помощи нейросетки создать из фотографий с разных ракурсов вектор характеризующий металлическую деталь, произведенную на CNC машине)

с уважением, ваш ОП

>>785859

ОП всё так же продолжает свою простыню

То что я объяснял в предыдущем посте - это пример оптимизации при помощи разумного существа. Есть разумное существо - человек, он подбирает параметры велосипеда исходя из своих знаний и интуиции, постепенно делая всё более пиздатый продукт, который в итоге получается максимально крутым.

При чем же здесь эволюция?

Дело в том, что эволюция достигает той же самой цели, что и разумный создатель, но другим способом. Если бы велосипеды могли размножаться, а их выживаемость зависела бы от удобности для людей, то они бы эволюционировали по законам матушки природы и в итоге превратились из странного куска говна без педалей сначала в огромную неповоротливую хуйню с гигантским передним колесом, и потом плавно эволюционировали бы в офигенный продукт.

Oh wait... но ведь примерно это и произошло с велосипедами в реальности? Да, именно это и произошло - велосипеды и правда эволюционировали, не будучи при этом живыми существами. Всё дело в том, что эволюция - это не просто биологический процесс. Это математический процесс, он очень строго описан наукой и применим вообще в любых ситуациях, не только в природе.

По сути эволюция велосипедов выглядела так. Сначала существовало очень маленькое количество очень хуевых великов. Они размножались, размножались, постепенно в некоторых родовых линиях велосипедов накапливались мелкие мутации (изменения, внесенные владельцами) и вот однажды кто-то изобретает какой-то более пиздатый вид велика. Старый вид практически полностью вымирает, либо находит какую-то свою узкую нишу где он может дальше существовать и размножаться.

Эволюция - это один из способов оптимизации. Интеллект - это другой способ. Результат, который получается в итоге - один и тот же. По сути это два разных процесса которые призваны решить одну и ту же проблему. Я нашел на сайте убера прекрасный видеорелейтед, который демонстрирует сравнение эволюционной оптимизации и интеллектуальной оптимизации. Цель агента на видео - переместиться из темного участка в более светлый. В то время как агент справа имеет четкую цель и находит решение при помощи интеллекта, агенты слева вообще не обладают интеллектом - это просто кучка организмов которые спариваются, размножаются и умирают без какой либо цели

Какую мысль можно извлечь из всего вышесказанного? Эволюция это абсолютно бесцельный и происходящий сам собой процесс. Но ведёт он себя точно так же, как ведёт себя разумное интеллектуальное существо, которое пытается решить какую-то проблему

Что мне больше всего нравится так это то, что вышестоящий вывод это не просто философствование на уровне диванной демагогии. Это вывод, который можно математически сформулировать и доказать

>>795690

к сожалению эволюции нет никакого дела до "великости" твоих умов

Кстати, я об этом упомянул вскользь в ОП-посте, но национальные государства и границы - это еще одна вещь, на которую я смотрю теперь иначе, после того как погрузился в тему искусственного интеллекта. Раньше я был чем-то вроде космополита и ратовал за отсутствие границ между народами. Но потом я погрузился в прекрасный мир немецких беженцев эволюционных алгоритмов, и мой взгляд на границы изменился

Дело в том, анон, что если ты начнешь симулировать эволюцию на компьютере, то заметишь одну интересную вещь - однажды в твоей популяции возникнет доминантный набор генов, который будет плавно вытеснять всех конкурентов. Рано или поздно твоя популяция осядет в локальном минимуме/максимуме функции оптимизации, и особи начнут всё меньше и меньше отличаться друг от друга, пока популяция полностью не конвергирует до практических идентичных особей.

Почему это хуево? Для компьютерных алгоритмов - потому что твоя популяция полностью застрянет в одном единственном локальном минимуме функции, и не сможет найти остальные см пикрил гифку: вместо того чтобы получить сразу три оптимальных решения, вся твоя популяция конвергирует в одном единственном. И не факт что это будет самое оптимальное решение Для биологических видов - потому что в отличие от компьютерных миров, в реальном мире окружающая среда постоянно меняется ямы и холмы в пространстве функции двигаются, меняют высоту или вовсе пропадают и популяции нужно приспосабливаться к этим изменениям. Но если вся наша популяция состоит из практически одинаковых особей, то популяции приходит пизда. Другим, более приспособленным особям, просто неоткуда взяться, потому что генетическое разнообразие почти нулевое.

Кстати, еще одна интересная вещь. Раньше я никогда не понимал, нахуя в человеческом обществе до сих пор существуют разные слабо приспособленные люди. Всякие там ботаны, жиробасы, уродливые бабы и так далее. Ведь с точки зрения эволюции они все давно должны были вымереть, и вокруг должны ходить одни мускулистые арийцы и фотомодели. Но суть в том, что популяция состоящая из арийцев и фотомоделей при малейшем изменении окружающих условий просто вымрет к хуям. Представь, например, что внезапно на планете ебанул голод. Все качки очень быстро сдохнут, ибо их организм не приспособлен к таким условиям. Зато тут-то на арену и выйдут жиробасы, у которых замедленный метаболизм, и спасут весь человеческий род. Вообще генетическое разнообразие - это один из важнейших факторов успешной эволюции. Чем разнообразнее вид, тем больше у него шансов протянуть подольше.

Но я изначально говорил о странах и границах. Так вот - чтобы генетическое разнообразие популяции не схлопывалось в одной точке, ученые придумали второй пикрилейдет - популяционную модель. Вместо того, чтобы выращивать всех своих особей в одном общем котле, ты разделяешь их на страны логично что особи из разных стран имеют гораздо меньший шанс спариваться друг с другом. Таким образом в каждой стране у тебя возникнет своя атмосфера и свой неповторимый набор генов. А для того, чтобы генетическое разнообразие внутри каждой отдельной страны не снижалось, нужно разрешить миграцию определенного количества особей между странами. Здесь нужно быть осторожным - если миграция будет слишком маленькая, то страны окуклятся и будут вариться в собственном соку, пока не перестанут развиваться. А если разрешить чересчур сильную миграцию, то генетический материал во всех странах смешается настолько, что во всех странах более живучий генетический код начнет вытеснять остальной, и генетическое разнообразие снова же начнет уменьшаться.

Что характерно, я сейчас описал чисто математическую модель эволюции, которая прекрасно работает в компьютерной симуляции. Сам лично пробовал симулировать популяционную модель и пытался найти золотую середину миграции, когда страны развиваются наиболее пиздато. И параллели с реальной жизнью тут настолько очевидны что я даже комментировать не буду

Я не сторонник машинного обучения. Я считаю нейросети избыточными. Люди их используют потому что не в силах осознать точный алгоритм и реализовать его. Поэтому им место в лаборатории, а не в реальных условиях.

Насчёт математической теории эволюции согласен. Только я называю это не оптимизацией, а абстракцией. Когда несколько объектов объединяются в систему так, что одни свойства отдельных объектов исчезают, а другие - усиливаются. Так количество объектов переходит в качество системы, которая становится объектом с новыми свойствами. По такой схеме происходит не только биологическая эволюция на уровне генов, но и социальная. Люди объединяются в группы размером от семьи до целой страны и мира, часто в несколько этапов. При этом мы говорим о Гугле, как о корпорации добра, приписывая ему вполне человеческое свойство, и не спроста.

По этой же схеме устроены естественные языки. Есть существительные, прилагательные и глаголы. В любом языке есть им аналоги. Они выражают объекты, их свойства и действия над ними. В древности люди обходились десятком самых общих слов. Со временем возникла необходимость различать подвиды и оттенки понятий, подвиды подвидов и так далее. Слова становились конкретнее, а их количество увеличивалось. Этот процесс можно наблюдать и сейчас. Мы уже не говорим кофе с молоком, мы говорим эспрессо, капучино и тд. Нужно различать плдвиды - придумывай новое слово.

И конечно по этой же схеме происходит и эволюция сознания, что логично, ведь мозг обладает свойствами нейросети. Чем больше различной информации получает мозг, тем вероятнее он сможет сделать вывод и решить задачу различения объектов. Пока мозг получает одни и те же образы, ничего не происходит. Но как только появляется объект с новыми свойствами, мозг сравнивает их. В голове возникает образы одного, другого предмета, а также обобщенный образ. Например кроссовок сам по себе это просто кроссовок, но вместе с ботинком это уже обувь. Вместе с мячиком это уже инвентарь, например. Отсюда следует вывод, что степень развития мозга зависит от способности вспомнить старые предметы и опыт. Например ворона так не сможет, потому что почти сразу забывает большинство свойств, а то и само событие.

Ну а что такое абстракция в математике? Обыкновенная операция пересечения множеств. В данном случае это множества свойств объектов.