Просто интересно, поскольку мы достигли 1 терафлоп на ПК, но мы все еще не в состоянии моделировать мозг насекомого. Кто-нибудь видел достойную реализацию самообучающейся саморазвивающейся нейронной сети?Моделирование мозга
Я увидел интересный эксперимент, отображающий физическую структуру нервной системы мозга крысы в цифровой нейронной сети с взвешиванием, смоделированным по химии нейронов каждого компонента, взятого с использованием МРТ и других. Довольно интересно. (Новый ученый или Focus, 2 выпуска назад?)
IBM Blue Brain приходит на ум http://news.bbc.co.uk/1/hi/sci/tech/8012496.stm
Проблема заключается в вычислительной мощности, как вы справедливо отмечаете. Но для последовательности стимулов к нейронной сети диапазон вычислений имеет тенденцию быть экспоненциальным, так как стимулы встречаются с более глубокими вложенными узлами. Любой комплексный взвешивающий алгоритм означает, что время, затрачиваемое на каждый узел, может стать дорогостоящим. Доменные нейронные карты, как правило, быстрее, потому что они специализированы. Мозги у млекопитающих имеют много общих путей, что затрудняет их обучение и компьютер для моделирования реального мозга млекопитающих в заданном пространстве/времени.
Настоящие мозги также имеют тонны перекрестных помех, таких как статические (некоторые люди считают, что это связано с творчеством или оригинальной мыслью). Мозги также не учатся использовать «прямой» стимул/награду ... они используют прошлый опыт несвязанной материи, чтобы создать собственное обучение. Воссоздание нейронов - одно дело в вычислительном пространстве, создание точного обучения - другое. Не обращайте внимания на допамин (октопамин у насекомых) и другие неврологические химические вещества.
Представьте, что вы даете цифровой мозг ЛСД или антидепрессанты. Как реальная симуляция. Потрясающие. Я подозреваю, что это сложное моделирование.
Еще сложнее: к тому времени, когда человеческий мозг полностью развит, * каждый отдельный нейрон является отдельной сущностью *, генетически и функционально. ~ 20 лет воздействия асинхронного мутагена и нейротрансмиттера, а также различий в развитии и поведения пластичности (определенные нейроны, заполняющие пробелы пути, такие как алюминиевая лента в ядре реактора) между отдельными клетками, делают каноническую модель человеческого мозга туманной конструкцией, если не бесполезный. И это до того, как вы подходите к вопросу моделирования недавно обнаруженных квантово-механических компонентов биологических систем ... – manglano
Я думаю, вы считаете, что наша идея о том, как работают нейронные сети, является хорошей моделью для мозга на крупномасштабном уровне; Я не уверен, что это хорошее предположение. Черт, не так уж много лет назад, мы не думали, что глиальные клетки важны для умственных функций, и долгое время была идея о том, что после выздоровления мозга нет нейрогенеза.
С другой стороны, нейронные сети действительно хорошо справляются с некоторыми, по-видимому, сложными функциями.
Итак, вот вам немного загадочных вопросов: сколько терафлоп или петафлопов вы думаете, что представляет собой вычисление человеческого мозга?
Больше, чем у нас. У нас больше шансов развить человеческий мозг и дать ему цифровой вход/выход. Может быть, разогнать его или немного поразвлечь. Эмоциональные вычисления с использованием искусственных химических стимулов. Он может ссылаться на болевые рецепторы на неправильные прогнозы. –
@ Эйден: Я действительно надеюсь, что у вас нет детей. :-) –
:) Если у мозга есть проблема с этим, я буду подключать свои нейро-выводы и иметь виртуальный двойник с нашими виртуальными телами. Если это не женщина. Тогда все по-другому. –
В 2007 году они имитировали эквивалент мозга мыши половину в течение 10 секунд на половину фактической скорости: http://news.bbc.co.uk/1/hi/technology/6600965.stm
Это один (см. Мой ответ) –
Jeff Hawkins бы сказать, что нейронная сеть является плохим приближением мозга. Его «Интеллект» - потрясающее чтение.
Да! Вы можете проверить www.numemta.com и их программное обеспечение NuPIC. Это основано на технологии иерархической временной памяти, основанной на концепциях, разработанных Джеффом Хоукинсом в этой книге. – mjv
Это структура. Даже если бы у нас были компьютеры сегодня с той же или более высокой производительностью, чем человеческий мозг (есть разные прогнозы, когда мы туда доберемся, но еще есть еще несколько лет), нам все равно нужно запрограммировать его. И хотя сегодня мы знаем много мозга, есть еще много и многое другое, чего мы не знаем. И это не просто детали, а большие области, которые вообще не поняты.
Фокусировка только на Tera-/Peta-FLOPS похожа на просмотр мегапикселей с цифровыми камерами: она фокусируется только на одном значении, когда есть много факторов (и есть еще несколько из них в мозгу, чем в камера). Я также считаю, что многие из оценок, сколько FLOPS потребуется для моделирования мозга, - это совсем другое - но это совсем другое обсуждение.
Роберт, это именно то, что я задаю по первоначальному вопросу - вычислительная мощность там какая-то, но мы понимаем, что нет абсолютно никакого понимания того, как использовать это для моделирования простого процесса обучения. (идея для запуска? :-) – Andy
Возможно, вы сможете оценить потенциал запуска, если вы эксперт по искусству. Эти вещи, как правило, являются университетскими выбросами. –
Просто интересно, мы достигли 1 терафлоп на ПК, и мы по-прежнему не в состоянии моделировать мозг насекомого. кто-нибудь видел достойную реализацию самообучающейся саморазвивающейся нейронной сети?
Мы уже можем моделировать мозги. Вопрос в эти дни заключается в том, как быстро и насколько точно.
В начале было потрачено много усилий на поиск наиболее абстрактного представления нейронов с наименьшим количеством необходимых физических свойств.
Это привело к изобретению perceptron в Корнельском университете, который действительно является очень простой моделью. На самом деле, возможно, это было слишком просто, так как знаменитый профессор Массачусетского технологического института Марвин Мински написал статью, в которой по ошибке пришел к выводу, что для этого типа модели невозможно будет изучить XOR (базовые логические ворота, которые можно эмулировать на каждом компьютере, который у нас есть сегодня). К сожалению, его статья погрузила исследования нейронной сети в темные века в течение по крайней мере 10 лет.
Хотя, возможно, это не так впечатляет, как многие хотели бы, существуют уже существующие обучающие сети, которые могут выполнять визуальное и речевое обучение и распознавание.
И хотя у нас есть более быстрые процессоры, он по-прежнему не совпадает с нейроном. Нейроны в нашем мозгу - это, по крайней мере, параллельные суммарные единицы. Итак, представьте себе 100 миллиардов симулированных человеческих нейронов, добавляя каждую секунду, отправляя свои результаты на 100 триллионов соединений с «часами» около 20 Гц. Количество вычислений, происходящих здесь, намного превосходит петафлопсы вычислительной мощности, которые у нас есть, особенно когда наш процессор чаще всего серийный, а не параллельный.
Именно по этой причине я думаю, что FPGA больше подходят для моделирования мозга, чем традиционный процессор – Earlz
Существует червь по имени C. Элегантность, и его анатомия полностью нам известна. Каждая клетка отображается, и каждый нейрон хорошо изучен. Этот червь обладает интересным свойством по рождению, и это следует или вырастает только в тех температурных областях, в которых он родился. Here is link to the paper. Настоящая статья имеет реализацию свойства с нейронной моделью. И есть некоторые ученики, которые построили робот, который следует только тем темным областям в регионе, которые имеют разные оттенки света, используя эту нейронную модель. Эта работа могла быть выполнена с использованием других методов, но этот метод более устойчив к шуму, как доказано в документе, к которому я привел ссылку выше.
Где вы узнали, что ПК достигли teraflop? Самый быстрый ПК-процессор, о котором я знаю, составляет 70 гигафлоп ... и если вы имели в виду суперкомпьютеры, то в прошлом году они пробивали петафлопы. – DeadHead
Извините, я с включенным графическим процессором. Графический процессор с поддержкой CUDA способен эффективно выполнять алгоритм распространения нейронной сети. Не уверен насчет обучения и адаптации веса узла - это, вероятно, связано с основным процессором. – Andy
Я думаю, что это меньше вопрос о размере/скорости нейронной сети, но вопрос о том, можно ли моделировать дополнительные сложности познания и обучения в мозгах с помощью этих методов. Может быть, встреча нейронных сетей/персетронов и клеточных автоматов? –