Объявление

Осуществляется переход на новую версию движка (регистрация новых пользователей пока закрыта), свои пожелания и вопросы оставляйте в ветке: Технический раздел -> Форум

#1 2008-10-24 21:49:09

Zhitelew
Участник
Из Kieв
Зарегистрирован: 2006-10-31
Сообщений: 353

Re: Объем Е-личности

Попробую оценить верхнюю границу значения памяти, необходимой для личности.
Объем требуется заведомо меньший, чем объем инфы, соответствующей сенсорному притоку. Сенсорный приток меньше 300мБ\сек (исходя из разрешающей способности сетчатки). За 100 лет записи получается не больше 1,0+E18 байт. Т.е бОльшая цифра из приведенных тобой видимо получилась также.
Даже если будем использовать эту (заведомо завышенную) цифру, все равно получается, что при сохранении закона Мура такие объемы через 20 лет будут на домашних компьютерах.

Offline

#2 2008-11-08 04:49:36

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

В голове у человека 10^10 нейронов. Каждый нейрон может находиться в состоянии 1 или  0. Активны только 1-2% нейронов. Итого 2*10^8. Почти все ресурсы мозга идут на управление мышцами, внутренними органами и прочей хренотой. На любование собой единственным остается может быть 1% или меньше. Получается 2*10^6 нужно чтобы ощущать себя личностью с Большой Буквы.

Попробуем сделать независимую оценку. Если среднему человеку (не профессиональному писателю) предложить написать все, что он о себе знает и дать достаточно много времени, он напишет несколько десятков страниц. Вряд ли он напищет книгу (10^5). Но даже если он напишет 10 книг, это будет 10^6. Еще у него в памяти десяток лиц с очень низким разрешением, 10^4 * 10 = 10^5. Даже если у него в памяти 100 лиц, это всего 10^6. Еще столько же занимают картинки улиц. Ну, типа, чтобы он мог самостоятельно ходить на работу и возвращаться домой. Получается опять 2*10^6.

Так что, на дешевом Flash Drive за 10 баксов поместится 10000 Е-личностей.

Offline

#3 2008-11-09 21:48:29

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

КотКот пишет:

Это про человека или про червяка.......

Это про чераяка сидящего в голове у человека и считающего себя ЛИЧНОСТЬЮ...

P.S.
Большинство людей этого червяка у себя не замечало. Таких на Flash Drive поместится ваще немеряно...  smile

Offline

#4 2008-11-10 08:52:45

Pompei
Участник
Из Казахстан, Алматы
Зарегистрирован: 2006-12-01
Сообщений: 1,057
Сайт

Re: Объем Е-личности

КотКот пишет:

Это про человека или про червяка.......

Блин, круто сказано!!!!!!!!!!  smile

2 Bright
Вы слишком сильно всё упрощяете в своих расчётах.
Ну действительно - 1Мбайт для личности - ну очень мало, иначебы уже давно ходилибы умные роботы по улицам


А всё оказывается гораздо проще: пассивные наноструктуры - активные наноструктуры - системы наносистем - молекулярные наносистемы - сингулярность! По пять лет на каждый этап.

Offline

#5 2008-11-10 16:15:30

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

Pompei пишет:

2 Bright
Вы слишком сильно всё упрощяете в своих расчётах.
Ну действительно - 1Мбайт для личности - ну очень мало, иначебы уже давно ходилибы умные роботы по улицам

Ум, память и личность это, как говорят в Одессе, ТРИ большие разницы.

Память это Гиги и Теры.

Ум это программа обработки того, что хранится в памяти и поступает с сенсоров. Может быть десяток Мег.

Личность ( "Я" ) это примитивная реакция, наподобие отдергивания задницы от горячего утюга. Любой червяк с десятком нейронов может это проделывать очень шустро.

Offline

#6 2008-11-10 17:21:51

Human
Участник
Зарегистрирован: 2007-05-15
Сообщений: 450

Re: Объем Е-личности

>Личность ( "Я" ) это примитивная реакция, наподобие отдергивания задницы от горячего утюга. Любой червяк с десятком нейронов может это проделывать очень шустро.

  lol

Offline

#7 2008-11-11 16:05:18

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

КотКот пишет:

Память и программу в человеке не разделишь. Это неотьемлемые части одного целого --- разума и сознания в человеке......

Память в человеке это слова, картинки, ощущения. Это хранится в неизменном виде, разве что тускнеет со временем.

Программа в человеке это алгоритм оценки прошлых событий, планирование новых событий. Это процесс обработки информации.

Есть люди, которые все помнят, но уже не соображают.
Есть такие, кто может рассуждать, но уже не помнит своего адреса.

Offline

#8 2008-11-11 17:03:19

Summeroff
Участник
Из spb.ru
Зарегистрирован: 2007-01-21
Сообщений: 215
Сайт

Re: Объем Е-личности

Bright пишет:

Память в человеке это слова, картинки, ощущения. Это хранится в неизменном виде, разве что тускнеет со временем.

Программа в человеке это алгоритм оценки прошлых событий, планирование новых событий. Это процесс обработки информации.

Есть люди, которые все помнят, но уже не соображают.
Есть такие, кто может рассуждать, но уже не помнит своего адреса.

Программа оценки и планирования о которой вы говорите является побочным продуктом функционирования нашей памяти. Память ассоциативна. Активация одного воспоминания активирует все что связанны с ним. Для нас это выглядит как планирование, а нейроны просто передали сигнал дальше по своим связям. Это конечно очень упрощенное описание, там есть еще гторможение и накопление сигналов,  обучение установлениеи разрыв связей. 

Для проверки того что мозг использует память для получения результата, а не вычисления, есть правило 100 шагов. Оно звучит примерно так: нейрон функцианирует в масштабе времени( если очень приблизительно) 10 мсек, при взгляде на обьект человек опознает его за 1 сек. то есть за 100(это очень приблизительно и характеризует только порядок числа а не конкретное значение) шагов результат получен. 
Что может сделать алгоритм за 100 шагов? Только взять готовый ответ и сравнить с входными данными. 
Компьютер за 100 тактов не сделает вообще ничего полезного. Даже миллион(нейрон тоже ведь не один работал) компьютеров ничего не сделают.

Для ознакомления с этой парадигмой функционирования интелекта могу порекомендовать книгу Джеффа Хоукинза «Об интеллекте». ее перевод даже гдето выложен на этом форуме.  Или http://www.fil.ion.ucl.ac.uk/~karl/ если нужен более серьезны уровень.

Offline

#9 2008-11-11 17:52:20

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

Summeroff

Благодарю за ссылку. Я перепотрошил все сурьезные книги по нейронным сетям имевшиеся в библиотеках нескольких крупных универов США. Точнее первые несколько изучил как следует, а остальные просто полистал, потому что они все передирают друг у друга. Как работает нейронная сеть и как она распознает образы я представляю.

Книгу On Intelligence by Jeff Hawkins and Sandra Blakeslee 2005 я видел. Она показалась мне довольно упрощенной  smile

Offline

#10 2008-11-11 19:58:08

Сергий
Участник
Зарегистрирован: 2008-06-30
Сообщений: 94

Re: Объем Е-личности

Всё зависит от компромисса памяти и скорости. Если всё хорошо сжимать и считать на 1 процессоре, то памяти уйдёт немного (возможно сотни гиг.).  Если же распараллеливать и без сжатия, то и тысяч тер. мало будет.

Вообще здесь не в ресурсах дело, а в программном коде, который точно эмулирует процесс работы нейросетей человека. А для этого надо ДЕТАЛЬНОЕ изучение принципов работы нейросетей (включая динамическое изменение весов синапсов, эффект памяти, частотные передаточные характеристики нейронов…).

Offline

#11 2009-05-14 11:56:51

Illuminatus
Участник
Из Канада, Монреаль
Зарегистрирован: 2009-04-22
Сообщений: 106
Сайт

Re: Объем Е-личности

Bright,

Замечу, что структура личности определяется не состоянием нейрона (активированное или пассивное), которое меняется постоянно, а проводимостью синапсов, которая имеет много уровней. На каждый нейрон приходится в среднем 60-300 синапсов, насколько я помню, поэтому оценка объема - на 2-3 порядка выше, по всей видимости, чем указанная Вами.


Ничто трансчеловеческое мне не чуждо.

Offline

#12 2009-05-19 11:33:28

Pompei
Участник
Из Казахстан, Алматы
Зарегистрирован: 2006-12-01
Сообщений: 1,057
Сайт

Re: Объем Е-личности

Bright пишет:

Ум, память и личность это, как говорят в Одессе, ТРИ большие разницы.

Память это Гиги и Теры.

Ум это программа обработки того, что хранится в памяти и поступает с сенсоров. Может быть десяток Мег.

Личность ( "Я" ) это примитивная реакция, наподобие отдергивания задницы от горячего утюга. Любой червяк с десятком нейронов может это проделывать очень шустро.

Вообщето программа - это тоже память. EXE-шник же - это файл.


А всё оказывается гораздо проще: пассивные наноструктуры - активные наноструктуры - системы наносистем - молекулярные наносистемы - сингулярность! По пять лет на каждый этап.

Offline

#13 2009-05-19 13:14:31

Tranquillum
Участник
Зарегистрирован: 2009-01-27
Сообщений: 101

Re: Объем Е-личности

Тоже попробовал посчитать:

По разным источникам нейронов в мозге от 10 миллиардов до триллиона. Пусть будет триллион. На каждый нейрон 1000 синапсов. (Попадались данные, что некоторые клетки имеют до 10000). Сознание - плохо формализуемая задача, поэтому разрядность каждого числа пусть будет 128бит=16байт. Это не запредельно много, SSE имеют именно такую разрядность. Ещё каждое такое число на задержку во времени (думаю, это необходимо для работы. И так же смею предположить, что функция у всех связей там будет одна и та же, только с разной постоянной времени). Теперь выбираем разрядность адресации, необходимую для того, чтобы можно было соединить любой нейрон с любым входом любого другого нейрона(избыточно, да). ближайшее число к триллиону (1*10^12). будет 2^40 , т.е. для адресации хватит 40 бит = 5 байт. и добавим один байт на адресацию конкретных входов-выходов при условии, что каждый нейрон имеет 1024 связей, это будет 6Кбайт. На каждый синапс у нас есть коэффициент и переменная - два числа по 16 байт, и 1024 этих числа. На данные в нейроне расходуется 32 Кбайт. На задержки - ещё 16*1024 байт = 16 Кбайт. Следовательно, примерно 6+32+16 = 54 Кбайт на нейрон.

Итого, по разным оценкам, от 540 ТБ до 54ПБ

Хотя, конечно, без адекватной логической модели, можно очень сильно ошибиться в оценках. Причём, в любую сторону.

Offline

#14 2009-05-19 21:20:01

Illuminatus
Участник
Из Канада, Монреаль
Зарегистрирован: 2009-04-22
Сообщений: 106
Сайт

Re: Объем Е-личности

Не, триллион - это что-то левое. Тут нужно учитывать, что в источниках нередко говорят не о нейронах, а о "нервных клетках", в число которых включают не только нейроны, но и глиальную ткань, которая выполняет преимущественно функции поддержки и питания нейронов (хотя слышал о том, что какое-то участие в собственно нервных процессах она тоже принимает). Кроме того, все нейроны не требуются: двигательную часть, управление физиологическими функциями и т.д. можно и выкинуть - все равно без значительной переделки в случае переноса на альтернативный носитель это не понадобится.


Ничто трансчеловеческое мне не чуждо.

Offline

#15 2009-05-19 23:42:19

Tranquillum
Участник
Зарегистрирован: 2009-01-27
Сообщений: 101

Re: Объем Е-личности

Кроме того, все нейроны не требуются: двигательную часть, управление физиологическими функциями и т.д. можно и выкинуть

А по-моему, загружать нужно все нейроны без исключения. И эмулировать работу биологических функций - в виртуальное пространство поселить по-началу, к примеру. Ибо самоощущение изменится неизбежно и так (например, перестанет нейрон сбоить, химические процессы перестанут проходить, а имитация - где-то да окажется неточной... или вообще - чистая психология), а с пропаданием кучи цепей двигательную часть, управление физиологическими функциями и т.д (читай - ощущений, пусть даже и бессознательных) может вызвать слишком большой шок. Да и если оно будет значительно переделано, какая-то память всё равно потребуется, пусть и будет изменена архитектура.

Offline

#16 2009-06-19 21:42:46

Dagor Bragollach
Участник
Зарегистрирован: 2009-06-19
Сообщений: 12

Re: Объем Е-личности

Tranquillum пишет:

А по-моему, загружать нужно все нейроны без исключения. И эмулировать работу биологических функций - в виртуальное пространство поселить по-началу, к примеру. Ибо самоощущение изменится неизбежно и так (например, перестанет нейрон сбоить, химические процессы перестанут проходить, а имитация - где-то да окажется неточной... или вообще - чистая психология), а с пропаданием кучи цепей двигательную часть, управление физиологическими функциями и т.д (читай - ощущений, пусть даже и бессознательных) может вызвать слишком большой шок.

Не больше, чем при параличе. Будет нехватка ощущений, но ее легко скомпенсировать, с учетом того что органов восприятия можно напридумывать много разных, и более совершенных, чем у человека, и ими еще нужно будет учиться пользоваться. Не думаю, что стоит точно копировать человеческие восприятия и мышечные команды.

Offline

#17 2009-06-27 00:34:07

juicy_emad
Участник
Зарегистрирован: 2007-06-14
Сообщений: 255

Re: Объем Е-личности

Bright пишет:

В голове у человека 10^10 нейронов. Каждый нейрон может находиться в состоянии 1 или  0. ...

  :blink: 

Возможно, тов. Bright говорит о размере программного кода, который эти данные будет обрабатывать. Ну, вот он-то и будет занимать несколько метров. Может, даже КБ. Только он не имеет никакого отношения к объёму E-личности.

Рекомендую почитать (не полистать!) Ф.Уоссермена (в идеале, конечно, нужно сами нейросетки покодить). Книжка в 91 году была написана.

Итак.

Из сеттлеретики:

По данным [Иваницкий, 1991, c.12], "у человека после формирования мозга число нейронов составляет порядка 10^9-10^12...".

В каждом нейроне, в самом примитивном математическом моделировании, имеется сигмоидальная функция, которая может принимать значения от -беск до +беск. Обычно, устанавливают пороговые величины от -3 до +3 или от 0 до +1 (зависит от самой этой активационной функции). Но значение этой функции нейрона вычисляется динамически и постоянно изменяется (по крайней мере, гораздо быстрее весов в синаптических соединениях). Так что, если мы пытаемся тут взвесить личность, то нужно учитывать именно весовые коэффициенты на синапсах.
Т.е. значение уровня возбуждённости нейрона - это следствие определённых значений весовых коээфициентов на синапсах (+ сила входящих сигналов ессно).
В той же книжке называется примерное кол-во этих коэффициентов в каждом нейроне. Это ~1000 шт. И это вещественные числа. Конечно, можно попытаться упихать каждый коэффициент в 2 байта (0xFFFF состояний синапса тоесть). Получается около 2 КБ на 1 нейрон. Таким образом, получаем цифру от 2*10^12 до 2*10^15 байт (от ~2 ТБ до ~2 ПБ). Тэкс. Сюда ещё надо приплюсовать адреса. Нам же важны не только сами синапсы, но и то, с каким нейроном они связаны. Как Tranquillum говорит, под адресацию достаточно 5 байт. Так что, умножаем цифру ещё на 3.5.

И это будет вес по самым минимальным подсчётам, учитывая использование не совсем адекватной мат. модели нейрона. (!) Ибо, как Tranquillum заметил, можно добавить ещё и задержки.

Проект Blue Brain. Они для эмуляции одного нейрона использовали один современный ПК. Это получается порядка нескольких КБ или даже МБ на нейрон.

С другой стороны, какие-то online-тексты есть с кучей вопросов. И, как бы, если человек ответит на них, то в будущем, по его ответам можно будет смоделировать его E-личность. Это получается порядка нескольких МБ на личность.

Однако, если попытаться замоделировать всё с точки зрения не структурных состовляющих, а на атомарном уровне, с учётом возможных квантовых (?) взаимодействий. То, получается ... забавная картина. Ладно не важно.

Я хочу сказать, что объём E-личности напрямую зависит от точности моделирования.

Конечно, мы сами понимаем, что моделирование на атомарном уровне нам нафиг не нужно. Ибо, к примеру, 100 гр. этилового спирта грохает до 1000 шт. нейронов в неокортексе. И при этом, ничего особо страшного с личностью человека не происходит.
Нужно найти какой-то порог, по точности моделирования. Тут люди твердят, что на флэшку всё поместится. Другие до сих пор как будто под кайфом от этой гипотезы суперструн, эти ... квантовики ... вообще говорят, что ничего не выйдет и человек - венец творения. Однако, мы не сможем определить точность моделирования пока не создадим эту самую переселённую личность (или E-личность) и не проверифицируем её.

Так что то, чем мы тут занимаемся - пустая болтовня и про*бывание времени.   lol 
В общем, надо подождать ещё лет 20. Будет видно.


Смысл жизни любого человека - это всего лишь ~"хрупкая логическая теория, нацеленная на оправдание собственного существования" © Agent Smith, Matrix Revolution

Offline

#18 2009-06-27 01:27:42

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

Вау!!! А я и не видел, сколько постов наваляли в тему...  smile

Сергий пишет:

Вообще здесь не в ресурсах дело, а в программном коде, который точно эмулирует процесс работы нейросетей человека. А для этого надо ДЕТАЛЬНОЕ изучение принципов работы нейросетей (включая динамическое изменение весов синапсов, эффект памяти, частотные передаточные характеристики нейронов…).

Если речь идет о точном эмулировании процессов работы нейросетей человека, то ДА!

Но надо ли это для оценки объема Е-личности?
Думаю, что излишне.

Offline

#19 2009-06-27 01:32:12

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

Illuminatus пишет:

Bright,

Замечу, что структура личности определяется не состоянием нейрона (активированное или пассивное), которое меняется постоянно, а проводимостью синапсов, которая имеет много уровней. На каждый нейрон приходится в среднем 60-300 синапсов, насколько я помню, поэтому оценка объема - на 2-3 порядка выше, по всей видимости, чем указанная Вами.

Этим определяется не структура личности, а структура и состояние мозга. А чем определяется структура личности, мы можем лишь строить догадки. Вы - свои, я - свои.

Offline

#20 2009-06-27 01:36:16

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

Illuminatus пишет:

Кроме того, все нейроны не требуются: двигательную часть, управление физиологическими функциями и т.д. можно и выкинуть - все равно без значительной переделки в случае переноса на альтернативный носитель это не понадобится.

Вот именно!!!
Если отбросить все, что не нужно для Е-личности, то останется может быть тысячная часть флэшки.

Offline

#21 2009-06-27 02:21:53

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

juicy_emad пишет:

В каждом нейроне, в самом примитивном математическом моделировании, имеется сигмоидальная функция, которая может принимать значения от -беск до +беск.

Чиво-чиво???   :unsure: 
C каких это пор "сигмоидальная функция может принимать значения от -беск до +беск."? Все сигмоидальные функции (логистическая кривая, арктангенс, гиперболический тангенс, функция Ферми (экспоненциальная сигмоида), рациональная сигмоида) принимают значения из интервала [-1,  +1]
Вам совет учить матчасть дать, или вы сами уже догадались?   lol 

juicy_emad пишет:

Но значение этой функции нейрона вычисляется динамически и постоянно изменяется.

Да, но переходной период между крайними состояниями очень краток, а пребывание в крайних состояниях продолжительно. Поэтому на промежуточные состояния можно смело забить.

juicy_emad пишет:

Так что, если мы пытаемся тут взвесить личность, то нужно учитывать именно весовые коэффициенты на синапсах.

Эти коэффициенты нужны для взвешивания состояния сети. Но нужны ли они для взвешивания Е-личности?

juicy_emad пишет:

С другой стороны, какие-то online-тексты есть с кучей вопросов. И, как бы, если человек ответит на них, то в будущем, по его ответам можно будет смоделировать его E-личность. Это получается порядка нескольких МБ на личность.

Оnline-тесты в принципе позволяют "вытащить" из человека то, что он может сказать словами. Останутся "не вытащеными"  смутные зрительные образы. Может быть десятки МБ.

juicy_emad пишет:

Однако, мы не сможем определить точность моделирования пока не создадим эту самую переселённую личность (или E-личность) и не проверифицируем её.

Начать можно с ваших оnline-тестов. Когда дойдете до возможности отличить Васю Пупкина от Пупы Васечкиной, дальше можно будет забить.  smile

juicy_emad пишет:

Я хочу сказать, что объём E-личности напрямую зависит от точности моделирования.

Да, причем, как только Е-личность "схвачена", дальше уточнять нет смысла.

juicy_emad пишет:

Нужно найти какой-то порог, по точности моделирования.

Нужно найти ДВА ПОРОГА. Один для моделирования Е-личности, другой для моделирования всей нейронной сети. На всякий случай иметь ТРЕТИЙ порог. Вдруг специалисты по суперструнам останутся без работы - так пусть маются у третьего порога и не мешают работать.   lol

Offline

#22 2009-06-27 03:23:24

juicy_emad
Участник
Зарегистрирован: 2007-06-14
Сообщений: 255

Re: Объем Е-личности

Bright пишет:

Чиво-чиво???   :unsure: 
C каких это пор "сигмоидальная функция может принимать значения от -беск до +беск."? Все сигмоидальные функции (логистическая кривая, арктангенс, гиперболический тангенс, функция Ферми (экспоненциальная сигмоида), рациональная сигмоида) принимают значения из интервала [-1,  +1]
Вам совет учить матчасть дать, или вы сами уже догадались?   lol

Пф... спать мне надо больше, в общем.   lol   Я имел ввиду аргумент этой функции изменяется от -беск до +беск (в арктангенсе том же). А сама сигмоида, да, асимтпотически стремится к пределам. Окей.
Я просто хотел сказать, что выход активационной функции - это вещественное число, а не бинарное.


Смысл жизни любого человека - это всего лишь ~"хрупкая логическая теория, нацеленная на оправдание собственного существования" © Agent Smith, Matrix Revolution

Offline

#23 2009-06-27 03:37:08

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

juicy_emad пишет:

Я просто хотел сказать, что нужно выход активационной функции - это вещественное число, а не бинарное.

Формально да, число из интервала, но фактически почти все время на краях интервала и очень быстро проскакивает все промежуточные состояния. Поэтому ПОЧТИ бинарное.

Не помешает также учесть, что огромная масса нейронов "всю жысть" пребывает только в одном из двух состояний, а туда-сюда перепрыгивают лишь некоторые.
smile

Offline

#24 2009-06-27 03:48:44

juicy_emad
Участник
Зарегистрирован: 2007-06-14
Сообщений: 255

Re: Объем Е-личности

Bright пишет:

Формально да, число из интервала, но фактически почти все время на краях интервала и очень быстро проскакивает все промежуточные состояния. Поэтому ПОЧТИ бинарное.

Не помешает также учесть, что огромная масса нейронов "всю жысть" пребывает только в одном из двух состояний, а туда-сюда перепрыгивают лишь некоторые.
smile

Окей. Вот простой пример.
У нас есть MLP'шная сеть, заточенная под распознавание символов.
Подаём символ (скажем "a") на вход, запускаем процесс функционирования, доходим до выхода.
Мы можем сделать снимок сети после этого процесса.
В информации, которую мы получим, будет видно, что сеть знает символ "a".
Однако, чтобы понять, что эта сеть знает гораздо больше символов, мы должны будем подавать на вход все символы, что знает сеть, активируя тем самым определённые нейроны. После каждого процесса функционирования, мы должны будет делать снимок акт. функций нейронов этой сети. И, возможно, в этом случае, нам удастся воссоздать эту сеть.
Но, это же слишком накладно. Если переносить аналогию на человека, то нужно будет проактивировать все его уголки памяти. И он должен будет на себе это испытывать в real-time.
Я где-то неправ?
Не проще ли сразу брать весовые коэффициенты?

<!--sizeo:1--><span style="font-size:8pt;line-height:100%"><!--/sizeo-->P.S.:
<!--quoteo(post=0:date=:name=Bright)-->Все сигмоидальные функции (логистическая кривая, арктангенс, гиперболический тангенс, функция Ферми (экспоненциальная сигмоида), рациональная сигмоида) принимают значения из интервала [-1, +1]

Ну, арктангенс-то принимает от [-PI/2;+PI/2]. Да ладно. Не важно, собственно.<!--sizec--></span><!--/sizec-->


Смысл жизни любого человека - это всего лишь ~"хрупкая логическая теория, нацеленная на оправдание собственного существования" © Agent Smith, Matrix Revolution

Offline

#25 2009-06-27 05:31:01

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

juicy_emad пишет:

И, возможно, в этом случае, нам удастся воссоздать эту сеть.
Но, это же слишком накладно.

Все зависит от того, как ставится задача.

1. Если число нейронов apriori фиксировано, например 10^10, то накладно.

2. Но можно поставить задачу иначе. Каково МИНИМАЛЬНОЕ число нейронов сети, способной распознавать ВАШ набор символов? Если задача решена, то все весовые коэффициенты сами собой определятся в ходе ее решения. Конечно, это ДРУГАЯ задача. Это не моделирование реального мозга, а поиск такой минимальной сети, которая ведет себя точно так же, как (Е-)личность.

juicy_emad пишет:

Если переносить аналогию на человека, то нужно будет проактивировать все его уголки памяти. И он должен будет на себе это испытывать в real-time.
Я где-то неправ?

Конечно неправ! Когда вы устраиваетесь на работу, вы ведь не требуете сразу всю вашу зарплату вплоть до пенсии. Немного поработали (2 недели) - немного получили. Так же можно смухлевать и с памятью испытуемого. Показали ему ДЕМО версию, пять минут пошарили по памяти, взяли с него бабки... а остальное как-нибудь устаканится... главное чтобы хоть что-нибудь было в памяти... а потом он просто не сможет проверить, все вы ему закачали или нет. Как он сможет у вас спросить где его воспоминания о лыжной прогулке, если он ВАЩЩЕ БЕЗ ПОНЯТИЯ о лыжной прогулке?  smile

juicy_emad пишет:

Не проще ли сразу брать весовые коэффициенты?

На бумаге проще, потому что думать не надо. Но реализация будет накладней в миллионы раз...

juicy_emad пишет:

Ну, арктангенс-то принимает от [-PI/2;+PI/2].

Исходный арктангенс - да, но когда его используют как сигмод, его нормируют и сдвигают на интервал [-1, 1] или [0, 1] или [-1/2, 1/2]  или [0, 2]... ту хум хау...   lol

Offline

#26 2009-06-27 17:32:17

juicy_emad
Участник
Зарегистрирован: 2007-06-14
Сообщений: 255

Re: Объем Е-личности

<!--quoteo(post=0:date=:name=Bright)-->2. Но можно поставить задачу иначе. Каково МИНИМАЛЬНОЕ число нейронов сети, способной распознавать ВАШ набор символов? Если задача решена, то все весовые коэффициенты сами собой определятся в ходе ее решения. Конечно, это ДРУГАЯ задача. Это не моделирование реального мозга, а поиск такой минимальной сети, которая ведет себя точно так же, как (Е-)личность.[/quote]
Окей. Идея понятна.
Было бы неплохо увидеть это в софте. Т.е. чтобы весовые коэффициенты определялись по выходам нейронов. Только, лучше сразу начать не с MLP-сети, а с обратными связями.
Вы можете такое закодить? Если да, то может, попробуете?
(я имею ввиду на какой-то примитивной сети для анализа символов или sound'а)


Смысл жизни любого человека - это всего лишь ~"хрупкая логическая теория, нацеленная на оправдание собственного существования" © Agent Smith, Matrix Revolution

Offline

#27 2009-06-27 18:06:18

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

juicy_emad пишет:

Вы можете такое закодить? Если да, то может, попробуете?

Когда был студентом - мог, ибо бабки нужны были... тогда музЫка и кабаки были почему-то дорогими...

... а сейчас я сам любого студента или даже самого Билла Гейтса могу профинансировать, если мне надо будет закодить такую тривиальную задачку по синтезу минимальной нейросетки с заданой распознавалкой...
smile

Offline

#28 2009-06-27 18:34:00

juicy_emad
Участник
Зарегистрирован: 2007-06-14
Сообщений: 255

Re: Объем Е-личности

Bright пишет:

... а сейчас я сам любого студента или даже самого Билла Гейтса могу профинансировать, если мне надо будет закодить такую тривиальную задачку по синтезу минимальной нейросетки с заданой распознавалкой...
smile

В таком случае, может имеет смысл фрилансерапод это дело нанять?
Только причём тут синтез нейросетей, если мы по нескольким снимкам сигналов активационных функций вычисляем значения весовых коэффициентов?


Смысл жизни любого человека - это всего лишь ~"хрупкая логическая теория, нацеленная на оправдание собственного существования" © Agent Smith, Matrix Revolution

Offline

#29 2009-06-27 19:00:49

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

juicy_emad пишет:

В таком случае, может имеет смысл фрилансерапод это дело нанять?

Может имеет... пробуйте... я не против...  smile

juicy_emad пишет:

Только причём тут синтез нейросетей, если мы по нескольким снимкам сигналов активационных функций вычисляем значения весовых коэффициентов?

Сейчас мы запутаемся нафиг в дефинициях...
Можно считать, что синтез завершен, если сеть уже есть, но еще не обучена.
Можно считать, что синтез завершен, только после того, как сеть уже обучена.
Можно считать, что обучение сети - это мягкая, последовательная заточка коэффициентов под предъявляемые ей активации.
Можно считать, что обучение - это жесткое задание коэффициентов, вычисленных  совершенно независимо.
Все эти дефиниции нужны только историкам...  smile

ПС
Я не уверен, что вы поняли, что сеть можно вообще ничему не учить, а создать сразу с нужными коэффициентами... если только знать как их задать...

Offline

#30 2009-06-27 19:27:40

juicy_emad
Участник
Зарегистрирован: 2007-06-14
Сообщений: 255

Re: Объем Е-личности

Bright пишет:

Может имеет... пробуйте... я не против...  smile

Так это не моя идея была. Более того, я не думаю, что это вообще будет работать. Так что я не собираюсь инвестировать в это.

Bright пишет:

Сейчас мы запутаемся нафиг в дефинициях...
Можно считать, что синтез завершен, если сеть уже есть, но еще не обучена.
Можно считать, что синтез завершен, только после того, как сеть уже обучена.
Можно считать, что обучение сети - это мягкая, последовательная заточка коэффициентов под предъявляемые ей активации.
Можно считать, что обучение - это жесткое задание коэффициентов, вычисленных  совершенно независимо.
Все эти дефиниции нужны только историкам...  smile

ПС
Я не уверен, что вы поняли, что сеть можно вообще ничему не учить, а создать сразу с нужными коэффициентами... если только знать как их задать...

Причём тут вообще обучение сети?
Я говорю, что сеть уже есть. Она обучена.
Теперь нужно по СИГНАЛАМ АКТИВАЦИОННЫХ ФУНКЦИЙ вычислить ВЕСОВЫЕ КОЭФФИЦИЕНТЫ.
Процесс обучения сети не имеет никакого отношения к эксперименту.


Смысл жизни любого человека - это всего лишь ~"хрупкая логическая теория, нацеленная на оправдание собственного существования" © Agent Smith, Matrix Revolution

Offline

#31 2009-06-27 20:01:52

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

juicy_emad пишет:

... сеть уже есть. Она обучена.
Теперь нужно по СИГНАЛАМ АКТИВАЦИОННЫХ ФУНКЦИЙ вычислить ВЕСОВЫЕ КОЭФФИЦИЕНТЫ.

сеть эмулируется на компе или это живая сеть несчастной букашки?

Offline

#32 2009-06-27 20:07:05

juicy_emad
Участник
Зарегистрирован: 2007-06-14
Сообщений: 255

Re: Объем Е-личности

Bright пишет:

сеть эмулируется на компе или это живая сеть несчастной букашки?

Это ИНС конечно же.
Наверно, фраза:

Было бы неплохо увидеть это в софте.

сказанная мной выше, должна была определить вектор тематики разговора.


Смысл жизни любого человека - это всего лишь ~"хрупкая логическая теория, нацеленная на оправдание собственного существования" © Agent Smith, Matrix Revolution

Offline

#33 2009-06-27 20:22:44

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

juicy_emad пишет:

Это ИНС конечно же.

Сколько нейронов и активационных функций?

Offline

#34 2009-06-27 20:32:50

juicy_emad
Участник
Зарегистрирован: 2007-06-14
Сообщений: 255

Re: Объем Е-личности

Bright пишет:

Сколько нейронов и активационных функций?

Ну, пусть это будет двуслойная сеть с обратными связями, ассоциативно вспоминающая символы (или распознающая символы).
На входе 400 нейронов и на выходе столько же. 800 нейронов.
Активационных функций, стало быть, столько же.


Смысл жизни любого человека - это всего лишь ~"хрупкая логическая теория, нацеленная на оправдание собственного существования" © Agent Smith, Matrix Revolution

Offline

#35 2009-06-27 21:13:57

Bright
Участник
Зарегистрирован: 2008-11-06
Сообщений: 410

Re: Объем Е-личности

Ну, в таком случае самое дешевое и быстрое - посадить лаборанта, он потычет тестером и через пару часов выдаст вам все коэффициенты.

Если вас дешевое и быстрое не устраивает, можно посадить хорошего снабженца со знанием языков, он пошарит, найдет фирмы где софтина есть (а есть у очень немногих), попробует купить, но продать никто не захочет, потому что вычисление этих коэффициентов это вопчим reverse ingeneering, а плодить конкурентов ни кому не охота

Offline

Подвал раздела

Под управлением FluxBB