Биологическая нейросеть и эффективность обучения. Сравнение БИ с ИИ
Круговорот возможностей для улучшения
Сейчас очень много размышлений над сильным ИИ, нейросетями, влиянием нейросетей.
Но у нас и так есть миллиарды сильных И в биологическом исполнении. Зачем грезить/бояться/строить теории относительно будущего с сильным искусственным интеллектом, когда есть огромное количество плохо настроенных БИ. Достаточно чуть улучшить их обучение и эффективность и счастье взлетят вверх.
В связи с этим актуальным становится вопрос сравнения ИИ и обычного биологического интеллекта. Ведь если создатели перцептрона вдохновлялись и черпали идей из природы и биологи, то почему бы не черпать идеи из искусственных нейросетей и добавлять эти идеи к обычным. По сути ИИ это грубая модель мозга на основе модели нейрона. Смотреть на модель, анализировать ее — лучше понимать первичный объект и смотреть на объект анализировать его — лучше понимать модель.
Искусственные нейросети уже развиваются довольно давно и по некоторым показателям приближаются к биологическим. У chatgpt5 1 триллион синаптических контактов () у человека 15 триллионов. Числа сопоставимые. Датасет с изображениями ИИ стал определять лучше человека уже в 2015 году. Если рассматривать количество слоев (6 в коре у человека), то ИИ давно уже обошел биологические нейросети. Вполне разумно посмотреть на свое создание.
Отличия биологических нейросетей от искусственных
Главное отличие это нейропластичность зависящая от времени. Можно обучить ИИ, оставить его на пол года или на 10 лет, потом прийти и переучить его и скорость с которой будет произведено изменение весов нейросети будет одинаковой как с полугодовалым перерывом, так и с перерывом в десять лет. С человеком все будет по другому. Его нейропластичность в 7 лет отлична от нейропластичности в 25.
Отсутствие фиксированности во времени. Обучив ИИ можно его таким и оставить. Обучив биологические нейросети веса в них будут меняться постоянно. Если навык не поддерживается нейронные связи истончатся и ослабятся. Если поддерживается, то они усилятся и произойдет перенастройка. Она будет происходить постоянно.
Эволюционно прописанные программы и потребности. Если мы сделаем нейросеть для определения рукописных цифр, она не будет думать «как мне размножиться» «как поесть» «зачем я это делаю» «влияет ли данная деятельность на мою биологическую и социальную успешность» и т.д. ИИ изолирован в своей задаче. Но это если мы говорим о слабом ИИ. Будет ли сильный ИИ размышлять «как мне поесть» или «как мне поспать»
Также отдельно стоит отметить, что у биологических нейросетей есть лень. У текущих же ИИ нет лени. Возможно у сильного ИИ она будет. Подобно ленивым вычислениям в языках программирования (например, haskell). Лень это тоже потребность по П.Н. Симонову это потребность экономии энергии и входит она в витальные потребности. Если мозг в его древних структурах (например «подрублен», активируется в случае взаимодействия с изучаемым предметом. «Ученик — это не сосуд, который надо наполнить, а факел, который надо зажечь», как говорил Плутарх. «Огонь» мы видим, засунув человека в фмрт и показывая ему что-то что ему действительно интересно. Видно, что в таком случае биологическая нейросеть символически «горит» желтым и оранжевыми цветами. Активация подкорковых структур при изучении материала это интерес и/или стремление к изучению
Обучение чертам характера. Черты характера и личности это также нейронные связи, между нейронами в одном отделе и между несколькими. Например, выученная беспомощность, описанная Мартином Селигманом. Или же «выученное упорство», Ли Даркворт.
Генетические предрасположенности и плавание нейросети в коктейле из гормонов.
Для биологического интеллекта необходимо поспать, это часть его цикла обучения. ИИ может учиться 24/7.
Конкуренция датасетов друг с другом. Биологический сильный И имеет выбор между заданиями по математики и шотсами юутба.
Сходства биологических нейросетей и искусственных
Общий принцип. Веса — нейронные связи. Отслеживание ошибки при текущих весах. Усиление/ослабление весов в зависимости от ошибки
Тренировочная выборка и тестовая выборка
Overfitting
Обучение с учителем и обучение без учителя
Необходимость датасета достаточного объема и качества
Обучение с учителем эффективнее. Если есть возможность, то стоит обучаться с учителем.
Проблемы
Отсутствует сам процесс обучения
Не вычисляется функция ошибки или ее нет
Если в процессе обучения отсутствует ситуация с отслеживанием ошибки, то обучение не происходит, как пример можно привести английский в корее-японии. Да и наверняка читатель вспомнит множество случаев из жизни, когда люди делали одну и ту же деятельность пусть даже с точки зрения наработки того или иного навыка концептуально эффективную, но при этом не отслеживали результат и в итоге ничего не менялось.
Нет перенастройки весов
Если нет отслеживания ошибки, то нет и корректировки. Но даже когда она есть и показана ошибка, биологическая нейросеть может не корректировать веса, хотя данная опция имеется. Возможно и тут вспомнятся ситуации, когда индивид знает что нужно делать, чтобы стало лучше/эффективнее/результативнее, и все равно ничего не делает. Это именно тот случай.
Тем не менее это не самые грустные вариант. Самая печальная ситуация описана далее.
Тренировочная выборка, тестовая выборка и реальные данные отличны друг от друга
То как происходит с AI. Выбирается датасет который максимально похож на то с чем будет работать в последующем нейросеть. Данные делятся на тестовую и тренировочную выборку. На тренировочной осуществилось обучение. На тестовой проверка результатов нейросети. И все, в путь. В случае если датасет был более-менее похож на то с чем прийдется иметь дело нейросети, то все будет замечательно. Но так ли это с биологическим нейросетями?
Люди обучаются по крайне неэффективной схеме. Для примера можно взять обучение английскому, которому посвящено немало статей на хабре, обучающего контента и 10 лет школы, плюс 2 года бакалавра. И теперь вопрос, насколько хорош уровень английского языка в наших странах? Соответствует ли данный уровень тому что можно получить за 10–12 лет изучения языка? В Японии люди изучают английский, проходят грамматику, правила, пишут тесты идеально. Но по итогу, говорить не могут и понимать тоже. В школе/универе человек учится делать задания и быть вхожим в систему. Требуется ли в реальном мире это? Лучшие варианты это максимально приблизиться к реальным данным и проводить обучение на них. Например, если человек учится программированию на скиллбоксах и прочих курсах, то лучше не идти на них, а просто взять задачу похожую на реальную сделать ее, сделать пару тестовых и влетать на работу, чтобы на ней и учиться наиболее эффективно. В сто раз будет эффективнее тренироваться нейросеть. Также на данных курсах происходит натаскивание на собеседования, собеседование можно в данном случае назвать тестовой выборкой. Но тестовая выборка и реальные данные отличаются! И даже если такой ученик пройдет, то он сложиться при первой же задаче.
Универы и школа. Грустная ситуация — преодоление минимального порога, наиболее дешевое с точки зрения усилий получение оценки (ленивость белковых нейросетей). Происходит тупое натаскивание на закрытие для необходимого минимума контрольной/зачета/получения оценки и т.д. Подхалимство для получения оценки. И именно данному качеству учится нейросеть. Лучше бы вообще не училась, чем вырабатывать такое
Лучшая ситуация при текущем варианте. Старательное выполнение. В таком случае, может выучиться терпению, усидчивости, системному мышлению. Но все равно, какая часть обучения полученного из самого тренировочного датасета пригодиться? Индивид научился хорошо вписывать описывать окружности в треугольник, а надо общаться и коммуницировать. Научился применять теорему Менелая, а работать в цифровом пространстве не научен. Что чаще пригождается? Какой навык сам по себе более ценен?
Ситуация с значительным различием тренировочных данных и реальных данных это самый грустная вариант. Ибо значительно количество сил и усилий потрачено на обучение, изменение весов — процесс дорогой и еще более энергозатратный.
Overfitting
Человек учит один пример и распространяет его на все. Он суперсильно его обдумал, а по сути провели сигнал в своей голове сотни раз по одним и тем же путям и как следствие усилил их. И после применения подхода из данного примера к второму ничего не работает!
Рис 1. Три вариант обучения
Рис 2. Оптимальная точка обучения
На рисунке 2. показан график зависимости кривой ошибки от количества времени и сил потраченных на него. В биологических нейросетях склонность к overfitting имеют тревожные индивиды. Тревога находится в миндалине это подкорковая структура, она сильно активна и подстегивает обучение, мозг «активируется». Это мотивационный компонент, описанный в различии биологических нейросетей и ИИ. В свою очередь underfitting, происходит в тех ситуациях, когда просто без разницы, подкорка не особо активна. Хотя возможна ситуация нехватки времени, сил.
Нехватка датасета, низкое качество данных
Такая ситуация также возможна. Когда у ИИ происходит обучение без учителя, но датасет все равно подготовлен и очищен, то все равно учитель пусть и не говорит ученику, что он сделал так или не так, но косвенным образом он присутствует, заботливо подготовив ученику материалы.
Если же сильный биологический И будет готовить сам себе датасет, то что он наготовит? Может хорошо и равномерно подберет себе материал, может нет. Скорее всего датасет будет не репрезентативный, подобран с перекосом в сторону поверхностности и первой попавшейся информации. Это тема для отдельного материала.
Потенциальное превосходство ИИ и интеграция искусственных нейросетей в белковые
Дешевле открыть приложение сказать фразу и получить перевод тем же голосом. Это дешевле чем учить язык. Дешевле писать статьи с chatgpt чем прокачивать навык писательства. Дешевле сгенерить картину, чем рисовать ее. Общим словом, энергетически дешевле использовать искусственные нейросети которые обучались сотни часов на огромных датасетах, чем взращивать эти нейронные связи у себя в голове.
Что происходит? Кто виноват? Что делать?
На первый вопрос дан ответ выше. Второй вопрос не столь актуален. Третий особо актуален.
Учитель одновременно играет роль и подготовителя датасета, и описывает методику обучения, и показывает что правильно, что нет и самое главное в значительной части случаев помогает активизации подкорковые структуры. Роль Учителя тут большая чем. Под Учителем в бековых нейросетях могут проявляться: педагог (родитель, препод), другая социальная среда, культурная среда, информационное пространство (что в большинстве случаев сегодня почти полностью является интернетом). В общем варианте Учитель это среда. Самая первая и одна из наиболее импактовых это первичная социальная среда, которая почти полностью состоит из родителя. В большинстве случаев родитель не имеет педагогических компетенций. Необходимо сделать так, чтобы базовые педагогические компетенции были у каждого человека потенциально имеющего возможность заводить детей. В преподы надо брать лучших из людей. Особенно в преподы детсадов и младших классов. Кривая Хеккмана тому подтверждение
Рис 3. Кривая Хекмана
Снести полностью систему образования и переписать ее в соответствии с принципами нейронаук. Ввести основы нейронаук как отдельную дисциплину в школе/универе. Ввести навыки работы в цифровом и информационном пространстве. Ввести сексуальное образование, как говорил Игорь Кон. Ввести курс логики и мышления (отсылка на Эдварда де Боно). Тестовая выборка не всегда будет близка к реальной по понятным причинам, но в максимальной степени ее приблизить к реальным данным. Реальные данные генерит сама жизнь.
Менять культурную среду и следить за ней. Что ценно, что не является ценным. Куда направлять свою энергию. Что значимо, что нет. Что престижно, что нет. Все это находится на стыке культуры и информационного пространства также составляет Учителя, который и показывает БИ что правильно, а что нет.
ps
На создание статьи меня вдохновил Константин Анохин, на одной из лекций сказавший, что мы видим в мозге и ии одни и те же процессы. Также overfitting, который очевидно мы наблюдаем и в людях.
Вполне возможно статья является посредственной. С грамматическими, синтаксическими, пунктуационными ошибками (писать в личные сообщений). Тем не менее тема сравнения нейросетей друг с другом очень интересна и актуальна. Если и далее будет размышление на эту тему, то и нейронауки и сфера AI получат от этого значительную выгоду. Если есть дополнение/идея по поводу темы, то это замечательно, определенно стоит написать его в комменты.
Моя скромная идея заключалась в том, что человек содержит невероятный потенциал и основа данного потенциала и самого человека это мозг, это он и есть. И смотря, то насколько много внимания уделяется ИИ и насколько мало людям, появляются вопросы, а стоит ли так фиксироваться на прогрессе ИИ, когда собственные нейросети обучены неэффективно. И достойна ли будет человеческая жизнь в том мире, где его значимость постоянно падают как абсолютно, так и в сравнении с ИИ.
