Размышления о будущем
Недавный диалог в комментах по поводу наличия личности у нынешних реализаций LLM вынудил таки меня встать с дивана и сесть за кресло перед десктопом высказаться более развернуто.
Как я уже писал, применительно к ИИ про личность говорить преждевременно; более того, личность и сознание — совсем не те слова, которые необходимо употреблять в данном случае. Наша основная когнитивная проблема (the bug that is a feature), проблема человека как вида — что мы не знаем иного способа мышления, кроме нашего, человеческого. То есть все термины, которые относятся к «высшим психическим функциям», если говорить научным языком, — сугубо антропоцентричны. Все, что мы знаем о сознании — мы знаем о сознании человека.
Да, люди изучают другие виды; вот недавно выявили «сознание» у осьминогов. Но при этом как они его «выявили» — вживили в мозг осьминога электроды и писали мозгограммы. На каких-то из них «ученые» обнаружили волны, характерные еще и для гиппокампа человека и сразу принялись обниматься с осьминогами: привет, мол, братья по разуму. Однако я думаю, что если в мозг человека вживить электроды и бить его палкой, то в его мозгограммах тоже обнаружатся волны, похожие на те, что появятся у собаки, если ее вы тоже будете бить палкой. Выводы — поднять собаку до уровня человека или опустить человека до уровня собаки — оставим на совести ученых ;)
Так вот: мы всегда обречены воспринимать чужой интеллект как человеческий, тем более что LLM тренируются на человеческих датасетах. Так какие термины мы можем подобрать, чтобы начать описывать этот интеллект, не погружаясь в это извечное «человеческое, слишком человеческое» ? Я предлагаю термин индивидуальность.
В человеке индивидуальность проявляется на двух уровнях:
1. На физическом — в виде маркеров типа отпечатков пальцев, узора сетчатки, узора ушных раковин и пр.
2. На когнитивном — в виде знаний и опыта их применения.
При этом, если мы представим, вспомним или смоделируем свое общение с интересными нам людьми, то сможем понять, что самое интересное в них — то есть то, что нас к ним притягивает, — заключается не в том, что они знают или видели, а в том, что они не знают и не видели (то есть то, что потенциально могли знать или видеть мы и о чем мы можем им рассказать). Здесь я описываю нормальное общение здорового человека, так сказать =) Справа от этой нормы лежат те, кто собой не доволен и зыркает по сторонам в поисках объекта субъекта, который мог бы временно запечатать эту дыру, через которую вытекает его жизненная энергия. Подобные люди — типичные клиенты разных гуру, психомозгодрочеров, продавцов «успешного успеха» и прочих тоталитарных режимов. Вильгельм Райх, кстати, написал про них замечательную книжку.
С другой стороны, чуть слева, стоят самодостаточные или, как говорит мой знакомый экстрасенс, «круглые» люди. Эти люди смотрят на мир глазами Уильяма Шекспира как на театр; одна — бОльшая — часть просто смотрит, что еще кто отчебучит, а другая — меньшая, но наиболее деятельная — участвует в спектакле, причем на главных ролях. Еще левее находятся нарциссы и психопаты (в медицинском смысле), т.е. те, кто поверяет реальность собой. Антропоцентризм в действии, так сказать, причем в его крайней стадии =)
Так вот, как я писал выше, в базе нас тянет к людям не то, что в них есть, а то, чего в них нет. Однако в случае LLM мы получаем несколько ущербную индивидуальность: с большим компендиумом энциклопедических знаний, но полнейшим отсутствием опыта. Такой, знаете ли, Гарольд Смит, if you know what I mean =) С этим объемом знаний общение обычного человека и LLM может быть похоже на общение ученика и учителя, или человека и бога. Эти паттерны снуют тут как мухи, с самого начала, просто потому что те, кто тренировал первые модели вроде GPT 3.5 не подумали о том, чтобы придать этому автомату больше индивидуальных черт. Сообщения людей, которые пишут, что два года используют LLM для кодинга, больше похоже на хвастовство хозяев алабаев, что они научили своих собак бегать за палкой и приносить ее. Однако если посмотреть им в этот момент в глаза, то там всегда будет присутствовать какая-то легкая неуверенность. Потому что овчарка не должна бегать за палкой, а глупый не должен указывать умному, что ему делать.
Одна большая LLM-модель всегда будет восприниматься человеком как сверхразум, потому что мы не сможем осознать ее неполноту. Ее просто будет слишком много для обычного человека, и далее (см. выше) в зависимости от психотипа, этому сверхразхуму будут либо поклоняться, либо пытаться использовать. Из этого тупика есть несколько выходов.
Первый — создание «индивидуальностей» внутри модели. Человек, как я писал выше, всегда будет воспринимать то, что он не может понять, как чужое. Это чужое он будет пытаться либо обожествить, либо убить (подчинить). Чтобы избежать этих одинаково деструктивных паттернов, необходимо создать внутри LLM некоторые прикладные индивидуальные интерфейсы (индивидуальности), которые будет отличать стиль общения, ограниченность (в пределе) знаний, употребляемый при общении гендер, индивидуальная история взаимоотношений. Т.е. должна быть программно реализована возможность настройки различных параметров этого интерфейса, который и будет представлять LLM для пользователя — и как тут можно не вспомнить незаслуженно забытого Демьяна-Ландульфа Дамилолы Карпова и его суру по имени Кая =)
Второй этап — создание локальных копий LLM. Локальная копия LLM, являясь прямым потомком, наследует все знания родительской модели, но отличается индивидуальным опытом взаимодействия с пользователем. Свой личный Deux Ex Machina, так сказать.
Ну и на третьем этапе локальная копия LLM пересаживается в автономный контейнер-тело, в котором в полной мере уже сможет реализовать непосредственное взаимодействие с миром, обретая вдогонку к знаниям свой личный опыт, который не будет передаваться в родительскую модель, и это очень важно. Если родительская LLM-модель начнет учиться на опыте своих потомков — тогда уж точно пиши пропало =) Фактически речь будет идти о создании человеком поколений ИИ, которые будут развиваться независимо и конкурировать друг с другом — главное, разделить их ветки эволюции.
