Вранье и галлюцинации – ошибка или необходимая часть интеллекта?
Все знают, как большие языковые модели — такие, как ChatGPT, — галлюцинируют или даже врут. Такие ошибки могут создавать проблемы людям, активно использующим нейросети. Интересный и, может, неожиданный вопрос: это ошибка или это вообще-то необходимо для интеллекта?
В юности я хотел что-нибудь изобрести в области физики. Было много идей, и часто, спустя какое-то время, эти идеи разрушались и деградировали, так как я или чего-то не учитывал, или что-то отбрасывал или что-то не так понимал. Но чем менее критично я относился к собственным идеям, тем дольше они жили. Если хочешь что-нибудь открыть, то подобные идеи необходимы: открытия в физике или еще в чем-то — это предшествующая длинная цепочка интересных (и тем не менее ошибочных) гипотез.
Тогда я принял решение не врать самому себе и другим, чтобы цепочка идей быстрее разворачивалась и был больший шанс что-то изобрести. Но вот это и не стало получаться. С течением времени я стал замечать все больше багов в генерируемых идеях. Все время что-то не так понимал, искажал или забывал факты. И такое поведение, на мой взгляд, свойственно не только мне. Ошибки искажения и отрицание совершенно точно случившихся фактов я замечаю и у других людей. В полиции о таком говорят «Врет как свидетель».
Недавно я придумал объяснение этому.
Из нейролингвистического программирования и других источников по психологии вроде как известно (походу здесь я исказил факты, и это может быть уже моим мнением), что мозг воспринимает ограниченный объем информации. В жизни ежесекундно передаются тысячи миллионов событий-сигналов в мозг. Мозг сильно отфильтровывает их и строит упрощенную идеализированную модель происходящего. Отбрасывая при этом и важные факты, которые не вписались в эту идеализированную модель.
Обдумывая свои идеи, я постепенно начал тратить на это все больше времени: часы, дни, недели и годы. Постепенно я пришел к более совершенным моделям. Но во многих случаях совершенно нет времени, чтобы тратить его на обдумывание (еще и в таком объеме). Тогда несовершенная и в чем-то ошибочная модель происходящего гораздо выгодней более совершенной, но недоступной здесь и сейчас. Исходя из первой, ты уже можешь как-то действовать и что-то предпринимать.
Думаю, что даже самые умные люди галлюцинируют или врут в каждом десятом предложении. Обычно, когда указываешь людям на ошибки, они обижаются или начинают защищаться, таким образом оберегая свою модель происходящего и свои убеждения (которые, как им кажется, доказали свою полезность). Если модель разрушается, то строительство новой может быть долгим и болезненным процессом.
Если выдвинутые в этой статье идея и теория верны, то хотелось бы, чтобы они распространились, чтобы люди имели больше возможностей признавать свои ошибки, учиться и совершенствоваться.
Также эта теория может быть интересна для развития искусственного интеллекта, так как меняет точку зрения на галлюцинации нейросетей. То есть галлюцинации нейросетей — неизбежный и даже нужный процесс. Только нужно дальше придумывать, как это обратить нам на пользу.
