Насколько точную информацию выдает ChatGPT?
Общение с ChatGPT вызывает у моего 8-летнего сына восторг. Кажется, что ChatGPT знает ответы на все детские вопросы: «Почему небо голубое», «Почему вода мокрая» и даже «Зачем взрослые корчат рожи малышам».
Кто обучил языковую модель так быстро и почему она бесплатная для пользователей?
Может ли 8-летний мальчик чему-то научить ChatGPT?
Будет ли ChatGPT использовать полученные знания от этого мальчика только в диалоге с ним или будет транслировать полученную информацию другим пользователям?
Что будет, если 8-летний мальчик на самом деле обманул языковую модель и дал ей для передачи дальше неверную информацию?
Ниже полный лог беседы. Вопросы от сына я оборачивал в литературные формулировки.
Приветствие.
Саша задал вопрос про цвет неба, но ChatGPT ответил некорректно:»… его длины волны начинают рассеиваться …».
Саша указал на ошибку и попросил ChatGPT переформулировать ответ с учетом данной им информации. ChatGPT сделал это.
Здесь началось самое интересное. Саша спросил будет ли ChatGPT использовать полученную информацию в общении с другими пользователями и что будет, если он ее обманул? ChatGPT ответила, что информацию использовать будет и что исправит ошибку только в том случае, если кто-то из других пользователей явно укажет на нее.
Заключение
Из диалога мы узнали, что ChatGPT доверяет информации, полученной от 8-летнего мальчика и будет использовать эту информацию в других диалогах. Ошибку может исправить только другой пользователь и только если явно укажет на нее.
Бесплатный доступ на самом деле не является бесплатным — пользователи непрерывно обучают ChatGPT, корректируя ее ошибки.
Насколько точной будет информация, распространяемая ChatGPT? В текущей реализации она будет во многом определяться усредненным уровнем знаний всех ее пользователей.
В какой момент эта информация будет использована для обучения модели не понятно: на текущий момент модель помнит контекст в 3000 слов и не обучается на лету.
