«Яндекс» изучает проявления сознания у нейросети
[unable to retrieve full-text content]
«Яндекс» начал необычный эксперимент: компания хочет понять, может ли у нейросети появиться что-то вроде собственных взглядов и привычек, а не только ответы, собранные из огромной массы текстов. В работе участвует нейробиолог, академик РАН Константин Анохин.
Фото: Михаил Метцель/ТАСС
Исследователи проверят, можно ли подвести ИИ к состоянию, когда он сам вырабатывает устойчивые предпочтения — например, не просто называет любимый цвет, а объясняет, почему именно он. На первом этапе проверили базовую модель: формирует ли она хоть какие-то постоянные выборы, если её не доучивать. Оказалось, что нет. Теперь хотят заставить модель размышлять, возвращаться к своим же выводам и учиться на них.
«Мы, люди, учим собственную нейронную сеть непрерывно. Это происходит автоматически в процессе мышления. Нейросеть учится исключительно на чужих «мыслях». Есть надежда, что если мы начнем обучать нейронную сеть на ее собственных рассуждениях, то получится сделать модель, у который появится действительно своя точка зрения. Не «навязанная» и не ее имитация», — пояснил директор по развитию технологий ИИ «Яндекса» Александр Крайнов.
© iXBT
