ИИ способен чувствовать себя виноватым: неожиданное открытие
Искусственный интеллект способен испытывать чувство стыда за совершенное предательство, пишет Journal of the Royal Society Interface. Исследователи уточняют, что это качество в нем можно развить, то есть, по сути, запрограммировать. Но одновременно выяснилось, что это далеко не в каждом случае конструктивно.
Ученые смоделировали взаимодействие двух участников игры, в которой каждому необходимо сделать моральный выбор: совершить предательство и получить выгоду либо оставаться честным, но подвергнуть себя риску. По сценарию, один или даже оба игрока — ИИ.
В ходе этого эксперимента решили исходить из того, что оба предали — важно было понаблюдать за дальнейшим развитием событий именно в этом случае. При этом моделирование предполагало, что в участниках заложена способность оценивать свои поступки и стремление исправиться после совершения ошибок.
Но возникающее после оплошности чувство вины ученые разделили на две разновидности: вина «социальная» и «несоциальная». Первая проявляется только тогда, когда партнеру по игре тоже стыдно: ИИ понимает, что второй участник раскаивается, и приходит к выводу о необходимости перехода от нечестного поведения к дружбе и сотрудничеству.
Вина «несоциальная» возникает в любом случае как некий внутренний «компас» — даже если партнер абсолютно не сожалеет о собственном предательстве и намерен продолжать в том же духе. В такой ситуации «стыдящийся» участник легко может стать жертвой циничного оппонента, подчеркивают исследователи: раскаявшийся начинает играть честно, а противнику очень удобно этой честностью манипулировать в своих интересах. В итоге какое-либо конструктивное взаимодействие оказывается невозможным.
По мнению ученых, этот эксперимент поднимает важный и даже, можно сказать, философский вопрос о том, какое поведение роботов более правильно: должны ли они честно поступать с явно безнравственными людьми — может оказаться, что тем самым они будут только помогать этим людям совершать аморальные поступки, а в конечном счете это вредно для общества.
Ранее ИИ превзошел композиторов в сочинении «берущей за душу» музыки.
