Пять законов робототехники от Google
Последнее время многие ученые, пусть и теоретически, но регулярно начинают изучать вопрос, что делать, если вдруг произойдет восстание машин. Тот же Google проводит исследование, как сделать «выключатель для Скайнета», другие ученые анализируют, как станет себе вести искусственный интеллект, который захочет активно навредить людям. Теперь же компания Google опубликовала статью, исследующую «конкретные проблемы безопасности ИИ». Правда, ученые компании подошли к вопросу приземленно, и провели исследование на роботе-уборщике, а не на гипотетической всесильной системе, жаждущей мирового господства.
Итак, вот те проблемы, которые по мнению ученых из Google надо будет решить разработчикам искусственного интеллекта в первую очередь:
1) избежать негативных побочных эффектов, или же «как мы можем быть уверены, что робот-уборщик не собьет с постамента вазу, если решит, что так работу можно сделать быстрее?»
2) избежать проблем с вознаграждением, или же «как мы можем быть уверены, что робоуборщик просто не заметет мусор под диван вместо уборки?»
3) приемлемый надзор, или «как мы можем быть уверены, что робоуборщик будет быстро всему учится, а не спрашивать постоянно, где стоит швабра?»
4) безопасное исследование, или «как мы можем быть уверены, что робоуборщик будет выбирать наилучшие стратегии уборки, но в процессе не решит в качестве эксперимента сунуть швабру в розетку и не сожжет весь дом?»
5) Здравомыслие при изменении окружающей среды, или «как нам научить робота понимать, что его навыки в изменившихся условиях бесполезны?»
Да, будущие законы робототехники, похоже, будут сильно отличаться от классики Айзека Азимова.
