Ученые обнаружили новую угрозу от ИИ для людей: в чем дело
Специалисты по этике искусственного интеллекта Кембриджского университета опубликовали статью, в которой предупреждают о вероятных угрозах, исходящих от искусственного интеллекта. Они касаются в первую очередь поведенческого анализа и экономических прогнозов, с помощью которых ИИ сможет буквально управлять мотивами и действиями людей, а тем не удастся этому влиянию противостоять, поскольку оно не будет осознаваемым.
В частности, предполагается, что в ближайшем будущем могут появиться системы ИИ, которые будут прогнозировать и влиять на процессы принятия решений на ранней стадии. А самое главное — компании-разработчики могут продавать эти «намерения», создавая фактически новую отрасль экономики, воздействие которой на мировые рынки и социум сейчас трудно даже оценить. Компании будут пытаться удовлетворить запросы людей еще до того, как последние их осознают и сформулируют.
По мнению авторов статьи, это открывает определенные перспективы, но в то же время создает массу угроз. Они назвали новую отрасль «экономикой намерений». Причем влияние может распространяться как на банальное решение о покупке билетов в кино, так и на значимые действия на политических выборах. Более того, исследователи уже видят признаки движения в этом направлении со стороны крупных технологических компаний.
Уже сейчас чат-боты и помощники с ИИ получают доступ к огромному количеству приватных психологических данных, в том числе поведенческих характеристик. Обладая огромными ресурсами, нейросети смогут на базе онлайн-привычек со сверхъестественной способностью подстраиваться под человека, предвосхищая реакции и имитируя межличностное общение.
ИИ-помощники охватывают практически все сферы жизни, и их возможности уже выходят за рамки простого скрипта, дающего подсказки по алгоритму. Он может не только фиксировать какое-то взаимодействие онлайн, но и обобщать, анализировать информацию, создавая основы для прогнозирования поведения и базу для манипуляций.
На протяжении десятилетий внимание было валютой интернета. Обмен и торговля вниманием с помощью соцсетей способствовало развитию онлайн-экономики. Без регулирования экономика намерений будет рассматривать ваши мотивации как новую валюту. Это будет золотая лихорадка для тех, кто управляет человеческими намерениями и продает их. Мы должны исследовать возможное влияние такого рынка на волевые решения, включая выборы, предпринимательскую конкуренцию, свободу СМИ и так далее, прежде чем станем жертвами.Джонни Пеннисторик технологий из Кембриджского университета
По мнению авторов работы, ИИ выходит за рамки простого таргетирования рекламы. Он делает выводы, основываясь на темпе речи, его взглядах, словарном запасе, классических характеристиках личности и даже на предпочтениях тех или иных манер лести и заискивания.
Ранее мы рассказывали, что ИИ достиг человеческого уровня в тесте на «общий интеллект».
HI-TECH@Mail.Ru прочитано 4471 раз
