Джеффри Хинтон покинул Google из-за этических проблем с технологией ИИ
Учёный-информатик, один из пионеров искусственного интеллекта Джеффри Хинтон в апреле покинул пост вице-президента Google. По словам Хинтона, он пошел на такой шаг, чтобы предупредить человечество об опасностях ИИ.
Reuters / Mark Blinch
Исследователь обеспокоен тем, что Google отказывается от своих прежних ограничений в отношении публичных выпусков ИИ, пытаясь конкурировать с ChatGPT, Bing и аналогичными моделями.
Хинтон допускает, что в ближайшем будущем генеративный ИИ может спровоцировать волну дезинформации. «Вы больше не будете знать, что является правдой», — отметил он.
Также Хинтона волнует проблема замещения рабочих мест с помощью ИИ.
Кроме того, учёный обеспокоен возможностью создания полностью автономного оружия и тенденцией моделей ИИ демонстрировать неконтролируемое поведению на основе обучающих данных.
Хинтон говорит, что его позиция начала меняться в прошлом году, когда Google, OpenAI и другие компании начали создавать системы искусственного интеллекта, которые, по его мнению, иногда превосходят человеческий интеллект. По его словам. ИИ быстро развился всего за последние пять лет — и «ужасно», что может произойти в следующие пять лет.
Главный научный сотрудник Google Джефф Дин ответил, что компания по-прежнему придерживается «ответственного подхода» и следит за «возникающими рисками».
Хинтон посвятил свою карьеру изучению нейронных сетей и наиболее известен разработкой система распознавания объектов в 2012 году. Google купила стартап DNNresearch Хинтона в 2013 году.
В марте глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и ещё около тысячи исследователей искусственного интеллекта написали открытое письмо, в котором призвали «немедленно приостановить» обучение систем ИИ, «более мощных, чем GPT-4». В письме говорится, что системы искусственного интеллекта с «человеко-конкурентным интеллектом» могут нести «серьёзные риски для общества и человечества». В нём содержится призыв к лабораториям приостановить обучение на шесть месяцев.
