Специальные проекты28.07.2016 07:00

Эффективная научная работа требует решения правильных задач — таких задач, которые не просто интересны, но чьи решения имеют реальное значение. В этой публикации мы перечисляем несколько проблемных областей, которые, судя по всему, будут важны как для развития ИИ, так и для его долгосрочного влияния на общество.

Мы считаем, что эти проблемы либо имеют очень широкие последствия, либо касаются важных возникающих последствий развития ИИ. Если вы являетесь сильным экспертом в области машинного обучения и хотите начать работу над одной из этих проблем в OpenAI, пожалуйста,  подайте заявку⁠.

1. Обнаружение использования скрытой прорывной системы ИИ в мире. По мере увеличения числа организаций и ресурсов, выделяемых на исследования в области ИИ, возрастает вероятность того, что какая-либо организация совершит незаявленный прорыв в ИИ и использует эту систему в потенциально злонамеренных целях. Кажется важным уметь это обнаруживать. Мы можем представить множество способов сделать это — отслеживая новости, финансовые рынки, онлайн-игры и т.д.
2. Создание агента для победы в онлайн-соревнованиях по программированию. Программа, способная писать другие программы, была бы по понятным причинам очень мощным инструментом.
3. Защита в сфере кибербезопасности. Одним из ранних применений ИИ станет взлом компьютерных систем. Мы хотели бы использовать методы ИИ для защиты от искушенных хакеров, активно применяющих методы искусственного интеллекта.
4. Сложная симуляция с множеством долгоживущих агентов. Мы заинтересованы в создании очень масштабной симуляции с большим количеством различных агентов, которые могут взаимодействовать друг с другом, обучаться в течение длительного времени, изобретать язык и решать самые разнообразные задачи.