Системная карта OpenAI o3 и o4-mini

System_Card_16x9.png?w=1600&h=900&fit=fi
Читать системную карту

OpenAI o3 и OpenAI o4-mini объединяют передовые возможности рассуждения с полным набором инструментов — веб-поиском, Python, анализом изображений и файлов, генерацией изображений, холстом (canvas), средствами автоматизации, поиском по файлам и памятью. Эти модели превосходно справляются со сложными математическими, программными и научными задачами, демонстрируя при этом сильное визуальное восприятие и анализ. Модели используют инструменты в своих цепочках рассуждений для расширения своих возможностей; например, обрезают или трансформируют изображения, ищут информацию в интернете или используют Python для анализа данных в процессе обдумывания.

Модели OpenAI серии o обучены с использованием крупномасштабного обучения с подкреплением на основе цепочек рассуждений. Эти продвинутые возможности рассуждения открывают новые пути для повышения безопасности и надежности наших моделей. В частности, наши модели могут учитывать наши правила безопасности в контексте при ответе на потенциально небезопасные запросы благодаря согласованности посредством рассуждений (deliberative alignment).

Это первый выпуск и системная карта, публикуемые в рамках Версии 2 нашей Методологии оценки готовности (Preparedness Framework). Консультативный совет OpenAI по безопасности (SAG) изучил результаты наших оценок готовности и пришел к выводу, что OpenAI o3 и o4-mini не достигают высокого порога (High) ни в одной из трех отслеживаемых категорий: биологический и химический потенциал, кибербезопасность и самосовершенствование ИИ. Мы описываем эти оценки ниже и рассказываем о нашей работе по снижению рисков в этих областях.

Читайте приложение к системной карте o3 и o4-mini: Codex здесь.

Читайте приложение к системной карте o3 и o4-mini: OpenAI o3 Operator здесь.

Автор

OpenAI

Полный текст статьи читайте на OpenAI